New York City'ye referans olarak "Büyük Elma" terimi iki ayrı kökene sahip gibi görünüyor. Her iki köken de 20. yüzyılın başlarına, her ikisi de argoya dayanmaktadır.
"Büyük Elma" nın kökeni hakkındaki ilk teori, at yarışı dünyasından gelir. 20. yüzyılın başlarında, halk arasında "elma" olarak bilinen bir para ödülü için atlar yarıştı. Yarış dünyasındaki en büyük "elmalar" New York'ta yarışlara verilen ödüllerdi. Jokeyler ve sahipler, New York'un "Büyük Elma" olarak adlandırdığı yarışmalara atıfta bulunmaya başladı.
İfade için olası bir başka yol, gezici caz müzisyenlerinin dünyasından gelmiş olabilir. Aynı zamanda “Büyük Elma” nın at yarışı hayranları arasında popüler hale geldiği, “ağaçta çok sayıda elma var, ancak sadece bir tane büyük” var. Ülkenin dört bir yanındaki daha küçük mekanlardaki performansların aksine, müzisyenler New York'ta bir kariyer başarısını profesyonel bir başarı işareti olarak görmeye başladılar.
Cümlenin tam kökeni ne olursa olsun, New York, 1971’de “Büyük Elma” yı resmi bir isimlendirme olarak kabul etti.
