Müzik kaydedilen tarihi önceden gösterir, bu nedenle ilk nerede ve ne zaman yapıldığını söylemek mümkün değildir. Bununla birlikte, hemen hemen tüm tarih öncesi toplulukların müzik aleti geliştirdiğini ve müzik çalma kapasitesine sahip olduğunu gösteren arkeolojik kayıtlar vardır.
Bilinen en eski müzik aleti, 2008 yılında Almanya'da keşfedilen kemikten yapılmış bir flüttür. Yaklaşık 35.000 yaşında olduğu tahmin edilmektedir, yani son buz çağında yapıldığı anlamına gelir. Flüt, önemli bir ayrım olan erken Homo sapiens yerleşiminde bulundu, çünkü yakındaki Neandertal yerleşmeleri, müzik yaptıklarını gösteren hiçbir arkeolojik kanıt bulmadılar.