Karbonu kullandığı bilinen ilk uygarlıklar, kömürü dumansız bir yakıt olarak ve metal cevherlerini eritmek için kullanan Sümer ve Mısırlılardır. Daha sonra tıbbi amaçlı kömür kullanımı kaydedildi Mısır ve Yunanca metinleri M.Ö. 1500 ile 400 arasında olan 1772'de Fransız kimyager Antoine Lavoisier, elmasların bir karbon şekli olduğunu gösterdi.
1779 ile 1786 arasında İsveç Pomeranya'daki Carl Wilhelm Scheele ve Fransa'daki Berthollet, Monge ve Vandermonde, grafit veya "kurşun kalem" in çoğunlukla karbon olduğunu gösterdi. Bununla birlikte, 1789 yılına kadar, öğenin Lavoisier tarafından yazılmış bir ders kitabında "karbon" olarak adlandırılması ve listelenmesi değildi.
1985 yılında başlayan buckminsterfullerene veya C60'ın ve nanotüpleri ve buckyball'ları içeren ilişkili formlarının keşfedilmesiyle yeni ve egzotik karbon formları veya allotropları tanıtıldı. Bu keşif, üç keşfetmeni R. Curl, H. Kroto ve R. Smalley, 1996'da Nobel Kimya Ödülü'nü kazandı. C60 kısa bir süre önce, uzayda bulunan ve evrimleşen yıldızlar içinde yaratıldığına inanılan en büyük molekül olarak kaydedildi.
Bolluk açısından, karbon evrende dördüncü sıradadır. Yer kabuğunda yer alan elementler kategorisinde 15. sırada yer almaktadır. Karbonun en iyi bilinen allotropları, kurum ve odun içeren elmas, grafit ve amorf karbondur.