Karbon, ilk olarak tarih öncesi zamanlarda odun kömürü olarak keşfedildi. 18. yüzyılın ikinci yarısına kadar bir unsur olarak kabul edilmedi.
Kömür anlamına gelen Latince "carbo" kelimesinden karbon, doğada bolca bulunur. Kombinasyonda insan solunumunun yan ürünü olan karbondioksitte bulunur ve fotosentezde önemli bir rol oynar.
Fosil yakıtların çoğu hidrokarbonlar ve elmaslar yoğun ısı ve muazzam basınçtan oluşan saf karbondur. Yerkabuğunun derinliklerinde oluşurlar ve magma çekirdekten uzaklaştığında magma onları yüzeye çıkarırken çıkarılabilir.