Madde kavramı eski Yunan filozoflarıyla ortaya çıktı. Başlangıçta, Empedocles her şeyin bir miktar su, ateş, toprak ve havanın birleşmesinden oluştuğunu öne sürdü.
Empedocles'ın fikirlerini takip ederek, her şeyi daha küçük alt parçalara bölünemeyene kadar bölme kavramı ortaya çıktı ve atomlarla ilgili en eski teorileri ortaya çıkardı. Democritus, bu kavramı dile getiren ve bu parçalara "atomos" adını veren filozof idi. Atomların tahrip edilemediğini ve taş gibi bir materyali oluşturan atom partiküllerinin kürk gibi başka bir materyali oluşturan atomlardan farklı olduğunu belirtti.
Eski Yunan döneminden beri, modern keşifler madde kavramını bugün bilindiği gibi şekillendirmiştir. 1643'te Evangelista Torricelli, havanın kütleye sahip olduğunu gösterdi; bu, bir maddede bile insanların göremediği veya dokunamadığı fiziksel bir şeyin var olduğunu gösterdi. Daniel Bernoulli, bunun, havanın taştan bir duvarın parçacıklarından farklı şekilde davranan parçacıklara sahip olduğunun teorisini ortaya koydu. Bernoulli'ye göre havayı oluşturan atomlar havada başka bir şey hareket ederken kenara çekildi. 1897'de J.J. Thomson, o sırada atomlar hakkında bilinen her şeyi değiştiren elektronu keşfetti. Önceden, alt bölümleri olduğu bilinmiyordu.