J.P. Morgan mülkünün yaklaşık üçte ikisine veya bugün 900 milyon dolara eşit değerde sanat satın aldı ve topladı. Aldığı sanatın büyük kısmı yaşamının son yirmi yılında elde edildi. Ölümünden sonra oğlu J.P. Morgan Jr., babasının koleksiyonunun büyük bir bölümünü Metropolitan Sanat Müzesi'ne bağışladı.
J.P. Morgan özellikle İslam sanatına ve halı, Osmanlı çini panelleri ve emaye cam gibi diğer İslami nesnelere düşkündü. Ayrıca basılı kitap ve el yazlarından oluşan geniş bir medya koleksiyonuna sahipti. Ölmeden önce, J.P. Morgan, “tartışmasız güzellik ve bilinen orijinallik nesnesi için hiçbir fiyat çok yüksek” dedi.