Jim Boeheim'ın yaklaşık 18 yıl süren ilk evliliği, 1976'dan 1994'e kadar sürdü. İlk karısı, kızı Colby'de, şu an Colby College’de küçük bir çocuk olan Elaine Boeheim idi 2015 yılından itibaren Maine.
Syracuse Üniversitesi'ndeki erkek basketbol takımının şu anki koçu Boeheim şimdi üç oğlu olan Juli Boeheim ile evli: James Arthur III ve ikizler Jack ve Jamie. Çifti 1997'den beri evli. Boeheim 2001'de kanserden muzdarip olduktan sonra, Jim ve Juli Boeheim Vakfı'nı birlikte kurmuşlardı.
