Pharell Williams'ın dört erkek kardeşi vardır: Cato, Psolomon, Firavun ve David. Cato, Psolomon ve Pharell'in hepsinde aynı baba ve anne, Firavun Williams ve Carolyn Williams var.
Cato Williams profesyonel bir kaykaycı iken, David Williams Delaware'de bir satıcıdır. Pharell en büyük oğludur; Cato'dan 10 yaş, Psolomon'dan 20 yaş büyük. Kardeşleriyle birlikte Virginia Beach, Virginia'da büyüdü. Pharell Williams, Helen Lasichanh ile evli ve çiftin bir oğlu Rocket Williams var.