Roy Clark, iki amatör müzisyenin oğludur, ancak 2015 yılı itibariyle, ailesi veya eşinin dışındaki yakın aile hakkında hiçbir bilgi yoktur. 1957'de Barbara Joyce Rupard ile evlendi.
Roy Clark Virginia'da doğarken New York'ta büyüdü, zamanının çoğunu Washington, DC'de geçirdi. Genç yaştan itibaren güçlü bir müzikal geçmişe sahipti ve 14 yaşında oynamaya başladı mandolin, gitar ve banjo. Müziğine olan bağlılığıyla iki ulusal banjo şampiyonluğu kazandı. Müzikal kariyerine devam ederken bir beyzbol oyuncusu, sonra bir boksör olarak da çalışarak bir spor kariyerine devam etti. Sonunda, müzikal yeteneklerine odaklanmaya karar verdi ve daha ilk kez 17 yaşındayken Grand Ole Opry'ye ilk çıktı.
1950'lerin ortalarında, Roy Clark, Jimmy Dean'in TV programında düzenli olarak sahne aldı, ancak Dean sonunda gecikmesine neden oldu. Ancak Roy Clark'ın müzik kariyeri burada bitmedi ve 1960'larda Wanda Jackson'da oynadı. Bu süre zarfında solo kariyerine devam etti. 1963 yılında Capitol Records ile anlaştı ve ABC Records'a katılmadan önce birkaç hit kaydetti.
