Roy Clark es hijo de dos músicos amateurs, pero a partir de 2015, no hay información sobre sus padres o familia inmediata fuera de su esposa. Se casó con Barbara Joyce Rupard en 1957.
Mientras Roy Clark nació en Virginia, creció en Nueva York y pasó la mayor parte de su tiempo en Washington, DC Desde muy joven, tenía una sólida formación musical y, a los 14 años, comenzó a tocar. La mandolina, la guitarra y el banjo. A través de su dedicación a su música, ganó dos campeonatos nacionales de banjo. Mientras perseguía su carrera musical, también perseguía una carrera deportiva, probando como jugador de béisbol y luego como boxeador. Finalmente, decidió concentrarse en sus habilidades musicales, e hizo su primera aparición en el Grand Ole Opry cuando solo tenía 17 años.
A mediados de la década de 1950, Roy Clark actuó regularmente en el programa de televisión de Jimmy Dean, pero Dean finalmente lo despidió por su tardanza. Sin embargo, la carrera musical de Roy Clark no terminó ahí, y jugó para Wanda Jackson durante los años sesenta. Durante este tiempo, también siguió su carrera en solitario. En 1963, firmó con Capitol Records y grabó varios éxitos antes de grabar para ABC Records.