La primera esposa de James Arness fue Virginia Chapman. James Arness se casó con Virginia Chapman en 1948, y la pareja se divorció en 1963. Chapman murió de una sobredosis de drogas en 1977, en Malibu, California. La pareja tuvo tres hijos juntos: Jenny Lee, Rolf y Craig.
La única hija de la pareja, Jenny Lee Arness, se suicidó a los 25 años de edad. El hijo de la pareja, Rolf Arness, se convirtió en campeón mundial de surf en 1970.
Chapman era una actriz famosa conocida por sus papeles en "Perry Mason", "Highway Patrol" y "Gunsmoke". James Arness interpretó a Matt Dillon en el programa de televisión "Gunsmoke" durante 20 años.