El primer matrimonio de Jim Boeheim, que duró aproximadamente 18 años, duró de 1976 a 1994. Su primera esposa fue Elaine Boeheim, con quien tiene una hija, Elizabeth, que ahora es estudiante de secundaria en el Colby College Maine a partir de 2015.
Boeheim, el actual entrenador en jefe del equipo de baloncesto masculino de la Universidad de Syracuse, ahora está casado con Juli Boeheim, con quien tiene tres hijos: James Arthur III y los gemelos Jack y Jamie. La pareja está casada desde 1997. Después de que Boeheim sufriera de cáncer en 2001, fundaron la Fundación Jim y Juli Boeheim, que se dedica al bienestar infantil y al tratamiento y prevención del cáncer.
