Los segregacionistas querían destituir a Earl Warren porque, a través de su liderazgo en la Corte Suprema de los Estados Unidos, la segregación de las escuelas públicas se declaró inconstitucional en una decisión unánime. Esto provocó una legislación que prohibió la segregación en otras áreas también.
El primer caso que Warren consideró como juez de la Corte Suprema fue Brown v. Board of Education en 1954. Al esperar su cita hasta que el Senado confirmara su nombramiento, Warren alentó a los jueces a encontrar puntos en común sobre el tema. En última instancia, los persuadió para que llegaran a un consenso argumentando que la única forma de defender la segregación era creer en la inferioridad inherente de los negros, y que solo la unanimidad de la Corte Suprema vencería la fuerte resistencia a la segregación en los estados del sur. Los segregacionistas que se opusieron al fallo iniciaron el movimiento "Impeach Earl Warren" porque lo percibieron correctamente como la fuerza decisiva detrás de la unión del tribunal en la decisión.
La decisión en Brown v. Board of Education agravó la agitación de los derechos civiles en las décadas de 1950 y 1960. Sin embargo, también impulsó otras leyes de derechos civiles, como la Ley de Derechos Civiles de 1964, que prohibía la discriminación y garantizaba la igualdad de protección de todos los ciudadanos, y la Ley de Derechos de Votación de 1965, que prohibía la discriminación de los votantes.