Tras unirse a una banda militar de piano y saxofón como parte de su servicio nacional, Red Mitchell comenzó su carrera como músico de escenario tocando el contrabajo. Al principio tocó con Jackie Paris y Mundell Lowe, y a finales de los años 40 actuó con el director de orquesta Chubby Jackson antes de unirse a la banda de Woody Herman durante tres años. Problemas de salud le obligaron a un periodo de reposo forzoso a principios de los 50, pero pronto se recuperó y comenzó una serie de colaboraciones con Red Norvo, Tal Farlow, Gerry Mulligan y Hampton Hawes. Tocó con Hampton Hawes durante más de diez años, durante los cuales participó en un número excepcional de sesiones grabadas y conciertos. A finales de los años 50, Red Mitchell seguía formando tríos, cuartetos y quintetos. Entre sus colaboradores más habituales en esta época se encontraban el saxofonista James Clay, los pianistas Lorraine Geller y André Prévin, y los baterías Billy Higgins y Shelly Manne. Tras una larga temporada en el estudio y apariciones con Hampton Hawes, Ornette Coleman y Dizzy Gillespie, Red Mitchell fue uno de los muchos músicos estadounidenses que dieron un paso atrás y se establecieron en Europa durante un tiempo. Eligió Copenhague (Dinamarca), donde, al igual que otros estadounidenses exiliados, actuó en el Café Montmartre. Allí coincidió con músicos locales de moda, como Bobo Stenson y Rune Carlsson, con los que formó un trío. Después de Copenhague, Red Mitchell se trasladó a Estocolmo, donde actuó con Toots Thielemans y Jim Hall, entre otros. Durante sus años escandinavos, realizó una serie de encuentros significativos, grabando con Clark Terry, Jimmy Rowles, Phil Woods y otros. Murió tiempo después de su regreso a Estados Unidos, dejando tras de sí una de las discografías más voluminosas, principalmente como acompañante, aunque también reconocida por su carrera como líder. La historia le recordará también como el hombre que alertó al sello Contemporary de la existencia de un saxofonista prometedor, nada menos que Ornette Coleman.