Wardell Gray estudió clarinete y saxofón alto desde una edad temprana, y empezó a tocar en orquestas locales de Cleveland a los 10 años. En 1943, cuando fue contratado por el pianista Earl Hines, seguía tocando el saxofón alto, pero lo abandonó definitivamente cuando se trasladó a Los Ángeles, optando en su lugar por el saxofón tenor. Norman Granz, promotor y organizador de conciertos, se fijó en Wardell Gray y organizó un encuentro con el saxofonista tenor Dexter Gordon. Fruto de sus numerosas colaboraciones fue la grabación de dos versiones del tema "The Chase" en 1947 y 1952. En 1947, también tuvo la oportunidad de grabar con el saxofonista alto Charlie Parker. Al año siguiente, Wardell Gray se unió a la banda del clarinetista Benny Goodman, que dio a su orquesta un toque más moderno después de la guerra. A finales de los años 40, Wardell Gray formó parte del quinteto del pianista Tadd Dameron, que incluía al trompetista Fats Navarro y con el que triunfó en el club Royal Roost de Nueva York. A continuación tocó con Count Basie, que dirigía un sexteto en el que Wardell Gray desempeñó un papel clave en la modernización del grupo. En 1951 inició una carrera como músico independiente, trabajando sucesivamente con el trompetista Clark Terry, el pianista Hampton Hawes y el batería Louie Bellson. Apareció asesinado en una carretera de Nevada; se rumorea que la causa fue una deuda de juego impagada, pero el misterio permanece.