Walter Horton creció en el Mississippi de los años veinte y, a los cinco años, su padre le regaló una armónica que dominó rápidamente y que le allanó el camino para convertirse en uno de los grandes del blues y en un innovador pionero de la armónica amplificada.
Cuando vivía en Memphis, al principio de su adolescencia, empezó a tocar en la calle y se unió a la Memphis Jug Band (con el nombre de Shakey Walter), aunque eran tiempos difíciles durante la época de la Depresión en una parte del sur donde el racismo estaba muy extendido. Se ganaba la vida tocando a cambio de propinas en fiestas callejeras y juke joints, y ocasionalmente tocaba y aprendía de grandes del blues como Robert Johnson, Ma Rainey y Big Joe Williams en la región del delta del Mississippi. Sus primeras grabaciones fueron tocando la armónica con el guitarrista Little Buddy Doyle en 1939. Su salud era precaria y tocó poco durante los años 40, pero volvió a la música en los 50, convirtiéndose en uno de los primeros artistas en grabar para Sam Phillips en los estudios Sun, incluyendo uno de sus temas más famosos, "Easy".
A continuación se convirtió en una de las figuras más destacadas de la escena del blues de Chicago, formando parte de la Muddy Waters Band, entre otras. Su característica forma de sacudir la cabeza mientras tocaba le valió el apodo de Shakey y su reputación creció al convertirse en acompañante de Willie Dixon, Johnny Shines, Sunnyland Slim y muchos otros. Realizó giras por Europa con los Chicago All Stars de Dixon y también grabó con Fleetwood Mac y Johnny Winter. Se convirtió en invitado habitual de festivales de blues y folk y acompañó a John Lee Hooker en la película de 1980 "The Blues Brothers". Murió de insuficiencia cardiaca un año después, a los 60 años.