A pesar de elegir la humilde armónica como instrumento principal, el talento y la enorme personalidad de Larry Adler le llevaron a una vida extraordinaria y a una carrera de 70 años en la que tocó para Al Capone, trabajó con Fred Astaire, George Gershwin y Elton John e incluso tuvo un romance con Ingrid Bergman. De niño tocaba el piano, pero cuando un alemán de su barrio de Baltimore fundó un grupo de músicos que tocaban la armónica con la boca, aprendió la técnica de forma natural y a los 14 años ya ganaba concursos de talentos y tocaba profesionalmente. Poco después se escapó a Nueva York y actuó como niño de la calle que tocaba la armónica en espectáculos ambulantes de vodevil, antes de aparecer en bandas sonoras de dibujos animados, acompañar a bailarines de claqué en Broadway y aparecer en la película cómica de 1934 "Many Happy Returns".
Su talento para el espectáculo le llevó a trabajar con cómicos como Eddie Cantor y Jack Benny, y también se convirtió en un gran éxito en Londres, donde actuó en el Empire Theatre. Sin embargo, sus grabaciones con el legendario guitarrista Django Reinhardt en 1938 no fueron consideradas un éxito y, tras ser incluido en la lista negra durante la época de McCarthy, abandonó Estados Unidos en 1951. Posteriormente actuó por todo el mundo con algunas de las mejores orquestas y grabó aclamadas bandas sonoras para muchas películas. Más tarde se convirtió en una celebridad muy querida en Gran Bretaña, apareciendo en programas de entrevistas y escribiendo para la revista satírica "Private Eye". En 1994 celebró su 80 cumpleaños con la grabación del álbum "The Glory of Gershwin", en el que colaboró con estrellas de la actualidad como Sting, Lisa Stansfield, Kate Bush y Bon Jovi, y continuó actuando y contando historias disparatadas hasta su muerte, siete años después, en 2001.