Andy Kirk creció cantando, y luego aprendió piano y saxofón (alto y tenor). El padre del director de orquesta Paul Whiteman, Wilberforce Whiteman, dio a Kirk lecciones de teoría musical. Ya en 1916, empezó a tocar la tuba y el saxofón bajo, de moda en la época, en la banda de George Morrison. En 1925, Andy Kirk se trasladó a Dallas, se unió a la banda de Terrence Holder, los Dark Clouds of Joy, y se convirtió en su director en 1929. Mary Lou Williams se unió a la banda como pianista suplente, pero pronto se convirtió en una de las atracciones de la banda, así como en su arreglista (1929-1942). The Dark Clouds of Joy se trasladó a Kansas City, una ciudad repleta de orquestas y músicos (1930). La competencia era feroz entre la banda de Andy Kirk, el recién llegado, y la orquesta de Bennie Moten-Count Basie, los locales. A partir de este momento (1930), la banda de Andy Kirk realiza frecuentes giras por todo Estados Unidos, que culminan con una actuación triunfal en Nueva York (1936, "Until the Real Thing Comes Along"). Durante unos quince años, la orquesta grabó para los dos grandes sellos discográficos, Brunswick y Decca. Andy Kirk disolvió la orquesta en 1948, formó grupos ocasionales (1960), trabajó en la costa oeste y vino a Europa por primera vez a finales de los años sesenta. De 1970 a 1979, Kirk trabajó como bibliotecario archivero para el sindicato de músicos, tras lo cual se jubiló. Aunque no alcanzó la fama de la orquesta de Bennie Moten o Count Basie, la banda de Andy Kirk siguió siendo una de las mejores durante unos veinte años (1929-1948), con músicos tan excelentes como Mary Lou Williams, Don Byas, Charlie Parker, Howard McGhee y Fats Navarro.
