El grupo sudafricano African Jazz Pioneers comenzó en su forma actual en 1981 bajo la dirección del saxofonista Ntemi Piliso, la fuerza motriz de la banda hasta su muerte en 2000.
La música de la banda derivaba del jazz sudafricano, un estilo influenciado por el bebop que popularizaron grupos como The Jazz Epistles y el propio Bra Ntemi y sus Alexandra All Stars de Piliso en los años cincuenta y sesenta. También trajeron el sonido marabi de los townships de la Sudáfrica del apartheid, la mezcla mbaqanga de música y ritmos occidentales y africanos que fusionaba los sonidos de las big bands de Count Basie y Duke Ellington.
Tras la salida de Nelson Mandela de la cárcel en 1990 y el levantamiento de la prohibición cultural que permitía a los artistas sudafricanos salir de gira fuera de su país, el grupo empezó a dar conciertos en Europa, Japón y Australia, tocando en los mismos carteles que artistas como Nina Simone, Quincy Jones, Winston Mankunku, Rita y Ziggy Marley, entre otros. Este nuevo entorno cultural más abierto también permitió a la banda publicar finalmente su música en disco, casete y CD, con cinco álbumes entre 1991 y 1999.
La muerte del fundador de la banda, Bra Ntemi Piliso, en diciembre de 2000, supuso un año sabático para el grupo, que publicó un álbum más, "76-3rd Avenue", y un último tema, "Alextown", en colaboración con la leyenda del reggae Ernest Ranglin en 2005.