C'est en 1996 que Asian Kung-Fu Generation fut créé par Masafumi Gotou, Kensuke Kita et Takahiro Yamada à l'université. Un peu plus tard, Ichiji Kiyoshi à rejoint le groupe en tant que batteur.

Ils firent leur première apparition en tant que Asian Kung-Fu Generation au Yokohama Center, où ils jouèrent des chansons en anglais qu'ils avaient écrits pendant leurs cours. En 2000, ils sortent leur premier EP autoproduit, "The Time Past and I Couldn't See You Again", contenant 6 pistes toutes écrites en anglais. Cet EP fut vendu par internet.

Plus tard, lorsque Masafumi Gotou eut terminé d'écrire "Kona Yuki", la première chanson écrite en japonais, ils l'envoyèrent à différentes radios. Ce fut leur première chanson qui fut diffusé à la radio.

Puis c'est "I'm Standing Here", nouvel EP de 6 pistes encore, variant des pistes anglaises et japonaises. Puis ils enchaînèrent les tournées au Japon. En 2002, ils participent à une compilation sur Under Flower Records et en novembre de la même année, ils sortent leur premier album/EP, "Houkai Annpurifa" (Trad: Désintégration amplifiée"), peu de temps après ils signent chez Sony et "Houkai Annpurifa" est re-produit par Kioon Records. Ils enchaînent les gros festivals japonais comme le Fuji Rock Festival et le Tokyo Summer Sonic 03.

Enfin, le 19 novembre 2003, sort leur premier album, "Kunkei Faibuimu" avec pour single "Mirai No Kakera" (Trad: "Un fragment du futur") puis "Kimi To Iu Hana" (Trad: "Une fleur comme toi"). Pour la petite traduction, "Kunkei Faibuimu" signifie "5 metres de diamètre", Masafumi Gotou veut dire par là que nous ne pouvons communiquer réellement qu'avec des personnes se situant dans ce cercle autour de nous.

Après la sortie de plusieurs singles, "Sol-Fa", leur nouvel album, et le groupe enchaîne encore une fois les festivals japonais. A notre grand regret, ils se cantonent seulement au Japon pour le moment.