Les frères Followill passent une grande partie de leur jeunesse à voyager dans le sud des États-Unis avec et leur père, un prêcheur de l’Eglise de Pentecote, et leur mère qui leur fait cours quand ils ne peuvent aller à l’école.

Leurs parents divorcent en 1997 et après des boulots variés, les frères déménagent pour Nashville en 1998. Ils forment un groupe en 2000 avec leur cousin Matthew. Leur musique est influencée par leur culture religieuse et leurs racines du sud. (Jared et Caleb sont nés dans le Tennessee; Nathan et Matthew en Oklahoma).

Ils démarrent avec leur album Youth and Young Manhood et atteignent une relative célébrité, surtout hors des États-Unis, en étant choisis par des groupes populaires comme The Strokes (on dit souvent d'eux qu'ils sont "la revanche du Sud" face aux Strokes) ou U2 pour les accompagner dans leurs tournées.

Leur second album Aha Shake Heartbreak sort au Royaume-Uni en octobre 2004 et est applaudi pour son mélange entre garage rock et Southern swagger. The Bucket, 4 Kicks and King of the Rodeo sortent en singles. Il sort le 22 février 2005 aux États-Unis.

Le 2 Avril 2007, le groupe sort son nouvel album, Because Of The Times.