C'est dans la banlieu de Los Angeles que l'histoire de Rufio débute. Scott (chant/guitare) et Jon (basse), âgés de 18 ans, décide de monter un groupe et se lancent activement à la recherche d'un batteur. Après plusieurs semaines de recherche, les deux jeunes garçons n'ont toujours rien trouvé et c'est alors que Jon se souvient de Mike, un ami à eux du lycée qui pratiquait la batterie depuis plusieurs années déjà. Les deux compères contactent donc Mike qui accepte de tenter l'aventure. Le groupe se met donc à composer mais Scott trouve qu'il manque quelque chose et décide donc de trouver un second guitariste qui viendrai renforcer l'éffectif et notament apporter une touche plus technique aux compositions. Une fois de plus, ils font appel à un ami du lycée en la personne de Clark et le groupe est désormais au complet et prend le nom de Rufio.

Après quelques mois de répétitions et d'écriture, Rufio enregistre une première démo de 5 titres et la distribue sur le net par l'intermédiaire de Napster (RIP), du site mp3.com et de leur amis. Très vite Rufio est contacté par des organisateurs qui leur proposent dates locales.

Après six mois de concerts locaux, le groupe est contacté par le label The Militia Group fin décembre 2000 et signe un contrat pour un premier album, Perhaps, I Suppose..., qui sortira en juin 2001. L'album est un véritable succès et se vend à plus de 20.000 exemplaires. La sortie de cette album entrainera une immense tournée à travers les USA aux cotés de groupes prestigieux tels que Strung Out et The Ataris.

Durant l'année 2003, Rufio signe chez Nitro Records et en profite pour sortir un second album du nom de MCMLXXXV.