Le chanteur Spike Slawson des Dwarves forme le groupe tout étoile Me First and the Gimme Gimmes en 1996. Il convainc le bassiste de NOFX, Fat Mike, le chanteur et guitariste Joey Cape et le batteur Dave Raun, tous les deux de Lagwagon, de même que le guitariste Chris Shiflett de No Use for a Name de se joindre à lui.
À l’origine, le groupe n’a aucune intention de lancer un album et préfère s’en tenir à des apparitions sur des compilations sur lesquelles il interprète des succès des années 60 et 70 revus à la sauce punk. En 1997 toutefois, le groupe commence à lancer des simples aux noms des artistes qu’ils reprennent. Il lancent donc Billy, Diamond, Paul, Denver et Barry.
Les Gimmes cèdent finalement à la tentation à la fin de 1997 et lancent « Have a Ball ». Ils reviennent à la charge deux ans plus tard avec « Are a Drag ». Ce second effort remporte un vif succès sur les ondes des radios universitaires américaines grâce à leur interprétations vitaminées de chansons extraites de comédies musicales.
En 1999, le groupe retravaille des pièces pop des années 60 et 70 sur « Blow in the Wind » et jouit une fois de plus du soutien des radios universitaires. Non seulement les fans de musique punk adorent, mais les amateurs de musique pop aussi commencent à s’intéresser à eux.
Le groupe propose « Take a Break » en 2003, un album qui verse plutôt dans le R&B. Le disque arrive juste à temps pour un cinquième passage au sein de la tournée Vans Warped. Puis, au cours de l’automne 2004, c’est au tour de « Ruin Jonny’s Bar Mitzvah ».
Outils: