Kapela si rychle vybudovala kultovní status, k čemuž přispělo, že své desky vydávala u labelu Sup Pop, kde začínaly kapely jako Nirvana či Mudhoney.

Skupinu dali dohromady zpěvák a hráč na klávesy Spencer Krug s kytaristou Danem Boecknerem. Písně skládali za doprovodu automatického bubeníka, ale brzo se stal hráčem na bicí stal Arlen Thompson. Zvuk ozvláštňovala elektronika Hadjiho Bakary.

Po vydání první desky získalo obsazení definitivní podobu, když přišel druhý kytarista a perkusionista Dante DeCarro. Po vydání druhé desky At Mount Zoomer v roce 2008 odešel Bakara, který se rozhodl věnovat literatuře.

Po vydání alba Expo 86 skupina v roce 2011 oznámila rozchod. V roce 2016 ale překvapila své fanoušky čtyřpísňovým EP, po němž loni následovala deska Cry Cry Cry. Na ni zařadila píseň Valley Boy, která je tryznou za zesnulého písničkáře Leonarda Cohena, a proti Trumpovi namířenou You’re Dreaming.