Cvantez est à l'origine le projet solo d'Olivier Salaün dont les premières démos sont au départ gravées sous le nom de Quert. Enregistré en 2003 par Vincent Leservoisier (Porcelain, HitchcockGoHome!.) et initialement instrumental, le premier album du projet prend une nouvelle couleur quand Sandra Escamez (Verone) vient apposer ses textes et sa voix à la douceur abîmée sur quatre morceaux. En 2006, un deuxième album, baptisé Tigers est enregistré. Cvantez passe alors au format trio rock avec les arrivées de Cyrielle Martin (chant, piano, guitare) et de Xavier Maloumian (batterie, percussions). Quelques mois plus tard, Piéric Hirzel (Antrabata, Rosemary) rejoint également le groupe au poste de bassiste. Un peu plus d'un an plus tard, le quartet signe un deal avec le label Drunk Dog Records (HitchcockGoHome!, My Broken Frame, Porcelain, SZ, Whopper) en vue de la sortie nationale (distribuée par Differ-Ant) du premier opus au titre sorti d'on ne sait où : Yvettela Musipontaine.