Z okazji 10-lecia działalności Placebo postanowił wydać kompilację największych przebojów. Ukazała się pod koniec 2004 roku pod tytułem Once More with Feeling: Singles 1996-2004. Zawierała wszystkie najważniejsze piosenki zespołu wydane na singlach oraz dodatkowo trzy niepublikowane wcześniej utwory: Twenty Years (który promował album na singlu), I Do oraz Protege-moi. Płyta ukazała się także w wersji DVD ze wszystkimi wideoklipami Placebo.