Фактически проект Garbage начал свою деятельность в 1994 году, когда Бутч Виг пригласил в новый проект Ширли Мэнсон, увидев клип «Suffocate Me». В октябре 1995 года у группы вышел дебютный альбом, который так и назывался  —  «Garbage». Альбом стал одним из самых успешных альбомов года, его тираж составил больше четырех миллионов экземпляров. Композиции «Stupid Girl», «Milk» и «Only Happy When It Rains» стали хитами. В альбоме отразились все особенности стиля команды: сочетание гранж-саунда с поп-мелодикой и электронными эффектами.

Музыканты виртуозно собирают музыку из огромного количества сэмплов, этим, кстати, и объясняется происхождение названия: garbage по-английски значит «мусор», а композиции собираются музыкантами из разного музыкального мусора. Даже гитарный звук собирается из предварительно записанных сэмплов. Музыке Garbage свойственна эклектика  —  сочетание элементов самых разных направлений, от трип-хопа до блюза.

Второй диск группы назывался «Version 2.0» и также стал мультиплатиновым, многие композиции с него стали мировыми хитами. В 1999 году Garbage исполнили песню «The World is Not Enough» для одноименного фильма о Джеймсе Бонде. Третий альбом команды  — «Beautiful Garbage» — был сатирический, выстроен на штампах поп-музыки, он провалился, но четвертый диск «Bleed Like Me» вновь вышел очень удачным. Сами музыканты говорят, что не экспериментировали, не старались никого удивить, а просто сочиняли песни.

В настоящее время группа практически распалась, хотя в 2010 году прошел слух о возрождении группы, и сейчас готовится релиз пятого альбома. Его выход предполагается весной 2012 года. Стать свидетелями триумфального возвращения великой группы можно будет, купив билеты на Garbage.