Annihilator werd opgericht te Ottawa door Jeff Waters in 1984. Hij schreef een nummer en nam het op samen met vocalist John Bates. Dit nummer, Annihilator, is nooit officieel uitgebracht. Waters rekruteerde een drummer, Poul Malek, en Bates vond een geschikte bassist, Dave Scott.

Deze samenstelling bleef ongewijzigd voor twee jaar en de liedjes die tijdens deze periode gemaakt zijn vinden we voor het grootste deel terug op de twee eerste albums. Voor de uitgave van hun debuut-LP verhuisde Waters naar Vancouver waar hij de groep helemaal opnieuw samenstelde met onder andere vroeger D.O.A.-lid Randy Rampage. Waters heeft door de jaren heen de samenstelling van de groep vaak veranderd, inclusief de vocalisten.