Az örmény származású, az USA-ban élő tagokból álló zenekar története a kilencvenes évek elejéig nyúlik vissza: ekkor ismerkedett meg Serj Tankian énekes és Daron Malakian énekes/gitáros. Első közös zenekarukat Soilnak hívták, mely 1993-ban alakult. '94-ben találkoznak Shavarsh "Shavo" Odadjian-nal, aki egy évvel később basszusgitárosként lép be a bandába. Ugyanebben az évben - Daron "Victims Of A Down" című verse alapján - döntenek úgy, hogy a banda nevét Victims Of A Downra változtatják; később Serj módosít "System Of A Down"-ra.

Csatlakozik John Dolmayan, és 1996 elején megjelenik az első, öt számot tartalmazó demo (Blue, Frikk, Honey, Temper, Multiply - ezek nem kerültek fel egy albumra sem). Egy évvel később a hollywood-i Viper Room-ban koncerteznek, amikor az American Records emberei felfigyelnek rájuk, így hamarosan hamarosan le is szerződnek a kiadóhoz, és egy második demo megjelenése után (Know, a War? és a Peephole c. dalok) máris az Ozzfest-en léphetnek fel, 1998-ban. A debütáló korong is ebben az évben készül el, melyet nagyszabású lemezbemutató turné követ: októberben többek között Budapesten is fellépnek, a Slayer (mely szintén az American Records istállójához tartozik) előzenekaraként.

A következő évben sem lassítanak: ott vannak az Ozzfest '99-en, és elkészül az első videóklipp is (Sugar). Nekilátnak a második albumnak is, azonban a turnézás hátráltatja a munkálatokat (többek között a Korn, a Metallica és Kid Rock társaságában is fellépnek), így a "Toxicity" című kettes számú korong - mely a jól ismert Chop Suey! című nótát is tartalmazza - csak hosszas halogatás után, 2001 őszén kerül a lemezboltok polcaira - és frenetikus, már-már hisztérikus sikert arat. A SOAD ismertségét csak fokozzák azok a kisebb-nagyobb balhék, csetepaték, melyek során a szókimondó, mai világrendszerünkhöz (és az Egyesült Államokhoz) kritikusan viszonyuló zenészek (különösen Serj, aki mellesleg üzletemberként is sikeres) gyakran összetűzésbe keverednek ügyvédekkel, a CIA-vel, néha-néha politikusokkal vagy egyszerűen csak a velük ellentétes véleményen lévőkkel.

Eztuán következik a 2002-es Ozzfest, majd a harmadik album, a "Steal This Album", 2002 novemberében. Legújabb lemezük egy duplaalbum első darabja: a 2005 első felében megjelent "Mezmerize"-t ősszel követi majd "Hypnotize" című "ikertestvére".Időközben készült egy Toxicity 2 nevű album amire a Toxicity módosított ill. lemaradt számai kerültek fel.Ezután most szüneteltetik a dolgot.