Eräs Vanhassa testamentissa kuvattu muinainen rituaali koski vuohen valintaa ja lopullista karkottamista muusta laumasta. Tämä vuohi värjätään usein punaisella pigmentillä, joka edustaa koko yhteisön kollektiivisia syntejä ja vääryyksiä. Perinteen mukaan tämä vuohi lähetettiin erämaahan tapaamaan Azazelia, kaatunutta enkeliä, joka on samanlainen kuin Saatana tai Lucifer. Keskiaikainen virheellinen käännös loi modernin legendan pakenevasta vuohesta tai syntipukista.
Nykypäivänä syntipukki on usein organisaation jäsen, joka on vastuussa koko ryhmän epäonnistumisista tai puutteista. Konkurssiin joutuneen yrityksen talousjohtaja voi olla vastuussa esimerkiksi sen taloudellisista epäonnistumisista. Häpeällistä johtajaa voidaan syyttää yrityksen paljastamasta rikkomuksesta tai matalan tason poliitikkoa voidaan kohdella laajalle levinneen hallituksen korruption edustajana.
Tämä ei tarkoita sitä, että syntipukki olisi täysin viaton syytöksistä tai että hänet olisi uhrattu epäoikeudenmukaisesti. Henkilö, joka todetaan syylliseksi julkiseen lahjontaan toimiessaan, voi tulla vertauskuvana muille, jotka ovat tehneet samanlaisia rikoksia, mutta joita ei ole syytetty tai rangaistu. Kun urheilumaailmassa puhkesi skandaali laittomaan steroidien käyttöön, jotkut ihmiset uskoivat, että kourallinen pelaajia, jotka myönsivät huumeiden käytön, olivat tulleet syntipukkeiksi koko organisaatiolleen. Tätä henkilöä voidaan pitää myös uhraavana karitsana, joka hyväksyy rangaistuksen suojellakseen muita.
On myös tilanteita, joissa syntipukki valitaan poliittisista tai strategisista syistä. Esimerkiksi syyttäminen yrityksen epäonnistumisista matalan tason johtajalle voi viedä oikeudellisen painopisteen pois ylemmistä virkamiehistä. Matalan tason johtajan tulevaisuus ei ehkä ole niin valoisa, mutta ainakin koko organisaatio selviytyisi julkisesta valvonnasta rankaisemalla nimettyä rikoksentekijää. Usein tämän henkilön tehtävänä on tuoda julkinen ilme väärin tai korruptioon ja hyväksyä muiden ihmisten tekojen seuraukset.
Scapegoatingia voidaan pitää myös itsesuojeluna. Sen sijaan, että hyväksyisimme kollektiivisen syytteen rikkoutuneesta ikkunasta, esimerkiksi ryhmä amatööri -baseball -pelaajia voisi nostaa syyllisen. Vaikka jokaisen pelaajan toiminta vaikutti vahinkoon, koko vastuun asettaminen viimeiselle pelaajalle, joka kosketti palloa, vapauttaisi muun ryhmän henkilökohtaisen vastuun. Ryhmän on usein paljon helpompaa nimetä yksi henkilö ottamaan syyllinen syy kuin ottamaan henkilökohtainen vastuu tietyistä rikkomuksista.