Vangin dilemma on peliteorian käsite, jota käytetään kuvaamaan erilaisia tilanteita. Käsitettä käytetään joskus myös psykologian ja filosofian kaltaisilla aloilla, kun ihmiset haluavat tutkia, miksi ihmiset toimivat sillä tavalla. Vankien ongelman kehittämiselle myönnetään yleensä RAND -tutkijoiden pari, Merrill Flood ja Melvin Dresher, jotka työskentelivät 1950 -luvulla. Albert W. Tucker tarkensi ajatusta ja kastoi sen “vangin dilemmaksi”.
Klassisesti vangin dilemma esitetään tilanteena, jossa on mukana kaksi vankia, A ja B, jotka on pidätetty rikoksen vuoksi. Poliisi on tietoinen siitä, että todisteet eivät ole riittäviä, joten vangit erotetaan toisistaan ja heitä lähestytään erikseen. Jokaiselle vangille kerrotaan, että jos hän puhuu ja antaa toisen vangin sisään, kun tämä vanki on hiljaa, puhuva vanki vapautuu, kun taas hiljainen vanki tekee vankila -ajan. Jos molemmat vangit puhuvat, he molemmat istuvat jonkin aikaa vankilassa, vaikka tuomio olisi lyhyempi kuin vangin, joka oli hiljaa toisen puhuessa, ja jos molemmat vangit pysyvät hiljaa, heille molemmille annetaan hyvin lyhyt vankeusrangaistus.
Koska vangin dilemma on muodostettu, ihmiset päätyvät nopeasti siihen johtopäätökseen, että toisen vangin hylkääminen ja kääntäminen on paras tapa reagoida tilanteeseen. Pysymällä hiljaa vanki on vaarassa saada pitkän rangaistuksen, kun toinen vanki kävelee. Puhumalla vanki voi toivoa, että toinen vanki pysyy hiljaa, jolloin hän pääsee vapaaksi. Tietysti, kun molemmat vangit puhuvat, he saavat molemmat vankila -aikaa, mutta vaara olla hiljaa pidetään paljon suurempana kuin puhumisriski.
Ajatuksena kokeilu, vangin dilemma on erittäin mielenkiintoinen, ja jotkut psykologian luokat pelaavat todellista versiota näyttääkseen opiskelijoille, miten se toimii. Se perustuu ajatukseen, että haastaviin tilanteisiin joutuneet ihmiset yrittävät yleensä arvata, mitä muut ihmiset tekevät. Vangin dilemman tapauksessa vangit joutuvat miettimään, tekeekö toinen vanki yhteistyötä ja vaikeneeko vai päättävätkö he pettää toiveissaan päästä vapaaksi.
Jos vanki olettaa, että kumppani on luotettava ja pysyy hiljaa, puhuminen on paras vastaus itsesuojelun kannalta, koska on mahdollisuus kävellä. Vanki voi myös olettaa, että kumppani on tullut samaan johtopäätökseen, jolloin puhuminen välttääkseen vielä pidemmän vankeusrangaistuksen tulee elintärkeäksi ja molemmat vangit häviävät.
Monet ihmiset käyttävät vangin dilemmaa osoittaakseen, kuinka tilanteet voivat kärjistyä useiden näennäisen järkevien vaihtoehtojen kautta. Esimerkiksi tiheään liikenteeseen juuttuneet ihmiset päättävät usein tehdä itsekkäitä toimia toiveissa päästä eteenpäin sen sijaan, että tekisivät yhteistyötä kollektiivin kanssa. Tämän seurauksena ruuhkautuminen tulee usein esiin, ja kaikki häviävät tilanteessa.