Eksistentiaalinen riski on niin suuri katastrofi, että se joko tuhoaa koko ihmiskunnan tai lamauttaa meidät pysyvästi. Nämä voivat olla luonnonkatastrofeja tai tahallisia tai vahingossa tapahtuneita ihmisen aiheuttamia katastrofeja. Eksistentiaalinen riski on saattanut olla olemassa pitkään tai vain muutaman vuosikymmenen ajan, tai ehkä se on tulevaisuutemme. Esimerkkejä eksistentiaalisista riskeistä ovat suuret asteroidi -iskut, ydinsota ja petollinen tekoäly.
Eksistentiaalisen riskin käsite esitettiin ensimmäisen kerran nykyisessä muodossaan Oxfordin filosofin tohtori Nick Bostromin toimesta. Hän käyttää seuraavan kaltaista riskikaaviota selittääkseen eksistentiaalisia riskejä:
Riskin laajuusGlobalEl Niñodeforestationexistential riskLocalthunderstorme taloudellinen taantuma hurrikaaniPersonal papercutsprained ankley you are shot
Eksistentiaaliset riskit ovat maailmanlaajuisia ja terminaalisia tai ehkä lähellä terminaalia. Erittäin tarttuva virus, jonka kuolleisuusaste on 99.9%, jolle kukaan ei ole immuuni, on esimerkki eksistentiaalisesta riskistä.
Bostrom huomauttaa, että mielemme ja instituutiomme ovat huonosti valmiita käsittelemään eksistentiaalista riskiä, koska emme ole koskaan kokeneet sellaista aiemmin-jos olisimme, emme olisi täällä miettimässä niitä. Kuten lapsella, joka ei tiedä, että liesi on kuuma, kunnes hän koskettaa sitä, meillä on vähän kokemusta katastrofeista tällä tasolla. Keskiaikaisen Euroopan bubonitauti ja ensimmäisen maailmansodan espanjalainen flunssa tarjoavat meille maun siitä, millainen eksistentiaalinen katastrofi olisi. Molemmat sairaudet kuolivat kymmeniä miljoonia terveitä ihmisiä vain muutamassa tunnissa.
Aiheeseen liittyvässä kanonisessa artikkelissaan Bostrom luettelee noin kymmenkunta eksistentiaalista riskiä ja luokittelee ne vakavuuden ja hyödynnettävyyden perusteella. Jotkut uskottavimmista on lueteltu tässä:
geneettisesti muokattuja viruksia
nanoteknologiset asekilpailut
katastrofaalinen ydinsota
hallitsematon itsensä replikoiva robotiikka
superintelligent AI, välinpitämätön ihmisille
fysiikan katastrofi hiukkaskiihdyttimessä
supervulkaanin räjähdys estää auringon
Koska eksistentiaalinen riski on äärimmäisen vakava ja peruuttamaton, mahdolliset vastatoimenpiteet ovat aivoriihen ja toteuttamisen arvoisia. Vaikka mahdollisuus tietyn eksistentiaalisen uhan toteutumisesta on pieni, valtavat panokset edellyttävät vakavaa välttämisohjelmaa. Ihmisten aiheuttamien uhkien torjuntatoimenpiteisiin kuuluvat kehittyneet havainto- ja hälytysjärjestelmät ja tiettyjen tekniikoiden sääntely sen varmistamiseksi, ettei niitä käytetä joukkotuhoamiseen. Maat, joiden epäillään omistavan joukkotuhoaseita, hyökkäävät toisinaan muiden maiden puoleen, jotka ovat huolissaan pitkän aikavälin seurauksista, kuten Irakin sota osoittaa selvästi.