Tõlgitud valikuliselt Founders Pledge’i lehel avaldatud dokumendist “Existential Risk Cause Area Report”. Tõlkinud Urmas Tiirik.

Homo sapiens on planeedil Maa eksisteerinud viimased 200 000 aastat. Teoreetiliselt võime siin liigina elada veel miljoneid aastaid, mille käigus võib inimkond areneda kaugustesse, mida hetkel on isegi raske ette kujutada. Miljonid tulevased põlvkonnad võiksid oma elus olla võrreldes meiega palju õnnelikumad, omada rohkem teadmisi ja tegutseda loovamalt.

Kui meie eesmärgiks on teha võimalikud palju head, siis kõige olulisem on esmalt ise ellu jääda ning samaaegselt aidata kaasa tsivilisatsiooni õitsengule. Tulevaste põlvkondade heaolu silmas pidades on vaja teadlikult tegeleda inimeste eksistentsi ohustavate tegurite mõju vähendamisega.

Inimkonna uued väljakutsed

Inimesed on viimased 200 000 aastat elus püsinud hoolimata kõikidest varitsevatest looduslikest ohtudest nagu haigused, asteroidid ja vulkaanid. Seetõttu võib eeldada, et looduslikud ohud omavad lühikeses perspektiivis väikest ohtu meie eksistentsile. Nüüdisaja suurimad ohud inimestele on paraku tekitatud inimeste endi poolt.

Tööstusrevolutsiooni käigus tekkinud innovatsioon ja tehnoloogia areng on aidanud inimeste elukvaliteeti lühikese ajaga oluliselt parandada. Me oleme saavutanud võime toita üha suurenevat elanikkonda, vähendada oluliselt laste suremust ja luua tehnoloogiaid, mille abil saame reisida ja suhelda inimestega kaugetest vahemaadest hoolimata.

Positiivsete saavutuste tuules on negatiivse kaasmõjuna kasvanud inimeste võime hävitada ennast ja planeeti. Järgnevalt kirjeldan nelja suurimat tegurit, mis inimesi lähitulevikus enim ohustavad.

Tuumasõda

Kõige dramaatilisem näide inimkonna hävitusvõime suurusest pärineb Teisest maailmasõjast, kus esimest korda kasutati sõjategevuses tuumarelvi. See märkis uue ajastu sündi, kuna nüüd oli inimkond esimest korda ajaloos suutnud luua relvad, millega on võimalik põhjustada inimkonna väljasuremist.

Tuumasõja kõige murettekitavam tagajärg otseste inimkahjude kõrval on plahvatustest õhku paiskuv suits, mille mõjul väheneb maapinnale jõudva päikesekiirguse hulk. Väiksema päikesekiirguse mõjul väheneb drastiliselt põllumajanduse tootlikkus, mille järel tekib ulatuslikke probleeme inimestele toidu kasvatamisel. Kõiki tagajärgi ja nende tõsiduse ulatust pole võimalik päris lõpuni kindlalt tõestada, ent erinevate ekspertide arvamuste põhjal saab järeldada, et tuumasõda on väga tõsine oht inimeste eksistentsile.

Tehislikud biorelvad

Biotehnoloogia areng annab lootust leida efektiivsemat ravi geneetilistele haigustele ja luua paremaid ravimeid. Samas kaasneb biotehnoloogia arenguga mitmeid suuri ohte. Teadlaste sõnul on võimalik panna haigused levima liikide seas, kus need looduslikult ei levi. Näiteks linnugripp võib hakata levima imetajate seas. Samuti on võimalik luua tehislikke haiguseid nagu hobuserõuged, mis oma olemuselt sarnanevad tuulerõugetele, ent on loodud tehislikult.

Võimekus selliseid haiguseid luua on üha enam kättesaadav teadlastele, valitsustele ja potentsiaalsetele terroristidele, kes kõik tahtlikult või tahtmatult võivad luua viiruseid ning baktereid, mis suudaksid tappa sadu miljoneid inimesi. Biorelvade arengu ja leviku kontrollimine on raskem kui tuumarelvade ohjamine, sest biorelvade loomiseks vajaminevat teadmisi ja materjale on lihtsam hankida.

Tehisintellekt

Inimeste töö automatiseerimine, teaduslike uurimistööde tegemine ja haiguste diagnoosimine on vaid mõned näited erinevatest kasudest, mida arenenud tehisintellekt pakkuda suudab. Paraku toob tehisintellekti areng kaasa mitmeid ohte inimeste eksistentsile.

Inimeste kõrge intelligentsus on lubanud meil luua keerulise ühiskonna, mille liikmed suuremal või vähemal määral saavad osa üldisest maailmas valitsevast heaolust ja küllusest. Me oleme vaid juuksekarva võrra targemad kui šimpansid, ent Stuart Armstrongi sõnade kohaselt on see väike vahe intelligentsuses olnud piisav, et tõsta inimesed domineerivaks liigiks planeedil maa ja asetada šimpansid ohustatud liikide tabelisse.

Enamik tehisintellekti uurijaid usub, et inimestega võrreldavat intelligentsust omav masin sünnib meie kõrvale millalgi käesoleva sajandi jooksul ja tõenäosus, et see juhtub järgneva paari aastakümne jooksul on suurem kui üks kümnest. Inimesest targema tehisintellekti tekkides võetakse inimestelt planeedi intelligentseima liigi tiitel. Samuti pole selge, kuidas suudame garanteerida inimestest targema tehisintellekti töötamist inimkonna hüvanguks.

Tänaste suhteliselt piiratud tehisintellekti süsteemidega töötamise kogemuse najal saab väita, et on raske tagada süsteemi käitumist viisil, mida me tegelikult soovime. Tihti teeb süsteem nii nagu me talle ette kirjutame, ent kuna meie kirjeldus ei ole enamasti täiuslik ja kõiki erandeid arvesse võttev, siis ka süsteemi tekitatud tulemus ei pruugi olla see, mida me soovisime. Hea süsteem peaks suutma käituda õigesti erinevates kontekstides ja inimestel peaks olema süsteemi käitumisest ja otsuste tegemise loogikast arusaadav ülevaade.

Väga kitsastes süsteemides pole vigade hind kuigi kõrge, ent kui me räägime väga kõrgelt arenenud tehisintellektist, mis on läbi interneti ühendatud enamikku meie taristust, siis oht tahtmatute tagajärgede tekkele on märkimisväärne. Suurriigid võivad alustada uue võidurelvastumisega, sest kõrgelt arenenud tehisintellekti loomine võib ühe riigi muuta võitmatuks. Võidurelvastumise käigus vahendeid valimata arendamine paneb löögi alla tehnoloogia ohutuse inimkonnale.

Selle sajandi kõige olulisemaks väljakutseks on edukas üleminek tehisintelligentsust sisaldavatele süsteemidele, mille mõju meie liigi saatusele võib olla kas ülimalt positiivne või katastroofiline.

Kliimamuutused

Tööstusliku arengu senisteks alustaladeks on olnud fossiilsed kütused, mille põletamisest ja kasutamisest on saadud tohutul hulgal vajalikku energiat ning materjale, millega on üles ehitatud kogu tänapäevane maailm. Paraku kaasneb fossiilsete kütuste kasutamisega mitmeid negatiivseid tagajärgi, millest olulisim on kasvuhooneefekti tekkimine ja selle mõju kliima soojenemisele.

Praeguste arengute jätkumisel on 10% suurune võimalus, et globaalne soojenemine ületab 6°C. Selline globaalne temperatuuri tõus muudaks planeeti tundmatuseni, kuna tekiksid üleujutused suurtes linnades, suur osa troopikast muutuks elamiskõlbmatuks ja suureneks põua ulatus.

Hetkel pole selge, kas kliimamuutused suudavad tekitada inimkonna väljasuremist põhjustava katastroofi. Ülaltoodud eksistentsiaalsete ohtudega võrreldes tegeletakse kliimamuutuste uurimisega rohkem ja seega tegelemine tuumarelvade, biorelvade või tehisintellekti teemadega võiks tuua kokkuvõttes suuremat kasu ühiskonnale. Samal ajal oleks senisest oluliselt enam vaja panustada ka võitlusesse kliimamuutustega.

Rohkem infot kliimamuutuste kohta leiad siit.

Käesoleva sajandi üldine ohutase

21. sajandi märksõnadeks peetakse suurenevat heaolu, aga samal ajal suureneb ka ohtude mitmekesisus, mis ähvardab hävitada kogu senise inimkonna loodud arengu. Eksistentsiaalsete ohtude realiseerumise tõenäosust sellel sajandil on keeruline hinnata, kuid toetudes eksperthinnangutele võiks see oht olla suurem kui üks sajale. See on sama tõenäoline, kui ühel Euroopas elaval inimesel kaotada elu autoõnnetuses. Võttes arvesse kõike, mis on kaalul, peame tulevaste põlvede nimel neid ohte oluliselt vähendama.

Eksistentsiaalsete ohtudega tegelemine pole kuigi populaarne

Hoolimata tõsisest ohust inimkonna eksistentsile, ei tegeleta ülalkirjeldatud ohtude vähendamisega piisavalt. See tähendab, et praeguse tegevusetuse tulemusel peavad tulevased põlvkonnad elama ohtlikumas maailmas kui meie praegu. Kahjuks pole neil võimalik kuidagi tänastes otsustes kaasa rääkida, kogu vastutus nende heaolu eest lasub praegu valitseval põlvkonnal.

Eksistentsiaalsed ohud on oma loomult globaalsed ja seetõttu tekib jagatud vastutusega olukord, kus üksteisega rivaalitsevad rahvad ei suuda lühiperspektiivis enda riigi heaolu silmas pidades piisavalt kompromisse nõudvat koostööd teha. Kuigi kliimamuutustega tegelemiseks eraldatakse igal aastal sadu miljardeid dollareid, on see tihti kulutatud ebaefektiivselt. Tuuma- ja biorelvade ning tehisintellekti turvalisusega seotud investeeringud jäävad oluliselt alla 100 miljardi dollari piiri.

Need kolm ohtu pole siiani leidnud laialdast kandepinda ka filantroopide seas. See tähendab, et nendes valdkondades leidub väga suure mõjuga panustamisvõimalusi. Riskikapitalistidele üldiselt meeldib tegutseda turgudel, kus väikese konkurentsi tingimustes on võimalik teenida suurt tulu. Annetades ja panustades võitlusse eksistentsiaalsete ohtudega, on potentsiaalne pikaaegne tulu ühiskonnale hindamatu.

Erinevad panustamisvõimalused on leitavad selle blogipostituse aluseks olnud originaaldokumendist.