Med utopičnim upanjem in eksistencialnim strahom: kako resnična je grožnja umetne inteligence?

Odkar so jezikovni modeli v nekaj letih prerasli iz laboratorijskega kuriozuma v vsakdanje orodje, vprašanje, ali bi lahko umetna inteligenca ogrozila sam obstoj človeštva, že dolgo presega okvire znanstvene fantastike. Nekateri vodilni raziskovalci, med njimi tudi dobitnik Nobelove nagrade Geoffrey Hinton, opozarjajo, da bi tveganja lahko bila podcenjena. Drugi pa menijo, da prav takšni apokaliptični scenariji odvračajo pozornost od škode, ki jo povzroča ta tehnologija že danes. Za trezno oceno te razprave je vredno ločeno obravnavati tri scenarije, ki se omenjajo najpogosteje.

Najbolj oprijemljiv je prvi scenarij, namerna zloraba: zmogljivi sistemi bi lahko posameznikom ali majhnim skupinam omogočili, da povzročijo škodo v razsežnostih, ki so prej bile pridržane za države. Posebej vznemirjajoča je misel, da bi lahko sistemi pomagali pri načrtovanju biološkega orožja ali pri usklajenih kibernetskih napadih na kritično infrastrukturo, kot so električna omrežja. Zato razvijalci najnaprednejših modelov že vgrajujejo zaščitne mehanizme, čeprav se kritiki bojijo, da bi jih lahko z malo truda obšli.

Drugi scenarij, znan kot problem usklajevanja, se nanaša na možnost, da bi sistemi postali tako zmogljivi, da njihovi cilji ne bi bili več skladni s človeškimi interesi. Takšnemu sistemu ne bi bilo treba biti zlonameren v človeškem smislu; zanj bi zadostovalo, da bi sledil napačno zastavljenemu cilju z izjemno doslednostjo. Raziskovalci kot Hinton, ki je leta 2024 prejel Nobelovo nagrado za fiziko, imajo to tveganje za povsem resnično, medtem ko skeptiki odgovarjajo, da današnji modeli ostajajo daleč od kakršne koli lastne volje.

Tretji scenarij je manj spektakularen, a po nekaterih analizah nič manj zaskrbljujoč: gre za postopno, skoraj neopazno prepuščanje ključnih odločitev avtomatiziranim sistemom. Če podjetja, institucije in vojske prepuščajo vedno več odločitev algoritmom, ker ti delujejo hitreje in ceneje, bi lahko človek postopoma izgubil sposobnost, da razume in popravlja te procese. Tako moč ne bi bila odvzeta s silo, temveč tiho prepuščena, v tisočih na videz racionalnih korakih. Podobne procese, pravijo zagovorniki te teze, je že mogoče opaziti tam, kjer algoritmi odločajo o posojilih, zaposlovanju ali dodeljevanju socialne pomoči.

Kritiki takšnih scenarijev, med katerimi je veliko raziskovalcev s področja etike tehnologije, ne izpodbijajo nujno vsakega dolgoročnega tveganja, vendar opozarjajo na napačno postavljene prioritete. Medtem ko javnost razpravlja o hipotetični superinteligenci, resnična škoda nastaja že danes: dezinformacije, ki se širijo hitreje kot kdaj koli prej, diskriminatorne odločitve neprosojnih sistemov in pritisk na poklice, ki so dolgo veljali za varne. Poleg tega učenje in delovanje velikih modelov zahtevata ogromne količine električne energije in vode za hlajenje podatkovnih centrov, kar zaostruje vprašanja o njihovem ekološkem odtisu. S tega vidika osredotočenost na oddaljene katastrofe ustreza prav podjetjem, saj preusmerja pozornost od regulacije njihovih sedanjih praks.

Vendar ni nujno, da sta oba pristopa nezdružljiva. Mnogi raziskovalci trdijo, da bi ista orodja, ki so potrebna za reševanje sedanjih problemov, kot so preglednost, neodvisne revizije in jasna pravna odgovornost, zmanjšala tudi verjetnost poznejših katastrof. Evropska unija s svojim aktom o umetni inteligenci že razvršča sisteme glede na stopnjo tveganja, medtem ko v drugih državah regulacija za zdaj ostaja bolj razdrobljena. O učinkovitosti takšnih pravil odloča tudi to, ali bodo države uspele dogovoriti skupne standarde, kar ob sedanjem geopolitičnem rivalstvu nikakor ni zagotovljeno. Gotovo je le eno: vprašanje, kako upravljati tehnologijo, ki se razvija hitreje od institucij, ki naj bi jo nadzorovale, bo zaznamovalo politiko prihodnjih desetletij.