Меѓу утописката надеж и егзистенцијалниот страв: колку реална е заканата од вештачката интелигенција?

Откако јазичните модели за неколку години прераснаа од лабораториски куриозитет во секојдневна алатка, прашањето дали вештачката интелигенција би можела да го загрози самиот опстанок на човештвото одамна ги надминува рамките на научната фантастика. Некои водечки истражувачи, меѓу кои и добитникот на Нобеловата награда Џефри Хинтон, предупредуваат дека ризиците би можеле да бидат потценети. Други, пак, сметаат дека токму ваквите апокалиптични сценарија го одвлекуваат вниманието од штетите што оваа технологија веќе денес ги предизвикува. За трезвена проценка на оваа дебата вреди одделно да се разгледаат трите сценарија што најчесто се спомнуваат.

Најопипливо е првото сценарио, намерната злоупотреба: моќните системи би можеле да им овозможат на поединци или на мали групи да предизвикаат штети во размери што порано беа резервирани за државите. Особено вознемирувачка е помислата дека системите би можеле да помагаат при дизајнирањето на биолошко оружје или при координирани сајбер-напади врз критичната инфраструктура, како што се електричните мрежи. Поради тоа, развивачите на најнапредните модели веќе вградуваат заштитни механизми, иако критичарите стравуваат дека тие би можеле да бидат заобиколени со мал напор.

Второто сценарио, познато како проблем на усогласување, се однесува на можноста системите да станат толку способни што нивните цели повеќе нема да се совпаѓаат со човечките интереси. Таков систем не би морал да биде злонамерен во човечка смисла; доволно би било тој да следи погрешно формулирана цел со исклучителна доследност. Истражувачи како Хинтон, кој во 2024 година ја доби Нобеловата награда за физика, го сметаат овој ризик за сосема реален, додека скептиците одговараат дека денешните модели се далеку од каква било сопствена волја.

Третото сценарио е помалку спектакуларно, но според некои анализи не помалку загрижувачко: станува збор за постепено, речиси незабележливо препуштање на клучните одлуки на автоматизирани системи. Ако компаниите, институциите и армиите препуштаат сѐ повеќе одлуки на алгоритми затоа што тие работат побрзо и поевтино, човекот постепено би можел да ја изгуби способноста да ги разбира и коригира тие процеси. Така моќта не би била одземена со сила, туку тивко препуштена, во илјадници навидум рационални чекори. Слични процеси, велат поддржувачите на оваа теза, веќе може да се забележат таму каде што алгоритмите одлучуваат за кредити, вработувања или распределбата на социјална помош.

Критичарите на ваквите сценарија, меѓу кои има многу истражувачи од областа на етиката на технологијата, не го оспоруваат нужно секој долгорочен ризик, но предупредуваат на погрешно поставени приоритети. Додека јавноста дебатира за хипотетичка суперинтелигенција, реални штети настануваат веќе денес: дезинформации што се шират побрзо од кога било, дискриминирачки одлуки на непроѕирни системи и притисок врз професии што долго се сметаа за безбедни. Покрај тоа, обуката и работата на големите модели бараат огромни количини електрична енергија и вода за ладење на центрите за податоци, што ги заострува прашањата за нивниот еколошки отпечаток. Од оваа перспектива, фокусот врз далечни катастрофи им одговара токму на компаниите, бидејќи го пренасочува вниманието од регулирањето на нивните сегашни практики.

Сепак, двата пристапа не се нужно неспоиви. Многу истражувачи тврдат дека истите алатки што се потребни за решавање на сегашните проблеми, како што се транспарентноста, независните ревизии и јасната правна одговорност, би ја намалиле и веројатноста за подоцнежни катастрофи. Европската унија со својот закон за вештачка интелигенција веќе ги класифицира системите според нивото на ризик, додека во други земји регулативата засега останува пофрагментирана. За ефикасноста на ваквите правила одлучува и тоа дали државите ќе успеат да договорат заеднички стандарди, што при сегашното геополитичко ривалство воопшто не е загарантирано. Сигурно е само едно: прашањето како да се управува со технологија што се развива побрзо од институциите што треба да ја надгледуваат ќе ја обележи политиката во наредните децении.