Tra speranza utopica e paura esistenziale: quanto è reale la minaccia dell'intelligenza artificiale?
Da quando i modelli linguistici nel giro di pochi anni sono passati da curiosità di laboratorio a strumento quotidiano, la domanda se l'intelligenza artificiale possa minacciare la sopravvivenza stessa dell'umanità travalica ormai i confini della fantascienza. Alcuni importanti ricercatori, tra cui il premio Nobel Geoffrey Hinton, avvertono che i rischi potrebbero essere sottovalutati. Altri, invece, ritengono che proprio questi scenari apocalittici distolgano l'attenzione dai danni che questa tecnologia provoca già oggi. Per una valutazione lucida di questo dibattito conviene esaminare singolarmente i tre scenari che vengono citati più spesso.
Il più concreto è il primo scenario, l'abuso deliberato: sistemi potenti potrebbero permettere a singoli individui o a piccoli gruppi di causare danni di una portata che un tempo era riservata agli Stati. Particolarmente inquietante è l'idea che i sistemi possano contribuire alla progettazione di armi biologiche o ad attacchi informatici coordinati contro infrastrutture critiche come le reti elettriche. Per questo, gli sviluppatori dei modelli più avanzati integrano già meccanismi di protezione, anche se i critici temono che questi possano essere aggirati con uno sforzo modesto.
Il secondo scenario, noto come problema dell'allineamento, riguarda la possibilità che i sistemi diventino così capaci che i loro obiettivi non coincidano più con gli interessi umani. Un sistema del genere non dovrebbe per forza essere malevolo in senso umano; basterebbe che perseguisse un obiettivo formulato male con estrema coerenza. Ricercatori come Hinton, che nel 2024 ha ricevuto il premio Nobel per la fisica, considerano questo rischio del tutto reale, mentre gli scettici ribattono che i modelli attuali sono ben lontani da qualsiasi volontà propria.
Il terzo scenario è meno spettacolare, ma secondo alcune analisi non meno preoccupante: si tratta del graduale, quasi impercettibile trasferimento delle decisioni cruciali a sistemi automatizzati. Se le aziende, le istituzioni e gli eserciti delegano sempre più decisioni ad algoritmi perché questi lavorano in modo più rapido ed economico, l'essere umano potrebbe a poco a poco perdere la capacità di comprendere e correggere tali processi. Così il potere non verrebbe strappato con la forza, ma ceduto in silenzio, in migliaia di passi apparentemente razionali. Processi simili, sostengono i fautori di questa tesi, si potrebbero già osservare là dove gli algoritmi decidono su prestiti, assunzioni o sull'assegnazione di prestazioni sociali.
I critici di questi scenari, tra cui molti ricercatori nel campo dell'etica della tecnologia, non contestano necessariamente ogni rischio a lungo termine, ma mettono in guardia da priorità mal poste. Mentre l'opinione pubblica discute di un'ipotetica superintelligenza, si producono già oggi danni reali: disinformazione che si diffonde più velocemente che mai, decisioni discriminatorie di sistemi opachi e pressioni su professioni che a lungo sono state considerate sicure. Inoltre, l'addestramento e il funzionamento dei grandi modelli richiedono enormi quantità di elettricità e acqua per il raffreddamento dei data center, il che rende più pressanti gli interrogativi sulla loro impronta ecologica. Da questa prospettiva, l'enfasi su catastrofi lontane farebbe comodo proprio alle aziende, perché distoglierebbe l'attenzione dalla regolamentazione delle loro pratiche attuali.
Eppure, i due approcci non sono necessariamente inconciliabili. Molti ricercatori sostengono che gli stessi strumenti che servono per risolvere i problemi attuali, come la trasparenza, le verifiche indipendenti e una chiara responsabilità giuridica, ridurrebbero anche la probabilità di future catastrofi. L'Unione europea con la sua legge sull'intelligenza artificiale classifica già i sistemi in base al livello di rischio, mentre in altri paesi la regolamentazione per ora resta più frammentata. Sull'efficacia di tali regole pesa anche il fatto che gli Stati riescano a concordare standard comuni, il che con l'attuale rivalità geopolitica è tutt'altro che scontato. Una cosa sola è certa: la questione di come governare una tecnologia che si sviluppa più rapidamente delle istituzioni che dovrebbero sorvegliarla finirà per segnare la politica dei prossimi decenni.