Ütopik umut ile varoluşsal korku arasında: yapay zekâ tehdidi ne kadar gerçek sayılır?
Dil modellerinin birkaç yıl içinde bir laboratuvar oyuncağından gündelik bir araca dönüşmesinin ardından, yapay zekâ insanlığın bekasını dahi tehlikeye atabilir mi sorusu bilimkurgunun sınırlarını çoktan aştı. Nobel ödüllü Geoffrey Hinton'un da bulunduğu bazı önde gelen araştırmacılar, risklerin hafife alınıyor olabileceği konusunda uyarıyor. Diğerleri ise şu kanıda: tam da bu tür kıyamet senaryoları, bu teknolojinin hâlihazırda sebep olduğu zararlardan dikkati uzaklaştırıyor. Bu tartışmayı soğukkanlılıkla değerlendirmek için, en sık söz edilen üç senaryoyu ayrı ayrı ele almakta fayda var.
En somut olanı birinci senaryo, kasıtlı kötüye kullanım: güçlü sistemler, bireylerin ya da küçük grupların daha önce yalnızca devletlere özgü olan boyutlarda zarar vermesine olanak tanıyabilir. Özellikle kaygı verici olan düşünce şu: sistemler biyolojik silahların tasarlanmasında ya da elektrik şebekeleri gibi kritik altyapıya yönelik koordineli siber saldırılarda yardımcı olabilir. Bu nedenle en ileri modellerin geliştiricileri şimdiden güvenlik mekanizmaları yerleştiriyor, ne var ki eleştirmenler bunların az bir çabayla aşılmasının mümkün olduğundan endişe ediyor.
Hizalama sorunu olarak bilinen ikinci senaryo, sistemlerin, hedefleri insan çıkarlarıyla artık örtüşmeyecek kadar yetenekli hâle gelme olasılığını ele alıyor. Böyle bir sistemin insanlar gibi kötü niyetli olması gerekmezdi; onun hatalı tanımlanmış bir hedefi son derece tutarlı biçimde takip etmesi yeterli olurdu. 2024'te Nobel Fizik Ödülü'nü almış olan Hinton gibi araştırmacılar bu riski tamamen gerçekçi buluyor, oysa şüpheciler günümüz modellerinin kendilerine ait herhangi bir iradeden fersah fersah uzak olduğu yanıtını veriyor.
Üçüncü senaryo ise daha az çarpıcı, ancak bazı analizlere göre bir o kadar kaygı verici: kilit kararların otomatik sistemlere kademeli, neredeyse fark edilmez bir biçimde devredilmesi söz konusu. Eğer şirketler, kurumlar ve ordular algoritmalara, bunlar daha hızlı ve ucuz çalıştığı için, giderek daha fazla karar devrederse, insanın bu süreçleri anlama ve düzeltme yeteneğini yavaş yavaş kaybetmesi ihtimal dahilinde. Böylece güç zorla ele geçirilmiş değil, aksine görünüşte akılcı binlerce adımda sessizce teslim edilmiş olurdu. Bu tezin savunucularına göre, algoritmaların krediler, işe alımlar ya da sosyal yardımların dağıtımı hakkında karar verdiği alanlarda benzer süreçleri şimdiden gözlemlemek mümkün.
Aralarında teknoloji etiği alanından pek çok araştırmacının bulunduğu bu tür senaryoları eleştirenler, her uzun vadeli riski mutlaka inkâr etmiyor, ancak yanlış belirlenmiş öncelikler konusunda uyarıyor. Kamuoyunun varsayımsal bir süper zekâyı tartıştığı sırada, gerçek zararlar daha bugünden yaşanıyor: her zamankinden daha hızlı yayılmakta olan dezenformasyon, şeffaf olmayan sistemlerin ayrımcı kararları ve uzun süre güvenli sayılmış olan mesleklere yönelik baskı. Ayrıca büyük modellerin eğitilmesi ve çalıştırılması, muazzam miktarda elektrik ve veri merkezlerinin soğutulması için su gerektiriyor, bu da ekolojik ayak izlerine ilişkin soruları daha da yakıcı kılıyor. Bu açıdan bakıldığında, uzak felaketlere odaklanılması tam da şirketlerin işine geliyor, çünkü bu yaklaşım dikkati mevcut uygulamalarına yönelik düzenlemelerden başka yöne çekiyor.
Yine de bu iki yaklaşımın birbiriyle bağdaşmaz olması şart değil. Pek çok araştırmacı şunu savunuyor: şeffaflık, bağımsız denetimler ve net yasal sorumluluk gibi, bugünkü sorunları çözmek için gerekli olan aynı araçlar, gelecekteki felaketlerin olasılığını da azaltacaktır. Avrupa Birliği, çıkardığı Yapay Zekâ Yasası ile hâlihazırda sistemleri risk düzeylerine göre sınıflandırırken diğer ülkelerde ise düzenlemeler şimdilik daha parçalı kalıyor. Bu tür kuralların etkinliği, devletlerin ortak standartlar üzerinde uzlaşmayı başarıp başaramayacağı sorusuna da bağlı, ki bu da mevcut jeopolitik rekabet düşünüldüğünde hiçbir şekilde garanti altında değil. Kesin olan tek bir şey var: denetlemekle görevli olan kurumlardan daha hızlı gelişmekte olan bir teknolojinin nasıl yönetileceği sorusu, önümüzdeki on yılların siyasetinde belirleyici olacak.