Entre la esperanza utópica y el miedo existencial: ¿cuán real es la amenaza de la inteligencia artificial?
Desde que los modelos de lenguaje pasaron en pocos años de curiosidad de laboratorio a herramienta cotidiana, la pregunta de si la inteligencia artificial podría poner en peligro la propia supervivencia de la humanidad hace tiempo que ha superado el ámbito de la ciencia ficción. Algunos investigadores destacados, entre ellos el ganador del Premio Nobel Geoffrey Hinton, advierten de que los riesgos podrían estar subestimados. Otros, en cambio, consideran que precisamente estos escenarios apocalípticos desvían la atención de los daños que esta tecnología causa ya hoy. Para una evaluación sobria de este debate, vale la pena examinar por separado los tres escenarios que se mencionan con más frecuencia.
Lo más tangible es el primer escenario, el uso indebido deliberado: los sistemas potentes podrían permitir a individuos o a pequeños grupos causar daños a una escala que antes estaba reservada a los Estados. Especialmente inquietante es la idea de que los sistemas podrían ayudar en el diseño de armas biológicas o en ciberataques coordinados contra infraestructuras críticas, como las redes eléctricas. Por eso los desarrolladores de los modelos más avanzados ya incorporan mecanismos de protección, aunque los críticos temen que estos puedan ser eludidos con poco esfuerzo.
El segundo escenario, conocido como problema de alineación, se refiere a la posibilidad de que los sistemas se vuelvan tan capaces que sus objetivos ya no coincidan con los intereses humanos. Un sistema así no tendría que ser malintencionado en el sentido humano; bastaría con que persiguiera un objetivo mal formulado con extrema coherencia. Investigadores como Hinton, que en 2024 recibió el Premio Nobel de Física, consideran este riesgo totalmente real, mientras que los escépticos responden que los modelos actuales están lejos de tener voluntad propia.
El tercer escenario es menos espectacular, pero según algunos análisis no menos preocupante: se trata de la cesión gradual, casi imperceptible de decisiones clave a sistemas automatizados. Si las empresas, las instituciones y los ejércitos ceden cada vez más decisiones a algoritmos porque estos trabajan más rápido y más barato, el ser humano podría perder poco a poco la capacidad de entender y corregir esos procesos. Así el poder no sería arrebatado por la fuerza, sino cedido silenciosamente, en miles de pasos aparentemente racionales. Procesos similares, dicen los partidarios de esta tesis, ya pueden observarse allí donde los algoritmos deciden sobre créditos, contrataciones o el reparto de ayudas sociales.
Los críticos de estos escenarios, entre los que hay muchos investigadores del campo de la ética tecnológica, no niegan necesariamente todo riesgo a largo plazo, pero advierten de unas prioridades equivocadas. Mientras la opinión pública debate sobre una hipotética superinteligencia, daños reales se producen ya hoy: desinformación que se propaga más rápido que nunca, decisiones discriminatorias de sistemas opacos y presión sobre profesiones que durante mucho tiempo se consideraron seguras. Además, el entrenamiento y el funcionamiento de los grandes modelos requieren enormes cantidades de electricidad y agua para refrigerar los centros de datos, lo que agudiza las preguntas sobre su huella ecológica. Desde esta perspectiva, el foco en catástrofes lejanas conviene precisamente a las empresas, porque desvía la atención de la regulación de sus prácticas actuales.
Sin embargo, los dos enfoques no son necesariamente incompatibles. Muchos investigadores sostienen que las mismas herramientas que se necesitan para resolver los problemas actuales, como la transparencia, las auditorías independientes y una clara responsabilidad jurídica, reducirían también la probabilidad de catástrofes posteriores. Con su ley de inteligencia artificial la Unión Europea ya clasifica los sistemas según su nivel de riesgo, mientras que en otros países la regulación sigue por ahora más fragmentada. La eficacia de estas normas depende también de si los estados lograrán acordar normas comunes, lo que con la actual rivalidad geopolítica de ningún modo está garantizado. Solo una cosa es segura: la cuestión de cómo gobernar una tecnología que evoluciona más rápido que las instituciones que deben supervisarla va a marcar la política de las próximas décadas.