Entre espoir utopique et peur existentielle: à quel point la menace de l'intelligence artificielle est-elle réelle?
Depuis que les modèles de langage sont passés en quelques années du statut de curiosité de laboratoire à celui d'outil quotidien, la question de savoir si l'intelligence artificielle pourrait menacer la survie même de l'humanité dépasse depuis longtemps le cadre de la science-fiction. Certains chercheurs de premier plan, dont le lauréat du prix Nobel Geoffrey Hinton, avertissent que les risques pourraient être sous-estimés. D'autres, en revanche, estiment que ce sont précisément de tels scénarios apocalyptiques qui détournent l'attention des dommages que cette technologie cause déjà aujourd'hui. Pour une évaluation lucide de ce débat, il vaut la peine d'examiner séparément les trois scénarios qui sont le plus souvent évoqués.
Le plus tangible est le premier scénario, le détournement délibéré: des systèmes puissants pourraient permettre à des individus ou à de petits groupes de causer des dommages d'une ampleur qui autrefois était réservée aux États. Particulièrement inquiétante est l'idée que les systèmes pourraient aider à concevoir des armes biologiques ou à mener des cyberattaques coordonnées contre les infrastructures critiques, comme les réseaux électriques. C'est pourquoi les développeurs des modèles les plus avancés intègrent déjà des mécanismes de protection, bien que les critiques craignent que ceux-ci puissent être contournés sans grand effort.
Le deuxième scénario, connu sous le nom de problème d'alignement, concerne la possibilité que les systèmes deviennent si performants que leurs objectifs ne coïncident plus avec les intérêts humains. Un tel système n'aurait pas besoin d'être malveillant au sens humain; il suffirait qu'il poursuive un objectif mal formulé avec une cohérence extrême. Des chercheurs comme Hinton, qui a reçu le prix Nobel de physique en 2024, considèrent ce risque comme tout à fait réel, tandis que les sceptiques répondent que les modèles actuels sont loin de toute volonté propre.
Le troisième scénario est moins spectaculaire, mais selon certaines analyses non moins inquiétant: il s'agit d'un transfert progressif, presque imperceptible des décisions clés à des systèmes automatisés. Si les entreprises, les institutions et les armées confient de plus en plus de décisions à des algorithmes parce que ceux-ci travaillent plus vite et moins cher, l'homme pourrait progressivement perdre la capacité de comprendre et de corriger ces processus. Ainsi le pouvoir ne serait pas pris par la force, mais cédé en silence, en des milliers de petits pas apparemment rationnels. Des processus similaires, disent les partisans de cette thèse, peuvent déjà être observés là où les algorithmes décident de l'octroi de crédits, des embauches ou de la répartition des aides sociales.
Les critiques de ces scénarios, parmi lesquels se trouvent de nombreux chercheurs en éthique des technologies, ne contestent pas nécessairement tout risque à long terme, mais mettent en garde contre des priorités mal placées. Tandis que le public débat d'une hypothétique superintelligence, des dommages réels se produisent dès aujourd'hui: une désinformation qui se propage plus vite que jamais, des décisions discriminatoires de systèmes opaques et une pression sur des professions qui ont longtemps été considérées comme sûres. De plus, l'entraînement et le fonctionnement des grands modèles exigent d'énormes quantités d'électricité et d'eau pour refroidir les centres de données, ce qui rend plus aiguës les questions sur leur empreinte écologique. De ce point de vue, l'accent mis sur des catastrophes lointaines arrange précisément les entreprises, car il détourne l'attention de la régulation de leurs pratiques actuelles.
Cependant, les deux approches ne sont pas nécessairement incompatibles. De nombreux chercheurs affirment que les mêmes outils qui sont nécessaires pour résoudre les problèmes actuels, comme la transparence, les audits indépendants et une responsabilité juridique claire, réduiraient aussi la probabilité de catastrophes ultérieures. Avec son règlement sur l'intelligence artificielle l'Union européenne classe déjà les systèmes selon leur niveau de risque, tandis que dans d'autres pays la réglementation reste pour l'instant plus fragmentée. L'efficacité de telles règles dépend aussi de la question de savoir si les États parviendront à s'entendre sur des normes communes, ce qui n'est nullement garanti vu la rivalité géopolitique actuelle. Une seule chose est sûre: la question de savoir comment gouverner une technologie qui évolue plus vite que les institutions qui doivent la surveiller va marquer la politique des prochaines décennies.