Между утопической надеждой и экзистенциальным страхом: насколько реальна на самом деле угроза со стороны искусственного интеллекта?
С тех пор как языковые модели за несколько лет превратились из лабораторного курьёза в повседневный инструмент, вопрос о том, может ли искусственный интеллект угрожать самому выживанию человечества, давно вышел за рамки научной фантастики. Некоторые ведущие исследователи, в том числе лауреат Нобелевской премии Джеффри Хинтон, предупреждают, что риски могут быть недооценены. Другие же считают, что именно подобные апокалиптические сценарии отвлекают внимание от вреда, который эта технология уже сегодня причиняет. Для трезвой оценки этой дискуссии стоит по отдельности рассмотреть три сценария, которые чаще всего упоминаются.
Наиболее осязаемым является первый сценарий, умышленное злоупотребление: мощные системы могли бы позволить отдельным людям или небольшим группам причинить ущерб в масштабах, которые раньше были доступны лишь государствам. Особенно тревожной выглядит мысль, что системы могли бы помогать в разработке биологического оружия или в скоординированных кибератаках на критическую инфраструктуру, такую как электросети. Поэтому разработчики самых продвинутых моделей уже встраивают защитные механизмы, хотя критики опасаются, что их можно обойти без особых усилий.
Второй сценарий, известный как проблема согласования, касается возможности того, что системы станут настолько способными, что их цели перестанут совпадать с интересами людей. Такой системе не пришлось бы быть злонамеренной в человеческом смысле; было бы достаточно, чтобы она преследовала неверно сформулированную цель с исключительной последовательностью. Исследователи вроде Хинтона, который в 2024 году получил Нобелевскую премию по физике, считают этот риск вполне реальным, тогда как скептики отвечают, что нынешние модели остаются далёкими от какой-либо собственной воли.
Третий сценарий выглядит менее эффектным, но согласно некоторым анализам не менее тревожным: речь идёт о постепенной, почти незаметной передаче ключевых решений автоматизированным системам. Если компании, институты и армии передают всё больше решений алгоритмам, потому что они работают быстрее и дешевле, человек постепенно может утратить способность понимать и исправлять эти процессы. Так власть не была бы отнята силой, а тихо уступлена, за тысячи внешне рациональных шагов. Подобные процессы, говорят сторонники этого тезиса, уже можно наблюдать там, где алгоритмы решают вопросы о кредитах, приёме на работу или распределении социальной помощи.
Критики подобных сценариев, среди которых много исследователей в области этики технологий, не обязательно оспаривают любой долгосрочный риск, но предупреждают о неверно расставленных приоритетах. Пока общество спорит о гипотетическом сверхинтеллекте, реальный вред наносится уже сегодня: дезинформация, которая распространяется быстрее прежнего, дискриминационные решения непрозрачных систем и давление на профессии, которые долго считались надёжными. Кроме того, обучение и работа больших моделей требуют огромного количества электроэнергии и воды для охлаждения центров обработки данных, что обостряет вопросы об их экологическом следе. С этой точки зрения, сосредоточенность на далёких катастрофах выгодна именно компаниям, поскольку отвлекает внимание от регулирования их нынешней практики.
Однако эти два подхода не обязательно являются несовместимыми. Многие исследователи утверждают, что те же инструменты, которые необходимы для решения нынешних проблем, такие как прозрачность, независимые проверки и чёткая юридическая ответственность, снизили бы и вероятность будущих катастроф. Европейский союз своим законом об искусственном интеллекте уже классифицирует системы по уровню риска, тогда как в других странах регулирование пока остаётся более раздробленным. Эффективность таких правил зависит и от того, удастся ли государствам согласовать общие стандарты, что при нынешнем геополитическом соперничестве вовсе не выглядит гарантированным. Одно можно сказать наверняка: вопрос о том, как управлять технологией, которая развивается быстрее институтов, которые должны за ней надзирать, будет определять политику ближайших десятилетий.