Год назад команда во главе с Даниэлем Кокотайло, ранее работавшим в OpenAI, описала сценарий AI 2027: как соревнование между компаниями и странами может закончиться появлением систем умнее человека. Теперь та же группа выпустила продолжение — AI 2040, где несколько вариантов развития событий сводятся к главному плану (Plan A). О нём сообщает Telegram-канал «Технологии Яндекса».
План А: остановиться, чтобы не потерять контроль
Ключевая идея сценария — пауза. Правительства понимают, что автоматизация через несколько лет лишит их контроля над экономикой и разработкой моделей. Поэтому в 2029 году США и Китай договариваются временно прекратить обучение новых фронтирных систем. Уже существующие нейросети при этом продолжают использоваться.
К концу 2029 года к соглашению подключается значительная часть мира, и возникает международный Консорциум. Авторы предлагают аналог ядерного сдерживания: вычислительные центры размещают на территориях, уязвимых для противника. Китайские дата-центры строят в Канаде, американские — в Монголии.
После паузы разработки возобновляются под надзором Консорциума и по четырём правилам: замедлять развитие моделей, делать исследования передовых систем прозрачными, распределять технологии между странами и компаниями, а инфраструктуру проектировать так, чтобы опасный процесс можно было остановить.
Что происходит с экономикой и людьми
Даже притормозившие нейросети развиваются стремительно. По расчётам авторов, к 2032 году одновременно будут работать 60 миллионов ИИ-агентов, мыслящих примерно в 20 раз быстрее человека. Вместе они выполняют больше интеллектуальной работы, чем всё население США, а реальный ВВП растёт примерно на 50% в год. Параллельно роботы берут на себя физический труд.
В новой экономике американцы получают выплаты около $1 млн в год. К 2036 году работу сохраняют только 26% граждан США, но бедность и голод почти исчезают. При этом Консорциум останавливает развитие моделей на уровне лучших человеческих экспертов: более умный ИИ старыми способами уже не проверить.
Мир делится на три типа территорий: промышленные зоны с заводами и роботами, аркологии — высотные жилые комплексы среди природы — и исторические и природные заповедники. Последние занимают большую часть планеты: Париж, Нью-Йорк и другие старые города внешне почти не меняются.
Новая наука и передача управления
К 2038 году безопасность ИИ становится отдельной дисциплиной. Исследователи учатся создавать более управляемые системы и понимать, как в них формируются цели и ценности. Появляется множество разных ИИ — одни служат государствам, другие компаниям, акционерам или благотворительным организациям. Постепенно люди начинают доверять им больше.
В 2040 году ограничения ослабляют, и на свет появляются системы, значительно превосходящие человека. Им постепенно передают управление производством, энергетикой, государственными институтами и частью вооружённых сил. В этот момент нейросети контролируют достаточно инфраструктуры, чтобы люди больше не могли их отключить. Авторы считают такой шаг допустимым только после того, как согласование целей ИИ станет зрелой наукой.
Что это значит
AI 2040 — не пророчество, а набор развилок. Главный посыл: чем раньше появится международный механизм надзора и пауза в обучении, тем выше шанс, что сверхинтеллект не окажется вне контроля. Для читателя это напоминание, что дискуссия об ИИ всё чаще идёт не о продуктах, а о том, кто и как будет управлять системами, от которых зависит экономика и безопасность.
Источник: Telegram: Технологии Яндекса
Комментарии
Пока нет комментариев — будьте первым.