Рекурсивное самоулучшение: почему создатели ИИ заговорили о разгоне

В Telegram-канале «Технологии Яндекса» разобрали сценарий, который тревожит уже не футурологов, а самих разработчиков нейросетей, — рекурсивное самоулучшение, или RSI. Логика простая: модель, научившаяся работать с кодом, предлагает правки в собственную архитектуру, затем сама вносит улучшения, которые позволяют ей улучшать себя ещё быстрее. Дальше — экспонента, которую на заре ИИ называли «взрывом интеллекта».

По данным канала, процесс уже не теоретический. Claude ведёт 26% задач Anthropic по разработке ИИ и участвует более чем в 90% из них. То есть модель заметно вовлечена в работу над собственными преемниками — пусть пока и под присмотром людей.

Anthropic заверяет: полностью автономного RSI пока не существует. Но, как отмечает источник, граница между «помогает» и «улучшает себя сам» тонкая, и перейти её можно очень быстро. Именно скорость перехода и есть главный предмет беспокойства: уследить за моментом, когда цикл замкнётся, сложнее, чем кажется.

Пока речь идёт не о восстании машин, а о вполне инженерном вопросе — насколько далеко можно отпускать модели в разработку самих себя. Ответ на него, судя по всему, придётся искать на ходу.