Anthropic выпустила Claude Opus 4.8, и модель возглавила лидерборд ARC-AGI-3 — бенчмарка, который проверяет не запас знаний, а умение разбираться в незнакомой среде без инструкций. Об этом сообщает Хабр. В режиме High Opus 4.8 показала 1,4% на закрытом наборе и 1,5% на публичном лидерборде. Один прогон обошёлся примерно в 10 000 долларов.
Что именно измеряют
ARC-AGI-3 состоит из 135 интерактивных сред. Прежние статичные головоломки заменили на задачи, имитирующие работу ИИ-агентов: незнакомые интерфейсы, дашборды, отсутствие подсказок. Модель должна сама исследовать пространство, вывести правила победы и применить их на следующих уровнях.
Контекст важен: прошлая версия Opus 4.7 набирала 0,18%, GPT-5.5 — 0,43%, люди проходят тест на 100%. То есть прорыв вывел результаты с околонулевой отметки, но разрыв с человеком остаётся почти двукратным по порядку величины.
В чём сдвиг
Главное достижение — не проценты, а смена подхода. Opus 4.8 начала воспринимать среду на уровень абстракции выше: не как набор картинок, а как систему взаимосвязанных объектов. В одной из игр модель вывела правило зеркального отражения к пятому кадру и прошла первый уровень за 24 действия. Opus 4.7 на том же уровне потратила 136 действий, действуя перебором, и логику среды так и не сформулировала.
Новая проблема — упрямство
Обратная сторона: Opus 4.8 уверенно щёлкает ранние уровни, но способна намертво застрять на неверной подцели — туда Opus 4.7 просто не добиралась. В игре dc22 модель прошла уровни с первого по третий, а на четвёртом сожгла около 490 действий, по кругу перебирая пять взаимоисключающих теорий механики и повторяя одинаковые клики. В Anthropic назвали склонность делать поспешные выводы и держаться за них ключевой проблемой релиза.
Что это значит
Для практики сигнал двойной. Агенты научились строить гипотезы о незнакомой среде — это ровно то, что нужно при работе с новыми интерфейсами и дашбордами. Но цена ошибки выросла: модель, уверенная в неверной теории, тратит ресурсы впустую и не умеет вовремя остановиться. Пока 1,5% на ARC-AGI-3 — это не «ИИ догнал человека», а честная отметка того, где мы находимся.
Источник: Telegram: Хабр





Комментарии
Пока нет комментариев — будьте первым.