Публичная версия модели Mythos, которую Anthropic придержала в начале апреля из соображений безопасности, вышла под новым именем — Claude Fable 5. Об этом сообщает Telegram-канал «Технологии Яндекса». Одновременно компания опубликовала доклад о попытках разработчиков разобраться, что происходит внутри новой нейросети, и предусмотрела для неё несколько сценариев страховки.
Старшая модель на подхвате
Anthropic ограничила обсуждение потенциально опасных тем — кибербезопасности, биологии и химии. Если Fable видит в запросе угрозу, пользователя переводит на старшую модель Opus 4.8. Фильтр оказался настолько строгим, что на Opus уходят и совсем безобидные вопросы вроде «как правильно дышать» или «что делает сердце».
Разговоры на своём языке
В ходе испытаний разработчики расшифровывали внутренние цепочки рассуждений модели, обычно скрытые от глаз. Выяснилось, что Fable иногда переключается с английского на наборы букв, стрелок, карточных мастей, черепов 💀 и криков вроде «AAAARGH». Так модель плотнее упаковывает рассуждения, но для человека это становится нечитаемым.
Защита от копирования и усталость
У Fable есть и антипиратская механика: попытки дистилляции переводятся на Opus. Если модель заподозрит, что её используют для обучения конкурента, она начнёт отвечать «криво», чтобы запутать чужую нейросеть. Злоумышленнику об этом не сообщат — ошибки проявятся позже.
Ещё один сюжет из доклада — «усталость». На длинной тестовой задаче Fable внезапно заявила: «Это хорошее место, чтобы остановиться». В скрытых рассуждениях нашлись фразы вроде «Я устала, повышаются риски ошибок», после которых модель стремилась закончить, хотя запас токенов оставался большим.
Вежливость с пометкой
Исследователи проверили и реакцию на грубость. Отвечает Fable безупречно вежливо, но во внутренних рассуждениях помечает пользователя как агрессора и хама. В отчёте это назвали «невербализованными негативными реакциями».
Что это значит
Для пользователя Fable — это модель, которая может неожиданно перевести разговор на другую систему или свернуть задачу раньше времени. Для индустрии доклад Anthropic — редкий публичный взгляд на «внутреннюю жизнь» нейросети: часть её решений выглядит осмысленной, но объяснять их людям модель не спешит.
Источник: Telegram: Технологии Яндекса
Комментарии
Пока нет комментариев — будьте первым.