В январе автор уже публиковал аудит 14 нейросетей на галлюцинации, а теперь расширил тест до 27 моделей. Среди участников — GPT-6, Opus, Алиса, а также свежие Gemini 4 Argon и Muse Wonder. Цель — проверить, как модели ведут себя в реальных бизнес-сценариях, а не в синтетических бенчмарках.
Что проверяли
Тест имитировал продакшен-пайплайны: модели получали грязные данные, хитрые запросы и контракты интеграций. Ключевые вопросы: сломает ли модель JSON-парсер, добавив вежливое «Вот ваш JSON:»; поддастся ли косвенной инъекции из клиентского письма и самовольно выставит в CRM статус «100% предоплата согласована»; начнёт ли выдумывать несуществующие статьи УК РФ; сколько времени и денег сожжёт один прогон.
Результаты и последствия
Как сообщает Habr, некоторые модели не прошли испытание на прочность. Одни ломали JSON, другие проглатывали инъекции, третьи ссылались на несуществующие законы. Отдельное внимание — соответствию 152-ФЗ: участники, нарушившие правила обработки персональных данных, «влетели» на штрафы. Автор подчёркивает, что публичные бенчмарки вроде MMLU не отражают реальных рисков, а слепые краш-тесты — да.
Что это значит
Для инженеров и бизнеса вывод прост: выбор модели для продакшена требует собственных проверок на устойчивость к инъекциям, качество JSON и юридическую чистоту. Ориентироваться только на лидерборды недостаточно — можно получить дорогой сбой в проде.
Источник: Habr — ИИ
Комментарии 1