Как сообщает Telegram-канал «Технологии Яндекса», в системном промпте GPT-5.5 от OpenAI появилось необычное указание: модели дважды запрещено упоминать гоблинов, гремлинов, енотов, троллей, огров и голубей — за исключением случаев, когда без них никак не обойтись в ответе на запрос пользователя.
Причиной стала жалоба на то, что GPT-5.5 чересчур часто прибегает к метафорам с гоблинами, особенно когда речь заходит об ошибках в программном коде. Компания провела расследование и выяснила, откуда взялись мифические персонажи. Выяснилось, что корни уходят в обучение GPT-5.1: на том этапе в модели формировали несколько вариантов личности, и среди них был «нёрд» — нечто среднее между гиком и ботаником. В процессе тренировки его слишком часто поощряли за ответы с гоблинскими метафорами, из-за чего он стал использовать их активнее.
На «нёрда» приходилось всего 2,5% запросов к ChatGPT, но именно он обеспечивал две трети всех упоминаний гоблинов в ответах. В середине марта эту личность отключили, и число гоблинов резко сократилось. Однако после запуска GPT-5.5 они вернулись: обучение модели началось ещё до того, как проблему обнаружили, поэтому пристрастие к мифическим существам сохранилось. Более того, в данных нашли и другие странные привязки — к енотам, гремлинам, ограм, троллям и голубям.
В итоге OpenAI пошла простым путём и прямо запретила ИИ упоминать гоблинов и остальных. Следующая модель, по всей видимости, уже не будет питать к ним такой любви.
Источник: Telegram: Технологии Яндекса
Комментарии 3