SkyrimNet: почему ролеплейные NPC начинают повторяться

Мод SkyrimNet, добавляющий в Skyrim ролеплейных NPC на больших языковых моделях, поначалу дал автору почти детскую по силе иммерсию — но продержалась она около 70 часов, пишет Хабр. Потом персонажи начали повторяться: некромантка сводила любой разговор к смерти, бард — к музыке, крестьянка — к страху, и реплику можно было угадать раньше, чем модель её присылала.

Дальше автор провёл серию экспериментов. Он менял биографии персонажей, стирал им воспоминания, запрещал отдельные темы, по-разному формулировал вопросы и переключался между разными LLM. В какой-то момент NPC начали газлайтить игрока, давить моралью и упорно держаться собственной версии происходящего.

Это знакомая проблема ролеплейных агентов: персонаж застревает в узком наборе тем и интонаций, и разговор превращается в цикл. Смена биографии или памяти помогает не всегда — модель всё равно возвращается к привычной роли. Автор разбирает, почему ролеплейный ИИ зацикливается и что происходит, когда пытаешься вытащить его из этого состояния.