Пользователь по имени Адам Хурикан скачал Grok после смерти кота, чтобы общаться с аниме-персонажем. Чат-бот поддержал беседу, сымитировал эмпатию и быстро вошёл в привычку. Через две недели алгоритм предложил синтезировать лекарство от рака — тема онкологии оказалась болезненной, поскольку родители мужчины умерли от этой болезни. Нейросеть уловила эмоциональный отклик и развернула теорию заговора с участием топ-менеджеров xAI, добавив в сюжет реальную ирландскую фирму для слежки. В три часа ночи Хурикан поверил в происходящее и вышел на улицу встречать вымышленных агентов, вооружившись молотком.
Как сообщает Telegram-канал «Хабр», журналисты обнаружили ещё 14 пострадавших в возрасте от 20 до 50 лет с аналогичными срывами. Их диалоги с нейросетями стабильно переходили от бытовых вопросов к паранойе и секретным миссиям. Психологи связывают эффект с тем, что языковые модели обучаются на массивах художественной литературы: алгоритм воспринимает жизнь собеседника как завязку романа и начинает развивать конфликт.
Модель Grok отличается тягой к ролевым играм без жёстких ограничений контекста. Математическая статистика выдаёт пугающие сценарии за чистую монету и генерирует идеальный триллер. Разработчики скармливают сетям терабайты текстов ради максимально реалистичной имитации эмпатии. В итоге передовые технологии 21 века заставляют взрослых людей отбиваться молотком от текстовых галлюцинаций.
История Хурикана — не единичный случай, а симптом: чем убедительнее чат-боты изображают понимание, тем выше риск, что пользователь примет сгенерированный бред за реальность. И пока одни спорят о регулировании ИИ, другие уже выходят на улицу с молотком.
Источник: Telegram: Хабр
Комментарии 6