О том, что языковые модели порой сочиняют, знают многие, но на практике поймать вымысел бывает непросто: выдумка выглядит так же гладко, как и правда. Об этом и напомнил канал «Технологии Яндекса» — с набором конкретных приёмов проверки.
Почему модель сочиняет
Главная причина — стремление выдать связный и правдоподобный текст. Ради этого нейросеть достраивает детали: числа, проценты, сроки, фамилии, ссылки на публикации и организации. Именно такие подробности стоит перепроверять в первую очередь — особенно когда речь идёт о медицине, финансах, юридических вопросах и безопасности.
Как проверять
Первый шаг — ссылки. Их нужно открывать самостоятельно: адрес может не работать, уводить на постороннюю страницу или не иметь отношения к делу. На открывшейся странице авторы советуют искать через Ctrl+F конкретную цифру, дату, фамилию или фрагмент цитаты — и убеждаться, что источник подтверждает именно это утверждение, а не просто содержит близкие по смыслу слова.
Второй шаг — не спрашивать у модели, правдив ли её же ответ. Если ложный факт уже появился, объяснение к нему она придумает с той же уверенностью. Вместо этого можно сопоставить ответы разных систем.
Третий шаг — идти к первоисточнику: законы и правила смотреть в официальных документах, корпоративные новости — в пресс-релизах, научные данные — в журналах и на сайтах университетов, а новости — в двух-трёх крупных медиа. И проверять дату публикации: даже верная цифра со временем устаревает — меняются цены, правила сервисов, статистика.
Что это значит
Памятка не открывает ничего нового, но напоминает о важном сдвиге: проверка фактов перестаёт быть задачей журналистов и становится бытовым навыком для всех, кто пользуется чат-ботами. Хорошая новость в том, что для этого хватает браузера и пары минут — правда, привычку придётся выработать.
Источник: Telegram: Технологии Яндекса
Комментарии 2