KPMG отозвала отчёт об ИИ: текст сочинила нейросеть, а ссылки не работают

Как сообщает Хабр, расследователи GPTZero проверили документ KPMG, который должен был убедить бизнес активнее внедрять умные алгоритмы. Из 45 ссылок на источники корректно работают только пять. Остальное — выдумка генеративной модели.

Среди прочего алгоритм сочинил истории успеха для банка UBS, лондонского транспорта и Швейцарских железных дорог. Журналисты Financial Times обзвонили эти компании и получили официальные опровержения. Отдельный курьёз: нейросеть сослалась на пресс-релиз 2019 года, подтверждая работу ИИ-агентов, хотя сам термин вошёл в обиход только в 2024-м.

Документ вышел неудобным и для самой KPMG: он занизил долю руководителей, верящих в ИИ, с 71% до 55%, перечеркнув собственную аналитику корпорации. Материал удалили со всех площадок, запущено внутреннее расследование. Руководство потребовало от сотрудников контролировать алгоритмы и вручную проверять каждый факт перед публикацией.

История показательна: генеративный текст выглядит гладко ровно до момента, когда кто-то решает проверить ссылки. В аудите такая проверка — часть профессии, и на этот раз она сработала против собственного отчёта фирмы.