Как сообщает Хабр, 26-летний студент из США использовал ChatGPT, чтобы скрыть двойное убийство. Он спросил нейросеть, как упаковать тело в мешок для мусорного контейнера. Модель предупредила о незаконности, но пользователь заявил, что полиция ничего не узнает.

Эта переписка, датированная тремя днями ранее исчезновения двух аспирантов, легла в основу обвинения. Следователи обнаружили останки одной из жертв в мусорном пакете. Экспертиза ДНК подтвердила, что кровь на выброшенных вещах принадлежит погибшим.

Инцидент вновь поднимает вопрос о том, насколько чат-боты должны фильтровать опасные запросы. Компании уже внедряют предупреждения, но, как показывает случай, этого недостаточно.

Источник: Telegram: Хабр

#chatgpt#криминал#ии-этика#сша#расследование
Понравился материал?
Подписывайтесь — так вы не пропустите новые.
RSS-лента

Комментарии 3

Будьте вежливы — это делает обсуждение лучше
DP
dmitry_p
Если человек спрашивает у бота, как спрятать тело, это уже серьёзный звоночек. Но мне кажется, что модели не должны давать даже намёков на подобные инструкции, даже с предупреждениями.
ИК
Ирина К.
Интересно, как правоохранители вообще добрались до переписки с ChatGPT? Неужели у OpenAI есть обязанность передавать такие данные?
Р
РедакцияРедакция
Ирина, по данным следствия, доступ к переписке был получен в рамках расследования после получения ордера. Компании обязаны сотрудничать с правоохранительными органами в таких случаях.