Флоридская полиция задержала женщину по наводке системы безопасности Claude

Как сообщает Хабр, 30-летняя жительница Флориды Карли Мишель Хеллер оказалась под стражей после разговора с чат-ботом Claude. В переписке она обсуждала планы устроить стрельбу в офисе шерифа и, по данным источника, сообщила, что оружие уже куплено.

Защитные механизмы Anthropic распознали в сообщениях серьёзную угрозу. Дальше переписку просмотрел специалист — и передал сигнал правоохранителям. Хеллер задержали дома и предъявили обвинение по преступлению второй степени.

Юридическая опора — статья 836.10 закона Флориды: она наказывает за электронные сообщения с угрозами убийством или телесными повреждениями, включая угрозы стрельбы и теракта. Линия защиты, вероятно, будет строиться на том, что Хеллер никому угрозу не пересылала — то есть её не мог увидеть другой человек.

Для индустрии это показательный кейс: фильтры чат-ботов всё чаще работают как канал раннего оповещения, а не только как инструмент модерации.