Жительницу города Бонита-Спрингс во Флориде задержали за угрозу, которую она набрала не на стене подъезда и не в соцсети, — а в приватном чате с искусственным интеллектом. Как сообщает WINK, 26 сентября Карли Мишель Хеллер написала ИИ-платформе Anthropic — чат-боту Claude, — что собирается «устроить стрельбу» в офисе шерифа округа Ли. На следующий день, по данным полицейского отчёта, та же пользовательница добавила: обзавелась новым стволом. Казалось бы — личная переписка. Но диалог ушёл прямиком в полицию. Выговорилась — и получила уголовное дело.
Дневник, который настучал
Как это вообще возможно? Оказывается, платформа Anthropic отслеживает тревожные формулировки — и, по словам следователей, сработал именно фильтр ключевых фраз. Из-за серьёзности сказанного система передала переписку живым модераторам. Те оценили угрозу — и позвонили правоохранителям.
Дальше дело техники: сыщики установили личность, приехали к Хеллер домой и задержали без сопротивления, а расследование принял детектив разведотдела шерифской службы. Полиции женщина объяснила просто: ИИ она использовала как личный дневник. Изливала душу машине — а машина вызвала наряд.
Шериф под прицелом — уже не впервые
И это не разовый сбой матрицы. В том же округе Ли на днях задержали 30-летнего Кристофера Эшли Ниммонса — по версии следствия, он выложил сгенерированное ИИ изображение, где шериф Кармине Марчено в форме и с раной на голове убегает от двоих вооружённых людей. Картинку, как пишет PetaPixel, он разместил под новостью о гибели служебной собаки — полицейского пса Данди. Взяли Ниммонса на обычной остановке машины: внутри нашли телефон и оружие.
Похожие сюжеты множатся по миру — в Сингапуре человека задержали за фейковое фото крокодила в водохранилище, в калифорнийской Санта-Ане полиция распутывала ИИ-снимок ядовитой змеи. ИИ меняет не только работу. Он меняет саму анатомию угрозы. Экран больше не прячет.
Когда «просто поговорить» тянет на статью
Почему реплика в чате способна обернуться реальным сроком? Обвинение Хеллер предъявили по статье 836.10 Уголовного кодекса Флориды — это «письменные угрозы убийством или причинением телесного вреда». Квалификация суровая: фелония второй степени — до 15 лет тюрьмы, до 15 лет пробации и штраф до 10 000 долларов.
По шкале тяжести Флориды это 6-й уровень из десяти — то есть реальный срок, а не условность. Статуту больше века: его приняли ещё в 1913 году. Но в 2021-м в него внесли поправку, которая и решает дело, — теперь неважно, дошла ли угроза до самой жертвы. Достаточно, что её мог увидеть кто-то ещё. Хоть модератор. Вот и весь секрет, почему «личный дневник» стал уликой.
А что платформа? По словам Anthropic, её правила прямо запрещают использовать сервис для угроз и насилия, а при экстренной угрозе жизни или тяжкого вреда компания вправе передать данные полиции. Больше того — закон прямо выводит интернет-сервис из-под удара: отвечает автор, а не платформа.
Формально, соглашаясь с условиями, пользователь это уже принял. Вопрос лишь в том, читал ли он их. Anthropic публично детали работы своих фильтров пока не раскрывает.
Шериф Кармине Марчено назидательности не прячет: ИИ — мощный инструмент, но им легко злоупотребить, а анонимности в таких чатах, по его словам, попросту нет. Защита, впрочем, будет упирать на другое — на контекст и намерения. Сама поправка 2021 года, снявшая требование адресности, вызвала споры — одни увидели в ней защиту, другие риск для свободы слова.
Да и поле зыбкое: как признал отставной спецагент ФБР, суды только нащупывают, как судить угрозы с участием ИИ. Последнее слово — за судом: заседание назначено на ноябрь. До него Хеллер считается невиновной.
