Дело о стрельбе в школе с участием OpenAI поднимает новые вопросы о предупреждениях безопасности ИИ и направлении информации в полицию

Практики безопасности ИИ подвергаются пристальному вниманию после случая стрельбы в школе openai с участием канадского подозреваемого, чья онлайн-активность была отмечена за несколько месяцев до нападения.

OpenAI отметила подозреваемого за несколько месяцев до нападения в Tumbler Ridge

Создатель ChatGPT компания OpenAI сообщила, что выявила аккаунт Джесси Ван Рутселаар в июне 2025 года через свои системы обнаружения злоупотреблений за "содействие насильственной деятельности". Однако технологическая компания из Сан-Франциско пришла к выводу, что активность не достигла внутреннего порога для передачи информации правоохранительным органам.

Компания заявила, что конкретно взвешивала, следует ли предупредить Королевскую канадскую конную полицию (RCMP) об этом аккаунте. Более того, она решила не продолжать, посчитав, что сигналы не указывают на неминуемый и достоверный план причинения серьезного физического вреда.

OpenAI впоследствии заблокировала аккаунт в июне 2025 года за нарушение политики использования. Это решение было принято за несколько месяцев до трагедии, которая позже произошла в отдаленной части Британской Колумбии.

Смертельная стрельба в школе в Британской Колумбии

18-летний подозреваемый позже совершил нападение на школу в небольшом городе Tumbler Ridge, убив восемь человек, прежде чем умереть от огнестрельного ранения, нанесенного самому себе. Инцидент, о котором сообщили на прошлой неделе, является одной из самых страшных стрельб в школах в истории Канады и усилил дебаты о том, как технологические компании обрабатывают поведение пользователей с высоким риском.

По данным RCMP, Ван Рутселаар сначала убила свою мать и сводного брата в семейном доме, прежде чем направиться в близлежащую школу. Более того, полиция сообщила, что у стрелка была предыдущая история контактов с правоохранительными органами, связанных с психическим здоровьем, хотя конкретный характер этих взаимодействий не был детализирован.

Полиция сообщила, что жертвами стали 39-летний помощник учителя и пять учеников в возрасте от 12 до 13 лет. Город с населением около 2 700 человек в Канадских Скалистых горах находится более чем в 1 000 км (600 милях) к северо-востоку от Ванкувера, недалеко от границы с Альбертой.

Порог обращения OpenAI в правоохранительные органы и реакция

Объясняя свое решение не обращаться к властям ранее, OpenAI заявила, что ее стандарт для обращения в правоохранительные органы основывается на том, связан ли случай с неминуемым и достоверным риском серьезного физического вреда другим. В то время, по словам компании, она не выявила конкретного или неминуемого планирования, которое могло бы вызвать такое обращение.

Компания отметила, что этот порог обращения предназначен для баланса между конфиденциальностью пользователей и обязательствами по безопасности. Однако это откровение вызвало новые вопросы о том, являются ли существующие критерии эскалации адекватными, когда ранние предупреждающие признаки появляются при взаимодействии пользователей с инструментами ИИ, такими как ChatGPT.

После того как появились новости о стрельбе в школе, сотрудники OpenAI связались с RCMP с подробностями о Ван Рутселаар и исторической активности, связанной с аккаунтом. Wall Street Journal первым сообщил о внутренних обсуждениях компании и последующем обращении.

Заявление компании после трагедии в Tumbler Ridge

В публичном заявлении представитель OpenAI сказал: "Наши мысли со всеми, кого затронула трагедия в Tumbler Ridge. Мы проактивно обратились в Королевскую канадскую конную полицию с информацией о человеке и его использовании ChatGPT, и мы продолжим поддерживать их расследование". Более того, компания подчеркнула свое постоянное сотрудничество с канадскими властями.

Тем не менее, мотив стрельбы остается неясным, и следователи еще не раскрыли, какая, если таковая имеется, прямая связь существует между взаимодействием подозреваемого с ChatGPT и последующим нападением. Тем не менее, дело обострило глобальное внимание к тому, как платформы ИИ обнаруживают, оценивают и реагируют на потенциальные угрозы.

Самое смертоносное нападение в Канаде с 2020 года

Власти назвали нападение в Tumbler Ridge самым смертоносным подобным нападением в Канаде с 2020 года, когда вооруженный человек в Новой Шотландии убил 13 человек и устроил пожары, которые привели к смерти еще девяти. Однако недавнее событие имеет дополнительное измерение, потому что оно пересекается с развивающимися обязанностями поставщиков ИИ.

Поскольку политики и правоохранительные органы рассматривают обстоятельства, эпизод стрельбы в школе openai, вероятно, подогреет дебаты о том, когда и как компании ИИ должны эскалировать касающееся поведение пользователей властям, и достаточно ли существующие стандарты обращения адресуют возникающие цифровые риски.

В заключение, трагедия в Британской Колумбии подчеркивает сложный баланс между конфиденциальностью, оценкой рисков и общественной безопасностью, поскольку платформы ИИ становятся глубоко встроенными в повседневную жизнь, заставляя как регуляторов, так и технологические компании пересмотреть свои протоколы обработки потенциальных угроз.