Министр искусственного интеллекта Канады Эван Соломон заявил, что генеральный директор OpenAI Сэм Альтман согласился усилить меры безопасности после массовой стрельбы в Британской Колумбии.

По словам Соломона, компания подготовит отчёт о новых системах, которые смогут выявлять пользователей с высоким уровнем риска и тех, кто нарушает правила платформы. 

Также министр попросит Канадский институт безопасности ИИ проанализировать модель компании и предоставить технические рекомендации его ведомству.

Встреча состоялась после того, как стало известно, что компания заблокировала стрелка из города Тумблер-Ридж в чат-боте ChatGPT в июне прошлого года из-за тревожных сообщений, но не уведомила об этом полицию. По данным компании, новые протоколы безопасности позволили бы передать такие сообщения правоохранителям. Соломон отметил, что произошедшая трагедия «требует ответов и более строгих защитных механизмов».

OpenAI согласилась создать прямой канал связи с королевской полицией Канады (RCMP) и внедрить протоколы безопасности, которые направят пользователей в состоянии психологического кризиса к местным службам помощи. Компания также проверит, не были ли пропущены ситуации, которые следовало передать полиции. Альтман пообещал рассмотреть возможность привлечения канадских экспертов по конфиденциальности и психическому здоровью к анализу случаев с высоким риском.

10 февраля в городе Тумблер-Ридж Джесси ван Рутселар убила восемь человек, включая шестерых детей, после чего покончила с собой. Главный коронер провинции Джатиндер Байдван объявил о проведении расследования, которое изучит возможную роль искусственного интеллекта в этих событиях. Премьер Британской Колумбии Дэвид Эби потребовал от OpenAI извинений.