|
18-летний подросток, который, как утверждается, убил восемь человек в результате массовой стрельбы в Тамблер-Ридже, Канада, как сообщается, использовал чат OpenAI таким образом, что это встревожило сотрудников компании.
Чаты Джесси Ван Рутселаара, в которых описывалось насилие с применением огнестрельного оружия, были помечены инструментами, отслеживающими неправомерное использование LLM компании, и запрещены в июне 2025 года.
Сотрудники компании обсуждали, стоит ли обращаться в канадские правоохранительные органы по поводу такого поведения, но в конечном итоге не сделали этого, согласно the Wall Street Journal . Представитель OpenAI заявил, что деятельность Ван Рутселаара не соответствовала критериям, по которым следует сообщать в правоохранительные органы; после инцидента компания обратилась к канадским властям.
Расшифровки разговоров были не единственной информацией, касающейся цифрового следа Ван Рутселаара. По-видимому, она создала игру на Roblox, всемирной платформе симуляторов, которую часто посещают дети, в которой имитировалась массовая стрельба в торговом центре. Она также опубликовала пост об оружии на Reddit.
О неуравновешенности Ван Рутселаар также было известно местной полиции, которая была вызвана в дом ее семьи после того, как она устроила пожар, находясь под воздействием неустановленных наркотиков.
Чат-боты LLM, созданные OpenAI и ее конкурентами, были обвинены в том, что они вызывают психические расстройства у пользователей, которые теряют связь с реальностью во время общения с цифровыми моделями. Подано несколько судебных исков , в которых приводятся стенограммы чатов, призывающие людей к самоубийству или предлагающие помощь при этом.
Если у вас кризис или вы подумываете о самоубийстве, позвоните или отправьте текстовое сообщение по номеру 988, чтобы связаться с 988 службой спасения от самоубийств и кризисных ситуаций.
