|
Компания Илона Маска xAI должна быть привлечена к ответственности за то, что позволила своим моделям искусственного интеллекта создавать оскорбительные сексуальные изображения несовершеннолетних, которых можно идентифицировать, утверждали три анонимных истца в иске, поданном в понедельник в федеральный суд Калифорнии.
Трое истцов хотят подать коллективный иск от имени всех, чьи реальные изображения несовершеннолетних были изменены Grok на материалы сексуального содержания. Они утверждают, что xAI не предприняла элементарных мер предосторожности, используемых другими лабораториями frontier labs для предотвращения создания порнографии с изображением реальных людей и несовершеннолетних.
В случае, Джейн Доу 1, 2 Джейн Доу, несовершеннолетний, и Джейн Доу 3, незначительным по сравнению с Х. А. И. Corp и Х. А. И. ООО, был подан в окружной суд США Северного округа Калифорнии.
Другие генераторы изображений с глубоким обучением используют различные методы для предотвращения создания детской порнографии из обычных фотографий. В иске утверждается, что эти стандарты не были приняты xAI.
Примечательно, что если модель позволяет создавать обнаженный или эротический контент на основе реальных изображений, практически невозможно предотвратить создание сексуального контента с участием детей. Публичная реклама Маском способности Grok создавать сексуальные образы и изображать реальных людей в откровенных нарядах в значительной степени отражена в костюме.
Компания не ответила на запрос AGI_LOG о комментариях.
У одной из истиц, Джейн Доу 1, были изменены фотографии из школьного выпускного вечера и ежегодника Grok, на которых она была изображена без одежды. Анонимный информатор, который связался с ней в Instagram, сообщил ей, что фотографии распространяются в Интернете, и отправил ей ссылку на сервер Discord, на котором размещены сексуальные изображения ее и других несовершеннолетних, которых она узнала по школе.
Вторая истица, Джейн Доу 2, была проинформирована следователями уголовного розыска об измененных, сексуализированных изображениях, созданных с помощью стороннего мобильного приложения, основанного на моделях Grok. Третья, Джейн Доу 3, также была уведомлена следователями уголовного розыска, которые обнаружили измененное порнографическое изображение ее на телефоне задержанного ими субъекта. Адвокаты истцов утверждают, что, поскольку для использования третьими лицами по-прежнему требуется код и серверы xAI, компания должна нести ответственность.
Все трое истцов, двое из которых еще несовершеннолетние, говорят, что они испытывают крайнее беспокойство из-за распространения этих изображений и того, что это может означать для их репутации и общественной жизни. Они требуют применения гражданских санкций в соответствии с целым рядом законов, направленных на защиту эксплуатируемых детей и предотвращение корпоративной халатности.
