|
Ранее на этой неделе офис генерального прокурора Калифорнии объявил, что проводит расследование в отношении xAI в связи с сообщениями о том, что чат-бот стартапа Grok использовался для создания несанкционированных сексуальные образы женщин и несовершеннолетних . В пятницу правительство направило компании письмо с требованием немедленно принять меры по прекращению производства интимных изображений без согласия сторон и материалов CSAM о сексуальном насилии над детьми.
“Сегодня я отправил xAI письмо о прекращении деятельности, в котором потребовал от компании немедленно прекратить создание и распространение поддельных, не по обоюдному согласию сторон, интимных изображений и материалов о сексуальном насилии над детьми”, - заявил представитель California AG Роб Бонта в пресс-релизе. . “Создание этого материала незаконно. Я полностью ожидаю, что xAI немедленно выполнит требования. В Калифорнии абсолютная нетерпимость к [CSAM]”.
Офис AG также утверждал, что xAI, по-видимому, “содействовал крупномасштабному производству” обнаженных изображений без согласия сторон, которые “используются для преследования женщин и девочек через Интернет”. Агентство заявило, что ожидает, что xAI докажет, что оно предпринимает шаги для решения этих проблем в течение следующих пяти дней.
В основе негативной реакции лежит функция “пикантного” режима Grok, которую xAI создала для создания откровенного контента. Проблема распространилась за пределы Калифорнии; Япония, Канада и Великобритания начали расследование в отношении Grok, а Малайзия и Индонезия временно полностью заблокировали платформу. Несмотря на то, что xAI ввела некоторые ограничения на свои функции редактирования изображений поздно вечером в среду, калифорнийский офис AG выступил с письмом о прекращении производства.
Ранее учетная запись безопасности X осудила такого рода действия пользователей, заявив: “Любой, кто использует Grok или побуждает его создавать незаконный контент, понесет те же последствия, что и при загрузке незаконного контента”. AGI_LOG обратился к xAI за комментарием и получил автоматическое электронное письмо, в котором говорилось, что “Устаревшие СМИ лгут”. TC также обратился в офис California AG за дополнительной информацией.
Появление бесплатных инструментов генеративного ИИ привело к тревожному росту количества материалов сексуального характера без согласия. Этой проблемой занимаются многие платформы, не только X. Эта грязная деятельность привлекла внимание не только руководителей штатов, но и Конгресса. Действительно, в четверг законодатели направили письмо руководителям нескольких компаний, включая X, Reddit, Snap, TikTok, Alphabet и Meta, в котором спрашивали, как они планируют остановить распространение сексуальных фейков.
