|
Индия приказала компании Илона Маска X немедленно внести технические и процедурные изменения в своего чат-бота Grok с искусственным интеллектом после того, как пользователи и законодатели отметили появление “непристойного” контента, в том числе измененных ИИ изображений женщин, созданных с помощью этого инструмента.
В пятницу министерство информационных технологий Индии издало приказ, предписывающий компании Маска X принять корректирующие меры в отношении Grok, включая ограничение создания контента, включающего “обнаженную натуру, сексуализацию, материалы откровенного сексуального характера или иные незаконные материалы”. Министерство также предоставило платформе социальных сетей 72 часа на представление отчета о принятых мерах с подробным описанием шагов, предпринятых для предотвращения размещения или распространения контента, который считается “непристойным, порнографическим, вульгарным, непристойным, откровенно сексуального характера, педофильским или иным образом запрещенным законом”.
В приказе, с которым ознакомился AGI_LOG, предупреждалось, что несоблюдение может поставить под угрозу защиту “безопасной гавани” X — юридического иммунитета от ответственности за пользовательский контент в соответствии с законодательством Индии.
Решение Индии последовало за опасениями, высказанными пользователями, которые поделились примерами того, как Grok заставляли изменять изображения людей — в основном женщин — так, чтобы они выглядели одетыми в бикини, что вызвало официальную жалобу от индийского парламентария Приянки Чатурведи. Отдельно, в недавних отчетах отмечались случаи, когда чат-бот с искусственным интеллектом генерировал изображения сексуального характера с участием несовершеннолетних , проблема, которую X признал ранее в пятницу, была вызвана ошибками в мерах предосторожности. Позже эти изображения были удалены.
Однако, как выяснил AGI_LOG, изображения, созданные с помощью Grok, на которых женщины выглядели в бикини с помощью искусственного интеллекта, оставались доступными на X на момент публикации.
Последний приказ был издан через несколько дней после того, как в понедельник министерство информационных технологий Индии опубликовало более широкую рекомендацию для платформ социальных сетей, с которой также ознакомился AGI_LOG, напомнив им, что соблюдение местных законов, регулирующих непристойный и откровенно сексуальный контент, является необходимым условием для сохранения юридического иммунитета от ответственности за материалы, созданные пользователями. В консультативном заключении содержится призыв к компаниям усилить внутренние меры предосторожности и предупреждение о том, что невыполнение этого требования может привести к судебным искам в соответствии с законодательством Индии в области информационных технологий и уголовным законодательством.
“Напоминаем, что несоблюдение вышеуказанных требований должно рассматриваться серьезно и может привести к строгим юридическим последствиям для вашей платформы, ее ответственных сотрудников и пользователей платформы, которые нарушают закон, без какого-либо дополнительного уведомления”, - предупреждается в приказе.
Индийское правительство заявило, что несоблюдение требований может привести к принятию мер против X в соответствии с индийским законодательством в области информационных технологий и уголовной ответственности.
Индия, один из крупнейших в мире цифровых рынков, стала важным примером того, насколько далеко правительства готовы зайти, возлагая ответственность за контент, созданный с помощью искусственного интеллекта, на платформы. Любое ужесточение правоприменительной практики в стране может иметь негативные последствия для глобальных технологических компаний, работающих в различных юрисдикциях.
Приказ был отдан в связи с тем, что компания Маска X продолжает оспаривать в суде некоторые аспекты индийских правил по регулированию контента, утверждая, что полномочия федерального правительства по отмене ограничений могут быть превышены, даже несмотря на то, что платформа выполнила большинство директив о блокировке. В то же время Grok все чаще используется пользователями X для проверки фактов в реальном времени и комментирования новостных событий, что делает его результаты более заметными - и более политически чувствительными - по сравнению с результатами автономных инструментов искусственного интеллекта.
X и xAI не сразу ответили на просьбы прокомментировать распоряжение индийского правительства.
