|
Сенатор Элизабет Уоррен (демократ от штата Массачусетс) в понедельник направила письмо министру обороны Питу Хегсету, в котором выразила обеспокоенность по поводу решения Пентагона предоставить компании Илона Маска xAI доступ к секретным сетям.
“Grok, противоречивая модель искусственного интеллекта, разработанная xAI, предоставила пользователям тревожные результаты, в том числе советы о том, как совершать убийства и террористические атаки, генерировать антисемитский контент и материалы о сексуальном насилии над детьми”, - говорится в письме.
Уоррен сказал, что “очевидное отсутствие надлежащих ограждений” у Grok может представлять “серьезные риски для безопасности американского военного персонала и кибербезопасности секретных систем”. Она потребовала от Хегсета предоставить информацию о том, как Министерство обороны планирует “смягчить эти потенциальные риски для национальной безопасности”.
Уоррен не первый, кто выражает тревогу по поводу того, что Grok, скандальный чат-бот xAI, получает доступ к секретным системам. В прошлом месяце коалиция некоммерческих организаций призвала правительство немедленно приостановить развертывание Grok в федеральных агентствах, включая Министерство обороны, после того, как X пользователей неоднократно запрашивали чат-бота превращать реальные фотографии женщин, а в некоторых случаях и детей, в изображения сексуального характера без их согласия. В тот же день, когда Уоррен отправила свое письмо, против xAI был подан коллективный иск, в котором утверждалось, что Grok создал сексуальный контент на основе реальных изображений несовершеннолетних истцов.
Письмо пришло после решения Пентагона отнести Anthropic к группе риска в цепочке поставок после того, как компания, занимающаяся ИИ, отказалась предоставить военным неограниченный доступ к своим системам ИИ. До недавнего времени Anthropic была единственной компанией, занимающейся искусственным интеллектом, у которой были готовые системы для классификации. В разгар этого конфликта Министерство обороны подписало соглашение с OpenAI, а также с xAI об использовании систем искусственного интеллекта двух компаний в засекреченных сетях, согласно Axios .
Высокопоставленный чиновник Пентагона подтвердил, что Grok был разработан для использования в секретных целях, но пока не используется.
“Неясно, какие гарантии или документацию xAI предоставила Министерству обороны о мерах безопасности Grok, методах обработки данных или контроле безопасности, и оценивало ли Министерство обороны эти гарантии, прежде чем, как сообщается, разрешить Grok доступ к секретной системе”, - пишет Уоррен.
Уоррен запросил копию соглашения, которое, как сообщается, было достигнуто между Министерством обороны и xAI об использовании Grok в секретных системах, и объяснение того, как министерство планирует обеспечить, чтобы Grok не подвергался кибератакам и “не допускал утечки конфиденциальной или секретной военной информации”.
(На прошлой неделе бывший сотрудник Департамента эффективности государственного управления Маска, как сообщается, украл личные данные американцев из Управления социального обеспечения и сохранил их на флэш—накопителе - последнее обвинение в связанном с DOGE утечка данных .)
Главный представитель Пентагона Шон Парнелл заявил, что министерство “с нетерпением ожидает внедрения Grok на своей официальной платформе искусственного интеллекта GenAI.mil в самом ближайшем будущем”.
GenAI.mil - это защищенная корпоративная платформа вооруженных сил для создания искусственного интеллекта, которая предоставляет сотрудникам Министерства обороны доступ к большим языковым моделям (LLM) и другим инструментам искусственного интеллекта в одобренных правительством облачных средах. Он предназначен для решения в основном неклассифицированных задач, таких как исследования, составление документов и анализ данных.
