|
Генеральный директор OpenAI Сэм Альтман объявил поздно вечером в пятницу, что его компания достигла соглашения, позволяющего Министерству обороны использовать свои модели искусственного интеллекта в секретной сети министерства.
Это следует за громким противостоянием между департаментом, также известным при администрации Трампа как Военное министерство, и конкурирующей компанией OpenAI Anthropic. Пентагон настаивал на том, чтобы компании, занимающиеся искусственным интеллектом, включая Anthropic, разрешали использовать свои модели “во всех законных целях”, в то время как Anthropic стремилась провести красную линию вокруг массовой внутренней слежки и полностью автономного оружия.
В пространном заявлении, опубликованном в четверг , генеральный директор Anthropic Дарио Амодей заявил, что компания “никогда не возражала против конкретных военных операций и не пыталась ограничить использование наших технологий в отдельных случаях”, но он утверждал, что “в узком кругу в большинстве случаев мы считаем, что искусственный интеллект может подрывать демократические ценности, а не защищать их”.
На этой неделе более 60 сотрудников OpenAI и 300 сотрудников Google подписали открытое письмо, в котором просят своих работодателей поддержать позицию Anthropic.
После того, как Anthropic и Пентагон не смогли прийти к соглашению, президент Дональд Трамп раскритиковал “левых псих в Anthropic” в посте в социальных сетях, в котором также содержалось указание федеральным агентствам прекратить использование продуктов компании по истечении шестимесячного периода период выхода.
В отдельном посте министр обороны Пит Хегсет утверждал, что Anthropic пытался “захватить право вето на оперативные решения вооруженных сил Соединенных Штатов”. Хегсет также сказал, что он определяет Anthropic как риск для цепочки поставок: “Начиная с этого момента, ни один подрядчик, поставщик или партнер, который ведет дела с вооруженными силами Соединенных Штатов, не может вести какую-либо коммерческую деятельность с Anthropic”.
В пятницу Anthropic заявила, что “еще не получила прямого сообщения от Военного министерства или Белого дома о статусе наших переговоров”, но настаивала на том, что “оспорит любое определение рисков цепочки поставок в суде”.
Удивительно, но Альтман заявил в своем посте на X, что новый оборонный контракт OpenAI включает в себя меры защиты, направленные на решение тех же проблем, которые стали горячей точкой для Anthropic.
“Двумя из наших наиболее важных принципов безопасности являются запрет на массовую слежку внутри страны и ответственность человека за применение силы, в том числе в отношении автономных систем вооружения”, - сказал Альтман. “DoW согласен с этими принципами, отражает их в законодательстве и политике, и мы включаем их в наше соглашение”.
Альтман сказал, что OpenAI “создаст технические средства защиты, чтобы гарантировать, что наши модели будут вести себя должным образом, чего также хотел DoW”, и направит инженеров в Пентагон, “чтобы помочь с нашими моделями и обеспечить их безопасность”.
“Мы просим DoW предложить такие же условия всем компаниям, занимающимся ИИ, которые, по нашему мнению, должны быть готовы принять все”, - добавил Альтман. “Мы выразили наше сильное желание, чтобы ситуация перешла от юридических и правительственных действий к разумным соглашениям”.
Шарон Голдман из Fortune сообщает, что Альтман сказал сотрудникам OpenAI на общем собрании, что правительство позволит компании создать свой собственный “стек безопасности” для предотвращения злоупотреблений, и что “если модель откажется выполнять задачу, тогда правительство не заставляло бы OpenAI выполнять эту задачу”.
Сообщение Альтмана появилось незадолго до того, как появились новости о том, что правительства США и Израиля начали бомбить Иран, а Трамп призвал к свержению иранского правительства.
