|
По собственному признанию генерального директора Сэма Альтмана, сделка OpenAI с Министерством обороны была “определенно поспешной”, и “оптика выглядит не очень хорошо".
После того, как переговоры между Anthropic и Пентагоном провалились в пятницу, президент Дональд Трамп приказал федеральным агентствам прекратить использование технологии Anthropic после шестимесячного переходного периода , а министр обороны Пит Хегсет заявил, что он относит компанию, работающую с ИИ, к группе риска в цепочке поставок.
Затем OpenAI быстро объявила, что она заключила собственную сделку по внедрению моделей в закрытых средах. Поскольку Anthropic заявила, что проводит "красные линии" в отношении использования своей технологии в полностью автономном оружии или массовом домашнем наблюдении, а Альтман сказал, что у OpenAI такие же "красные линии", возникло несколько очевидных вопросов: был ли OpenAI честен в отношении своих гарантий? Почему it смогла достичь соглашения, в то время как Anthropic - нет?
Поскольку руководители OpenAI защищали соглашение в социальных сетях, компания также опубликовала сообщение в блоге, в котором изложила свой подход .
Фактически, в сообщении указывалось на три области, в которых, по его словам, модели OpenAI не могут быть использованы: массовое внутреннее наблюдение, автономные системы вооружения и “автоматизированные решения с высокими ставками (например, такие системы, как "социальный кредит”)".
Компания заявила, что в отличие от других компаний, занимающихся ИИ, которые “уменьшили или убрали свои барьеры безопасности и полагались в первую очередь на политику использования в качестве основных гарантий национальной безопасности”, соглашение OpenAI защищает свои “красные линии” "благодаря более широкому и многоуровневому подходу".
“Мы сохраняем полную свободу действий в отношении нашего пакета безопасности, мы внедряем его через облако, персонал OpenAI, прошедший проверку, находится в курсе событий, и у нас есть надежная договорная защита”, - говорится в блоге. “Все это в дополнение к надежной защите, предусмотренной законодательством США”.
Представители компании добавили: “Мы не знаем, почему Anthropic не смогла заключить эту сделку, и мы надеемся, что они и другие лаборатории рассмотрят ее”.
После публикации поста Майк Масник из Techdirt заявил, что сделка “абсолютно точно допускает внутреннюю слежку”, поскольку в ней говорится, что сбор личных данных будет соответствовать Исполнительному приказу 12333 (наряду с рядом других законов). Масник описал этот приказ как “способ, с помощью которого АНБ скрывает свою внутреннюю слежку, перехватывая сообщения, подключаясь к линиям связи * за пределами США*, даже если они содержат информацию от/о лицах из США”.
В публикации в LinkedIn глава OpenAI по партнерствам в области национальной безопасности Катрина Маллиган утверждала, что большая часть дискуссий вокруг формулировки контракта предполагает, что “единственное, что стоит между американцами и использованием ИИ для массового внутреннего наблюдения и автономного оружия, - это положение о политике единого использования в едином контракте с Военным министерством.”
“Все это работает по-другому, - сказал Маллиган, добавив, - архитектура развертывания имеет большее значение, чем язык контракта [...] Ограничивая наше развертывание облачным API, мы можем гарантировать, что наши модели не смогут быть интегрированы напрямую в системы вооружения, датчики или другое операционное оборудование”.
Альтман также задал вопросы о сделке на X, где он признал, что это было сделано в спешке и привело к существенной негативной реакции на OpenAI (вплоть до того, что Клод из Anthropic опередил OpenAI в ChatGPT в Apple). App Store в субботу). Так зачем же это делать?
“Мы действительно хотели разрядить обстановку и подумали, что предложенная сделка была хорошей”, - сказал Альтман. “Если мы правы и это действительно приведет к деэскалации отношений между [Военным министерством] и промышленностью, мы будем выглядеть гениями и компанией, которая взяла на себя много хлопот, чтобы помочь отрасли. Если нет, то нас по-прежнему будут характеризовать как [...] торопливых и неосторожных”.
