|
Всего за неделю переговоры об использовании Пентагоном технологии Anthropic Claude провалились, администрация Трампа назвала Anthropic источником риска для цепочки поставок , а компания, занимающаяся искусственным интеллектом, заявила, что будет оспаривать это определение в суде.
OpenAI, тем временем, быстро объявила о своей собственной сделке, вызвав негативную реакцию, в результате которой пользователи удалили ChatGPT и подняли Клода из Anthropic на вершину чартов App Store. . И по крайней мере, один руководитель OpenAI уволился из-за опасений, что объявление было сделано в спешке, без надлежащих мер предосторожности.
В последнем выпуске подкаста Equity мы с Кирстен Коросек и Шоном О'Кейном обсудили, что это означает для других стартапов, стремящихся работать с федеральным правительством, особенно с Пентагоном, и Кирстен задалась вопросом: “Собираемся ли мы это сделать?" чтобы увидеть, как мелодия немного меняется?”
Шон отметил, что это необычная ситуация во многих отношениях, отчасти потому, что OpenAI и Claude создают продукты, от которых “никто не может заткнуться”. И, что особенно важно, это спор о том, “как их технологии используются или не используются для убийства людей”, поэтому, естественно, он привлечет более пристальное внимание.
Тем не менее, по мнению Кирстен, такая ситуация должна “заставить любой стартап задуматься”.
Прочтите предварительный просмотр нашей беседы, отредактированный для большей длины и наглядности, ниже.
Кирстен: Мне интересно, начинают ли другие стартапы обращать внимание на то, что произошло с федеральным правительством, в частности с Пентагоном и Anthropic, на эти дебаты и борьбу, и [берут] паузу, чтобы решить, хотят ли они получать федеральные деньги. Не увидим ли мы, что мелодия немного изменится?
Шон: Мне тоже интересно об этом. Я думаю, что в какой-то степени нет, в ближайшей перспективе, хотя бы потому, что когда вы действительно пытаетесь подумать обо всех различных компаниях, будь то стартапы или даже более авторитетные компании из списка Fortune 500, которые работают с правительством и, в частности, с Министерством обороны или Пентагоном, [в течение] некоторого времени у многих из них эта работа проходит незамеченной.
General Motors производит военные автомобили для армии и занимается этим уже очень давно, разрабатывая все электрические и автономные версии этих автомобилей. Подобные вещи происходят постоянно, и они просто никогда по-настоящему не соответствуют духу времени. Я думаю, проблема, с которой OpenAI и Anthropic столкнулись на прошлой неделе, заключается в том, что эти компании производят продукты, которыми пользуется множество людей, и, что более важно, от которых никто не может заткнуться.
Таким образом, к ним приковано такое пристальное внимание, что, естественно, подчеркивает их вовлеченность на таком уровне, с которым, я думаю, большинству других компаний, заключающих контракты с федеральным правительством, и, в частности, с любыми подразделениями федерального правительства, участвующими в военных действиях, необязательно иметь дело.
Единственное предостережение, которое я добавлю к этому, заключается в том, что вокруг этой жаркой дискуссии между Anthropic, OpenAI и Пентагоном очень остро стоит вопрос о том, как их технологии используются или не используются для убийства людей, или в некоторых миссиях, которые приводят к гибели людей. Дело не только в том, что к ним приковано внимание и мы хорошо знакомы с их брендами, но и в дополнительном элементе, который, на мой взгляд, является более абстрактным, когда вы думаете о General Motors как об оборонном подрядчике или о чем-то еще.
Я не думаю, что мы увидим, как Applied Intuition или какие-либо другие компании, позиционирующие себя как компании двойного назначения, сильно отступят, просто потому, что я не вижу, чтобы на это обращали внимание, и просто нет общего понимания того, каким может быть это влияние.
Энтони: Эта история настолько уникальна и характерна для этих компаний и личностей во многих отношениях. Я имею в виду, что было много действительно интересных размышлений о том, какова роль технологий в правительстве? [ИИ] в правительстве? И я думаю, что все это хорошие и заслуживающие внимания вопросы, которые стоит задать и изучить.
Я также думаю, что это очень любопытный подход к рассмотрению некоторых из этих вещей, потому что Anthropic и OpenAI на самом деле не так уж сильно отличаются друг от друга во многих отношениях или позициях, которые они занимают. Это не похоже на то, что одна компания говорит: “Эй, я не хочу работать с правительством”, а другая отвечает: “Да, я хочу”. Или одна говорит: “Вы можете делать все, что хотите”, а [другая] говорит: “Нет, я хочу, чтобы у меня были ограничения”. Оба они, по крайней мере публично, заявляют: “Мы хотим ввести ограничения на использование нашего ИИ”. Просто кажется, что Anthropic гораздо больше настаивает на том, что вы не можете изменять условия таким образом.
И, кроме того, кажется, что существует еще и личностный слой, где генеральный директор Anthropic и Эмиль Майкл, которого многие читатели AGI_LOG, возможно, помнят по его работе в Uber, сейчас являются [главным технологом сотрудник Министерства обороны]. По-видимому, они просто очень не любят друг друга. Сообщается .
Шон: Да, здесь есть очень важный элемент “девушки ссорятся”, который мы не должны упускать из виду.
Кирстен: Да, немного. Есть, но последствия немного серьезнее. Опять же, чтобы немного отвлечься, мы говорим о том, что Пентагон и Anthropic вступили в спор, в котором Anthropic, похоже, проиграли, хотя я должен сказать, что они все еще широко используются военными. Они считаются важнейшей технологией, но OpenAI как бы вмешался в это дело, и ситуация развивается и, вероятно, изменится к моменту выхода этого эпизода.
Обратная реакция была интересной для OpenAI, где мы наблюдали множество удалений ChatGPT, которые, по-моему, выросли на 295% после того, как OpenAI заключила сделку с Министерством обороны.
На мой взгляд, все это является шумихой вокруг действительно важной и опасной вещи, которая заключается в том, что Пентагон стремился изменить существующие условия существующего контракта. И это действительно важно и должно заставить любой стартап задуматься, потому что политическая машина, которая работает прямо сейчас, особенно в Министерстве обороны, кажется, изменилась. Это ненормально. На согласование контрактов на правительственном уровне уходит целая вечность, и тот факт, что они пытаются изменить эти условия, является проблемой.
