|
Компания Anthropic создала свою публичную идентичность на основе выигрышной идеи о том, что она является компанией, основанной на тщательном использовании искусственного интеллекта. В нем публикуются подробные исследования рисков, связанных с ИИ, работают одни из лучших исследователей в этой области, и он открыто заявляет об ответственности, связанной с созданием такой мощной технологии, — настолько открыто, конечно, что прямо сейчас борется с этим с Министерством обороны. Во вторник, увы, кто-то там забыл поставить галочку.
Это, что примечательно, второй раз за неделю. Несколькими днями ранее Fortune сообщил, что Anthropic случайно сделала общедоступными почти 3000 внутренних файлов, включая черновик записи в блоге, описывающий новую мощную модель, которую компания еще не анонсировала.
Вот что произошло во вторник: когда компания Anthropic выпустила версию 2.1.88 своего программного пакета Claude Code, в нее случайно был включен файл, содержащий почти 2000 файлов исходного кода и более 512 000 строк кода — по сути, полный архитектурный план одного из самых важных продуктов компании. Исследователь безопасности по имени Чаофан Шоу заметил это почти сразу и опубликовал сообщение об этом на X. Заявление Anthropic, сделанное в нескольких изданиях, было небрежным: “Это была проблема с упаковкой, вызванная человеческой ошибкой, а не нарушением безопасности”. (Мы полагаем, что внутри компании все было менее взвешенно)
Claude Code - это не второстепенный продукт. Это инструмент командной строки, который позволяет разработчикам использовать искусственный интеллект Anthropic для написания и редактирования кода и стал достаточно мощным, чтобы выбить из колеи конкурентов. Согласно WSJ, OpenAI прекратила выпуск своего продукта для генерации видео Sora всего через шесть месяцев после его публичного запуска, чтобы переориентировать свои усилия на разработчиков и предприятия — отчасти в ответ на растущую популярность Claude Code.
Утечка информации произошла не из—за самой модели искусственного интеллекта, а из-за программного обеспечения вокруг нее - инструкций, которые сообщают модели, как себя вести, какие инструменты использовать и где ее пределы. Разработчики почти сразу же начали публиковать подробные аналитические материалы, один из которых описал продукт как “продукт для разработчиков производственного уровня, а не просто оболочка для API”.
Будет ли это иметь какое-либо долгосрочное значение, лучше оставить на усмотрение разработчиков. Конкуренты могут счесть архитектуру поучительной; в то же время сфера применения быстро развивается.
В любом случае, вы можете себе представить, что где-то в Anthropic один очень талантливый инженер провел остаток дня, размышляя о том, есть ли у него еще работа. Остается только надеяться, что это не тот инженер или команда инженеров, которые работали ранее на этой неделе.
