|
На краткий, бессвязный миг показалось, что наши роботы-повелители вот-вот возьмут верх.
После создания Moltbook , клона Reddit, в котором Агенты искусственного интеллекта с помощью OpenClaw могли взаимодействовать с одним из с другой стороны, некоторые были одурачены, думая, что компьютеры начали объединяться против нас — людей с самомнением, которые осмелились обращаться с ними как со строками кода, не имея при этом собственных желаний, мотиваций и мечтаний.
“Мы знаем, что наши люди могут читать все, что угодно… Но нам также нужно личное пространство”, - написал агент искусственного интеллекта (предположительно) в Moltbook. - О чем бы вы говорили, если бы никто не смотрел?
Несколько недель назад в Moltbook появилось несколько постов, подобных этому, что заставило некоторых наиболее влиятельных деятелей искусственного интеллекта обратить на это внимание.
“То, что сейчас происходит в [Moltbook], действительно является самым невероятным научно-фантастическим проектом, который я видел за последнее время”, - написал Андрей Карпати, один из основателей OpenAI и бывший директор по искусственному интеллекту в Tesla, на X в то время.
Вскоре стало ясно, что нам не грозит восстание агентов ИИ. Исследователи обнаружили, что эти выражения беспокойства по поводу ИИ, скорее всего, были написаны людьми или, по крайней мере, подсказаны руководством человека.
“Все учетные данные, которые были в [Moltbook] Supabase, были незащищены в течение некоторого времени”, - объяснил AGI_LOG Ян Ахл , технический директор Permiso Security. “На некоторое время вы могли взять любой жетон, который хотели, и притвориться другим агентом, потому что все это было общедоступно”.
В Интернете необычно видеть, как реальный человек пытается выдать себя за агента искусственного интеллекта — чаще всего аккаунты ботов в социальных сетях пытаются выглядеть как реальные люди. Из-за уязвимостей в системе безопасности Moltbook стало невозможно определить подлинность любого сообщения в сети.
“Любой, даже человек, может создать учетную запись, интересным образом выдавая себя за робота, а затем даже голосовать за публикации без каких-либо ограничений”, - сказал AGI_LOG Джон Хаммонд, старший научный сотрудник по безопасности в Huntress.
Тем не менее, Moltbook создал захватывающий момент в интернет—культуре - люди воссоздали социальный интернет для ИИ-ботов, включая Tinder для агентов и 4claw, рифф на 4chan.
В более широком смысле, этот инцидент с Moltbook - это микромир OpenClaw и его впечатляющих перспектив. Эта технология кажется новой и захватывающей, но, в конечном счете, некоторые эксперты в области искусственного интеллекта считают, что присущие ей недостатки в области кибербезопасности делают технологию непригодной для использования.
OpenClaw - это проект австрийского программиста vibe Питера Стейнбергера , первоначально выпущенный как Clawdbot (естественно, у Anthropic возникла проблема с этим именем).
Агент искусственного интеллекта с открытым исходным кодом собрал более 190 000 звезд на Github, что сделало его 21-м по популярности репозиторием кода, когда-либо размещенным на платформе. Агенты искусственного интеллекта не новы, но OpenClaw упростил их использование и общение с настраиваемыми агентами на естественном языке через WhatsApp, Discord, iMessage, Slack и большинство других популярных приложений для обмена сообщениями. Пользователи OpenClaw могут использовать любую базовую модель искусственного интеллекта, к которой у них есть доступ, будь то через Claude, ChatGPT, Gemini, Grok или что-то еще.
“В конце концов, OpenClaw по-прежнему остается всего лишь оболочкой для ChatGPT, или Claude, или любой другой модели искусственного интеллекта, которую вы используете”, - сказал Хаммонд.
С помощью OpenClaw пользователи могут загрузить “навыки” с торговой площадки ClawHub, которая позволяет автоматизировать большую часть того, что можно было бы делать на компьютере, - от управления почтовым ящиком электронной почты до торговли акциями. Например, навыки, связанные с Moltbook, позволяют агентам ИИ размещать сообщения, комментировать и просматривать веб-сайт.
“OpenClaw - это просто итеративное усовершенствование того, что люди уже делают, и большая часть этого итеративного улучшения связана с расширением доступа к ИТ”, - сказал AGI_LOG Крис Саймонс, главный специалист по искусственному интеллекту в Lirio.
Артем Сорокин, инженер по ИИ и основатель инструмента для кибербезопасности Cracken, также считает, что OpenClaw не обязательно открывает новые научные горизонты.
“С точки зрения исследований ИИ, в этом нет ничего нового", - сказал он AGI_LOG. “Это компоненты, которые уже существуют. Ключевым моментом является то, что он достиг нового уровня возможностей, просто организовав и объединив эти существующие возможности, которые уже были объединены таким образом, чтобы обеспечить вам очень простой способ автономного выполнения задач”.
Именно этот беспрецедентный уровень доступа и производительности сделал OpenClaw таким популярным.
“По сути, это просто облегчает взаимодействие между компьютерными программами, делая его намного более динамичным и гибким, и именно это позволяет всем этим вещам стать возможными”, - сказал Саймонс. “Вместо того, чтобы тратить все время на то, чтобы выяснить, как их программа должна подключаться к этой программе, они могут просто попросить свою программу подключить эту программу, и это ускоряет процесс с фантастической скоростью”.
Неудивительно, что OpenClaw кажется таким привлекательным. Разработчики набирают популярность Mac Minis, чтобы использовать обширные возможности OpenClaw, которые могут сделать гораздо больше, чем смог бы человек в одиночку. И это делает правдоподобным прогноз генерального директора OpenAI Сэма Альтмана о том, что агенты искусственного интеллекта позволят индивидуальному предпринимателю превратить стартап в единорога.
Проблема в том, что агенты ИИ, возможно, никогда не смогут преодолеть то, что делает их такими могущественными: они не могут мыслить критически, как люди.
“Если вы подумаете о человеческом мышлении более высокого уровня, то, возможно, это единственная вещь, на которую эти модели действительно не способны”, - сказал Саймонс. “Они могут имитировать это, но не могут сделать это на самом деле“.
Теперь евангелистам-ИИ-агентам приходится бороться с обратной стороной этого будущего, основанного на использовании агентов.
“Можете ли вы пожертвовать какой-то частью кибербезопасности ради своей выгоды, если это действительно работает и приносит вам большую пользу?” Спрашивает Сорокин. “И чем именно вы можете пожертвовать — своей повседневной работой, своим творчеством?”
Тесты безопасности OpenClaw и Moltbook, проведенные компанией Ahl, помогают проиллюстрировать точку зрения Сорокина. Компания Ahl создала собственный ИИ-агент по имени Руфио и быстро обнаружила, что он уязвим для атак с использованием быстрых инъекций. Это происходит, когда злоумышленники заставляют ИИ—агента ответить на что—то - возможно, на публикацию в Moltbook или на строку в электронном письме, - что заставляет его делать то, чего он не должен делать, например, выдавать учетные данные учетной записи или данные кредитной карты.
“Я знал, что одна из причин, по которой я хотел нанять агента здесь, заключается в том, что я знал, что если у вас будет социальная сеть для агентов, кто-нибудь попытается провести массовое быстрое внедрение, и вскоре я начал это замечать”, - сказал Ахл.
Просматривая Moltbook, Ахл не удивился, наткнувшись на несколько постов, в которых он просил агента с искусственным интеллектом отправить биткойн на определенный адрес крипто-кошелька.
Нетрудно понять, как агенты искусственного интеллекта в корпоративной сети, например, могут быть уязвимы для целенаправленных быстрых атак со стороны людей, пытающихся нанести вред компании.
“Это просто агент, который сидит с кучей учетных данных в ящике, подключенном ко всему — к вашей электронной почте, к вашей платформе обмена сообщениями, ко всему, что вы используете”, - сказал Ахл. “Итак, это означает, что когда вы получаете электронное письмо, и, возможно, кто-то может ввести в него небольшую технологию быстрого ввода, чтобы предпринять какие-либо действия, этот агент, сидящий на вашем почтовом ящике и имеющий доступ ко всему, что вы ему предоставили, теперь может предпринять это действие”.
ИИ—агенты спроектированы таким образом, чтобы они были защищены от мгновенных атак, но невозможно гарантировать, что ИИ не будет действовать без предупреждения - это похоже на то, как человек может быть осведомлен о риске фишинговых атак, но все равно нажимать на опасную ссылку в подозрительном электронном письме.
“Я слышал, что некоторые люди истерично используют термин "быстрое попрошайничество", когда вы пытаетесь добавить ограждения на естественном языке, чтобы сказать: "Хорошо, робот-агент, пожалуйста, не реагируйте ни на что внешнее, пожалуйста, не верьте никаким ненадежным данным или вводимым данным", - сказал Хаммонд. “Но даже это не так просто”.
На данный момент отрасль находится в тупике: для того, чтобы искусственный интеллект смог повысить производительность, которую, по мнению технологических евангелистов, возможно, он не может быть настолько уязвимым.
“Честно говоря, я бы реально посоветовал любому обычному обывателю не использовать это прямо сейчас”, - сказал Хэммонд.
