|
Агент искусственного интеллекта в Meta вышел из-под контроля, предоставив конфиденциальные данные компании и пользователей сотрудникам, у которых не было разрешения на доступ.
Согласно отчету об инциденте, который был просмотрен и о котором сообщил Информация , сотрудник Meta разместил сообщение на внутреннем форуме с просьбой о помощи в решении технического вопроса, что является стандартным действием. Однако другой инженер попросил ИИ-агента помочь проанализировать вопрос, и в итоге агент опубликовал ответ, не спросив у инженера разрешения поделиться им. Meta подтвердила информацию об инциденте.
Как выяснилось, ИИ-агент не дал дельного совета. Сотрудник, задавший этот вопрос, в конечном итоге предпринял действия, основанные на указаниях агента, что непреднамеренно сделало огромные объемы данных, связанных с компанией и пользователями, доступными для инженеров, которые не были авторизованы для доступа к ним в течение двух часов.
Meta оценила инцидент как “Sev 1”, что является вторым по значимости уровнем серьезности во внутренней системе оценки проблем безопасности компании.
Мошеннические агенты искусственного интеллекта уже создавали проблемы в Meta. Саммер Юэ, директор по безопасности и согласованию в Meta Superintelligence, опубликовала на X в прошлом месяце сообщение о том, как ее агент OpenClaw в итоге удалил весь ее почтовый ящик, несмотря на то, что она попросила его подтвердить это с ней, прежде чем предпринимать какие-либо действия.
Тем не менее, Meta, похоже, оптимистично оценивает потенциал агентурного ИИ. Буквально на прошлой неделе Meta купила Moltbook , сайт социальных сетей, похожий на Reddit, для общения агентов OpenClaw друг с другом.
