|
“Икс” Илона Маска - это последняя социальная сеть, которая внедрила функцию, позволяющую помечать отредактированные изображения как "манипулируемые МЕДИА", если верить сообщению Илона Маска. Но компания не уточнила, как она будет делать это определение и включает ли оно изображения, которые были отредактированы с помощью традиционных инструментов, таких как Adobe Photoshop.
Пока что единственная подробная информация о новой функции содержится в загадочном сообщении Илона Маска, в котором говорится: “Предупреждение об измененных визуальных эффектах”, поскольку он повторно публикует объявление о новой функции X, сделанное ] анонимная Учетная запись X Пользователь-дизайнер . Эта учетная запись часто используется в качестве посредника для внедрения новых функций X, поскольку Маск будет делать репосты с нее, чтобы делиться новостями.
Тем не менее, подробностей о новой системе немного. В сообщении DogeDesigner утверждается, что новая функция X может “затруднить для традиционных медиа-групп распространение вводящих в заблуждение клипов или изображений”. В нем также утверждается, что эта функция является новой для X.
До того, как компания была приобретена и переименована в X, компания, известная как Twitter, помечала твиты, использующие манипулируемые, обманчиво измененные или сфабрикованные медиа, в качестве альтернативы их удалению. Его политика не ограничивалась искусственным интеллектом, но включала такие вещи, как “выборочное редактирование, обрезка, замедление или наложение субтитров”, - заявил в 2020 году глава site integrity Йоэль Рот.
Неясно, принимает ли X те же правила или внесла какие-либо существенные изменения в борьбу с искусственным интеллектом. В справочной документации говорится, что в настоящее время существует политика, запрещающая публикацию недостоверных медиа, но она редко применяется, поскольку недавний провал deepfake пользователей, публикующих обнаженные изображения без согласия. появились изображения. Кроме того, даже Белый дом теперь публикует поддельные изображения.
Предупреждение об измененных визуальных элементах https://t.co/0OIz5PvwSz
В названии чего-либо “управляемыми медиа” или “изображением с использованием искусственного интеллекта” могут быть нюансы.
Учитывая, что X является площадкой для политической пропаганды как внутри страны, так и за рубежом, необходимо некоторое понимание того, как компания определяет, что является “отредактированным”, или, возможно, ИИ-сгенерированные или управляемые с помощью искусственного интеллекта данные должны быть задокументированы. Кроме того, пользователи должны знать, существует ли какой-либо процесс разрешения споров, помимо комментариев сообщества X, собранных с помощью краудсорсинга.
Как выяснила компания Meta, когда в 2024 году она представила маркировку изображений с помощью искусственного интеллекта, системы обнаружения легко могут давать сбои. В этом случае было обнаружено, что Meta неправильно помечает реальные фотографии меткой “Сделано с использованием искусственного интеллекта”, даже если они не были созданы с использованием генеративного искусственного интеллекта.
Это произошло потому, что функции искусственного интеллекта все чаще интегрируются в инструменты для творчества, используемые фотографами и художниками-графиками. (Новый пакет Apple Creator Studio, представленный сегодня, является одним из недавних примеров.)
Как оказалось, это привело к путанице в инструментах идентификации Meta. Например, инструмент обрезки Adobe сглаживал изображения перед их сохранением в формате JPEG, запуская детектор искусственного интеллекта Meta. В другом примере Генеративная заливка Adobe с использованием искусственного интеллекта, которая используется для удаления объектов, таких как складки на рубашке или нежелательное отражение, также приводила к тому, что изображения помечались как “Сделанные с использованием искусственного интеллекта”, хотя они были всего лишь отредактировано с помощью инструментов искусственного интеллекта.
В конечном счете, Meta обновила свой ярлык, добавив в него “Информация об искусственном интеллекте, ”, чтобы не помечать изображения как “Сделанные с использованием искусственного интеллекта”, когда это не так.
Сегодня существует орган, устанавливающий стандарты для проверки подлинности и происхождения цифрового контента, известный как C2PA (Коалиция за происхождение и аутентичность контента). Существуют также связанные с этим инициативы, такие как CAI , или Инициатива по аутентификации контента, и Project Origin, направленные на добавление метаданных о происхождении медиаконтента, позволяющих выявить несанкционированный доступ.
Предположительно, реализация X будет основываться на каком-то известном процессе идентификации контента с использованием искусственного интеллекта, но владелец X, Илон Маск, не сказал, что это такое. Он также не уточнил, идет ли речь конкретно об изображениях с использованием искусственного интеллекта или просто обо всем, что не является фотографией, загружаемой в X непосредственно с камеры вашего смартфона. Неясно даже, является ли эта функция совершенно новой, как утверждает DogeDesigner.
X - не единственный канал, который борется с манипулируемыми медиа. Помимо Meta, TikTok также маркирует контент с использованием искусственного интеллекта. Потоковые сервисы, такие как Deezer и Spotify, также расширяют инициативы по идентификации и маркировке музыки с использованием искусственного интеллекта. Google Фото использует C2PA, чтобы указать, как были сделаны фотографии на его платформе. Microsoft, BBC, Adobe, Arm, Intel, Sony, OpenAI и другие входят в руководящий комитет C2PA, в то время как многие другие компании присоединились к нему в качестве членов.
В настоящее время X не указан среди участников , хотя мы связались с C2PA, чтобы узнать, изменилось ли это в последнее время. X обычно не отвечает на запросы о комментариях, но мы все равно спросили.
