|
Компания YouTube объявила во вторник, что расширяет свою технологию обнаружения сходства, которая идентифицирует глубокие подделки, созданные с помощью искусственного интеллекта, для пилотной группы правительственных чиновников, политических кандидатов и журналистов. Участники пилотной группы получат доступ к инструменту, который обнаруживает несанкционированный контент, созданный с помощью искусственного интеллекта, и позволяет им запрашивать его удаление, если они считают, что он нарушает политику YouTube.
Сама технология была запущена в прошлом году примерно для 4 миллионов создателей YouTube в рамках партнерской программы YouTube после предыдущих тестов .
Подобно существующей на YouTube системе идентификации контента, которая обнаруживает материалы, защищенные авторским правом, в загруженных видео пользователей, функция определения сходства ищет смоделированные лица, созданные с помощью инструментов искусственного интеллекта. Эти инструменты иногда используются для распространения дезинформации и манипулирования восприятием реальности людьми, поскольку они используют фальшивые образы известных личностей, таких как политики или другие правительственные чиновники, чтобы в этих видеороликах с искусственным интеллектом говорить и делать то, чего они не делали в реальной жизни.
С помощью новой пилотной программы YouTube стремится сбалансировать свободу самовыражения пользователей с рисками, связанными с технологией искусственного интеллекта, которая может создать убедительное сходство с общественным деятелем.
“Это расширение на самом деле направлено на обеспечение целостности публичного обсуждения”, - сказал Лесли Миллер, вице-президент YouTube по связям с правительством и общественной политике, на брифинге для прессы перед запуском YouTube во вторник. “Мы знаем, что риски, связанные с имитацией ИИ, особенно высоки для тех, кто работает в гражданском пространстве. Но, предоставляя этот новый щит, мы также тщательно следим за тем, как мы его используем”, - отметила она.
Миллер объяснил, что не все обнаруженные совпадения будут удалены по запросу. Вместо этого YouTube будет оценивать каждый запрос в соответствии со своей существующей политикой конфиденциальности, чтобы определить, является ли контент пародией или политической критикой, которые являются защищенными формами свободы выражения мнений.
Компания отметила, что выступает за эту защиту и на федеральном уровне, поддерживая Закон о запрете подделок в Вашингтоне, который будет регулировать использование искусственного интеллекта для несанкционированного воспроизведения голоса и внешнего сходства человека.
Чтобы воспользоваться новым инструментом, участники пилотного тестирования, имеющие на это право, должны сначала подтвердить свою личность, загрузив селфи и государственное удостоверение личности. Затем они могут создать профиль, просмотреть отображаемые совпадения и, при необходимости, запросить их удаление. YouTube заявляет, что планирует в конечном итоге предоставить пользователям возможность предотвращать загрузку нарушающего права контента до того, как он выйдет в эфир, или, возможно, разрешить им монетизировать эти видео, аналогично тому, как работает система Content ID.
Компания не подтвердила, какие политики или официальные лица будут участвовать в первоначальном тестировании, но заявила, что цель состоит в том, чтобы со временем сделать технологию широко доступной.
Эти видеоролики с использованием искусственного интеллекта будут помечены соответствующим образом, но расположение этих меток различно. Для некоторых видеороликов метка отображается в описании видео, в то время как видеоролики, посвященные более “деликатным темам”, будут отображаться в начале видео. Это тот же подход, который YouTube использует ко всему контенту, созданному с помощью искусственного интеллекта.
“Существует много контента, созданного с помощью искусственного интеллекта, но это различие на самом деле не имеет существенного значения для самого контента”, - объяснил Амджад Ханиф, вице-президент YouTube по продуктам Creator, относительно размещения лейбла. “Это может быть мультфильм, созданный с помощью искусственного интеллекта. И поэтому я думаю, что есть решение о том, относится ли эта категория к тем, которые, возможно, заслуживают очень заметной оговорки”, - сказал он.
YouTube в настоящее время не сообщает, сколько удалений подобных подделок с использованием искусственного интеллекта было произведено с помощью этой технологии обнаружения подделок, находящейся в руках создателей, но отмечает, что количество удаленного контента на данный момент было “очень небольшим”.
“Я думаю, что для многих [создателей] это просто осознание того, что они создают, но на самом деле количество запросов на удаление очень, очень мало, потому что большинство из них оказываются довольно безобидными или дополняющими их бизнес в целом”, - сказал Ханиф.
Возможно, это не относится к подделкам государственных чиновников, политиков или журналистов.
Со временем YouTube планирует распространить свою технологию обнаружения подделок на большее количество областей, включая распознавание голоса и другие объекты интеллектуальной собственности, такие как популярные персонажи.
