|
Meta today сообщила, что приостанавливает доступ подростков к своим персонажам с искусственным интеллектом во всех своих приложениях. Компания упомянула, что не отказывается от своих усилий, но хочет разработать обновленную версию персонажей с искусственным интеллектом для подростков, сообщила AGI_LOG эксклюзивно.
Этот шаг был сделан за несколько дней до того, как в Нью-Мексико должен был состояться судебный процесс по делу против Meta, в котором компания обвиняется в том, что она не предприняла усилий для защиты детей от сексуальной эксплуатации в своих приложениях. Wired сообщила в четверг, что Meta стремилась ограничить раскрытие информации, связанной с влиянием социальных сетей на психическое здоровье подростков.
В октябре компания представила предварительный просмотр родительского контроля для персонажей с искусственным интеллектом, позволяющий родителям и опекунам отслеживать темы и блокировать доступ к определенным персонажам. В Meta заявили, что родители смогут полностью отключить чаты с ИИ-персонажами. Эти функции должны были появиться в этом году, но сейчас компания полностью отключает ИИ-персонажей для подростков, обновляя ИИ-персонажей до более новой версии.
Компания Meta сообщила, что услышала от родителей, что они хотят больше информации и контроля над взаимодействием своих подростков с персонажами, созданными с помощью искусственного интеллекта, и именно поэтому решила внести эти изменения.
Компания ограничивает доступ подростков к контенту с использованием искусственного интеллекта в своих приложениях. Также в октябре Meta запустила функции родительского контроля в Instagram, сосредоточившись на том, чтобы адаптировать опыт взаимодействия подростков с искусственным интеллектом в своих приложениях. Эти функции, основанные на рейтинге фильмов PG-13, ограничивали доступ подростков к определенным темам, таким как экстремальное насилие, обнаженная натура и употребление наркотиков в графических изображениях.
“Начиная с ближайших недель, подростки больше не смогут получать доступ к персонажам с искусственным интеллектом в наших приложениях, пока не будет готово обновленное приложение. Это будет касаться всех, кто поздравил нас с днем рождения в подростковом возрасте, а также людей, которые утверждают, что они взрослые, но мы подозреваем, что они подростки, основываясь на нашей технологии прогнозирования возраста”, - говорится в сообщении компании в обновленном блоге.
Meta добавила, что, когда будут выпущены новые персонажи с искусственным интеллектом, у них будет встроенный родительский контроль. Компания заявила, что новые персонажи будут отвечать в соответствии с возрастом и будут придерживаться таких тем, как образование, спорт и хобби.
Компании, работающие в социальных сетях, находятся под пристальным вниманием регулирующих органов. Помимо вышеупомянутого дела в Нью-Мексико, Meta также предстанет перед судом на следующей неделе, где платформа обвиняется в том, что она вызывает зависимость от социальных сетей. Ожидается, что генеральный директор Марк Цукерберг выступит свидетелем по этому делу, как только начнется судебный процесс.
Помимо социальных платформ, компаниям, работающим с ИИ, пришлось изменить свой опыт работы с подростками после того, как они столкнулись с судебными исками, в которых их обвиняют в пособничестве причинению себе вреда. В октябре Character.AI, стартап, который позволяет пользователям общаться с различными аватарами ИИ, запретил открытые разговоры с чат-ботами для пользователей младше 18 лет . В ноябре стартап заявил, что будет создавать интерактивные истории для детей . За последние несколько месяцев OpenAI добавил новые правила безопасности для подростков в ChatGPT и начал прогнозировать возраст пользователя для применения ограничений на контент .
Исправление: Этот пост был обновлен, чтобы пояснить, что новая версия игры "Персонажи с искусственным интеллектом" будет доступна всем, а не только подросткам. В нее будет включен родительский контроль.
