|
Обновлённая социальная сеть, которая набрала популярность после смены владельца TikTok в США, столкнулась с серьёзной проблемой модерации. В январе число пользователей превысило 2,5 миллиона, и пользователи сообщили, что приложение не удаляет имена пользователей и хэштеги с расовыми оскорблениями и не модерирует вредоносный контент должным образом.
После получения подсказок от зарегистрированных пользователей AGI_LOG подтвердил наличие широкого спектра расовых оскорблений и разжигания ненависти в именах пользователей. Например, в некоторых именах пользователей может содержаться название самого оскорбления, оскорбление в сочетании с другими словами или несколько оскорблений в одном имени пользователя; другие имена пользователей содержат высказывания ненависти, такие как «Слава Гитлеру».
После того как мы отправили сообщение об этих оскорблениях на общедоступный адрес электронной почты UpScrolled, мы получили ответ, что компания «активно просматривает и удаляет неприемлемый контент» и работает над расширением своих возможностей по модерации. В письме нам рекомендовали не связываться с недобросовестными участниками, пока ситуация не разрешится.
Через несколько дней после сообщения об этой активности в приложении аккаунты с ненормативной лексикой в именах пользователей, которые были указаны на скриншотах, оставались в сети.
Кроме того, оскорбления и разжигание ненависти можно найти в других разделах приложения, включая хэштеги и текст, используемые вместе с фото- или видеоконтентом, сообщает AGI_LOG. Согласно обзору приложения AGI_LOG, в нём был доступен и другой вредоносный контент, включая текстовые сообщения с расистскими оскорблениями и разжиганием ненависти, а также фото- и видеоконтент, прославляющий Гитлера.
AGI_LOG был не одинок в выявлении этой проблемы; ADL также опубликовал в этом месяце сообщение в блоге, отметив, что UpScrolled становится источником антисемитского и экстремистского контента. Компания UpScrolled, основанная в 2025 году, на своём веб-сайте утверждает, что платформа предоставляет каждому голосу «равную силу». По данным поставщика маркетинговой аналитики Appfigures, с июня 2025 года приложение было загружено более 4 миллионов раз на iOS и Android — эта цифра даже превышает показатель, о котором сам стартап сообщал в прошлом месяце.
Но хотя в часто задаваемых вопросах UpScrolled объясняется, что приложение не «подвергает цензуре мнения», в нём указывается, что его политика заключается в ограничении контента, который включает «незаконную деятельность, разжигающую ненависть, высказывания, травлю, домогательства, откровенную наготу, нелицензионные материалы, защищённые авторским правом, или что-либо, направленное на причинение вреда».
Это руководство аналогично большинству современных платформ социальных сетей. Однако очевидно, что компания изо всех сил пытается обеспечить соблюдение своих правил.
Социальные сети часто сталкиваются с такой проблемой, особенно те, которые получают большой приток новых пользователей за короткий период времени. Например, Bluesky столкнулся с проблемами, связанными с неточностями в именах пользователей в июле 2023 года, что привело к угрозам пользователей покинуть сайт.
После первоначального ответа UpScrolled на наш запрос AGI_LOG также получил ответ от пресс-службы во вторник, который направил нас к основателю UpScrolled Иссаму Хиджази, где он рассматривал проблемы, связанные с модерацией контента.
Что нужно для создания более безопасной социальной платформы? @iHijazi рассказывает об этом подробнее. #Обновление #Безопасность пользователей #Бесплатная речь pic.twitter.com/cTUx5wwawR
В видео он подтвердил, что пользователи загружали «вредоносный контент», который противоречит условиям предоставления услуг UpScrolled и убеждениям компании.
«Мы предлагаем каждому свободу выражать и делиться своим мнением в здоровой и уважительной цифровой среде», — сказал Хиджази. По его словам, чтобы создать такую среду, компания «быстро расширяет нашу команду модераторов контента, и мы модернизируем нашу технологическую инфраструктуру, чтобы более эффективно выявлять и удалять вредоносный контент».
