Interpult Studio

Неделю назад сегодня 18-летний парень вошел в начальную школу в Ювалде, штат Техас, и совершил последнее из нескончаемой серии бессмысленных убийств в нашей стране. И после этого ужаса — 19 детей погибли, двое учителей погибли, еще 18 получили ранения — внимание вновь обратилось к тому, какую роль платформы могли сыграть в разжигании насилия.

Этот вопрос может показаться как крайне необходимым, так и каким-то образом не относящимся к делу. Необходимо, потому что люди (часто подростки) постоянно арестовывают после угроз в социальных сетяхи дело Увалде еще раз показывает, почему к этим угрозам нужно относиться более серьезно.

И все же также ясно, что проблема насилия с применением огнестрельного оружия в Америке не будет решена на уровне политики платформы или правоприменения. Эту проблему можно решить, только затруднив людям приобретение и использование оружия, особенно штурмовое оружие, фигурирующее в каждой истории, подобной этой.

Но здесь мы ориентируемся на платформы. Имея это в виду, давайте посмотрим, что мы узнали о поведении стрелка в сети за неделю, прошедшую после стрельбы. В нем говорится о проблемах, связанных с безопасностью детей и платформах, о которых я сообщал здесь ранее, и указываются некоторые четкие шаги, которые платформы (и, при необходимости, регулирующие органы) должны предпринять дальше.

Если не считать нескольких личных сообщений, стрелок из Увальде, по-видимому, мало использовал Facebook. Это и Instagram когда-то были платформами по умолчанию для создания подобных угроз, но популярность новых платформ среди молодежи растет. Стрелку из Увалде нравился один по имени Юбо, созданный французской компанией Twelve App. Это приложение для «живого отдыха», похожее на Houseparty, приложение, которым Meerkat стал после того, как в 2015 году помог запустить стриминговое увлечение в Соединенных Штатах.

Он также довольно популярен: по данным исследовательской компании Sensor Tower, только в Соединенных Штатах его скачали более 18 миллионов раз.

Как и Houseparty, Yubo позволяет пользователям транслировать себя в прямом эфире для небольшой группы друзей. Суть в том, что Юбо фокусируется на том, чтобы заводить новых друзей — находить людей со схожими интересами и позволять им общаться. Особенно молодые люди. «Yubo — это социальная платформа для прямых трансляций, которая прославляет истинную сущность молодости», компания говорит. (Возможно, по этой причине он, кажется, привлек больше, чем его доля пожилые мужчины и их нежелательные сексуальные домогательства.)

READ  Концепция Маркетинга - Система Основных Взглядов

Через несколько дней после бойни репортеры обнаружили, что Yubo, по-видимому, был основным социальным приложением стрелка. Он использовал его, среди прочего, чтобы угрожать изнасилованием и стрельбой в школе. Здесь Дэниел А. Медина, Изабель Чепмен, Джефф Винтер и Кейси Толан на CNN:

Три пользователя заявили, что они были свидетелями того, как Сальвадор Рамос угрожал совершить сексуальное насилие или устроить стрельбу в школах через Yubo, приложение, которым пользуются десятки миллионов молодых людей по всему миру.

Все пользователи заявили, что сообщали об аккаунте Рамоса Юбо из-за угроз. Но оказалось, говорят они, что Рамос смог сохранить свое присутствие на платформе. CNN просмотрел одно прямое сообщение Yubo, в котором Рамос якобы отправил пользователю квитанцию ​​на 2000 долларов за покупку онлайн-оружия у производителя огнестрельного оружия из Джорджии.

В Вашингтон постСильвия Фостер-Фрау, Кэт Закшевски, Наоми Никс и Дрю Харвелл нашел похожую модель поведения:

16-летний мальчик из Остина, который сказал, что часто видел Рамоса на панелях Yubo, рассказал журналистам. Почта что Рамос часто делал агрессивные сексуальные комментарии молодым женщинам в приложении и угрожал ему смертью во время одной из панелей в январе.

«Я был свидетелем того, как он домогался девочек и угрожал им сексуальным насилием, например, изнасилованием и похищением», — сказал подросток. «Это не было похоже на единичный случай. Это было часто».

Он и его друзья десятки раз сообщали Юбо об аккаунте Рамоса за издевательства и другие нарушения. По его словам, он так и не получил ответа, и учетная запись оставалась активной.

Yubo сообщил сети, что сотрудничает со следствием, но отказался сообщить какие-либо подробности о том, почему стрелок смог остаться на платформе, несмотря на то, что ему неоднократно сообщали о угрозах.

Может показаться шокирующим, что человек, который неоднократно угрожает насилием и получает за это отчет на платформе, не видит никаких последствий. И все же уже много лет дети говорят нам, что это для них обычное явление.

В мае прошлого года я писал о отчет, основанный на опросе несовершеннолетних, проведенном Thorn, некоммерческая организация, которая создает технологии для защиты детей от сексуального насилия. Вот два вывода из этого опроса, имеющие отношение к делу Увалде: из моей колонки об этом:

  • Дети более чем в два раза чаще используют инструменты блокировки платформы и отчетности, чем рассказывают родителям и другим опекунам о том, что произошло.: 83 процента подростков в возрасте от 9 до 17 лет, сообщивших о сексуальных контактах в Интернете, отреагировали сообщением, блокировкой или отключением звука нарушителя, и только 37 процентов заявили, что рассказали об этом родителю, взрослому, которому доверяют, или сверстнику.
  • Большинство детей, которые блокируют других пользователей или сообщают о них, говорят, что те же самые пользователи быстро находят их снова в Интернете.: более половины детей, заблокировавших кого-то, сказали, что с ними снова связался тот же человек, либо через новую учетную запись, либо через другую платформу. Это верно как для людей, которых дети знали в реальной жизни (54 процента), так и для людей, которых они встречали только в Интернете (51 процент).
READ  3 процесса, которые нужно автоматизировать в маркетинге вашей B2B Saas-компании

Вкратце: большинство детей используют инструменты отчетности платформы вместо рассказывать родителям или другим опекунам об угрозах в Интернете, но в большинстве случаев эти инструменты сообщения неэффективны. В нашем интервью в прошлом году Джули Кордуа, генеральный директор Thorn, сравнила инструменты отчетности платформы с пожарной сигнализацией, у которой были перерезаны провода. В случае с Увальде мы видим, что происходит, когда эти сигналы тревоги не связаны с эффективными механизмами правоприменения.

Если здесь и есть место оптимизму, так это то, что преступники действительно, похоже, отходят от более защищенных платформ к тем, которые менее устоялись и, в некоторых случаях, имеют меньше политик и инструментов правоприменения. Конечно, отчасти это просто свидетельствует об изменении вкусов — Discord и Twitch сегодня гораздо популярнее среди среднего подростка, чем Facebook или, возможно, даже Instagram. Но отчасти это также связано с тем, что Meta, YouTube и Twitter, в частности, вложили значительные средства в модерацию контента, из-за чего злоумышленникам становится труднее безнаказанно угрожать и уклоняться от банов. Это говорит о ценности модерации контента как для компаний, так и для мира в целом.

Просмотрите веб-сайт и историю Yubo, и вы увидите компанию, которая, кажется, стремится к хорошему управлению. Приложение имеет четко размещенные правила сообщества, пусть и не обновлявшиеся с 2020 года. В нем действует политика уклонения от бана. И он использует технологию распознавания лиц, чтобы предотвратить регистрацию пользователей моложе 13 лет.

Компания также заявляет, что использует машинное обучение для сканирования прямых трансляций, чтобы найти плохое поведение, и сканирует текстовые сообщения, чтобы найти личную информацию, которой пользователи могут невольно поделиться, например номера телефонов. Это хорошие, полезные и дорогие инструменты, которых нет на многих других платформах.

В то же время это добровольные меры в мире, где регулирующие органы до сих пор не установили минимальные стандарты для политики в отношении контента, модерации, правоприменения или отчетности о том, что они находят, то есть «прозрачности». Мы знаем, что у Юбо была политика против практически всего, что делал стрелок из Увальде. Мы знаем, что дети видели, что он делает в Интернете, забеспокоились и использовали инструменты отчетности приложения, чтобы попытаться предотвратить это в будущем.

READ  Apple захватила более 60 % глобального рынка смартфонов премиального уровня

И, как это обычно бывает в таких ситуациях, мы ничего не знаем о том, что произошло дальше. Были ли рассмотрены отчеты? Людьми или машинами? Что они нашли?

Платформы, которые позволяют пользователям создавать учетные записи, должны позволять людям сообщать об этих учетных записях о плохом поведении. (Знаете ли вы, что по-прежнему не можете сообщить об учетной записи в iMessage, одной из крупнейших в мире коммуникационных служб?) Платформы также должны сообщать нам, что они делают с этими сообщениями, как индивидуально (лицу, которое сообщило об этом), и в совокупности (чтобы мы могли понять плохое поведение на платформах в целом).

К сожалению, это никак не поможет остановить эпидемию насилия с применением огнестрельного оружия в этой стране. Но это будет выполнять обещание, которое такие приложения, как Yubo, дают своим пользователям, когда они позволяют им сообщать о плохом поведении, — что они примут меры, когда получат их, и будут работать над предотвращением дальнейшего вреда.

Никто не заставлял Yubo создавать системы, которые Cordua от Thorn справедливо называла «пожарной сигнализацией». Но это произошло. Самое меньшее, что сейчас могут сделать Yubo и другие платформы, — предоставить нам некоторые доказательства того, что эти сигналы тревоги действительно подключены.

https://www.theverge.com/23149885/uvalde-online-threads-yubo-moderation-failure

от admin