Как онлайн-тролли угрожают демократии
На 2024 год запланировано более 70 национальных выборов, в том числе в восьми из десяти наиболее густонаселённых стран
Однако одна группа, скорее всего, будет значительно недопредставлена, - женщины. Одной из главных причин является непропорционально большое количество оскорблений, которым в интернете подвергаются женщины-политики и кандидаты, включая угрозы изнасилования и насилия, а развитие искусственного интеллекта, который может быть использован для создания откровенно сексуальных дипфейков, лишь усугубляет эту проблему.
Тем не менее за последний год такие платформы, как Meta, X (ранее Twitter) и YouTube, сделали акцент на умеренности модерации контента и свернули политику, которая раньше сдерживала ненависть, преследования и ложь. Согласно новому отчету, это привело к созданию «токсичной онлайн-среды, которая уязвима к эксплуатации со стороны антидемократических сил, белых расистов и других плохих игроков».
Как мир построили вокруг мужчин и пренебрегают женщинами
Само существование такого понятия, как «женские проблемы», объясняется прос... →
Количество онлайн-атак на женщин в политике уже растет. Четыре из пяти женщин-парламентариев подвергались психологическому насилию, такому как издевательства, запугивания, словесные оскорбления или домогательства, а более чем 40% угрожали нападением, сексуальным насилием или смертью.
Особенно показательными оказались выборы 2020 года в США. Недавний анализ кандидатов в Конгресс показал, что женщины-демократы получали в Facebook в десять раз больше оскорбительных комментариев, чем их коллеги-мужчины. И сразу после того, как кандидат в президенты Джо Байден назначил Камалу Харрис своим кандидатом на пост вице-президента, фейки о Харрис распространялись в Твиттере не менее 3000 раз в час.
Аналогичные тенденции были зафиксированы в Индии, Великобритании, Украине и Зимбабве. Наибольшему количеству оскорблений подвергаются женщины из числа меньшинств, а также те, кто занимает видное место в СМИ или выступает по феминистским вопросам. В Индии каждый седьмой твит о женщинах-политиках является проблематичным или оскорбительным, при этом основной удар агрессии обрушивается на мусульманок и женщин, принадлежащих к маргинализированным кастам.
Несоразмерные нападки на женщин отбивают у них всякое желание выдвигать свои кандидатуры, заставляют их уходить из политики или вынуждают отказываться от онлайн-дискуссий, что наносит ущерб их политической эффективности – и все это ослабляет демократию. В Италии «угрозы изнасилования используются для запугивания женщин-политиков и вытеснения их из публичной сферы», говорит Лаура Болдрини, итальянский политик, занимавшая пост президента палаты депутатов страны, добавляя, что сами политические лидеры нередко высказывают подобные угрожающие заявления. Это создает порочный круг, так как доказано, что нехватка женщин в правительстве приводит к тому, что политика, направленная на сокращение насилия в отношении женщин, оказывается менее эффективной.
Развитие ИИ: почему 2023 год запомнится как момент «большого взрыва»
Несмотря на то, что искусственный интеллект тихо помогает нам на протяжении... →
Технологические компании должны предпринять четыре шага, чтобы противостоять этой тенденции. Во-первых, им следует опубликовать руководящие принципы в отношении того, что представляют собой ненавистнические высказывания, а также угрозы, запугивания и преследования на их платформах. Некоторые технологические гиганты включили в свою политику и даже привели примеры ненавистнических гендерных высказываний. Одним из примеров является политика Google в отношении YouTube.
Во-вторых, платформам необходимо реинвестировать в эффективную модерацию контента во всех странах, а не только в США и Европе. Это означает использование комбинации человеческого капитала и усовершенствованных автоматизированных систем (во время пандемии COVID-19, когда технологические компании больше полагались на алгоритмы, участники кампании во Франции заметили, что разжигание ненависти в Твиттере увеличилось более чем на 40%). Не менее важное значение имеет подготовка специалистов-модераторов для выявления случаев насилия в отношении женщин в интернете в политике и обеспечение более справедливых инвестиций в эффективную модерацию контента. До сих пор неприятная работа по поиску и удалению оскорбительного контента обычно передавалась на аутсорсинг в регионы с более низким уровнем заработной платы.
В-третьих, в новые продукты и инструменты следует внедрять принципы «безопасности по замыслу». Это может означать создание механизмов, которые «увеличивают трение» для пользователей и в первую очередь затрудняют распространение ненавистнических высказываний и дезинформации по гендерному признаку. Компании должны совершенствовать свои методы оценки рисков перед запуском продуктов и инструментов или их внедрением на новый рынок. Важную роль играют инвестиции в инновации, такие как ParityBOT, которые служат инструментом мониторинга и уравновешивания, выявляя проблемные твиты о женщинах-кандидатах и отвечая на них положительными сообщениями.
Наконец, независимый мониторинг со стороны исследователей или гражданских групп поможет обществу отслеживать проблему и то, насколько эффективно с ней справляются технологические платформы. Такой мониторинг потребует от компаний предоставления доступа к своим данным о количестве и характере полученных жалоб с разбивкой по полу, странам и мерам реагирования.
Как Байден и Си срывают низковисящие плоды
Недавняя встреча лидеров двух мировых держав оказалась продуктивнее предыду... →
В контексте отказа компаний, занимающихся социальными сетями, от политики в отношении контента и снижения инвестиций в модерацию, важно отметить, что доля женщин на руководящих должностях в сфере технологий в настоящее время составляет 28% и продолжает снижаться. Если, как и в политике, женщины-лидеры в сфере технологий с большей вероятностью будут бороться с насилием в отношении женщин, эта тенденция может создать аналогичный порочный круг.
Крайне важно, чтобы правительства также предприняли шаги для предотвращения злоупотреблений в интернете по гендерному признаку, которые подрывают демократию. Тунис и Боливия объявили вне закона политическое насилие и притеснения в отношении женщин, а в Мексике недавно был принят закон, предусматривающий наказание до девяти лет лишения свободы для тех, кто создает или распространяет интимные изображения или видео женщин, а также совершает на них нападки в социальных сетях.
В Великобритании правовые нормы, принятые в 2016 и 2018 годах, позволяют преследовать интернет-троллей, которые создают уничижительные хэштеги, занимаются виртуальным моббингом (подстрекательством людей к травле других) или распространяют сфабрикованные фотографии. В 2017 году Германия приняла закон, требующий от платформ удалять разжигающий ненависть или незаконный контент в течение 24 часов, иначе они рискуют получить многомиллионные штрафы (во Франции аналогичная мера была отменена из-за опасений цензуры).
Но даже при существующих законах женщины-политики говорят о «практически постоянных» оскорблениях и сообщают, что сотрудники правоохранительных органов не воспринимают всерьез онлайн-угрозы и нападки. Например, в Великобритании менее 1% случаев, о которых сообщается в отдел по борьбе с преступлениями на почве ненависти в интернете Скотланд-Ярда, заканчиваются предъявлением обвинений. Полицейские и судьи нуждаются в более качественной подготовке, чтобы понимать, как существующие законы могут быть применены к онлайн-насилию в отношении женщин-политиков; слишком многие думают, что это просто «часть работы».
Технологические компании и правительства должны действовать уже сейчас, чтобы обеспечить равное участие мужчин и женщин в выборах в следующем году. Если они этого не сделают, представительные демократии станут менее представительными и менее демократичными.
Подписывайтесь на наш канал в Telegram
