Почему искусственный интеллект может создать новые формы неравенства и усугубить существующие

16856

Мир обязаны контролировать угрозы, исходящие от ИИ, а также направлять цифровую трансформацию в полезное русло

ФОТО: Alex Knight /pexels.com

В октябре Илон Маск купил Twitter, одну из главных интернет-платформ для общественных коммуникаций, которой пользуются журналисты, учёные, преподаватели, бизнесмены и политики, и сразу же уволил почти всю команду модерации контента, отметив при этом, что вместо них компания будет пользоваться искусственным интеллектом (сокращённо ИИ).

В ноябре сотрудники группы Meta сообщили, что они создали программу ИИ, способную выиграть у большинства людей в стратегическую игру «Дипломатия». В китайском городе Шэньчжэнь чиновники с помощью «цифровых двойников» тысяч мобильных устройств, подключённых к сетям 5G, отслеживают и управляют потоками людей, движением транспорта и потреблением электроэнергии в реальном времени. А после появления новейшей версии чат-бота ChatGPT многие объявили о кончине жанра школьных сочинений.

Иными словами, это был год, когда и так уже серьёзные опасения по поводу методов разработки и использования новых технологий стали ещё более насущными и актуальными. Кто всем этим руководит? Кто должен всем этим руководить? Государственная политика и институты должны быть спланированы так, чтобы гарантировать улучшение мира с помощью инноваций, однако сегодня многие технологии внедряются в полном вакууме. Нам нужны инклюзивные, ориентированные на выполнение миссии структуры управления, которые будут сосредоточены на достижении подлинного общего блага. Умелые правительства смогут направить нынешнюю технологическую революцию на службу общественным интересам.

Взять, к примеру, искусственный интеллект, который «Оксфордский словарь английского языка» широко определяет как «теоретическую и практическую разработку компьютерных систем, способных выполнять задачи, которые обычно требуют человеческого интеллекта, например, визуального восприятия, распознавания речи, принятия решений, переводов между разными языками». ИИ может улучшить нашу жизнь самыми разными способами. Например, он может содействовать увеличению и улучшению управления производством продовольствия, повысив эффективность фермерства и безопасность продуктов питания. Он способен помочь нам в повышении устойчивости к природным катастрофампроектировании энергоэффективных зданийулучшении способов хранения электроэнергииоптимизации внедрения технологий возобновляемой энергетики. Наконец, он способен повысить точность медицинских диагнозов, опираясь на наблюдении и оценки, сделанные врачами.

Такие виды применения ИИ во многих отношениях сделают нашу жизнь лучше. Однако если не будет эффективных правил, искусственный интеллект, скорее всего, создаст новые формы неравенства и усугубит те, что уже существуют сейчас. Не нужно далеко ходить, чтобы обнаружить примеры того, как системы, работающие с помощью ИИ, воспроизводят несправедливые социальные предубеждения. В ходе одного недавнего эксперимента роботы, использующие алгоритм машинного обучения, начали демонстрировать крайний расизм и сексизм. Если не улучшить надзор, алгоритмы, призванные помогать госсектору в управлении социальными пособиями, могут начать дискриминировать семьи, испытывающие реальную нужду. Не меньшую тревогу вызывает тот факт, что в некоторых странах власти уже начали использовать технологии распознавания лиц на основе ИИ для отслеживания политических диссидентов, фактически установив для граждан режим тотальной слежки.

Серьёзную озабоченность вызывает также концентрация рынка. В разработках ИИ (и в контроле над лежащими в основе этой технологии данными) доминирует горстка могущественных, географически крайне сконцентрированных игроков. В период с 2013 по 2021 годы на долю Китая и США приходилось 80% общемировых частых инвестиций в ИИ. Сегодня возник огромный дисбаланс между частными владельцами этих технологий и всеми остальными, то есть нами.

Однако разработке ИИ активно содействуют также колоссальные государственные инвестиции. Это финансирование должно направляться на достижение общего блага, а не на удовлетворение интересов немногих. Нам нужна такая цифровая архитектура, которая более справедливым образом будет распределять выгоды коллективного созидания стоимости. Эпохе лёгкого саморегулирования должен прийти конец. В тех случаях, когда мы позволяем доминировать рыночному фундаментализму, государству и налогоплательщикам приходится постфактум оказывать спасительную помощь (и мы уже видели это во время финансового кризиса 2008 года и пандемии Covid-19), причём обычно с огромными финансовыми издержками и с длительно незаживающими социальными ранами. Более того, в случае с ИИ мы даже не знаем, а будет ли достаточно таких интервенций постфактум. Как недавно отметил журнал The Economist, разработчики ИИ сами часто удивляются мощи своего творения.

К счастью, мы уже знаем, как именно можно предотвратить очередной кризис, вызванный политикой невмешательства (laissez-faire). Нам нужна миссия разработки «продуманно этичного» ИИ, опирающаяся на сильное регулирование и умелые власти, которые будут работать над направлением технологической революции в сторону общих интересов, а не интересов одних лишь акционеров. С таким фундаментом частный сектор сможет присоединиться к широкой работе над повышением безопасности и справедливости технологий.

Эффективный общественный надзор должен гарантировать, чтобы процесс дигитализации и технологии ИИ открывали новые возможности для создания общественной стоимости. Это важнейший принцип разработанных ЮНЕСКО «Рекомендаций по этике ИИ» – нормативного документа, одобренного 193 странами в ноябре 2021 года. Кроме того, важнейшие игроки сегодня серьёзно взялись за эту тему: администрация президента США Джо Байдена предложила законопроект «Биль о правах ИИ», а Евросоюз разрабатывает холистическую систему управления ИИ.

Одновременно мы обязаны добиваться, чтобы сам госсектор использовал ИИ, руководствуясь сильными этическим соображениями. Поскольку ИИ всё чаще применяется при принятии решений, важно гарантировать, чтобы системы ИИ не использовались для подрыва демократии или нарушения прав человека.

Мы также обязаны уменьшить дефицит инвестиций в инновационный и управленческий потенциал самого госсектора. Пандемия Covid-19 подчеркнула необходимость увеличения динамичного потенциала госсектора. Например, без жёстких условий и норм управления частно-государственными партнёрствами частные компании с лёгкостью могут захватывать контроль над процессом.

Проблема в том, что аутсорсинг государственных контрактов всё чаще становится барьером на пути наращивания потенциала госсектора. Правительства должны иметь возможность разрабатывать ИИ сами, чтобы не зависеть от частного сектора в деликатных вопросах, и чтобы сохранять возможность контроля над стратегической продукцией, а также гарантировать соблюдение этических стандартов. У них также должна быть возможность поддерживать обмен информацией и совместимость протоколов и метрик между разными департаментами и министерствами. Всё это требует бюджетных инвестиций в государственный потенциал в соответствии с подходом, ориентированным на выполнение миссии.

В частном секторе сегодня сконцентрировано столько знаний и опыта, что синергия между государственным и частным секторами является одновременно неизбежной и желательной. Ориентация на миссию означает отбор добровольцев – осуществление совместных инвестиций с партнёрами, которые понимают потенциал возглавляемых государством миссий. Главное при этом – дать государству возможность руководить методами внедрения и использования систем ИИ, а не заниматься постоянной игрой в догонялки. Чтобы распределить риски и прибыли государственных инвестиций, власти могут предоставлять государственное финансирование на определённых условиях. Они также могут – и должны – требовать от крупных технологических компаний повышения открытости и прозрачности.

На кону стоит будущее наших обществ. Мы обязаны не просто устранять текущие проблемы и контролировать угрозы, исходящие от ИИ, но и в целом направлять цифровую трансформацию и технологические инновации. Начало нового года – это лучшее время, чтобы начать закладывать фундамент для безграничных инноваций в интересах всех.

Габриэла Рамос, помощник генерального директора по социальным и гуманитарным наукам в ЮНЕСКО

Мариана Маццукато, директор-основатель Института инноваций и общественных целей при Университетском колледже Лондона, председатель Экономического совета «Здравоохранение для всех» при Всемирной организации здравоохранения

© Project Syndicate 1995-2022 

   Если вы обнаружили ошибку или опечатку, выделите фрагмент текста с ошибкой и нажмите CTRL+Enter

Орфографическая ошибка в тексте:

Отмена Отправить