Экзистенциальная угроза для человечества?

В отличие от ядерного оружия, с ИИ связано много надежд, а не только угроз, а его разрушительный потенциал до сих пор представляется больше теоретическим, чем реальным

Почти 66 лет назад 22 знаменитых учёных из десяти стран, в том числе США и СССР, собрались в канадском городе Пагуош (Новая Шотландия), чтобы определить угрозы, исходящие от ядерного оружия, и мирные пути урегулирования конфликтов между странами. Так родилась международная организация, получившая название «Пагуошская конференция по вопросам науки и мировой политики», или кратко «Пагуошское движение учёных». Хотя мир не избавился от ядерного оружия, усилия этого движения в сфере разоружения оказались достаточно весомыми, чтобы ему вручили Нобелевскую премию мира в 1995 году.

Сегодня миру нужно новое Пагуошское движение, но на этот раз сосредоточенное на теме искусственного интеллекта (ИИ). В отличие от ядерного оружия, с ИИ связано много надежд, а не только угроз, а его разрушительный потенциал до сих пор представляется больше теоретическим, чем реальным. Тем не менее, обе технологии создают экзистенциальные угрозы для человечества. И поэтому ведущие учёные, технологи, философы, специалисты по этике и гуманитарии со всех континентов обязаны собраться, чтобы достичь широкого соглашения о таких правилах управления ИИ, которые получат поддержку на локальном, национальном и глобальном уровнях.

В отличие от изначального Пагуошского движения, в его версии, посвящённой теме ИИ, не придётся разрабатывать форматы с нуля. Уже существует множество инициатив, касающихся управления разработками и применением ИИ. В числе примеров можно назвать «Проект билля о правах ИИ» в США, «Этические рекомендации для заслуживающего доверия ИИ» в Евросоюзе, «Принципы ИИ» в ОЭСР, а также «Рекомендации по этике искусственного интеллекта» в ЮНЕСКО.

Новое Пагуошское движение должно сосредоточить основное внимание на налаживании связей между ключевыми действующими лицами, на согласовании необходимых мер и на обеспечении их широкого внедрения. Для этой работы будут крайне важны институты. Но какого рода институты? И насколько реалистично их создать или наделить полномочиями, чтобы быстро отреагировать на вызов ИИ?

Генеральный секретарь ООН Антониу Гутерреш призывает к «сетевому мультилатерализму», в котором ООН, «международные финансовые учреждения, региональные организации, торговые блоки и так далее» (включая множество неправительственных организаций) будут «теснее и эффективней работать вместе». Но для эффективности эти сети с участием множества стейкхолдеров должны создаваться для выполнения конкретных функций.

В докладе, опубликованном в июле группой ведущих учёных-специалистов по ИИ и экспертов из университетов и технологических компаний, перечислены четыре функции, связанные с ИИ: распространение полезных технологий, гармонизация регулирования, обеспечение безопасности разработок и использования, управление геополитическими рисками.

Понятно, что многие считают главным приоритетом «обеспечение безопасности разработок и использования». В связи с этим уже предпринимаются усилия по созданию такой организации, которая будет выявлять и следить за реальным и потенциальным вредом, исходящим от приложений ИИ. Аналогичной работой занимается Межправительственная группа экспертов по изменению климата (IPCC), которая ведёт мониторинг экзистенциальной угрозы изменения климата. Более того, IPCC уже послужила моделью для «Глобальной обсерватории ИИ», создать которую недавно предложила инициатива «Искусственный интеллект и равенство» (AIEI). По сути, это сеть сетей, которая очень хорошо подходит для аккумулирования знаний из множества различных источников.

В кумулятивных сетях, начиная с «Системы сообщений об инцидентах» американского Агентства по кибербезопасности и безопасности инфраструктуры и заканчивая «Википедией», существует центральный авторитетный хаб, который собирает информацию и аналитику, предоставляемую множеством институтов различных типов (некоторые из них уже являются сетевыми). Однако такой хаб не способен предпринимать быстрые действия на основе собираемой информации. Для управления ИИ понадобится также иерархическая, многосторонняя организация, имеющая полномочия принимать и осуществлять решения.

Что касается функции распространения полезных технологий (для большинства людей это не менее важно, чем предотвращение вреда), то, наверное, лучше всего сработает комбинированная сеть для инноваций и сотрудничества. Инновационные сети обычно состоят из множества широко разбросанных узлов (для обеспечения доступа к максимальному количеству источников новых идей и методов) и ограниченного количества хабов, которые заняты преобразованием идей в действия, коллективным определением наилучшей практики, а также предотвращении эксплуатации. Такие хабы могут быть сосредоточены на конкретных регионах или, например, привязаны к конкретным «Целям устойчивого развития» ООН.

Гармонизация регулирования, включая эксперименты с различными типами регулирования, потребует более широкой, свободной и максимально инклюзивной структуры. Технологии ИИ просто слишком обширны и слишком быстро развиваются, чтобы у одного или даже нескольких централизованных органов регулирования появился шанс управлять ими в одиночку. Вместо этого мы предлагаем широко распределённую сеть с множеством хабов, которая будет осуществлять «совместное цифровое управление».

Наша модель опирается на распределённую архитектуру и систему совместного управления, которую заслуженно хвалят за поддержание стабильности и устойчивости интернета. Несколько десятилетий назад специалисты по новым технологиям при поддержке американского правительства и первых интернет-предпринимателей создали несколько организаций, составивших созвездие с мягкой координацией и получивших особые функциональные обязанности.

«Общество Интернета» (ISOC) продвигает открытый, глобально связанный интернет. «Консорциум Всемирной паутины» (W3C) разрабатывает веб-стандарты. «Форум по управлению интернетом» (IGF) собирает стейкхолдеров для обсуждения насущных вопросов управления. А «Корпорация по управлению доменными именами и IP-адресами» (ICANN) координирует и защищает уникальные идентификаторы в интернете.

Ключ к успеху этих институтов заключался в том, что они работают через распределённые, пиринговые, самоуправляемые сети, которые объединяют широкий спектр стейкхолдеров для совместной разработки норм, правил и рекомендаций по их соблюдению. Например, у ICANN есть десятки самоорганизованных сетей, которые занимаются «Системой доменных имён» (это критически важная система, позволяющая пользоваться интернетом). Кроме того, ICANN координирует другие самоуправляемые сети, включая пять региональных организаций, управляющие распределением IP-адресов в мире.

Такие организации способны справляться с самыми разными вопросами управления – от технических до политических. Когда в 2022 году Россия вторглась в Украину, украинские власти стали требовать, чтобы ICANN удалила доменную зону .ru из главного каталога «Системы доменных имён», известного как «корневая зона». Он управляется 12 организациями, расположенными в четырёх странах, и координируется, но не контролируется ICANN. В конечном итоге «Администрация адресного пространства Интернет» (IANA) отклонила этот запрос.

На конференции, аналогичной Пагуошской и посвящённой теме ИИ, не было бы недостатка ни в предложениях, над которыми следует задуматься, ни в государственных, научных, корпоративных и гражданских партнёрах для взаимодействия. Участники первой Пагуошской конференции отреагировали на призыв интеллектуальных гигантов, в том числе философа Бертрана Рассела и физика Альберта Эйнштейна. Кто выступит с призывом сегодня?

Энн-Мэри Слотер, – бывший директор по политическому планированию в Госдепартаменте США, сейчас гендиректор аналитического центра New America, почётный профессор политологии и международных отношений в Принстонском университете, автор книги «Обновление: От кризиса к трансформации нашей жизни, труда и политики» (издательство Princeton University Press, 2021)

Фади Шехаде, президент и гендиректор ICANN в 2012-2016 годах, сейчас член Группы экспертов высокого уровня при генеральном секретаре ООН по вопросам цифрового сотрудничества

© Project Syndicate 1995-2023 

Популярное
Выбор редактора
Ошибка в тексте