Ключ к ответственному развитию ИИ
Практически все технологические достижения оказывают как положительное, так и отрицательное воздействие на общество
ЖЕНЕВА – В последние месяцы развитие искусственного интеллекта (ИИ) значительно ускорилось, а генеративные системы ИИ, такие как ChatGPT и Midjourney, быстро преобразуют широкий спектр профессиональной деятельности и творческих процессов. Окно возможностей для направления развития этой мощной технологии в сторону минимизации рисков и максимизации выгод быстро закрывается.
Возможности, основанные на искусственном интеллекте, существуют в континууме с генеративными системами искусственного интеллекта, такими как GPT-4 (последняя версия ChatGPT), попадая в самую продвинутую категорию. С учетом того, что такие системы несут в себе наибольшие перспективы и могут привести к самым коварным ловушкам, они заслуживают особенно пристального внимания со стороны государственных и частных заинтересованных сторон.
Практически все технологические достижения оказывают как положительное, так и отрицательное воздействие на общество. С одной стороны, они способствовали росту экономической производительности и доходов, расширению доступа к информационным и коммуникационным технологиям, увеличению продолжительность жизни людей и улучшению общего благосостояния. С другой стороны, они привели к перемещению работников, стагнации заработной платы, росту неравенства и все большей концентрации ресурсов среди отдельных лиц и корпораций.
«Подрывные инновации»: угрозы и возможности для Казахстана
Досым Сатпаев, Павел Коктышев, Мират Ахметсадыков представляют результаты б... →
ИИ не является исключением. Системы генеративного ИИ открывают широкие возможности в таких областях, как дизайн продуктов, создание контента, открытие лекарств, здравоохранение, персонализированное обучение и оптимизация энергопотребления. В то же время они могут оказаться крайне разрушительными и даже вредными для нашей экономики и общества.
Риски, уже созданные продвинутым ИИ, и те, которые можно обоснованно предвидеть, значительны. Помимо широкомасштабной переориентации рынков труда, системы с многоязычными моделями могут увеличить распространение дезинформации и закрепить деструктивные предрассудки. Генеративный ИИ также грозит усугубить экономическое неравенство. Такие системы могут даже представлять экзистенциальный риск для человечества.
Для некоторых это является поводом, чтобы притормозить исследования в области ИИ. В прошлом месяце более 1000 технологов в области ИИ, от Илона Маска до Стива Возняка, подписали открытое письмо, в котором рекомендовали лабораториям ИИ «немедленно приостановить» обучение систем, более мощных, чем GPT-4, как минимум на шесть месяцев. По их мнению, во время этой паузы, следует разработать и внедрить комплекс общих протоколов безопасности, тщательно проверенных и контролируемых независимыми внешними экспертами.
Открытое письмо и вызванные им оживленные дебаты подчеркивают настоятельную необходимость в том, чтобы заинтересованные стороны приняли участие в широкомасштабном добросовестном процессе, направленном на согласование надежных общих рекомендаций по разработке и внедрению передового ИИ. Усилия такого плана должны учитывать такие проблемы, как автоматизация и замещение рабочих мест, цифровой разрыв и концентрация контроля над технологическими активами и ресурсами, такими как данные и вычислительная мощность. И главным приоритетом должна стать непрерывная работа по устранению системных перекосов в обучении ИИ, чтобы такие системы, как ChatGPT, не воспроизводили или даже не усугубляли их.
Уже появляются предложения по управлению искусственным интеллектом и цифровыми услугами, в том числе в США и Европейском союзе. Также свой вклад вносят такие организации, как Всемирный экономический форум. В 2021 году форум создал Глобальную коалицию по цифровой безопасности, целью которой является объединение заинтересованных сторон в борьбе с вредоносным контентом в интернете и содействие обмену передовым опытом в области регулирования безопасности в интернете. Впоследствии форум создал Инициативу цифрового доверия для обеспечения того, чтобы передовые технологии, такие как ИИ, разрабатывались с учетом интересов общества.
Goldman Sachs: до 300 млн рабочих мест заменит ChatGPT
В США, по оценке банка, развитие ИИ никак не затронет только 30% работников →
Теперь форум призывает к безотлагательному сотрудничеству между государственным и частным сектором для решения проблем, связанных с появлением генеративного ИИ, и достижения консенсуса в отношении последующих шагов по разработке и внедрению технологии. Для содействия прогрессу форум в партнерстве с AI Commons – некоммерческой организацией, поддерживаемой специалистами-практиками в области ИИ, академическими кругами и неправительственными организациями, ориентированными на общее благо, – проведет глобальный саммит по генеративному ИИ в Сан-Франциско 26–28 апреля. Заинтересованные стороны обсудят влияние технологии на бизнес, общество и планету и совместно будут работать над поиском путей по смягчению негативных внешних факторов и достижению более безопасных, устойчивых и справедливых результатов.
Генеративный ИИ изменит мир, нравится нам это или нет. В этот переломный момент в развитии технологии необходим совместный подход, который позволит нам сделать все возможное для обеспечения того, чтобы этот процесс соответствовал нашим общим интересам и ценностям.
Клаус Шваб, основатель и исполнительный председатель Всемирного экономического форума
