ИИ превзойдет человека: как обезопасить себя гуманистическим сверхинтеллектом
Тест Тьюринга пройден. Главный вопрос теперь — контроль
РЕДМОНД — Многие десятилетия тест Тьюринга служил путеводной звездой для исследователей искусственного интеллекта (ИИ). Сегодня он уже незаметно пройден. На фоне появления моделей, способных рассуждать, а также ускорения темпов строительства ИИ-инфраструктуры мы прошли как минимум половину пути к сверхинтеллекту, то есть к моменту, когда ИИ превзойдет уровень человека в выполнении всех задач.
Более того, важнейший вопрос нашего времени не в том, превзойдет ли нас ИИ. В некоторых отношениях он нас уже превзошел (попробуйте победить ИИ по уровню общих знаний), во многих других — превзойдет, а в некоторых — мы всегда будем уникальны. И поэтому реальный вопрос таков: можем ли мы настроить ИИ на содействие — а не противодействие — процветанию человека. Вот важнейшая задача нашего времени.
Да, из-за шумихи вокруг ИИ сейчас все сразу начнут закатывать глаза. Я понимаю. Но ставки не могут быть выше. Наука и техника всегда были величайшим двигателем прогресса человечества. За последние 250 лет этот двигатель удвоил продолжительность жизни, вытащил миллиарды людей из нищеты, подарил нам антибиотики, электричество и мгновенную глобальную связь. ИИ станет новой главой в этой истории. Он дает нам наилучший шанс ускорить темпы научных открытий и роста экономики, повысить благосостояние людей. Всякий раз, когда вы слышите о ИИ, стоит помнить об этом потенциале.
Однако правильно воспользоваться потенциалом ИИ удастся только в том случае, если мы создадим его правильно. Если ошибиться, издержки будут огромны. Пока что ни у кого нет обнадеживающих ответов на вопрос, как нам ограничивать и направлять эти системы. Мы оказались в странном положении. Перед нами самая мощная технология в истории, но мы не знаем, как ее контролировать и принесет ли она нам пользу.
Я думаю, что мы можем прорваться сквозь весь этот шум, чтобы понять ее: о ИИ, как и о любой технологии, можно судить по простому тесту. ИИ улучшает жизнь людей? Он однозначно служит людям?
Сейчас, когда мы вступаем в новую фазу развития ИИ, я считаю, что ответом на эти вопросы является гуманистический сверхинтеллект (ГСИ). Это продвинутый ИИ, который разработан так, чтобы оставаться под контролем, быть направляемым и находиться строго на службе человечеству. У проекта четкий смысл: любой ценой избежать создания несдерживаемой структуры с полной автономностью.
Вместо этого мы должны сосредоточиться на сверхинтеллекте для конкретных сфер деятельности. Не стоит просто создавать систему, которая может бесконечно совершенствоваться и самостоятельно устремляться к некой цели, которую она в итоге себе выберет. Ключевой целью должна быть практическая польза для реального мира миллиардов людей. ИИ должен всегда оставаться безоговорочно подчиненным человечеству. Это концепция нашей команды суперинтеллекта в компании Microsoft, а ее базовая миссия — оберегать безопасность человечества и его строгий контроль.
Почему гуманизм? Потому что история демонстрирует долгосрочную способность гуманистической традиции защищать человеческое достоинство. ИИ, созданный в таком духе, сможет принести необычайную пользу без рисков катастрофы. Нам нужна концепция такого ИИ, который будет поддерживать человечество, содействовать креативности, защищать хрупкую окружающую среду, а не отодвигать нас в сторону.
Приз для всего человечества будет огромным: мир быстрого прогресса в уровне жизни и в науке, время новых форм искусства, культуры и роста. Эта поистине вдохновляющая миссия мотивирует меня десятилетиями. Мы должны приветствовать и ускорять разработки этой технологии — величайшего двигателя прогресса, который когда-либо был у человечества. И поэтому она нужна нам в гораздо больших объемах.
ГСИ открывает более безопасный путь вперед. Сохранение ориентации на прорывы в конкретных областях с глубоким социальным эффектом — вот пример такого подхода. Представьте себе ИИ-компаньонов, которые облегчают умственную нагрузку в повседневной жизни, повышают производительность, меняют образование благодаря адаптивному, индивидуальному обучению. Представьте медицинский суперинтеллект, обеспечивающий точную, недорогую диагностику экспертного уровня и способный совершить революцию в мировом здравоохранении.
Эти возможности уже предполагаются нашей медицинской командой в Microsoft AI. Представьте также потенциал достижений с помощью ИИ в сфере чистой энергетики: станет возможна обильная и недорогая генерация электроэнергии, ее хранение, а также удаление углерода. Это позволит удовлетворить быстрый рост спроса и защитить планету.
Благодаря ГСИ все это не будет спекулятивными мечтаниями. Это достижимые цели, способные принести пользу людям во всем мире конкретными улучшениями в повседневной жизни.
Скажу очевидное: люди важнее технологий или ИИ. Сверхинтеллект может быть лучшим изобретением в истории, но только если он будет следовать этому принципу. Это значит требуется подотчетность и прозрачность, а также готовность сделать приоритетом безопасность. Наша цель — не создать суперинтеллект любой ценой, а осторожно двигаться к нему по пути, который будет иметь ограничения и ориентацию на ценности, и всегда фокусируя внимание на благополучии людей.
Каждый должен спросить себя: какой ИИ нам реально нужен? Ответ определит будущее цивилизации. Мой ответ — гуманистический сверхинтеллект.
