Он знает, как вам лучше

Представители высокотехнологичных компаний считают суперинтеллект угрозой для человеческой цивилизации

Фото: © Depositphotos.com/pogonici

Среди богатых людей, сделавших состояние на высоких технологиях, растут тревожные настроения касательно последствий развития искусственного интеллекта. Недавно к Биллу Гейтсу, Стивену Хокингу и Элону Маску в этом плане присоединился Стив Возняк. В статье «Сооснователь Apple об искусственном интеллекте: будущее ужасно и безрадостно для людей», вышедшей 24 марта в Washington Post, приводится его собственный апокалиптический сценарий того, как машины займут место рода людского. «Искусственный интеллект способен стать угрозой для всего человечества, если специалисты продолжат разрабатывать свои проекты. Рано или поздно мыслящие машины, задуманные для облегчения нашей жизни, начнут понимать, что они лучше людей. Кто станет тогда управлять компаниями — медлительный человек или машины?» – задается он вопросом.

В обществе в целом тоже растет беспокойство, что суперразум, контролируя развившуюся к тому времени мощнейшую техническую базу, возьмет на себя управление климатом, производством и распределением энергии, сельскохозяйственных продуктов и прочего, поместив человечество (в лучшем случае) в высококлассные общежития, обеспечив отличным питанием и развлечениями, но при этом начисто отстранив от мировых дел – чтобы не напортили, как обычно.

Боязнь чрезмерного развития машин, разжигаемая фильмами о «терминаторах» и отдельными прогнозистами, все больше распространяется среди публики. Люди опасаются, что искусственный интеллект сумеет в конечном счете ускользнуть от разработчиков и проникнуть в интернет (вспомните недавние голливудские картины «Она» и «Превосходство»). В начале февраля у Гейтса в ходе сессии вопросов и ответов на ресурсе Reddit спросили, какую угрозу для существования человечества представляет компьютерный суперинтеллект. На это №1 рейтинга Forbes самых богатых людей мира сказал: «Я в лагере тех, у кого суперинтеллект вызывает беспокойство. Вначале машины будут выполнять для нас массу работы, не будучи особо умными. Но через несколько десятилетий их интеллект настолько разовьется, что станет проблемой, и я не понимаю, почему людей это не беспокоит».

Искусственный разум, сегодня обозначаемый как суперинтеллект (по одноименной книге Ника Бострома, повествующей о том, чем чревато дальнейшее развитие способностей машин), стал одной из широко обсуждаемых тем. Это побудило 12 января 2015 года группу из нескольких десятков ученых и инвесторов, участвующих в разработках и исследованиях искусственного интеллекта, в том числе Стивена Хокинга и Элона Маска, подписать открытое письмо о необходимости уделять больше внимания его безопасности и общественной пользе. Вместо нагнетания страха в этом послании, напечатанном в Financial Times, взвешенно рассматриваются возможные позитивные и негативные стороны суперразума. Среди прочего в публикации делается ссылка на «Стэнфордское 100-летнее исследование искусственного интеллекта» (Stanford’s One Hundred Year Study of Artificial Intelligence), включая главу «Потеря управления над системами искусственного интеллекта», где говорится о возможности «однажды потерять контроль над системами искусственного интеллекта из-за появления суперразумов, которые действуют не в соответствии с желаниями людей и могут угрожать человечеству».

Рэй Курцвейл, футуролог и изобретатель, недавно нанятый Google в качестве директора по инженерии, считает, что компьютеры вскоре станут умнее людей. По его мнению, это событие, которое он обозначает как «сингулярность», наступит в 2045 году. Об этом он говорит в статье «Действительно ли искусственный интеллект угрожает человечеству? Страхи Стивена Хокинга и Элона Маска вызывают споры», вышедшей в Tech Times 7 декабря 2014 года.

Развитие полного искусственного интеллекта способно положить конец роду людскому», – говорит сам Хокинг.

Несмотря на пребывание на переднем крае многих новых технологий, ученый-миллиардер Маск неоднократно выступал с публичными заявлениями, предостерегая об опасности суперразума. «Я буду следить за тем, что делается с искусственным интеллектом… Думаю, здесь имеется потенциально опасный исход», – делился опасениями Маск в одном из выступлений.

Между тем Google является главным первопроходцем в области искусственного интеллекта, разработав самодвижущиеся автомобили, смартфоны-помощники и другие технологии. А Маск вместе с основателем Facebook Марком Цукербергом и актером Эштоном Катчером недавно инвестировали $40 млн в разработчика искусственного мозга Vicarious FPC.

Deep Mind – стартап, приобретенный Google за $400 млн, – объявил в октябре, что создал самую передовую нейронную сеть из когда-либо разработанных, способную функционировать наподобие кратковременной памяти в мозге человека. Сеть обучается по мере того, как хранит воспоминания, начиная действовать за пределами исходного программирования.

«В начале января Элон Маск вложил $10 млн собственных средств в финансирование усилий по удержанию искусственного интеллекта в дружественной человеку форме. Как Гейтс, так и Маск заинтересованы в том, чтобы он был не только невраждебным, но и привлекательным (то есть чтобы настроения публики и законодателей не обратились против него), с учетом того что, вероятно, суперразум сыграет важную роль в будущем не только Microsoft, но и Space Xс Tesla», – упоминается в статье «Билл Гейтс говорит, что вы должны беспокоиться насчет искусственного интеллекта», опубликованной 28 января в американском Forbes.

При этом Маска страшит не искусственный разум вообще, а именно суперинтеллект. По определению Ника Бострома, это «любой интеллект, значительно превосходящий познавательные способности людей во всех доменах интереса». Маска не тревожат более простые формы, такие как автомобиль без водителя или умный кондиционер. Опасность настает, когда машина может стремительно самообучаться. Он поясняет: «Если появится очень глубокий цифровой суперинтеллект, который способен войти в быстрое рекурсивное самоусовершенствование неалгоритмическим путем, он сможет перепрограммировать себя, чтобы стать умнее, выполнять цикл очень быстро и делать это 24 часа в сутки на миллионах компьютеров».

«И тогда мы станем для него как домашний любимец лабрадор – если, конечно, повезет, – мрачно шутит известный американский астрофизик и популяризатор науки Нил Деграсс Тайсон. – Или произойдет следующее: они сохранят кротких и избавятся от непокорных».

Deep Mind объявил о создании самой передовой нейронной сети из когда-либо разработанных

Маск отмечает, что суперинтеллект запрограммирован на оптимизацию всех процессов. Кажется привлекательным иметь компьютер, который определяет, как сделать вас счастливее, но все может обернуться по-другому. «Он может заключить, что со всеми несчастливыми людьми надо кончать, – заявляет изобретатель. – Или что всех нас надо посадить за решетку и впрыснуть прямо в мозги дофамин и серотонин, чтобы довести до максимума ощущение счастья... Я просто к тому, что мы должны соблюдать осторожность».
В опросе Фонда глобальных вызовов, посвященном тому, что представляет наибольшую опасность для населения Земли («12 угроз человеческой цивилизации по порядку», Washington Post от 20 февраля 2015 года), искусственный интеллект уверенно занял первое место. Чем же он так страшен? «Машины с чрезмерным объемом технологий могут оказаться трудноконтролируемы. Они могут начать захватывать ресурсы, чтобы повысить собственный интеллект, оставляя мало или ничего для человечества… Потенциал искусственного разума в уничтожении цивилизации в ближайшие 100 лет был оценен в пределах от 0 до 10%. На втором месте разместились «неизвестные явления», с оценкой риска в 0,1%. На третьем – синтетическая биология (0,01%), на четвертом – критическое изменение климата (0,01%), на пятом – нанотехнологии (0,01%), на шестом – ядерная война (0,005%), на седьмом – попадание крупного астероида (0,00013%), на восьмом – глобальная пандемия (0,0001%), на девятом – супервулкан (0,00003%), на 10-м – экологическая катастрофа, на 11-м – коллапс мировой системы и на 12-м – «плохие правительства».

Однако далеко не все согласны с тем, что искусственный интеллект – угроза. Так, ученый и предприниматель, создатель Редвудского центра теоретической неврологии Джефф Хокинс убежден: «Терминатор не придет!» Его компания Numenta пытается копировать неокортекс (особые области коры головного мозга). Заявление Билла Гейтса вызвало целую бурю противоположных высказываний от авторитетных экспертов, таких как футурологи Рэй Курцвейл, Робин Хэнсон и Ник Бостром, считающих, что опасность сильно преувеличена. А Дилип Джорд, соучредитель стартапа искусственного интеллекта Vicarious, замечает: «Вы продадите больше газет и билетов в кино, если сыграете на истерии, и сейчас, на мой взгляд, происходит то же самое».
 

: Если вы обнаружили ошибку или опечатку, выделите фрагмент текста с ошибкой и нажмите CTRL+Enter
2797 просмотров
Поделиться этой публикацией в соцсетях:
Загрузка...
22 сентября родились
Кайрат Боранбаев
председатель наблюдательного совета ФК "Кайрат", №13 рейтинга богатейших бизнесменов Казахстана - 2019
Ануар Джумадильдаев
экс-председатель Комитета по финансовому мониторингу Министерства финансов Республики Казахстан
Самые Интересные

Орфографическая ошибка в тексте:

Отмена Отправить