Сооснователь Apple: Суперинтеллект - угроза для цивилизации

К Биллу Гейтсу, Стивену Хокингу и Элону Маску, считающим, что "терминаторы" победят человечество, присоединился Стив Возняк

Фото: © Depositphotos.com/pogonici

Среди богатых людей, сделавших состояние на высоких технологиях, растет тревога по поводу последствий развития искусственного интеллекта. Недавно к Биллу Гейтсу, Стивену Хокингу и Элону Маску, которые  опасаются за будущее человечества, присоединился Стив Возняк. В статье «Сооснователь Apple об искусственном интеллекте: будущее ужасно и безрадостно для людей», опубликованной в Washington Post, приводится его собственный апокалиптический сценарий того, как машины займут место рода людского. «Искусственный интеллект способен стать угрозой для всего человечества, если специалисты продолжат разрабатывать свои проекты. Рано или поздно мыслящие машины, задуманные для облегчения нашей жизни, начнут понимать, что они лучше людей. Кто станет тогда управлять компаниями — медлительный человек или машины?» – задается он вопросом.

В обществе тоже растет беспокойство, что в недалеком будущем суперразум, контролируя развившуюся к тому времени мощнейшую техническую базу, возьмет на себя управление климатом, производством и распределением энергии, сельскохозяйственных продуктов и прочего, поместив человечество (в лучшем случае) в высококлассные общежития, обеспечив отличным питанием и развлечениями, но при этом начисто отстранив от мировых дел – чтобы не напортили, как обычно.

Боязнь чрезмерного развития машин, разжигаемая фильмами о «терминаторах» и отдельными прогнозистами, все больше распространяется среди публики. Люди опасаются, что искусственный интеллект сумеет в конечном счете ускользнуть от разработчиков и проникнуть в интернет (вспомните недавние голливудские картины «Она» и «Превосходство»). Не так давно в ходе сессии вопросов и ответов на ресурсе Reddit Билла Гейтса спросили, какую угрозу для существования человечества представляет компьютерный суперинтеллект. На это №1 рейтинга Forbes самых богатых людей мира сказал: «Я в лагере тех, у кого суперинтеллект вызывает беспокойство. Вначале машины будут выполнять для нас массу работы, не будучи особо умными. Но через несколько десятилетий их интеллект настолько разовьется, что станет проблемой, и я не понимаю, почему людей это не беспокоит».

Искусственный разум, сегодня обозначаемый как суперинтеллект (по одноименной книге Ника Бострома, повествующей о том, чем чревато дальнейшее развитие способностей машин), стал одной из широко обсуждаемых тем. Это побудило группу из нескольких десятков ученых и инвесторов, участвующих в разработках и исследованиях искусственного интеллекта, в том числе Стивена Хокинга и Элона Маска, подписать открытое письмо о необходимости уделять больше внимания его безопасности и общественной пользе. Вместо нагнетания страха в этом послании, напечатанном в Financial Times, взвешенно рассматриваются возможные позитивные и негативные стороны суперразума. Среди прочего в публикации делается ссылка на «Стэнфордское 100-летнее исследование искусственного интеллекта» (Stanford’s One Hundred Year Study of Artificial Intelligence), включая главу «Потеря управления над системами искусственного интеллекта», где говорится о возможности «однажды потерять контроль над системами искусственного интеллекта из-за появления суперразумов, которые действуют не в соответствии с желаниями людей и могут угрожать человечеству».

Рэй Курцвейл, футуролог и изобретатель, недавно нанятый Google в качестве директора по инженерии, считает, что компьютеры вскоре станут умнее людей. По его мнению, это событие, которое он обозначает как «сингулярность», наступит в 2045. Об этом он говорит в статье «Действительно ли искусственный интеллект угрожает человечеству? Страхи Стивена Хокинга и Элона Маска вызывают споры», вышедшей в Tech Times.

"Развитие полного искусственного интеллекта способно положить конец роду людскому", – говорит сам Хокинг.

Несмотря на пребывание на переднем крае многих новых технологий, ученый-миллиардер Маск неоднократно выступал с публичными заявлениями, предостерегая об опасности суперразума. «Я буду следить за тем, что делается с искусственным интеллектом… Думаю, здесь имеется потенциально опасный исход», – делился опасениями Маск в одном из выступлений.

Между тем Google является главным первопроходцем в области искусственного интеллекта, разработав самодвижущиеся автомобили, смартфоны-помощники и другие технологии. А Маск вместе с основателем Facebook Марком Цукербергом и актером Эштоном Катчером недавно инвестировали $40 млн в разработчика искусственного мозга Vicarious FPC.

Deep Mind – стартап, приобретенный Google за $400 млн, – объявил в конце 2014, что создал самую передовую нейронную сеть из когда-либо разработанных, способную функционировать наподобие кратковременной памяти в мозге человека. Сеть обучается, поскольку хранит воспоминания, и начинает действовать за пределами исходного программирования.

«В начале января Элон Маск вложил $10 млн собственных средств в финансирование усилий по удержанию искусственного интеллекта в дружественной человеку форме. Как Гейтс, так и Маск заинтересованы в том, чтобы он был не только невраждебным, но и привлекательным (то есть чтобы настроения публики и законодателей не обратились против него), с учетом того что, вероятно, суперразум сыграет важную роль в будущем не только Microsoft, но и Space Xс Tesla», – упоминается в статье «Билл Гейтс говорит, что вы должны беспокоиться насчет искусственного интеллекта», опубликованной в американском Forbes.

При этом Маска страшит не искусственный разум вообще, а именно суперинтеллект. По определению Ника Бострома, это «любой интеллект, значительно превосходящий познавательные способности людей во всех доменах интереса». Маска не тревожат более простые формы, такие как автомобиль без водителя или умный кондиционер. Опасность настает, когда машина может стремительно самообучаться. Он поясняет: «Если появится очень глубокий цифровой суперинтеллект, который способен войти в быстрое рекурсивное самоусовершенствование неалгоритмическим путем, он сможет перепрограммировать себя, чтобы стать умнее, выполнять цикл очень быстро и делать это 24 часа в сутки на миллионах компьютеров».

«И тогда мы станем для него как домашний любимец лабрадор – если, конечно, повезет, – мрачно шутит известный американский астрофизик и популяризатор науки Нил Деграсс Тайсон. – Или произойдет следующее: они сохранят кротких и избавятся от непокорных».

Deep Mind объявил о создании самой передовой нейронной сети из когда-либо разработанных

Маск отмечает, что суперинтеллект запрограммирован на оптимизацию всех процессов. Кажется привлекательным иметь компьютер, который определяет, как сделать вас счастливее, но все может обернуться по-другому. «Он может заключить, что со всеми несчастливыми людьми надо кончать, – заявляет изобретатель. – Или что всех нас надо посадить за решетку и впрыснуть прямо в мозги допамин и серотонин, чтобы довести до максимума ощущение счастья... Я просто к тому, что мы должны соблюдать осторожность».

В опросе Фонда глобальных вызовов, посвященном тому, что представляет наибольшую опасность для населения Земли («12 угроз человеческой цивилизации по порядку», Washington Post), искусственный интеллект уверенно занял первое место. Чем же он так страшен? «Машины с чрезмерным объемом технологий могут оказаться трудноконтролируемы. Они могут начать захватывать ресурсы, чтобы повысить собственный интеллект, оставляя мало или ничего для человечества… Потенциал искусственного разума в уничтожении цивилизации в ближайшие 100 лет был оценен в пределах от 0 до 10%. На втором месте разместились «неизвестные явления», с оценкой риска в 0,1%. На третьем – синтетическая биология (0,01%), на четвертом – критическое изменение климата (0,01%), на пятом – нанотехнологии (0,01%), на шестом – ядерная война (0,005%), на седьмом – попадание крупного астероида (0,00013%), на восьмом – глобальная пандемия (0,0001%), на девятом – супервулкан (0,00003%), на 10-м – экологическая катастрофа, на 11-м – коллапс мировой системы и на 12-м – «плохие правительства».

Однако далеко не все согласны с тем, что искусственный интеллект – угроза. Так, ученый и предприниматель, создатель Редвудского центра теоретической неврологии Джефф Хокинс убежден: «Терминатор не придет!» Его компания Numenta пытается копировать неокортекс (особые области коры головного мозга). Заявление Билла Гейтса вызвало целую бурю противоположных высказываний от авторитетных экспертов, таких как футурологи Рэй Курцвейл, Робин Хэнсон и Ник Бостром, считающих, что опасность сильно преувеличена. А Дилип Джорд, соучредитель стартапа искусственного интеллекта Vicarious, замечает: «Вы продадите больше газет и билетов в кино, если сыграете на истерии, и сейчас, на мой взгляд, происходит то же самое».

: Если вы обнаружили ошибку или опечатку, выделите фрагмент текста с ошибкой и нажмите CTRL+Enter
8966 просмотров
Поделиться этой публикацией в соцсетях:
15 декабря родились
Ахметжан Есимов
председатель правления АО ФНБ «Самрук-Қазына»
Сулеймен Атаниязов
генеральный директор ТОО «Транс Азия Констракшн»
Самые Интересные

Орфографическая ошибка в тексте:

Отмена Отправить