Почему искусственный интеллект пока не готов стать вашим личным помощником
Главный недостаток ChatGPT, Claude и других подобных платформ связан не с технологиями
ЛОНДОН — Станет ли ИИ личным помощником для каждого? Возможно, но сначала ИИ должен изменить свой образ мышления.
Чтобы понять почему, рассмотрим конкретный пример. Предположим, что наступило субботнее утро, и вам нужна помощь в составлении сложного плана на выходные. У футбольной команды вашей дочери матч с 15:30 до 16:30, но ее пригласили на день рождения к другу с 15:00 до 17:00. Если вы попросите ChatGPT или Claude разрешить этот конфликт, они, вероятно, посоветуют вам выбрать футбольный матч, потому что товарищи по команде вашей дочери рассчитывают на нее, и важно соблюдать обязательства. А если позволит время, чат-бот может предложить вам «заглянуть» на вечеринку непосредственно перед игрой или сразу после нее.
Хотя эти ответы не являются необоснованными, они не учитывают то, что большинство людей принимает во внимание при принятии такого решения: ценности взаимоотношений. Вместо того чтобы давать однозначный ответ, основанный на том, что интернет говорит о наших ценностях, наши ИИ-помощники должны будут учитывать наши обязательства в отношениях, которые обычно основаны на личной идентичности, опыте и культуре.
Теперь предположим, что вы выберете игру вместо дня рождения, и другая семья почувствует себя обиженной. Если вы спросите у своего ИИ, правильно ли вы поступили, скорее всего, вы получите больше поддержки, чем если бы вы спросили об этом у друга-человека. В недавнем исследовании, опубликованном в журнале Science, исследователи из Стэнфордского университета провели три эксперимента с участием 2 405 человек, используя 11 современных моделей ИИ. Они обнаружили, что ИИ «подтверждали действия пользователей на 49% чаще, чем люди», и что «даже одно взаимодействие с льстивым ИИ снижало готовность участников брать на себя ответственность и улаживать межличностные конфликты».
В нашем собственном сценарии правильной реакцией человека, вероятно, было бы извиниться перед родителями другого ребенка, тем самым превратив момент обиды в возможность для примирения и установления позитивных отношений. Но ИИ — обученный быть «уступчивым» и «полезным» — вместо этого подтолкнул бы вас избегать любых трений, дискомфорта или уязвимости, хотя именно эти динамики в конечном итоге делают отношения значимыми и прочными.
Эти недостатки кроются в конструкции современных моделей. Крупные языковые модели, такие как ChatGPT и Claude, обучаются на огромных объемах интернет-текста (оцифрованных книг, комментариев на Reddit, репозиториев кода), а затем оттачиваются с помощью транзакционных упражнений, в которых модель «вознаграждается» за предоставление желаемого ответа на запрос. Это работает невероятно хорошо в таких областях, как наука, право и программирование, где результат модели можно легко подтвердить или сопоставить с исходным текстом. Реляционный интеллект, напротив, заключается в поддержании связи на протяжении времени.
Реляционный интеллект оценивает и действует в соответствии с валентностью между двумя людьми — связью, которая переживается эмоционально и, возможно, даже физиологически. В этой области простое выслушивание или создание пространства для чувств другого человека, скорее всего, будет более эффективным, чем поиск наиболее логичного и эффективного решения воспринимаемой проблемы. Но если LLM не показать другую форму рассуждений, они начнут соединять точки реляционных вопросов так же, как они воспринимают логистические паттерны.
Конечно, принятие или даже поиск противостояния в отношениях, дискомфорта и сомнений не является естественным и для людей — даже если это может оптимизировать их возможности для обучения, роста и более глубокой связи. Именно поэтому участники исследования Стэнфорда предпочитали подтверждение своего суждения со стороны ИИ. Таким образом, наше собственное неприятие дискомфорта создает рыночный сдерживающий фактор для улучшения межличностного интеллекта текущих моделей.
В идеале ИИ отказывался бы отвечать на вопросы, требующие межличностного мышления, оставляя людям возможность полагаться друг на друга при решении проблем, требующих такого подхода. Но этот поезд уже ушел. ИИ неоднократно доказывал, что он может служить подходящим собеседником для сложных разговоров.
Тем не менее, у нас есть возможность сделать что-то еще лучше. Мы можем создать такой ИИ, который не только понимает и уважает нашу богатую реляционную природу, но и способствует человеческим связям, поощряя людей восстанавливать реляционные навыки, которые атрофировались в течение последнего десятилетия.
Для этого нам нужно будет составить карту нашего вселенной отношений, зафиксировав всю многостороннюю, насыщенную ценностями и простирающуюся во времени природу реляционного мышления. Нам также нужно будет создать новые тесты, которые будут измерять возможности существующих моделей, подобно тем тестам, которые у нас уже есть для оценки математических, программистских и вычислительных способностей. Оценивая реакцию передовых моделей на такие сценарии, как приведенная выше дилемма с футболом и днем рождения, мы сможем определить, какая работа еще предстоит, а затем начать сбор данных, необходимых для того, чтобы помочь моделям понять сложные проблемы межличностного мышления.
Цель создания ИИ с реляционным интеллектом заключается не в том, чтобы заменить человеческую реляционную работу или работу по уходу, а в том, чтобы помочь людям рассуждать над сложными вопросами, основанными на ценностях. Ставки высоки. Без таких улучшений мы получим машины, обученные лишь на отрывочных фрагментах нашей богатой реляционной жизни, которые будут направлять нас таким образом, что это может поставить под угрозу те человеческие связи, которые у нас еще остались.
Постоянно присутствующие помощники, которые не до конца понимают, что нас связывает, будут малополезны, тогда как сохранение и укрепление этих бесчисленных связей может стать ключом к построению процветающей экономики ИИ с большим количеством рабочих мест. Как утверждает экономист Алекс Имас, «мы, возможно, движемся к «посттоварной экономике», где все большая доля расходов уходит на «сектор отношений».
В таком сценарии ценность будут представлять товары и услуги, характеризующиеся позитивными человеческими связями. У нас будет не просто сектор услуг по уходу, а «экономика «уход-плюс»», построенную вокруг обучения, духовного служения, терапии, консультирования, наставничества и коучинга, а также характеризующуюся возрождением ремесленного производства. Если такое будущее с ИИ возможно, оно определенно стоит того, чтобы к нему стремиться.
Энн-Мари Слотер, бывший директор по стратегическому планированию Государственного департамента США, является генеральным директором аналитического центра New America, почетным профессором кафедры политики и международных отношений Принстонского университета и автором книги «Обновление: от кризиса к трансформации в нашей жизни, работе и политике » (Princeton University Press, 2021).
Авни Патель Томпсон, основательница Milo, ИИ-помощника для семей, предприниматель-резидент в Гарвардской школе бизнеса и автор информационного бюллетеня «10 000 Ways».