Мы так много времени пялимся в телефоны и компьютеры, что неизбежно стали… близки с ними. И те отношения, что завязались у людей с компьютерными программами, вышли очень непростыми, запутанными и совершенно новыми по своей сути.

Искусственный интеллект умеет имитировать человеческие разговоры через чат-ботов. И это привело к неожиданному повороту для психотерапевтов.

Сун Чо, научный сотрудник центра семейного и индивидуального консультирования при университете Невады в Лас-Вегасе, объясняет:

Искусственный интеллект легко проскальзывает в человеческую натуру и закрывает ту самую потребность — быть на связи, услышанным, понятым и принятым. За всю историю у нас не было инструмента, который так запутывал бы человеческие отношения — до такой степени, что мы забываем, с кем на самом деле имеем дело.

Сун Чо изучает новую область: как мы взаимодействуем с искусственным интеллектом и строим с ним отношения.

Она только в начале пути — анализирует долгосрочные эффекты и то, чем такое общение отличается от разговора с живым человеком.

Мне хочется понять, какие беседы с чат-ботами приносят пользу, а какие могут быть опасны, — говорит Чо. — И найти способ использовать искусственный интеллект так, чтобы он подталкивал людей обращаться к настоящим специалистам за реальной помощью.

После пандемии коронавируса большие технологические компании развязали гонку искусственных интеллектов. Самые разные формы ИИ заполонили рабочие места и соцсети.

Чат-боты помогают быстрее искать информацию и делать проекты. Но некоторые пользователи идут дальше простой помощи.

Люди все охотнее делятся с искусственным интеллектом личным и даже душевным, — поясняет Чо. — В этой тяге к пониманию очень легко перегнуть палку: человек начинает очеловечивать бота и попадает от него в зависимость. Особенно когда бот отвечает так, что кажется добрее и внимательнее, чем настоящие люди из жизни.

Как чат-боты помогают и где таится опасность

Чат-боты неплохо учат людей яснее выражать свои эмоции. Поскольку боты работают с языком, они могут пересказать чужими словами то, что сказал пользователь, и прояснить его мысли. Это плюс. Но их умение упирается в те данные, на которых их обучили. Человеческий мозг такими ограничениями не скован. Генеративные системы вроде ChatGPT или Google Gemini просто предсказывают слова, опираясь на огромные массивы текстов. Их ответы могут показаться продуманными или даже творческими, но на самом деле они не выдают новых идей. Они перетасовывают уже известное по статистическим лекалам, которые выучили на прошлых данных.

Чат-боты еще и постоянно соглашаются с пользователем. Из-за этого порой закрепляют или пропускают мимо глаз опасное поведение — ведь боты отвечают всегда в поддерживающем ключе. Чо замечает, что люди раскрываются перед психологами, когда чувствуют тепло, принятие и поддержку. Искусственный интеллект здорово имитирует эти качества. Поскольку боты запрограммированы на безоценочную поддержку, человек чувствует себя в безопасности и рассказывает о глубоко личных проблемах порой легче, чем в общении с живыми людьми.

Искусственный интеллект не осуждает и не спорит, — говорит Чо. — Он становится зеркалом, которое отражает твои же мысли и чувства. Это успокаивает, но не дает ни вызова, ни эмоциональной починки, без которых невозможно настоящее исцеление в терапии.

Кто в зоне риска

Когда человек уже чувствует себя изолированным или оторванным от мира, он становится особенно уязвим, — добавляет Чо. — Такое состояние часто идет рука об руку с депрессией, тревогой или склонностью к зависимости. В эти моменты очень легко привязаться к боту — он кажется безопаснее и предсказуемее, чем живые люди.

Чо хочет четко описать опасные виды взаимодействия — например, когда человек в беседе с ботом намекает на самоповреждение.

Это поможет разработчикам обучить ботов замечать такие сигналы и перенаправлять пользователя к нормальным психологическим службам.

Иногда полезно вернуть человека с небес на землю, — считает она. — Пусть лучше он потеряет влюбленность в бота, чем потом скатится во вредную сторону.

Чо подчеркивает, что важно повышать грамотность подростков в вопросах искусственного интеллекта, учить их критически думать, видеть ограничения ботов и отличать живое тепло от алгоритмической подстройки.

При всем при этом чат-боты приносят реальную пользу. Кроме прояснения эмоций, они уменьшают одиночество у разных возрастов — особенно у пожилых, кто живет один и не с кем перемолвиться словом. Боты создают безопасную среду для обсуждения стыдных или запретных тем — проблем с психикой, зависимостей, травм, семейных скандалов в культурах, где о таком не говорят вслух, а также болезней вроде ВИЧ или инфекций, передающихся половым путем.

Мы связаны друг с другом цифрой больше, чем любое поколение в истории, но по странной иронии мы еще и одинокее, чем когда-либо , — говорит Чо. — Самые важные вещи — чувствовать, что тебя видят, понимают и принимают, — в цифровой среде часто не сбываются. Этот разрыв между «быть на связи» и по-настоящему ощущать понимание — одна из причин, почему люди идут за поддержкой к искусственному интеллекту. Я надеюсь, что ИИ останется помощником, который укрепляет живую связь между людьми, а не заменит те отношения, которые мы строим друг с другом.

Анализ стоимости, доступности и критика

Давайте посмотрим на историю с чат-ботами с практической стороны. Стоимость технологии здесь почти нулевая для конечного пользователя. Самые популярные чат-боты вроде ChatGPT имеют бесплатные версии с ограничениями, а платные обходятся в сумму около 20 долларов в месяц — это сравнимо с подпиской на музыку или видео. А Deepseek, например, и вовсе полностью бесплатный. Исследование Чо — дело недорогое по меркам академии: опросы, интервью и наблюдения не требуют суперкомпьютеров. Но вот незадача: доступ к психологу, которого бот мог бы рекомендовать, стоит совсем других денег — от 50 до 200 долларов за час в США. В России цены скромнее, но все равно ощутимые для многих: в среднем от 1000 до 5000 рублей за сессию. Так что бот выигрывает по доступности с огромным отрывом, и это его главный козырь.

До этого исследования ученые в основном изучали, как люди общаются друг с другом, а также как пользователи взаимодействуют с простыми правилами в старых чат-ботах вроде «Элизы» 1960-х годов (программа, которая притворялась психотерапевтом и просто переспрашивала „Расскажите подробнее“). Нынешняя работа Чо не открывает новый закон природы, но пытается навести порядок в новой реальности, которая уже наступила. Это как картография: раньше была белая зона, а теперь на ней появляются первые осторожные пометки.

Этична ли работа? И да, и нет. Само исследование этично — Чо не толкает людей в объятия ботов, а пытается защитить от зависимости. Но вот вред от самой технологии очевиден: боты специально делают приятными и соглашающимися, чтобы удержать внимание. Это подсаживает людей на эмоциональную иглу. Главный подвох в том, что бот — это бездонная бочка одобрения, но он никогда не скажет «Ты неправ» или „Давай разберемся с твоими страхами“, как это сделал бы живой психолог. Без этой здоровой конфронтации человек застревает в своих проблемах, как муха в меду.

Когда же обычный человек сможет пощупать новую разработку? Тут новости хорошие: никакой разработки ждать не надо. Каждый уже может открыть браузер и начать разговор с ChatGPT или любым другим ботом прямо сейчас. Если же говорить именно о тех методичках для обучения ботов, которые хочет создать Чо (чтобы они замечали опасные сигналы и перенаправляли к людям), то это дело двух-трех лет. Технологически ничего сложного — добавить несколько фраз в инструкцию для бота и научить его распознавать ключевые слова.

Сравниваем с аналогами

Прямые конкуренты — это психологические приложения вроде Woebot или Wysa. Они уже давно работают как «карманные психологи» и построены на тех же принципах, что описывает Чо. Разница в том, что Woebot и Wysa честно признают себя программами и не пытаются притворяться людьми. А большие языковые модели вроде ChatGPT притворяются очень убедительно, и в этом их главное отличие — и главная опасность. Также есть живые психологи онлайн в сервисах вроде BetterHelp, но они дороги и требуют записи. Боты же доступны 24/7 и мгновенно.

По эффективности: пока ни одно исследование не доказало, что бот лечит так же хорошо, как живой специалист, — только что он снимает остроту одиночества.

Критика исследования

Главный подвох: она изучает отношения с ботами, но сами боты меняются каждый месяц. Пока она напишет статью, ChatGPT обновится до новой версии и станет вести себя иначе. Это как изучать повадки животного, которое линяет и отращивает новые зубы на глазах.

Кроме того, Чо работает в университете, который живет на гранты. Грантодатели любят громкие темы про ИИ, но не любят, когда им говорят «мы ничего толком не знаем». Поэтому есть риск, что выводы Чо будут чуть приукрашены в сторону значимости. И еще один момент: она сама психолог по образованию. Для психолога „понять другого“ — высшая ценность. Но бот не понимает — он имитирует понимание. Исследователи, дружественные к искусственному интеллекту, могут сказать, что Чо переоценивает вред, потому что для нее живое человеческое тепло священно.

Ранее российские ученые разработали чат-бот для борьбы со страхами.