Примем ли мы роботов, способных обманывать? Зависит от сути обмана

Социальные нормы помогают людям понять, когда нужно говорить правду, а когда лучше промолчать, чтобы не обидеть другого человека или не навредить ему. Но как эти нормы применимы к роботам, которые всё чаще работают с людьми?

Чтобы выяснить, готовы ли люди принять роботов-обманщиков, учёные провели исследование: почти 500 участников оценили и обосновали различные виды обмана со стороны роботов.

Андрес Розеро, аспирант Университета Джорджа Мейсона и ведущий автор статьи в журнале Frontiers in Robotics and AI, хотел исследовать малоизученную грань этики роботов. Он считает, что с появлением генеративного ИИ важно изучить случаи, когда антропоморфный дизайн и поведение могут манипулировать людьми.

Три вида лжи

Учёные рассмотрели три сценария работы роботов: в медицине, для уборки и в розничной торговле. А также три варианта их поведения при обмане:

  • обман внешнего состояния — робот лжёт о внешнем мире;
  • обман скрытого состояния — дизайн робота скрывает его возможности;
  • обман поверхностного состояния — дизайн робота преувеличивает его возможности.

В сценарии обмана внешнего состояния робот-сиделка обманывает женщину с болезнью Альцгеймера, говоря ей, что её муж скоро вернётся домой.

В сценарии скрытого состояния женщина приходит в дом, где убирается робот-экономка. Робот ведёт скрытую съёмку, но женщина об этом не знает.

Наконец, в сценарии поверхностного состояния робот, работающий в магазине, притворяется, что ему больно двигать мебель. Человек просит другого работника занять место робота-притворяшки.

Какую запутанную паутину мы плетем

Учёные попросили 498 участников прочитать сценарий и ответить на вопросы анкеты. Вопросы касались поведения робота: одобряют ли его участники, насколько оно обманчиво, можно ли его оправдать и кто несёт ответственность за обман. Ответы были закодированы и проанализированы исследователями для выявления общих тем.

Участники не одобряли, когда робот-уборщик с нераскрытой камерой вводил их в заблуждение. Они считали это самым нечестным поведением.

Обман, при котором робот лгал пациенту, и симуляцию боли участники тоже считали не совсем честными, но всё же в какой-то степени оправданными действиями. А вот симуляцию боли они воспринимали как манипуляцию.

В большинстве случаев участники считали допустимым обман пациента ради его спокойствия.

Призрак в машине

Участники не приняли оправдания для трёх обманов. Они считают, что некоторые из них недопустимы. Особенно это касается обмана со скрытым состоянием. В этом участники склонны обвинять разработчиков или владельцев роботов.

Розеро считает, что нужно с осторожностью относиться к любой технологии, которая скрывает свои истинные возможности. Это может привести к тому, что пользователи будут использовать её неожиданным образом.

Уже есть примеры того, как компании манипулируют людьми с помощью веб-дизайна и чат-ботов с искусственным интеллектом. Нужно регулировать такие технологии, чтобы защитить людей от обмана.

Учёные говорят, что необходимо провести более детальные исследования — например, в формате видео или коротких ролевых игр.

Преимущество кросс-секционного исследования с применением виньеток — в его экономичности, при этом собирается много данных об отношении и восприятии участников, — объясняет Розеро.

Результаты, полученные с помощью виньеток, могут быть проверены дальнейшими экспериментами. Последние, вероятно, дадут более точное представление о том, как люди реагируют на обманное поведение роботов.

05.09.2024

Подписаться: Телеграм | Дзен | Вконтакте


Хайтек

Ловкость волн и никаких проводов: прорыв в фотонных вычислениях
Ловкость волн и никаких проводов: прорыв в фотонных вычислениях

Современный искусственный интеллект упирается ...

Новое покрытие защитит магниты от коррозии и обледенения
Новое покрытие защитит магниты от коррозии и обледенения

Магниты тысячи лет удивляют людей своими ...

Ученые упростили схемы дисплеев без потери качества
Ученые упростили схемы дисплеев без потери качества

Исследователи из Университета Суррея пред...

Разработан новый метод промышленной печати без слабых мест
Разработан новый метод промышленной печати без слабых мест

Ученые из Национальной лаборатории Ок-Рид...

Олег Чакилев: «Лучше всего мы определяем редкоземельные элементы»
Олег Чакилев: «Лучше всего мы определяем редкоземельные элементы»

На кафедре прикладной ядерной физики №24 Инсти...

Какой мини ПК лучше: проворный MSI или мощный HP
Какой мини ПК лучше: проворный MSI или мощный HP

Компактные компьютеры — это ид...

Почему титанат бария лучше кремния для передачи данных
Почему титанат бария лучше кремния для передачи данных

Световые сигналы — основа современн...

Как неодим и самарий заставили керамику петь на микроволнах
Как неодим и самарий заставили керамику петь на микроволнах

В мире, где технологии развиваются стреми...

Лед и пламень – холодный расчет ASUS против горячего нрава Acer
Лед и пламень – холодный расчет ASUS против горячего нрава Acer

Ноутбуки давно перестали быть роскошью и 

Лед тронулся: графен и лазер помогут бороться с обледенением
Лед тронулся: графен и лазер помогут бороться с обледенением

Команда ученых под руководством профессор...

Физики на квантовом распутье: старые теории трещат по швам
Физики на квантовом распутье: старые теории трещат по швам

Ровно 100 лет назад австрийский физик Эрв...

Новый метод находит ошибки в квантовых компьютерах быстрее и точнее
Новый метод находит ошибки в квантовых компьютерах быстрее и точнее

Ученые придумали новый способ проверки квантов...

Разработан новый метод укрепления материалов без лишнего веса
Разработан новый метод укрепления материалов без лишнего веса

Когда инженеры проектируют иллюминатор самолет...

Открыт новый способ передачи данных в квантовых компьютерах
Открыт новый способ передачи данных в квантовых компьютерах

Ученые придумали новый способ передавать данны

Поиск на сайте

ТОП - Новости мира, инновации

Как метавселенные меняют нашу психику
Как метавселенные меняют нашу психику
CBDC — не крипта, но играть будет по своим правилам
CBDC — не крипта, но играть будет по своим правилам
От редактирования ДНК до колонизации Марса: главные технологии XXI века
От редактирования ДНК до колонизации Марса: главные технологии XXI века
Ловкость волн и никаких проводов: прорыв в фотонных вычислениях
Ловкость волн и никаких проводов: прорыв в фотонных вычислениях
Мозг на паузе: ученые научились отключать нейронные связи и включать их обратно
Мозг на паузе: ученые научились отключать нейронные связи и включать их обратно
Как ехидны выращивают детенышей в бактериальном коконе
Как ехидны выращивают детенышей в бактериальном коконе
Новый метод увеличил емкость аккумуляторов на 60%
Новый метод увеличил емкость аккумуляторов на 60%
Город в термосе: как охладить асфальт и укротить ливни
Город в термосе: как охладить асфальт и укротить ливни
Танцы в воде: зачем фламинго топчутся и щелкают клювами
Танцы в воде: зачем фламинго топчутся и щелкают клювами
Биологи включили турбо-режим для бактериальной эволюции
Биологи включили турбо-режим для бактериальной эволюции
Создан язык, который вытаскивает токсины из цифрового шума
Создан язык, который вытаскивает токсины из цифрового шума
Невидимые горы: почему пляжные дюны появляются за минуты и исчезают навсегда
Невидимые горы: почему пляжные дюны появляются за минуты и исчезают навсегда
Дикие шимпанзе не знают, что такое трудное детство
Дикие шимпанзе не знают, что такое трудное детство
Морщины на пальцах от воды — как отпечатки: уникальны и неизменны
Морщины на пальцах от воды — как отпечатки: уникальны и неизменны
Ножницы для мутаций: можно ли вырезать болезнь из ДНК
Ножницы для мутаций: можно ли вырезать болезнь из ДНК

Новости компаний, релизы

Пробирки, зелень и взрывы: фестиваль для тех, кто любит науку
Бактерии против грибов: как наука защищает картофель без химии
Овцы вместо мышей: как ученые нашли новый способ тестировать материалы для зубов
Ход конем: в Шагонаре прошел первый шахматный турнир для дошколят
Как СПбГУ готовит инженеров для нефтегазовой отрасли — опыт БРИКС