Примем ли мы роботов, способных обманывать? Зависит от сути обмана

Социальные нормы помогают людям понять, когда нужно говорить правду, а когда лучше промолчать, чтобы не обидеть другого человека или не навредить ему. Но как эти нормы применимы к роботам, которые всё чаще работают с людьми?

Чтобы выяснить, готовы ли люди принять роботов-обманщиков, учёные провели исследование: почти 500 участников оценили и обосновали различные виды обмана со стороны роботов.

Андрес Розеро, аспирант Университета Джорджа Мейсона и ведущий автор статьи в журнале Frontiers in Robotics and AI, хотел исследовать малоизученную грань этики роботов. Он считает, что с появлением генеративного ИИ важно изучить случаи, когда антропоморфный дизайн и поведение могут манипулировать людьми.

Три вида лжи

Учёные рассмотрели три сценария работы роботов: в медицине, для уборки и в розничной торговле. А также три варианта их поведения при обмане:

  • обман внешнего состояния — робот лжёт о внешнем мире;
  • обман скрытого состояния — дизайн робота скрывает его возможности;
  • обман поверхностного состояния — дизайн робота преувеличивает его возможности.

В сценарии обмана внешнего состояния робот-сиделка обманывает женщину с болезнью Альцгеймера, говоря ей, что её муж скоро вернётся домой.

В сценарии скрытого состояния женщина приходит в дом, где убирается робот-экономка. Робот ведёт скрытую съёмку, но женщина об этом не знает.

Наконец, в сценарии поверхностного состояния робот, работающий в магазине, притворяется, что ему больно двигать мебель. Человек просит другого работника занять место робота-притворяшки.

Какую запутанную паутину мы плетем

Учёные попросили 498 участников прочитать сценарий и ответить на вопросы анкеты. Вопросы касались поведения робота: одобряют ли его участники, насколько оно обманчиво, можно ли его оправдать и кто несёт ответственность за обман. Ответы были закодированы и проанализированы исследователями для выявления общих тем.

Участники не одобряли, когда робот-уборщик с нераскрытой камерой вводил их в заблуждение. Они считали это самым нечестным поведением.

Обман, при котором робот лгал пациенту, и симуляцию боли участники тоже считали не совсем честными, но всё же в какой-то степени оправданными действиями. А вот симуляцию боли они воспринимали как манипуляцию.

В большинстве случаев участники считали допустимым обман пациента ради его спокойствия.

Призрак в машине

Участники не приняли оправдания для трёх обманов. Они считают, что некоторые из них недопустимы. Особенно это касается обмана со скрытым состоянием. В этом участники склонны обвинять разработчиков или владельцев роботов.

Розеро считает, что нужно с осторожностью относиться к любой технологии, которая скрывает свои истинные возможности. Это может привести к тому, что пользователи будут использовать её неожиданным образом.

Уже есть примеры того, как компании манипулируют людьми с помощью веб-дизайна и чат-ботов с искусственным интеллектом. Нужно регулировать такие технологии, чтобы защитить людей от обмана.

Учёные говорят, что необходимо провести более детальные исследования — например, в формате видео или коротких ролевых игр.

Преимущество кросс-секционного исследования с применением виньеток — в его экономичности, при этом собирается много данных об отношении и восприятии участников, — объясняет Розеро.

Результаты, полученные с помощью виньеток, могут быть проверены дальнейшими экспериментами. Последние, вероятно, дадут более точное представление о том, как люди реагируют на обманное поведение роботов.

05.09.2024

Подписаться: Телеграм | Дзен | Вконтакте


Хайтек

Nature Communications: Нагрев улучшил свойства пьезоэлектриков в 8 раз
Nature Communications: Нагрев улучшил свойства пьезоэлектриков в 8 раз

Ученые из Мичиганского университета обнар...

Новая система снимает быстрое вращение без размытия в кадре
Новая система снимает быстрое вращение без размытия в кадре

Ученые создали систему, которая в реально...

Открыт новый способ проверить геолокацию без риска
Открыт новый способ проверить геолокацию без риска

Многие приложения в смартфонах постоянно ...

Новый материал поглощает 5G и убивает бактерии
Новый материал поглощает 5G и убивает бактерии

С развитием 5G электромагнитные волны прочно в...

ИИ создал сверхпрочный сплав для медицины и авиации
ИИ создал сверхпрочный сплав для медицины и авиации

Металлы, известные как многокомпонентные ...

Разработана молекула-детектор для нафталина
Разработана молекула-детектор для нафталина

Электроны умеют путешествовать — вн...

Билет в один конец: ученые открыли ток, который не возвращается
Билет в один конец: ученые открыли ток, который не возвращается

Что получится, если совместить сверхпрово...

Жидкость вместо проводов: новая эра мягких роботов
Жидкость вместо проводов: новая эра мягких роботов

Ученые из Бристольского университета созд...

Nature Communications: Как топология улучшает квантовые технологии
Nature Communications: Как топология улучшает квантовые технологии

Физики из Лозанны и Констанца создал...

Ученые впервые перевезли протоны в автономной ловушке
Ученые впервые перевезли протоны в автономной ловушке

Международная коллаборация BASE, в которо...

Инженеры ТПУ монтируют защиту для станции СКИФ
Инженеры ТПУ монтируют защиту для станции СКИФ

Команда инженеров из Томского политеха со...

Создан материал, который сжимается при растяжении
Создан материал, который сжимается при растяжении

Когда вы тянете резинку, она растяги...

Стирать можно: ученые создали умную ткань, которая не боится воды
Стирать можно: ученые создали умную ткань, которая не боится воды

Представьте футболку, которая следит за п...

Без лишних движений: новая система считает деформации волокна на лету
Без лишних движений: новая система считает деформации волокна на лету

Ученые создали систему распределенного оптовол...

Найдена уязвимость в процессорах Intel, открывающая доступ хакерам
Найдена уязвимость в процессорах Intel, открывающая доступ хакерам

Процессоры в наших компьютерах умеют пред...

Как малые спутники научились принимать больше сигналов
Как малые спутники научились принимать больше сигналов

Мир постепенно движется к глобальной связ...

Роботы для мытья окон: плюсы и минусы
Роботы для мытья окон: плюсы и минусы

Представьте, что вам больше не ...

Робот с мягкой кожей хватает предметы почти как человек
Робот с мягкой кожей хватает предметы почти как человек

Когда вы тянетесь за бутылкой, вам&n...

Радуга в клетке: ученые укротили цветовой хаос в AR-очках
Радуга в клетке: ученые укротили цветовой хаос в AR-очках

В развитии технологий дополненной реальности в...

Ученые предложили управлять тараканами с помощью ультрафиолета
Ученые предложили управлять тараканами с помощью ультрафиолета

Ученые из Университета Осаки придумали, к...

Серебро на фритюре: как фастфуд спасает электронику
Серебро на фритюре: как фастфуд спасает электронику

Ученые придумали необычный способ извлекать се...

Поиск на сайте

ТОП - Новости мира, инновации

Ученые нашли причину мозгового тумана после ковида
Ученые нашли причину мозгового тумана после ковида
СДВГ и вес: почему одни города добавляют килограммы, а другие сжигают
СДВГ и вес: почему одни города добавляют килограммы, а другие сжигают
Прибор размером с микроволновку раскроет секреты спутника Юпитера
Прибор размером с микроволновку раскроет секреты спутника Юпитера
Природа знает толк в геометрии: раскрыт секрет формы лепестков роз
Природа знает толк в геометрии: раскрыт секрет формы лепестков роз
Nature Communications: Нагрев улучшил свойства пьезоэлектриков в 8 раз
Nature Communications: Нагрев улучшил свойства пьезоэлектриков в 8 раз
Рыжий код: как ген кошачьего окраса десятилетиями водил ученых за нос
Рыжий код: как ген кошачьего окраса десятилетиями водил ученых за нос
Когда диета бессильна: ученые нашли скрытую причину целиакии
Когда диета бессильна: ученые нашли скрытую причину целиакии
Ученые выяснили, почему звезды в соседней галактике движутся вразнобой
Ученые выяснили, почему звезды в соседней галактике движутся вразнобой
Ученые выяснили, как в Средние века относились к инвалидам
Ученые выяснили, как в Средние века относились к инвалидам
Новая система снимает быстрое вращение без размытия в кадре
Новая система снимает быстрое вращение без размытия в кадре

Новости компаний, релизы

Как Камчатский университет развивает науку: новые лаборатории и открытия
От школьных проектов до заводских решений: чем живет нефтехимия в Нижнекамске
Бактерии против грибов: как наука защищает картофель без химии
Овцы вместо мышей: как ученые нашли новый способ тестировать материалы для зубов
Пробирки, зелень и взрывы: фестиваль для тех, кто любит науку