Patterns: Ученые выяснили, насколько этичным считают использование ИИ в мире

Для изучения глобального состояния этики ИИ группа исследователей из Бразилии провела систематический обзор и мета-анализ глобальных рекомендаций по использованию ИИ.

Материал опубликован 13 октября в журнале Patterns. Исследователи обнаружили, что, хотя в большинстве руководств ценится неприкосновенность частной жизни, прозрачность и подотчетность, очень немногие из них оценивают правдивость, интеллектуальную собственность или права детей. Кроме того, большинство руководств описывают этические принципы и ценности, не предлагая практических методов их реализации и не настаивая на юридически обязательном регулировании.

Разработка четких этических принципов и структур управления для внедрения ИИ во всем мире — это первый шаг к укреплению доверия, снижению рисков и справедливому распределению выгод, — говорит социолог и соавтор исследования Джеймс Уильям Сантос из Папского католического университета Риу-Гранди-ду-Сул.

«Предыдущие работы были посвящены преимущественно североамериканским и европейским документам, что побудило нас активно искать и учитывать точки зрения таких регионов, как Азия, Латинская Америка, Африка и другие, — говорит ведущий автор исследования Николас Клюге Корреа из Папского католического университета Риу-Гранди-ду-Сул и Боннского университета.

Чтобы определить, существует ли глобальный консенсус в отношении этического развития и использования ИИ, и помочь в его формировании, исследователи провели систематический обзор политических и этических рекомендаций, опубликованных в период с 2014 по 2022 год. В результате было выявлено 200 документов по этике и управлению ИИ из 37 стран и шести континентов, написанных или переведенных на пять различных языков (английский, португальский, французский, немецкий и испанский). Среди этих документов были рекомендации, практические руководства, политические основы, правовые нормы и кодексы поведения.

Затем группа исследователей провела мета-анализ этих документов с целью выявления наиболее распространенных этических принципов, изучения их глобального распространения и оценки предвзятости с точки зрения типа организаций или людей, выпускающих эти документы.

Исследователи обнаружили, что наиболее распространенными принципами являются прозрачность, безопасность, справедливость, конфиденциальность и подотчетность, которые встречаются в 82,5%, 78%, 75,5%, 68,5% и 67% документов соответственно. Наименее распространенными принципами были трудовые права, правдивость, интеллектуальная собственность и права детей/подростков, которые встречались в 19,5%, 8,5%, 7% и 6% документов, и авторы подчеркивают, что эти принципы заслуживают большего внимания. Например, правдивость — идея о том, что ИИ должен предоставлять правдивую информацию, — становится все более актуальной с появлением генеративных технологий ИИ, таких как ChatGPT. А поскольку ИИ способен вытеснить работников и изменить методы работы, необходимо принять практические меры, чтобы избежать массовой безработицы или монополизма.

Большинство рекомендаций (96%) носили «нормативный характер» — описывали этические ценности, которые должны учитываться при разработке и использовании ИИ, в то время как только 2% рекомендовали практические методы реализации этики ИИ, и лишь 4,5% предлагали юридически обязательные формы регулирования ИИ.

В основном это добровольные обязательства, в которых говорится: Вот некоторые принципы, которые мы считаем важными, но в них отсутствуют практическая реализация и юридические требования, — говорит Сантос.

Если вы пытаетесь создать системы ИИ или используете системы ИИ на своем предприятии, вы должны уважать такие вещи, как конфиденциальность и права пользователей, но как это сделать — это «серая зона», которая не представлена в этих руководствах.

Исследователи также выявили ряд предубеждений в отношении того, где и кем были разработаны эти рекомендации. Исследователи отметили гендерное неравенство в отношении авторства. Хотя 66% образцов не содержали информации об авторстве, авторами остальных документов чаще всего были мужчины (549 = 66% мужчин, 281 = 34% женщин).

В географическом отношении большинство руководств было получено из стран Западной Европы (31,5%), Северной Америки (34,5%) и Азии (11,5%), в то время как из Южной Америки, Африки и Океании вместе взятых поступило менее 4,5% документов. Некоторые из этих диспропорций в распределении документов могут быть обусловлены языковыми особенностями и ограничениями доступа к ним, однако, по мнению авторов, эти результаты свидетельствуют о том, что многие регионы Глобального Юга недостаточно представлены в глобальном дискурсе по этике ИИ. В некоторых случаях речь идет о странах, активно участвующих в исследованиях и разработках в области ИИ, таких как Китай, объем исследований в области ИИ в котором в период с 2016 по 2019 год вырос более чем на 120%.

Наше исследование демонстрирует и подкрепляет наш призыв к Глобальному Югу проснуться и просьбу к Глобальному Северу быть готовым выслушать и принять нас, — говорит соавтор исследования Камила Гальван из Папского католического университета Рио-Гранде-ду-Сул.

Мы не должны забывать, что живем в плюралистическом, неравном и разнообразном мире. Мы должны помнить о голосах, которые до сих пор не имели возможности заявить о своих предпочтениях, объяснить контекст и, возможно, рассказать нам то, чего мы до сих пор не знаем.

По мнению исследователей, помимо учета большего числа голосов, дальнейшие усилия должны быть направлены на практическую реализацию принципов этики ИИ.

Следующий шаг — это создание моста между абстрактными принципами этики и практической разработкой систем и приложений ИИ, — говорит Сантос.

13.10.2023


Подписаться в Telegram



Net&IT

Инженеры воссоздали голопалубу Star Trek с помощью ChatGPT и видеоигр
Инженеры воссоздали голопалубу Star Trek с помощью ChatGPT и видеоигр

В сериале Звездный путь: Следующее поколение к...

Physical Review X: Сеть квантовых датчиков повышает точность измерений
Physical Review X: Сеть квантовых датчиков повышает точность измерений

Квантовые системы, используемые в квантов...

Scientific Reports: ИИ показал больший творческий потенциал, чем человек
Scientific Reports: ИИ показал больший творческий потенциал, чем человек

Еще один балл в пользу искусственного инт...

Крошечную метку на замену RFID сделали еще надежнее
Крошечную метку на замену RFID сделали еще надежнее

Несколько лет назад исследователи Массачу...

Ученые приблизились к более легким и гибким оптоэлектронным устройствам
Ученые приблизились к более легким и гибким оптоэлектронным устройствам

Органические оптоэлектронные устройства, такие...

PNAS Nexus: ИИ пока еще далеко до человеческих способностей мыслить
PNAS Nexus: ИИ пока еще далеко до человеческих способностей мыслить

Атанасиос С. Фокас рассматривает актуальный во...

Nature: ИИ генерирует белки с исключительной прочностью связывания
Nature: ИИ генерирует белки с исключительной прочностью связывания

В новом исследовании, опубликованном 18 декабр...

Nature Computational Science: ИИ может предсказывать события в жизни людей
Nature Computational Science: ИИ может предсказывать события в жизни людей

Искусственный интеллект, разработанный для&nbs...

Nature Electronics: Изменение памяти дает новые вычислительные возможности
Nature Electronics: Изменение памяти дает новые вычислительные возможности

Ученые Рочестерского университета разработали ...

Nature: 2D-материал изменяет форму 3D-электроники для искусственного интеллекта
Nature: 2D-материал изменяет форму 3D-электроники для искусственного интеллекта

Многофункциональные компьютерные чипы эволюцио...

Началась регистрация на конкурс «Битва искусственных интеллектов»
Началась регистрация на конкурс «Битва искусственных интеллектов»

Стартовал отборочный этап Международного техно...

Поиск на сайте

Знатоки клуба инноваций


ТОП - Новости мира, инновации

ESA: Первые снимки Евклида показали миллиарды осиротевших звезд
ESA: Первые снимки Евклида показали миллиарды осиротевших звезд
Heliyon: Ученые нашли виновника тяжелых отравлений благодаря новому методу ПЦР
Heliyon: Ученые нашли виновника тяжелых отравлений благодаря новому методу ПЦР
Energy Materials and Devices: Создан тандемный солнечный элемент с КПД более 20%
Energy Materials and Devices: Создан тандемный солнечный элемент с КПД более 20%
Child Development: Отношения с матерью влияют на умение дружить и растить детей
Child Development: Отношения с матерью влияют на умение дружить и растить детей
EMBO Reports: Растения-однолюбы находят одного партнера на всю жизнь
EMBO Reports: Растения-однолюбы находят одного партнера на всю жизнь
New Media & Society: Геймеры находят оправдание смурфингу, хотя он их и бесит
New Media & Society: Геймеры находят оправдание смурфингу, хотя он их и бесит
Nature Neuroscience: Ученые доказали, что терпение приносит свои плоды
Nature Neuroscience: Ученые доказали, что терпение приносит свои плоды
Познакомьтесь со странной амфибией, которая выкармливает своих детенышей молоком
Познакомьтесь со странной амфибией, которая выкармливает своих детенышей молоком
Climate Dynamics: Вот как условия на суше влияют на муссонный климат Азии
Climate Dynamics: Вот как условия на суше влияют на муссонный климат Азии
В 40% случаев люди ошибочно называют сгенерированное фото человека реальным
В 40% случаев люди ошибочно называют сгенерированное фото человека реальным
Nature Communications: Открыто революционное явление в жидких кристаллах
Nature Communications: Открыто революционное явление в жидких кристаллах
Current Biology: Исследование брачного поведения показывает эволюцию влечения
Current Biology: Исследование брачного поведения показывает эволюцию влечения
BioDesign Research: Для производства каротиноидов разработали специальные дрожжи
BioDesign Research: Для производства каротиноидов разработали специальные дрожжи
Nature Communications: В мигрирующих нейронах найден конус роста
Nature Communications: В мигрирующих нейронах найден конус роста
Scientific Reports: Реакция на происходящее влияет на понимание будущих событий
Scientific Reports: Реакция на происходящее влияет на понимание будущих событий

Новости компаний, релизы

Физики СПбГУ и Института проблем машиноведения РАН улучшили ударопрочные характеристики нержавеющей стали
КВЗ принимает заявки на целевое обучение в проект «Крылья Ростеха»
Ученые СПбГУ смоделировали сценарии появления таликов в вечной мерзлоте Антарктиды
Треть работодателей тратят на адаптацию одного нового сотрудника до 100 тысяч рублей
Палеонтолог СПбГУ описал новый вид динозавров-бегунов из Кемеровской области