Patterns: Ученые выяснили, насколько этичным считают использование ИИ в мире

Для изучения глобального состояния этики ИИ группа исследователей из Бразилии провела систематический обзор и мета-анализ глобальных рекомендаций по использованию ИИ.

Материал опубликован 13 октября в журнале Patterns. Исследователи обнаружили, что, хотя в большинстве руководств ценится неприкосновенность частной жизни, прозрачность и подотчетность, очень немногие из них оценивают правдивость, интеллектуальную собственность или права детей. Кроме того, большинство руководств описывают этические принципы и ценности, не предлагая практических методов их реализации и не настаивая на юридически обязательном регулировании.

Разработка четких этических принципов и структур управления для внедрения ИИ во всем мире — это первый шаг к укреплению доверия, снижению рисков и справедливому распределению выгод, — говорит социолог и соавтор исследования Джеймс Уильям Сантос из Папского католического университета Риу-Гранди-ду-Сул.

«Предыдущие работы были посвящены преимущественно североамериканским и европейским документам, что побудило нас активно искать и учитывать точки зрения таких регионов, как Азия, Латинская Америка, Африка и другие, — говорит ведущий автор исследования Николас Клюге Корреа из Папского католического университета Риу-Гранди-ду-Сул и Боннского университета.

Чтобы определить, существует ли глобальный консенсус в отношении этического развития и использования ИИ, и помочь в его формировании, исследователи провели систематический обзор политических и этических рекомендаций, опубликованных в период с 2014 по 2022 год. В результате было выявлено 200 документов по этике и управлению ИИ из 37 стран и шести континентов, написанных или переведенных на пять различных языков (английский, португальский, французский, немецкий и испанский). Среди этих документов были рекомендации, практические руководства, политические основы, правовые нормы и кодексы поведения.

Затем группа исследователей провела мета-анализ этих документов с целью выявления наиболее распространенных этических принципов, изучения их глобального распространения и оценки предвзятости с точки зрения типа организаций или людей, выпускающих эти документы.

Исследователи обнаружили, что наиболее распространенными принципами являются прозрачность, безопасность, справедливость, конфиденциальность и подотчетность, которые встречаются в 82,5%, 78%, 75,5%, 68,5% и 67% документов соответственно. Наименее распространенными принципами были трудовые права, правдивость, интеллектуальная собственность и права детей/подростков, которые встречались в 19,5%, 8,5%, 7% и 6% документов, и авторы подчеркивают, что эти принципы заслуживают большего внимания. Например, правдивость — идея о том, что ИИ должен предоставлять правдивую информацию, — становится все более актуальной с появлением генеративных технологий ИИ, таких как ChatGPT. А поскольку ИИ способен вытеснить работников и изменить методы работы, необходимо принять практические меры, чтобы избежать массовой безработицы или монополизма.

Большинство рекомендаций (96%) носили «нормативный характер» — описывали этические ценности, которые должны учитываться при разработке и использовании ИИ, в то время как только 2% рекомендовали практические методы реализации этики ИИ, и лишь 4,5% предлагали юридически обязательные формы регулирования ИИ.

В основном это добровольные обязательства, в которых говорится: Вот некоторые принципы, которые мы считаем важными, но в них отсутствуют практическая реализация и юридические требования, — говорит Сантос.

Если вы пытаетесь создать системы ИИ или используете системы ИИ на своем предприятии, вы должны уважать такие вещи, как конфиденциальность и права пользователей, но как это сделать — это «серая зона», которая не представлена в этих руководствах.

Исследователи также выявили ряд предубеждений в отношении того, где и кем были разработаны эти рекомендации. Исследователи отметили гендерное неравенство в отношении авторства. Хотя 66% образцов не содержали информации об авторстве, авторами остальных документов чаще всего были мужчины (549 = 66% мужчин, 281 = 34% женщин).

В географическом отношении большинство руководств было получено из стран Западной Европы (31,5%), Северной Америки (34,5%) и Азии (11,5%), в то время как из Южной Америки, Африки и Океании вместе взятых поступило менее 4,5% документов. Некоторые из этих диспропорций в распределении документов могут быть обусловлены языковыми особенностями и ограничениями доступа к ним, однако, по мнению авторов, эти результаты свидетельствуют о том, что многие регионы Глобального Юга недостаточно представлены в глобальном дискурсе по этике ИИ. В некоторых случаях речь идет о странах, активно участвующих в исследованиях и разработках в области ИИ, таких как Китай, объем исследований в области ИИ в котором в период с 2016 по 2019 год вырос более чем на 120%.

Наше исследование демонстрирует и подкрепляет наш призыв к Глобальному Югу проснуться и просьбу к Глобальному Северу быть готовым выслушать и принять нас, — говорит соавтор исследования Камила Гальван из Папского католического университета Рио-Гранде-ду-Сул.

Мы не должны забывать, что живем в плюралистическом, неравном и разнообразном мире. Мы должны помнить о голосах, которые до сих пор не имели возможности заявить о своих предпочтениях, объяснить контекст и, возможно, рассказать нам то, чего мы до сих пор не знаем.

По мнению исследователей, помимо учета большего числа голосов, дальнейшие усилия должны быть направлены на практическую реализацию принципов этики ИИ.

Следующий шаг — это создание моста между абстрактными принципами этики и практической разработкой систем и приложений ИИ, — говорит Сантос.

13.10.2023