Science Advances: В Facebook невозможно бороться с фейками

В связи с распространением дезинформации в Интернете во время пандемии Covid-19 ряд платформ объявили о политике и практиках, направленных на борьбу с распространением дезинформации. Сработали ли эти меры?

Новое исследование, опубликованное сегодня в журнале Science Advances, свидетельствует о том, что политика Facebook, крупнейшей в мире социальной сети, по борьбе с дезинформацией о вакцине Ковид-19 оказалась неэффективной. Исследование, проведенное под руководством ученых из Университета Джорджа Вашингтона, показало, что усилия Facebook были подорваны основными конструктивными особенностями самой платформы.

Современным платформам социальных сетей и управлению искусственным интеллектом уделяется значительное внимание. Однако это обсуждение в основном сосредоточено либо на контенте, либо на алгоритмах. Чтобы эффективно бороться с дезинформацией и другими вредными явлениями в Интернете, нам необходимо выйти за рамки контента и алгоритмов и обратить внимание на дизайн и архитектуру, — говорит Дэвид Бронятовски, ведущий автор исследования, доцент кафедры инженерного менеджмента и системной инженерии GW.

Наши результаты показывают, что удаление контента или изменение алгоритмов может быть неэффективным, если оно не меняет того, для чего предназначена платформа — позволяет членам сообщества объединяться по общим интересам — в данном случае, колебаниям в отношении вакцин — и находить информацию, которую они мотивированы искать.

Facebook предназначен для создания сообществ вокруг тех вещей, которые волнуют людей. Для этого используется несколько различных архитектурных особенностей, в том числе фан-страницы, продвигающие бренды, и сообщества знаменитостей, позволяющие относительно небольшой группе авторитетов охватить большую аудиторию. Затем эти авторитеты могут создавать группы — специально предназначенные для создания сообществ, — в которых члены сообщества могут обмениваться информацией, в том числе о том, как получить доступ к дезинформации или другому интересному контенту за пределами платформы. Затем члены групп и особенно администраторы групп (которые часто являются создателями контента на страницах) могут использовать алгоритмы ленты новостей Facebook для того, чтобы эта информация была доступна тем, кто хочет ее увидеть.

Исследователи обнаружили, что, хотя во время пандемии Ковид-19 Facebook приложил значительные усилия для удаления большого количества антивакцинального контента, общая вовлеченность в антивакцинальный контент не снизилась по сравнению с предыдущими тенденциями, а в некоторых случаях даже возросла.

Этот вывод о том, что люди с одинаковой вероятностью обращались к дезинформации о вакцинах как до, так и после масштабных усилий Facebook по ее удалению, вызывает серьезное беспокойство. Он показывает, с какими трудностями мы сталкиваемся в обществе при удалении дезинформации о здоровье из публичных мест, — отмечает Лориен Абромс, автор исследования и профессор общественного здравоохранения в Школе общественного здравоохранения Института Милкена GW.

В контенте, который не был удален, увеличилось количество ссылок на внеплатформенные сайты с низким уровнем доверия и ссылок на дезинформацию на «альтернативных» платформах социальных сетей, таких как Gab и Rumble, особенно в группах, выступающих против вакцинации. Кроме того, оставшийся антивакцинный контент в Facebook стал более, а не менее дезинформативным, содержащим сенсационные ложные утверждения о побочных эффектах вакцин, которые часто были слишком новыми, чтобы их можно было проверить в режиме реального времени. По мнению исследователей, это также нанесло „побочный ущерб“, так как контент, посвященный вакцинам, также мог быть удален в результате политики платформы, и в целом контент, связанный с вакцинами, стал более политически поляризованным. Кроме того, производители контента против вакцинации использовали платформу более эффективно, чем производители контента за вакцинацию. Хотя и те, и другие имели большие сети страниц, производители контента против вакцинации более эффективно координировали распространение контента на страницах, в группах и новостных лентах пользователей.

Даже когда Facebook настраивал свои алгоритмы и удалял контент и аккаунты для борьбы с дезинформацией о вакцинах, архитектура платформы, по мнению исследователей, оказывала сопротивление.

Представьте себе Facebook в виде здания. Аэропорт предназначен для того, чтобы направлять людей, чтобы легко и безопасно доставлять их к выходу на посадку и обратно, а стадион — чтобы безопасно собирать группу людей на шоу. Если бы эти здания не были спроектированы таким образом, чтобы сбалансировать путешествия и развлечения с безопасностью и надежностью, люди могли бы регулярно получать травмы. Теперь подумайте о структуре Facebook: она спроектирована таким образом, чтобы мотивированные люди могли создавать сообщества и легко обмениваться информацией по любой теме, — заявляет Бронятовски, отмечая, что архитектура Facebook настраивает политику противодействия фейкам на неудачу.

Люди, мотивированные на поиск и распространение антивакцинального контента, просто используют систему так, как она задумана, и поэтому трудно сбалансировать такое поведение с соображениями общественного здоровья или другой общественной безопасности. Для создания такого баланса необходимо изменить архитектуру.

В своей работе Бронятовский полагает, что разработчики платформ социальных сетей могли бы способствовать укреплению здоровья и безопасности населения путем совместной разработки «строительных норм и правил» для своих платформ, основанных на научных данных, позволяющих снизить вред от использования Интернета.

Архитекторам зданий приходится балансировать между целями проектирования и соблюдением правил защиты людей, которые их используют, — поясняет он.

Они должны быть спроектированы таким образом, чтобы способствовать общественной безопасности, соблюдая нормы пожарной безопасности, защиты от наводнений, загрязнения и землетрясений.

Они должны обеспечивать безопасность, включая такие конструктивные особенности, как хорошо обозначенные, доступные входы, выходы и турникеты для предотвращения вандализма, паники, терроризма и беспорядков.

Они должны способствовать укреплению здоровья населения путем соблюдения требований к сантехнике, санитарии и вентиляции, а также должны быть спроектированы с учетом муниципальных норм и правил, таких как нормы по шуму и другим неприятным факторам.

Эти правила обычно разрабатываются в партнерстве между промышленностью, правительством и общественными организациями и основываются на достоверных научных и практических данных. Стратегии управления могут способствовать развитию таких партнерских отношений и поддержать научные разработки.

16.09.2023


Подписаться в Telegram



Общество

Antiquity: Лидар помог найти тысячи построек майя
Antiquity: Лидар помог найти тысячи построек майя

Археологи изучили данные лидара в неизуче...

The BMJ: Алкоголь и стресс на работе вызывают всплеск суицидов в Новый год
The BMJ: Алкоголь и стресс на работе вызывают всплеск суицидов в Новый год

Оказывается, риск совершения самоубийства выше...

JPSP: Ученые рассказали, как побороть боязнь упустить что-то важное
JPSP: Ученые рассказали, как побороть боязнь упустить что-то важное

Люди беспокоятся из-за пропуска групповых меро...

Международная олимпиада по экологии стартовала в Сириусе
Международная олимпиада по экологии стартовала в Сириусе

В Сириусе началась первая в мире очная Ме...

В КамГУ изучили жизненный путь женщин после развода
В КамГУ изучили жизненный путь женщин после развода

Чем разумнее женщина смотрит на свою жизн...

Психолог объяснил, как либералы и консерваторы могли бы договориться
Психолог объяснил, как либералы и консерваторы могли бы договориться

По мере приближения ноябрьских президентских в...

BMJ Quality & Safety: Слушайте советы доктора, а не чат-бота
BMJ Quality & Safety: Слушайте советы доктора, а не чат-бота

Не стоит доверять информации о лекарствах...

FNBEH: Выяснилось, почему все-таки от улыбки станет день светлей
FNBEH: Выяснилось, почему все-таки от улыбки станет день светлей

Улыбка во время разговора создаёт тёплую ...

Nature Human Behaviour: Фактчекингу следует учить с детства
Nature Human Behaviour: Фактчекингу следует учить с детства

В эпоху, когда в интернете много дезинфор...

DPR&G: В бесплатных приложениях полно скрытых расходов
DPR&G: В бесплатных приложениях полно скрытых расходов

Прокрастинация, недосыпание и снижение ко...

OB&HDP: Самая вовлеченная аудитория — несогласные
OB&HDP: Самая вовлеченная аудитория — несогласные

Люди с большей вероятностью обратят отрег...

Acta Paediatrica: Привычка играть на улице убережет от ожирения
Acta Paediatrica: Привычка играть на улице убережет от ожирения

Дошколята, которые часто играют на свежем...

Поиск на сайте

Знатоки клуба инноваций


ТОП - Новости мира, инновации

Российские ученые предложили использовать вирус растений для лечения саркомы
Российские ученые предложили использовать вирус растений для лечения саркомы
Menopause: Ученые заподозрили роль эстрогена в развитии астмы
Menopause: Ученые заподозрили роль эстрогена в развитии астмы
AEM: Гибридный полупроводник позволит лучше понять спинтронику
AEM: Гибридный полупроводник позволит лучше понять спинтронику
FCoSc: Гигантские крысы поборются с незаконной торговлей дикими животными
FCoSc: Гигантские крысы поборются с незаконной торговлей дикими животными
В России разработали искусственные кости и новые методы лечения позвоночника
В России разработали искусственные кости и новые методы лечения позвоночника
TE&E: Животные потребляют алкоголь чаще, чем мы думаем
TE&E: Животные потребляют алкоголь чаще, чем мы думаем
Волнообразные упражнения со штангой: польза или вред
Волнообразные упражнения со штангой: польза или вред
JA&FC: Сорго обогащает рацион питания биоактивными соединениями
JA&FC: Сорго обогащает рацион питания биоактивными соединениями
Nature Communications: Жизнь все-таки можно повернуть назад
Nature Communications: Жизнь все-таки можно повернуть назад
МАИ: Дроны-дефектоскописты уступают человеку в точности, зато берут скоростью
МАИ: Дроны-дефектоскописты уступают человеку в точности, зато берут скоростью
EBioMedicine: Создан инструмент для выявления сепсиса у новорожденных
EBioMedicine: Создан инструмент для выявления сепсиса у новорожденных
Численное моделирование повысит эффективность 3D-печати из стали 316LSi
Численное моделирование повысит эффективность 3D-печати из стали 316LSi
Создан особо пластичный алюминиевый сплав для высокотехнологичных отраслей
Создан особо пластичный алюминиевый сплав для высокотехнологичных отраслей
Влияние цвета в архитектуре на самоконтроль человека: мнение эксперта МХПИ
Влияние цвета в архитектуре на самоконтроль человека: мнение эксперта МХПИ
Томские ученые представили цифровое решение для оптимизации НПЗ
Томские ученые представили цифровое решение для оптимизации НПЗ

Новости компаний, релизы

Международные эксперты оценили разработанную для нижегородского завода технологию
Регистрация сми на IV конгресс молодых ученых продлевается до 6 ноября
Фестиваль научных театров «Наука всем!» прошёл в Санкт-Петербурге
На старт! Внимание! MITEX!
Пироговская олимпиада для школьников по химии и биологии