Science Advances: В Facebook невозможно бороться с фейками

В связи с распространением дезинформации в Интернете во время пандемии Covid-19 ряд платформ объявили о политике и практиках, направленных на борьбу с распространением дезинформации. Сработали ли эти меры?

Новое исследование, опубликованное сегодня в журнале Science Advances, свидетельствует о том, что политика Facebook, крупнейшей в мире социальной сети, по борьбе с дезинформацией о вакцине Ковид-19 оказалась неэффективной. Исследование, проведенное под руководством ученых из Университета Джорджа Вашингтона, показало, что усилия Facebook были подорваны основными конструктивными особенностями самой платформы.

Современным платформам социальных сетей и управлению искусственным интеллектом уделяется значительное внимание. Однако это обсуждение в основном сосредоточено либо на контенте, либо на алгоритмах. Чтобы эффективно бороться с дезинформацией и другими вредными явлениями в Интернете, нам необходимо выйти за рамки контента и алгоритмов и обратить внимание на дизайн и архитектуру, — говорит Дэвид Бронятовски, ведущий автор исследования, доцент кафедры инженерного менеджмента и системной инженерии GW.

Наши результаты показывают, что удаление контента или изменение алгоритмов может быть неэффективным, если оно не меняет того, для чего предназначена платформа — позволяет членам сообщества объединяться по общим интересам — в данном случае, колебаниям в отношении вакцин — и находить информацию, которую они мотивированы искать.

Facebook предназначен для создания сообществ вокруг тех вещей, которые волнуют людей. Для этого используется несколько различных архитектурных особенностей, в том числе фан-страницы, продвигающие бренды, и сообщества знаменитостей, позволяющие относительно небольшой группе авторитетов охватить большую аудиторию. Затем эти авторитеты могут создавать группы — специально предназначенные для создания сообществ, — в которых члены сообщества могут обмениваться информацией, в том числе о том, как получить доступ к дезинформации или другому интересному контенту за пределами платформы. Затем члены групп и особенно администраторы групп (которые часто являются создателями контента на страницах) могут использовать алгоритмы ленты новостей Facebook для того, чтобы эта информация была доступна тем, кто хочет ее увидеть.

Исследователи обнаружили, что, хотя во время пандемии Ковид-19 Facebook приложил значительные усилия для удаления большого количества антивакцинального контента, общая вовлеченность в антивакцинальный контент не снизилась по сравнению с предыдущими тенденциями, а в некоторых случаях даже возросла.

Этот вывод о том, что люди с одинаковой вероятностью обращались к дезинформации о вакцинах как до, так и после масштабных усилий Facebook по ее удалению, вызывает серьезное беспокойство. Он показывает, с какими трудностями мы сталкиваемся в обществе при удалении дезинформации о здоровье из публичных мест, — отмечает Лориен Абромс, автор исследования и профессор общественного здравоохранения в Школе общественного здравоохранения Института Милкена GW.

В контенте, который не был удален, увеличилось количество ссылок на внеплатформенные сайты с низким уровнем доверия и ссылок на дезинформацию на «альтернативных» платформах социальных сетей, таких как Gab и Rumble, особенно в группах, выступающих против вакцинации. Кроме того, оставшийся антивакцинный контент в Facebook стал более, а не менее дезинформативным, содержащим сенсационные ложные утверждения о побочных эффектах вакцин, которые часто были слишком новыми, чтобы их можно было проверить в режиме реального времени. По мнению исследователей, это также нанесло „побочный ущерб“, так как контент, посвященный вакцинам, также мог быть удален в результате политики платформы, и в целом контент, связанный с вакцинами, стал более политически поляризованным. Кроме того, производители контента против вакцинации использовали платформу более эффективно, чем производители контента за вакцинацию. Хотя и те, и другие имели большие сети страниц, производители контента против вакцинации более эффективно координировали распространение контента на страницах, в группах и новостных лентах пользователей.

Даже когда Facebook настраивал свои алгоритмы и удалял контент и аккаунты для борьбы с дезинформацией о вакцинах, архитектура платформы, по мнению исследователей, оказывала сопротивление.

Представьте себе Facebook в виде здания. Аэропорт предназначен для того, чтобы направлять людей, чтобы легко и безопасно доставлять их к выходу на посадку и обратно, а стадион — чтобы безопасно собирать группу людей на шоу. Если бы эти здания не были спроектированы таким образом, чтобы сбалансировать путешествия и развлечения с безопасностью и надежностью, люди могли бы регулярно получать травмы. Теперь подумайте о структуре Facebook: она спроектирована таким образом, чтобы мотивированные люди могли создавать сообщества и легко обмениваться информацией по любой теме, — заявляет Бронятовски, отмечая, что архитектура Facebook настраивает политику противодействия фейкам на неудачу.

Люди, мотивированные на поиск и распространение антивакцинального контента, просто используют систему так, как она задумана, и поэтому трудно сбалансировать такое поведение с соображениями общественного здоровья или другой общественной безопасности. Для создания такого баланса необходимо изменить архитектуру.

В своей работе Бронятовский полагает, что разработчики платформ социальных сетей могли бы способствовать укреплению здоровья и безопасности населения путем совместной разработки «строительных норм и правил» для своих платформ, основанных на научных данных, позволяющих снизить вред от использования Интернета.

Архитекторам зданий приходится балансировать между целями проектирования и соблюдением правил защиты людей, которые их используют, — поясняет он.

Они должны быть спроектированы таким образом, чтобы способствовать общественной безопасности, соблюдая нормы пожарной безопасности, защиты от наводнений, загрязнения и землетрясений.

Они должны обеспечивать безопасность, включая такие конструктивные особенности, как хорошо обозначенные, доступные входы, выходы и турникеты для предотвращения вандализма, паники, терроризма и беспорядков.

Они должны способствовать укреплению здоровья населения путем соблюдения требований к сантехнике, санитарии и вентиляции, а также должны быть спроектированы с учетом муниципальных норм и правил, таких как нормы по шуму и другим неприятным факторам.

Эти правила обычно разрабатываются в партнерстве между промышленностью, правительством и общественными организациями и основываются на достоверных научных и практических данных. Стратегии управления могут способствовать развитию таких партнерских отношений и поддержать научные разработки.

16.09.2023


Подписаться в Telegram



Общество

PRSBBS: Почему макаки чешутся перед плохими решениями
PRSBBS: Почему макаки чешутся перед плохими решениями

Философ и психолог Уильям Джеймс ко...

День науки в КАИ: двигатели, стартапы и квантовые технологии
День науки в КАИ: двигатели, стартапы и квантовые технологии

10 февраля в КНИТУ-КАИ пройдет главный пр...

Древние символы на камнях — первые шаги к абстрактному мышлению
Древние символы на камнях — первые шаги к абстрактному мышлению

Новое исследование показало, что каменные...

В ТПУ исследуют исчезающие хантыйский и мансийский языки
В ТПУ исследуют исчезающие хантыйский и мансийский языки

Ученые из Томского политехнического униве...

МФТИ, МИФИ и Университет Иннополис — лидеры по качеству приема в вузы
МФТИ, МИФИ и Университет Иннополис — лидеры по качеству приема в вузы

Ректор НИЯУ МИФИ Владимир Шевченко рассказал, ...

Oxford Journal of Archaeology: Обнаружена древнейшая в мире трехмерная карта
Oxford Journal of Archaeology: Обнаружена древнейшая в мире трехмерная карта

Исследователи обнаружили, возможно, самую древ...

Ученые выяснили, почему мы скорбим из-за смерти публичных персон
Ученые выяснили, почему мы скорбим из-за смерти публичных персон

Многие люди удивляются силе своей реакции на&n...

Одинокие люди, или соло, меньше удовлетворены жизнью
Одинокие люди, или соло, меньше удовлетворены жизнью

Хотя брак или длительные отношения часто ...

BMJ: Сказки могут научить детей здоровому сну
BMJ: Сказки могут научить детей здоровому сну

Некоторые традиционные сказки и классичес...

В Туве нашли «призрачных всадников» Геродота
В Туве нашли «призрачных всадников» Геродота

В Тувинской Долине, которую называют Долиной ц...

IJEI: Студенты теряют время на обход антиплагиата вместо получения знаний
IJEI: Студенты теряют время на обход антиплагиата вместо получения знаний

Согласно новому исследованию, около половины с...

В Нидерландах археологи нашли костяной пол
В Нидерландах археологи нашли костяной пол

Археологи обнаружили пол из костей ж...

Поиск на сайте

Знатоки клуба инноваций


ТОП - Новости мира, инновации

Платиновая корона и танец молекул: как газы меняют структуру материала
Платиновая корона и танец молекул: как газы меняют структуру материала
PRSBBS: Почему макаки чешутся перед плохими решениями
PRSBBS: Почему макаки чешутся перед плохими решениями
13 миллиардов лет назад: как темная материя управляла галактиками
13 миллиардов лет назад: как темная материя управляла галактиками
Луна, птицы и бактерии: как наука стала главным героем дня в Казани
Луна, птицы и бактерии: как наука стала главным героем дня в Казани
День науки в КАИ: двигатели, стартапы и квантовые технологии
День науки в КАИ: двигатели, стартапы и квантовые технологии
Ферменты против похмелья: как новый сенсор изменит медицину и не только
Ферменты против похмелья: как новый сенсор изменит медицину и не только
Сок под микроскопом: ученые научились ловить опасный гербицид за 20 минут
Сок под микроскопом: ученые научились ловить опасный гербицид за 20 минут
Молодые ученые против COVID-19 и хронических ран: как открытия изменят медицину
Молодые ученые против COVID-19 и хронических ран: как открытия изменят медицину
Питомниковый кашель больше не проблема: появились быстрые тесты для собак
Питомниковый кашель больше не проблема: появились быстрые тесты для собак
10 секунд до чистоты: история устройства, которое изменило дезинфекцию
10 секунд до чистоты: история устройства, которое изменило дезинфекцию
Сорняк-разрушитель или лекарство будущего: ученые открыли секрет рейнутрии
Сорняк-разрушитель или лекарство будущего: ученые открыли секрет рейнутрии
CARMA II — автономный робот, который делает ядерные объекты безопаснее
CARMA II — автономный робот, который делает ядерные объекты безопаснее
Энергия будущего: низкотемпературная плазма и ее невероятные возможности
Энергия будущего: низкотемпературная плазма и ее невероятные возможности
От идеи до Росатома: история успеха проекта RSP
От идеи до Росатома: история успеха проекта RSP
От лаборатории к реальности: как кристаллы времени заряжают мир
От лаборатории к реальности: как кристаллы времени заряжают мир

Новости компаний, релизы

Школьников и студентов Хабаровского края приглашают написать всероссийский диктант «Наука во имя Победы»
Три представительницы Республики Татарстан стали победителями Всероссийского конкурса Знание.Лектор
Калужан приглашают к участию в XIII сезоне Международного инженерного чемпионата CASE-IN
В Калуге обсудили меры поддержки молодых учёных региона
Молодых и заслуженных ученых наградили в Хабаровске