Science Advances: В Facebook невозможно бороться с фейками

В связи с распространением дезинформации в Интернете во время пандемии Covid-19 ряд платформ объявили о политике и практиках, направленных на борьбу с распространением дезинформации. Сработали ли эти меры?

Новое исследование, опубликованное сегодня в журнале Science Advances, свидетельствует о том, что политика Facebook, крупнейшей в мире социальной сети, по борьбе с дезинформацией о вакцине Ковид-19 оказалась неэффективной. Исследование, проведенное под руководством ученых из Университета Джорджа Вашингтона, показало, что усилия Facebook были подорваны основными конструктивными особенностями самой платформы.

Современным платформам социальных сетей и управлению искусственным интеллектом уделяется значительное внимание. Однако это обсуждение в основном сосредоточено либо на контенте, либо на алгоритмах. Чтобы эффективно бороться с дезинформацией и другими вредными явлениями в Интернете, нам необходимо выйти за рамки контента и алгоритмов и обратить внимание на дизайн и архитектуру, — говорит Дэвид Бронятовски, ведущий автор исследования, доцент кафедры инженерного менеджмента и системной инженерии GW.

Наши результаты показывают, что удаление контента или изменение алгоритмов может быть неэффективным, если оно не меняет того, для чего предназначена платформа — позволяет членам сообщества объединяться по общим интересам — в данном случае, колебаниям в отношении вакцин — и находить информацию, которую они мотивированы искать.

Facebook предназначен для создания сообществ вокруг тех вещей, которые волнуют людей. Для этого используется несколько различных архитектурных особенностей, в том числе фан-страницы, продвигающие бренды, и сообщества знаменитостей, позволяющие относительно небольшой группе авторитетов охватить большую аудиторию. Затем эти авторитеты могут создавать группы — специально предназначенные для создания сообществ, — в которых члены сообщества могут обмениваться информацией, в том числе о том, как получить доступ к дезинформации или другому интересному контенту за пределами платформы. Затем члены групп и особенно администраторы групп (которые часто являются создателями контента на страницах) могут использовать алгоритмы ленты новостей Facebook для того, чтобы эта информация была доступна тем, кто хочет ее увидеть.

Исследователи обнаружили, что, хотя во время пандемии Ковид-19 Facebook приложил значительные усилия для удаления большого количества антивакцинального контента, общая вовлеченность в антивакцинальный контент не снизилась по сравнению с предыдущими тенденциями, а в некоторых случаях даже возросла.

Этот вывод о том, что люди с одинаковой вероятностью обращались к дезинформации о вакцинах как до, так и после масштабных усилий Facebook по ее удалению, вызывает серьезное беспокойство. Он показывает, с какими трудностями мы сталкиваемся в обществе при удалении дезинформации о здоровье из публичных мест, — отмечает Лориен Абромс, автор исследования и профессор общественного здравоохранения в Школе общественного здравоохранения Института Милкена GW.

В контенте, который не был удален, увеличилось количество ссылок на внеплатформенные сайты с низким уровнем доверия и ссылок на дезинформацию на «альтернативных» платформах социальных сетей, таких как Gab и Rumble, особенно в группах, выступающих против вакцинации. Кроме того, оставшийся антивакцинный контент в Facebook стал более, а не менее дезинформативным, содержащим сенсационные ложные утверждения о побочных эффектах вакцин, которые часто были слишком новыми, чтобы их можно было проверить в режиме реального времени. По мнению исследователей, это также нанесло „побочный ущерб“, так как контент, посвященный вакцинам, также мог быть удален в результате политики платформы, и в целом контент, связанный с вакцинами, стал более политически поляризованным. Кроме того, производители контента против вакцинации использовали платформу более эффективно, чем производители контента за вакцинацию. Хотя и те, и другие имели большие сети страниц, производители контента против вакцинации более эффективно координировали распространение контента на страницах, в группах и новостных лентах пользователей.

Даже когда Facebook настраивал свои алгоритмы и удалял контент и аккаунты для борьбы с дезинформацией о вакцинах, архитектура платформы, по мнению исследователей, оказывала сопротивление.

Представьте себе Facebook в виде здания. Аэропорт предназначен для того, чтобы направлять людей, чтобы легко и безопасно доставлять их к выходу на посадку и обратно, а стадион — чтобы безопасно собирать группу людей на шоу. Если бы эти здания не были спроектированы таким образом, чтобы сбалансировать путешествия и развлечения с безопасностью и надежностью, люди могли бы регулярно получать травмы. Теперь подумайте о структуре Facebook: она спроектирована таким образом, чтобы мотивированные люди могли создавать сообщества и легко обмениваться информацией по любой теме, — заявляет Бронятовски, отмечая, что архитектура Facebook настраивает политику противодействия фейкам на неудачу.

Люди, мотивированные на поиск и распространение антивакцинального контента, просто используют систему так, как она задумана, и поэтому трудно сбалансировать такое поведение с соображениями общественного здоровья или другой общественной безопасности. Для создания такого баланса необходимо изменить архитектуру.

В своей работе Бронятовский полагает, что разработчики платформ социальных сетей могли бы способствовать укреплению здоровья и безопасности населения путем совместной разработки «строительных норм и правил» для своих платформ, основанных на научных данных, позволяющих снизить вред от использования Интернета.

Архитекторам зданий приходится балансировать между целями проектирования и соблюдением правил защиты людей, которые их используют, — поясняет он.

Они должны быть спроектированы таким образом, чтобы способствовать общественной безопасности, соблюдая нормы пожарной безопасности, защиты от наводнений, загрязнения и землетрясений.

Они должны обеспечивать безопасность, включая такие конструктивные особенности, как хорошо обозначенные, доступные входы, выходы и турникеты для предотвращения вандализма, паники, терроризма и беспорядков.

Они должны способствовать укреплению здоровья населения путем соблюдения требований к сантехнике, санитарии и вентиляции, а также должны быть спроектированы с учетом муниципальных норм и правил, таких как нормы по шуму и другим неприятным факторам.

Эти правила обычно разрабатываются в партнерстве между промышленностью, правительством и общественными организациями и основываются на достоверных научных и практических данных. Стратегии управления могут способствовать развитию таких партнерских отношений и поддержать научные разработки.

16.09.2023