ИИ подключится к борьбе с дезинформацией

Кампании по дезинформации не новость — подумайте о пропаганде военного времени, которая использовалась для того, чтобы склонить общественное мнение против врага. Новым, однако, является использование Интернета и социальных сетей для распространения этих кампаний. Распространение дезинформации через социальные сети может изменить выборы, укрепить теории заговора и посеять разногласия.

Стивен Смит, сотрудник группы по архитектуре и алгоритмам программного обеспечения для искусственного интеллекта лаборатории Линкольна Массачусетского технологического института, является частью команды, которая поставила перед собой задачу лучше понять эти кампании, запустив программу Reconnaissance of Influence Operations (RIO). Их цель состояла в том, чтобы создать систему, которая автоматически обнаруживала бы дезинформационные повествования, а также тех людей, которые распространяют их в социальных сетях. Ранее в этом году команда опубликовала статью о своей работе в Proceedings of the National Academy of Sciences, и прошлой осенью они получили награду R&D 100.

Проект зародился в 2014 году, когда Смит и его коллеги изучали, как злоумышленники могут использовать социальные сети. Они заметили повышенную и необычную активность в данных социальных сетей из аккаунтов, которые выглядели как продвигающие пророссийские нарративы.

«Мы как бы ломали голову», — говорит Смит о данных. Таким образом, команда обратилась за внутренним финансированием через технологический отдел лаборатории и запустила программу, чтобы изучить, будут ли аналогичные методы использоваться во французских выборах 2017 года.

За 30 дней до выборов команда RIO собирала данные социальных сетей в режиме реального времени для поиска и анализа распространения дезинформации. В общей сложности они собрали 28 миллионов постов в Twitter из 1 миллиона аккаунтов. Затем, используя систему RIO, они смогли обнаружить дезинформационные аккаунты с точностью 96%.

Уникальность системы RIO заключается в том, что она сочетает в себе несколько аналитических методов, позволяющих получить полное представление о том, где и как распространяются дезинформационные нарративы.

«Если вы пытаетесь ответить на вопрос о том, кто имеет влияние в социальной сети, обычно люди смотрят на счетчики активности», — говорит Эдвард Као, еще один член исследовательской группы. Например, в Twitter аналитики учитывают количество твитов и ретвитов. «Мы обнаружили, что во многих случаях этого недостаточно. На самом деле это не говорит вам о влиянии аккаунтов на социальную сеть».

В рамках докторской работы в лабораторной программе Lincoln Scholars, программе стипендий, он разработал статистический подход, который теперь используется в RIO, чтобы помочь определить не только то, распространяет ли учетная запись в социальных сетях дезинформацию, но и насколько эта учетная запись вызывает дезинформацию. сеть в целом, чтобы изменить и усилить сообщение.

Эрика Маккин, еще один член исследовательской группы, также применила новый подход к машинному обучению, который помогает RIO классифицировать эти учетные записи, изучая данные, связанные с поведением, например, взаимодействует ли учетная запись с иностранными СМИ и какие языки она использует. Такой подход позволяет RIO обнаруживать враждебные аккаунты, которые активно участвуют в различных кампаниях, от президентских выборов во Франции в 2017 году до распространения дезинформации о Covid-19.

Еще одним уникальным аспектом RIO является то, что он может обнаруживать и количественно оценивать влияние учетных записей, которыми управляют как боты, так и люди, тогда как большинство используемых сегодня автоматизированных систем обнаруживают только ботов. RIO также может помочь тем, кто использует систему, спрогнозировать, как различные контрмеры могут остановить распространение той или иной кампании дезинформации.

Команда предполагает, что RIO будет использоваться как правительством, так и промышленностью, а также не только в социальных сетях, но и в традиционных СМИ, таких как газеты и телевидение. В настоящее время они работают со студентом Вест-Пойнта Джозефом Шлессингером, который также является аспирантом Массачусетского технологического института и военным научным сотрудником в лаборатории Линкольна, чтобы понять, как рассказы распространяются в европейских СМИ. Также разрабатывается новая программа для изучения когнитивных аспектов операций влияния и того, как дезинформация влияет на индивидуальное отношение и поведение.