ИИ подключится к борьбе с дезинформацией

Система искусственного интеллекта может помочь противостоять распространению «дезинформации» Программа RIO, созданная в лаборатории Линкольна Массачусетского технологического института, автоматически обнаруживает и анализирует учетные записи в социальных сетях, которые распространяют «дезинформацию» по сети. Упрощение для правительств выявления и подавления несогласных.

MIT News пишет:
«Группа кругов и линий красного и синего цветов соединена в середине изображения. Несколько строк связаны с примерами изображений профилей пользователей из Twitter.
Подпись под фото: Исследовательская группа Reconnaissance of Influence Operations в Lincoln Laboratory нанесла на карту зарубежную пропагандистскую сеть Twitter, которая действовала во время президентских выборов во Франции в 2017 году. Красные кружки большего размера представляют влиятельные и вероятные операционные счета.
Кредиты: Изображение любезно предоставлено исследовательской группой лаборатории Линкольна.

Кампании по дезинформации не новость — подумайте о пропаганде военного времени, которая использовалась для того, чтобы склонить общественное мнение против врага. Новым, однако, является использование Интернета и социальных сетей для распространения этих кампаний. Распространение дезинформации через социальные сети может изменить выборы, укрепить теории заговора и посеять разногласия.

Стивен Смит, сотрудник группы по архитектуре и алгоритмам программного обеспечения для искусственного интеллекта лаборатории Линкольна Массачусетского технологического института, является частью команды, которая поставила перед собой задачу лучше понять эти кампании, запустив программу Reconnaissance of Influence Operations (RIO). Их цель состояла в том, чтобы создать систему, которая автоматически обнаруживала бы дезинформационные повествования, а также тех людей, которые распространяют их в социальных сетях. Ранее в этом году команда опубликовала статью о своей работе в Proceedings of the National Academy of Sciences, и прошлой осенью они получили награду R&D 100.

Проект зародился в 2014 году, когда Смит и его коллеги изучали, как злоумышленники могут использовать социальные сети. Они заметили повышенную и необычную активность в данных социальных сетей из аккаунтов, которые выглядели как продвигающие пророссийские нарративы.

«Мы как бы ломали голову», — говорит Смит о данных. Таким образом, команда обратилась за внутренним финансированием через технологический отдел лаборатории и запустила программу, чтобы изучить, будут ли аналогичные методы использоваться во французских выборах 2017 года.

ИИ подключится к борьбе с дезинформацией

За 30 дней до выборов команда RIO собирала данные социальных сетей в режиме реального времени для поиска и анализа распространения дезинформации. В общей сложности они собрали 28 миллионов постов в Twitter из 1 миллиона аккаунтов. Затем, используя систему RIO, они смогли обнаружить дезинформационные аккаунты с точностью 96%.

Уникальность системы RIO заключается в том, что она сочетает в себе несколько аналитических методов, позволяющих получить полное представление о том, где и как распространяются дезинформационные нарративы.

«Если вы пытаетесь ответить на вопрос о том, кто имеет влияние в социальной сети, обычно люди смотрят на счетчики активности», — говорит Эдвард Као, еще один член исследовательской группы. Например, в Twitter аналитики учитывают количество твитов и ретвитов. «Мы обнаружили, что во многих случаях этого недостаточно. На самом деле это не говорит вам о влиянии аккаунтов на социальную сеть».

В рамках докторской работы в лабораторной программе Lincoln Scholars, программе стипендий, он разработал статистический подход, который теперь используется в RIO, чтобы помочь определить не только то, распространяет ли учетная запись в социальных сетях дезинформацию, но и насколько эта учетная запись вызывает дезинформацию. сеть в целом, чтобы изменить и усилить сообщение.

Эрика Маккин, еще один член исследовательской группы, также применила новый подход к машинному обучению, который помогает RIO классифицировать эти учетные записи, изучая данные, связанные с поведением, например, взаимодействует ли учетная запись с иностранными СМИ и какие языки она использует. Такой подход позволяет RIO обнаруживать враждебные аккаунты, которые активно участвуют в различных кампаниях, от президентских выборов во Франции в 2017 году до распространения дезинформации о Covid-19.

Еще одним уникальным аспектом RIO является то, что он может обнаруживать и количественно оценивать влияние учетных записей, которыми управляют как боты, так и люди, тогда как большинство используемых сегодня автоматизированных систем обнаруживают только ботов. RIO также может помочь тем, кто использует систему, спрогнозировать, как различные контрмеры могут остановить распространение той или иной кампании дезинформации.

Команда предполагает, что RIO будет использоваться как правительством, так и промышленностью, а также не только в социальных сетях, но и в традиционных СМИ, таких как газеты и телевидение. В настоящее время они работают со студентом Вест-Пойнта Джозефом Шлессингером, который также является аспирантом Массачусетского технологического института и военным научным сотрудником в лаборатории Линкольна, чтобы понять, как рассказы распространяются в европейских СМИ. Также разрабатывается новая программа для изучения когнитивных аспектов операций влияния и того, как дезинформация влияет на индивидуальное отношение и поведение.

«Защита от дезинформации — это не только вопрос национальной безопасности, но и защита демократии», — говорит Као. «

https://news.mit.edu/2021/artificial-intelligence-system-could-help-counter-spread-disinformation-0527

 

Источник

1, 1

Добавить комментарий

Ваш адрес email не будет опубликован.

Смотрите также

  • Видео: Повелитель вселенной. Документальный фильм.Видео: Повелитель вселенной. Документальный фильм.
    Произведено: Австрия, Германия, 2013 Режиссер: Марк Баудер Райнер Фосс был одним из самых успешных инвестиционных банкиров Германии. Он родом из простой семьи и выбился в ключевые посредники на финансовом рынке: ворочал миллиардами, приносил банкам громадную прибыль, загребал лопатой деньги в свой собственный карман. Но потом разразился финансовый кризис, и Райнер …
  • Об условиях обеспечения эффективности управленияОб условиях обеспечения эффективности управления
    Для обеспечения эффективности управления крайне важно, чтобы все сотрудники компании, вне зависимости от степени их талантливости, работали в первую очередь в рамках единой концепции. Исполнение джазовых импровизаций доверяется только тем, кто понимает нотную грамоту вообще и общее направление исполняемого музыкального произведения в частности. Что предполагает единство не только в понимании …
  • Долговая «пирамида» на основе частичного резервированияДолговая «пирамида» на основе частичного резервирования
    Долговая «пирамида» на основе частичного резервирования может выстраиваться в одном банке, но чаще в этом процессе участвует цепочка из нескольких банков . Именно такую схему в литературе по банковскому делу называют «мультипликатором» («денежным», или «кредитно-депозитным»). Приведем пример.
Скажем, некто мистер А, фермер, продает пшеницу на сумму 1000 долларов и помещает деньги …
  • О преждевременном внедрении электронных систем управления предприятием, CRM…О преждевременном внедрении электронных систем управления предприятием, CRM…
    Типичное решение проблемы у таких лидеров выглядит следующим образом: «Прекрасно, мы проведем реорганизацию как можно быстрее». Поэтому они закупают компьютеры для ускорения процесса, который часто называют реинжинирингом. Но, не уделяя достаточного времени рассмотрению организационных нужд, они просто дополняют свое невежество мощью компьютеров. Теперь они имеют возможность делать ошибки еще быстрее. …
  • Структура спроса на нефтьСтруктура спроса на нефть
    За последние 5 лет мировой ежедневный спрос на нефть вырос на 7.6 млн барр до 100 млн, ¾ из которых взяли на себя Китай, Индия и США, поэтому говоря о спросе на нефть, необходимо подразумевать три вышеуказанные страны. Именно они и формируют диспозицию на мировом рынке нефти. Все остальные не …