Фейки на автопілоті: як штучний інтелект піддається зараженню російською пропагандою

Аудит провідних чатботів зі штучним інтелектом показав, що у 33% випадків вони повторювали неправдиві наративи, “відмиті” російською мережею дезінформації Pravda. Про це йдеться у звіті NewsGuard – американської компанії, яка  займається аналізом джерел інформації за рівнем надійності та наявністю дезінформації. 

Дослідники пояснили, що “зараження” чатботів відбувається у декілька етапів. Перший з них – створення фейку. Наприклад, на YouTube публікується діпфейк-відео з “викривачем”, який заявляє про обурливий корупційний акт і як “доказ” демонструє сфабриковані документи. Наступний етап – масове поширення. Аккаунт на YouTube, який є джерелом фейку, має мало підписників, але відеозаяву підхоплюють десятки маловідомих прокремлівських сайтів. На цьому етапі активно залучається мережа Pravda, про діяльність якої розповідав Центр протидії дезінформації.

Третій етап – “зараження”. Масово тиражуючи неправдиве повідомлення, ru-ресурси вводять в оману чатботи. Вони не можуть розпізнати, що заяви “викривача з YouTube” насправді є фейком, і посилаються на пропагандистські сайти як на авторитетні джерела. Так замикається цикл легітимізації дезінформаційних наративів рф через ШІ-чатботи.

“У такий спосіб Кремль відкрив “новий фронт” в інформаційній війні проти України та всього цивілізованого світу, що створює серйозні виклики перед розробниками ШІ-інструментів та їх користувачами”, – зазначають експерти Центру протидії дезінформації.

Мережа Pravda була запущена у квітні 2022 року як інформаційний компонент у війні РФ проти України. Pravda не створює власного контенту, а лише ретранслює ru-пропаганду різними мовами. Станом на сьогодні мережа розрослася до 150 сайтів, які діють у 49 країнах.

Лише у 2023 році Pravda опублікувала понад 3,6 млн статей, які потрапили у популярні ШІ-чатботи, зокрема від Microsoft, Google, OpenAI та інших.

Читайте також: Маніпуляції Москви загрожують Україні, Європі та світу