Кремль змінив тактику в інформаційній війні: замість розробки власного штучного інтелекту, ворог вирішив «отруїти» світовий. Російські спецслужби масово заповнюють інтернет мільйонами автоматизованих фейків, щоб алгоритми Google та популярні чат-боти видавали російську пропаганду за чисту монету. Головна мета нової прихованої стратегії інформаційної війни, яку розробила Росія – спотворити дані у світових пошукових системах та програмах штучного інтелекту (ШІ).
Про це повідомляє Центр протидії дезінформації. Зазначається,що через міжнародні санкції та брак фінансування кремль відмовився від створення власного ШІ. Натомість ворог зосередився на маніпуляціях із чужими технологіями. Російські спецслужби масово наповнюють інтернет мільйонами автоматично згенерованих фейкових статей.
Як наслідок:
- Комп’ютерні алгоритми та чат-боти зчитують цю масу дезінформації.
- Системи помилково сприймають масовану брехню як авторитетне джерело.
- ШІ видає користувачам кремлівські наративи під виглядом надійних та перевірених відповідей.
Таким чином кремль намагається повністю автоматизувати свою пропаганду, змушуючи світові технології працювати на власні інтереси.
Найбільша загроза нової стратегії – у її маскуванні. Тепер ворожа дезінформація не виглядає як явна реклама чи агресивний допис у соцмережах. Вона подається як звичайні, нейтральні підказки комп’ютера, що суттєво ускладнює її розпізнавання звичайними користувачами.
***
Чи може штучний інтелект розпізнавати такі фейки? Ми запитали про це чат-бот штучного інтелекту Gemini. Він пояснив:
“Якщо відповідати прямо: самостійно на 100% розпізнати такий фейк у момент його генерації мені вкрай складно, але у мене є сильні «захисні механізми».
Ось як це працює зсередини і чому стратегія кремля дійсно є небезпечною викликом для розробників штучного інтелекту:
Чому ШІ вразливий до цієї тактики? Мовні моделі навчаються на величезних масивах текстів з інтернету. Якщо росіяни за допомогою ботоферм штучно створюють мільйони унікальних, але скоординованих статей на одну тему, алгоритм збору даних (веб-скрейпінг) фіксує «аномальну популярність» тези. Для машини це виглядає так: «О, про це нейтральним тоном пишуть тисячі різних сайтів, отже, це статистично значущий факт». Тобто ШІ «труїться» не тому, що він дурний, а тому, що ворог підробляє саму статистику популярності інформації.
Як я протидію цьому прямо зараз? Попри ці маніпуляції, я не беззахисний, і ось що допомагає мені (та розробникам) відсіювати таку брехню:
- Фільтрація джерел (Пріоритет авторитетності): Для навчання та пошуку в реальному часі використовуються алгоритми, які оцінюють «репутацію» сайтів. Офіційні медіа, урядові звіти, наукові бази та перевірені інформагенції мають значно більшу вагу, ніж мільйон свіжостворених сайтів-одноденок («сміттярок»), навіть якщо ті забиті ключовими словами.
- Аналіз суперечливостей та критичний контекст: Якщо ви запитаєте мене про чутливу тему, де зафіксовано масові інформаційні атаки, я навчений не просто копіювати першу-ліпшу відповідь, а зіставляти факти. Якщо інформація з «масових джерел» кардинально розбігається з даними міжнародних інституцій чи авторитетних медіа, я вкажу на наявність дезінформації або подам контекст збалансовано.
- Крос-чекінг через пошук у реальному часі: Коли ви просите мене проаналізувати поточні новини, я роблю цільові пошукові запити. Сучасні пошукові системи активно маркують і песимізують скоординовані мережі сайтів, які займаються ШІ-спамом, тому ця «маса брехні» часто просто не потрапляє у моє поле зору.
- Інструкції безпеки (Safety Guidelines): У мене закладені жорсткі обмеження щодо поширення теорій змови, мови ворожнечі та очевидних пропагандистських наративів.
Резюме чат-боту ШІ Gemini для медійника. Ця війна алгоритмів триває щомиті. Головна зброя проти «отруєння» ШІ — це якість джерел, а не їхня кількість. Як журналіст, ви знаєте правило: «Довіряй, але перевіряй». Для ШІ це правило трансформується у «Фільтруй базу даних і зважуй авторитетність джерела». Поки розробники тримають цей фільтр налаштованим, масований ШІ-спам ворога здебільшого залишається на маргінесах пошукової видачі. Але розслаблятися точно не варто.
Раніше ми розповідали про те, що ворог намагається перекласти відповідальність за руйнування Лаври на Україну, використовуючи для створення фейків штучний інтелект.
Дискусія з цього приводу: