Боротьба з дезінформацією — один із ключових викликів для медійників. Громадськість очікує від журналістів не лише достовірної та перевіреної інформації, а й активного протистояння маніпуляціям. Водночас методи дезінформації постійно еволюціонують, що змушує журналістів адаптувати свої підходи та використовувати нові інструменти.

З огляду на це, PROMPT застосовує штучний інтелект для створення ефективних методів виявлення та аналізу дезінформації, що допоможуть журналістам і активістам розпізнавати маніпуляції та надавати аудиторії ширший контекст.

Але який внесок може зробити новий проєкт у цій сфері, якщо вже існує багато досліджень, ініціатив та організацій, що займаються перевіркою фактів? Хоча інструментів для виявлення дезінформації залишається небагато, PROMPT прагне заповнити цю прогалину.

Партнери проєкту визнають, що дезінформація — це динамічне явище: постійно з’являються нові теми, методи та технології маніпулювання. Дослідження штучного інтелекту та дезінформації нагадує роботу з «рухомою мішенню», яка змінюється та прискорюється під впливом технологічного прогресу. 

Одна з найскладніших, але водночас ключових задач у вивченні дезінформації — це аналіз її впливу. PROMPT ґрунтується на гіпотезі, що поширювачі дезінформації дедалі частіше адаптують свої наративи до культурних, мовних та спільнотних особливостей, аби досягти більшого впливу. Щоб ефективно протидіяти цьому, необхідно розуміти, як формуються та змінюються дезінформаційні наративи, які викликають резонанс у певних спільнотах. PROMPT застосовує методи штучного інтелекту та великі мовні моделі (LLM) для моніторингу дезінформаційних наративів. Проєкт досліджує, як ці наративи поширюються та трансформуються на соціальних платформах і в локальних контекстах.

Цей процес супроводжується численними викликами. Одним із головних завдань команди дослідників факультету соціальних наук Ризького університету Страдіньша (Латвія) у співпраці з opsci.ai, координатором проєкту PROMPT, стало створення кодексу для розпізнавання та деконструкції ключових дезінформаційних наративів і пов’язаних із ними аргументів.

В основній частині посібника розглядаються різні лінгвістичні та риторичні категорії. Керуючись інтуїцією, що розповсюджувачі дезінформації все частіше використовують специфічні для культури, спільноти та мови патерни для досягнення більшого впливу, ми зосередилися на риториці дезінформації, використовуючи мультимодальний (текст, фото, відео) та багатомовний (8 мов) фільтр. Ми розшифровуємо ці практики, класифікуючи механізми переконання та прийоми маніпулювання інформацією, лексичні засоби та різноманітний перелік риторичних фігур. Для аналізу глибших шарів дезінформації ми використовуємо аксіологічно-семантичні категорії, щоб визначити, які цінності просувають ці пости в соціальних мережах.

Що нового в кодексі PROMPT?

Спираючись на попередні дослідження дезінформації, найкращі практики медіафахівців та аналіз зразків дезінформації, ми розробили кодекс, що містить 30 кодових груп і понад 240 кодів. Використовуючи міждисциплінарний підхід (медіа, комунікація, семантика), ми створили систему кодування дезінформації, яка охоплює мовні елементи, риторичні прийоми, маніпулятивні техніки та коди, що допомагають ідентифікувати її цілі, мотиви розповсюджувачів і потенційний вплив.

У кодексі форма дезінформації (як саме вона подається) має не менше значення, ніж її зміст (що саме вона говорить).

Основна частина посібника аналізує різні лінгвістичні та риторичні категорії. Виходячи з припущення, що дезінформація дедалі частіше адаптується під культурні, мовні та соціальні особливості спільнот, ми зосередилися на риториці дезінформації, застосовуючи мультимодальний (текст, фото, відео) та багатомовний (8 мов) підхід. Ми розшифровуємо ці практики, класифікуючи: механізми переконання та маніпулятивні прийоми, лексичні особливості, риторичні фігури. Для аналізу глибших шарів дезінформації ми використовуємо аксіологічно-семантичний аналіз, щоб виявити, які цінності просуваються у дезінформаційних матеріалах.

Кодекс також допомагає визначити, чи спрямована інформація на те, щоб посіяти розбрат, страх та вплинути на громадську думку, використовуючи агресивні слова, які передають ненависть або ворожість (наприклад, «ворог», «зрадник», «загарбник», «конфлікт» або «загроза»); чи сприяє вона дискримінації певних груп через використання стереотипних слів, які посилюють стереотипи — наприклад, «соціальний паразит» або «ледачий іммігрант». Відчуття терміновості, страху або паніки можна передати за допомогою тривожних слів, які часто використовуються для перебільшення ситуації або провокування сильної емоційної реакції, наприклад, «катастрофічний», «терміновий», «епідемія», «трагічний» або «криза». Однак виявлення певної лексики не обов’язково підтверджує наявність дезінформації; скоріше, воно допомагає розпізнати, чи тісно вона корелює зі змістом.

Після початкового етапу тестування та дослідження можливостей інструменту детального аналізу ми розширили кодекс, додавши аналіз того, як мова публікацій у соціальних мережах співвідноситься з різними політичними ідеологіями. Такий підхід значно покращує здатність інструменту враховувати ширший політичний і культурний контекст у розпізнаванні дезінформації.

Усі категорії будуть підтримуватися штучним інтелектом (ШІ) та використовуватимуть арсенал PROMPT для аналізу дезінформації. Завдяки цьому інструмент зможе виявляти тонкі мовні нюанси, які можуть залишитися непоміченими людиною, але суттєво впливати на зміст, контекст і сприйняття інформації. Такі нюанси здатні змінювати значення повідомлення, спотворювати його сенс і відігравати вирішальну роль у поширенні дезінформації в цифровому просторі.

Як ми розробляли кодекс і чого навчилися?

До створення та валідації матриці були залучені всі партнери PROMPT. Упродовж трьох технічних семінарів учасники проєкту аналізували реальні приклади дезінформації, пропонували уточнення та допомагали вдосконалювати матрицю.

Один із ключових висновків: кодекс має враховувати як журналістські стандарти (фактичність, типологію дезінформації, можливість верифікації), так і менш досліджені аспекти – аксіологічні ознаки та риторичні прийоми. Саме цей плюралістичний підхід є центральним внеском PROMPT у дослідження дезінформації.

Для перевірки ефективності матриці ми протестували її на вибірці дезінформаційних кейсів із різних країн, зокрема на спростованих фактчекерами твердженнях. Вона поєднує теоретичні основи та емпіричний аналіз дезінформації у шести країнах (Латвії, Литві, Естонії, Румунії, Італії та Франції). Дослідження враховує лінгвістичні особливості, комунікаційне середовище та соціально-політичні контексти, що впливають на поширення дезінформації.

Попри складність розробки матриці PROMPT, вона має поглибити розуміння механізмів дезінформації – не лише риторичних, а й стратегічних. Її мета – надати додаткові інструменти для викриття маніпуляцій, спрямованих на поляризацію цифрового простору та підрив демократичних інститутів.

Цей текст є частиною серії публікацій PROMPT.

Автори: Анда Розукальне, Вінета Кляйнберга та Сара Мерсер.

Українською переклала Олександра Ярошенко.

Джерело зображення: CCNull.

Погляди, висловлені на цьому сайті належать авторам і не обов’язково відображають точки зору, політики та позиції EJO. 

Стежте за нами у Facebook та LinkedIn.