Дезінформація є серйозним викликом для медіапрофесіоналів і користувачів, а також для демократичних процесів. Проєкт «Європейська наративна обсерваторія» / PROMPT (Predictive Research On Misinformation and narrative Propagation Trajectories), що фінансується ЄС, використовує великі мовні моделі (LLM) для виявлення наративів і патернів дезінформації в Інтернеті та розшифрування їхнього підґрунтя. Мета — надати журналістам інструменти, які дозволять їм краще розпізнавати дезінформацію. У найближчі місяці Європейська обсерваторія журналістики регулярно публікуватиме інформацію про проєкт та його результати.

Мартін Лестра та Джордан Рікер координують проєкт у французькому дослідницькому інституті OPSCI. В інтерв’ю EJO вони пояснюють, про що йдеться у проєкті та які цілі команда переслідує за допомогою LLM.

Мартін Лестра — координатор міжнародних партнерств та досліджень у дослідницькому інституті OPSCI. Науковець керував кількома проєктами міжнародного співробітництва на стику даних та державної політики в ОЕСР та Datactivist. Він має ступінь доктора політичних наук (Європейський університетський інститут-EHESS) і викладає в Ліонському університеті.

EJO: Яка мета проєкту PROMPT?

Мартін Лестра: PROMPT — це Європейська наративна обсерваторія, що фінансується Європейською комісією, яка використовує штучний інтелект для виявлення та аналізу появи дезінформаційних наративів. Вона зосереджена на трьох темах, які є особливо важливими для Європейської Комісії: війна в Україні, права і свободи ЛГБТКІА+ та європейські вибори 2024 року.

Протягом наступних 18 місяців ми працюватимемо над аналізом походження цих наративів та їхньої появи як в офлайн-, так і в онлайн-просторі у шести країнах (Франція, країни Балтії, Італія та Румунія) вісьмома мовами, включно з англійською та російською. Особливу увагу ми приділимо їхньому впливу на формування громадської думки та емоційним чинникам, які забезпечують успіх дезінформаційних наративів. Наша команда розробить методологію, що дозволить краще зрозуміти, як формуються та поширюються ці наративи на різних платформах. Ми зосередимося на ключових інформаційних вузлах, включно з впливовими медіа, соціальними платформами та Вікіпедією, щоб виявити механізми їхнього функціонування та впливу.

Мета проєкту — забезпечити журналістів та активістів ефективними інструментами для виявлення, прогнозування та протидії дезінформаційним наративам.

PROMPT — це пілотний проєкт, який об’єднує передові технології штучного інтелекту та найкращі практики для боротьби з дезінформацією. У рамках ініціативи ми співпрацюємо з одинадцятьма провідними партнерами з восьми країн ЄС, які представляють широкий спектр дисциплін, включаючи математику, лінгвістику, соціологію та медіадослідження. Серед них — експерти медіа та журналісти, такі як Інститут Еріха Броста (Німеччина), Les Surligneurs (Франція), Re:Baltica (країни Балтії) та Asociatia Digital Bridge (Румунія).

Що спонукало до створення цього проєкту?

У нас є чітка мета: сприяти здоровій демократичній дискусії. Ми вже десять років відстежуємо думки в інтернеті та 20 років вивчаємо комунікацію та риторику. Ми бачимо, як еволюціонувала дезінформація — і наскільки вона нюансована (спектр набагато складніший, ніж просто «фейкові» чи «правдиві» новини). Ми працювали з журналістами та активістами й бачимо, що існує невикористаний потенціал у сфері інструментів штучного інтелекту, які могли б підтримати їхню роботу.

Проєкт базується на двох ключових факторах — технологічному та соціальному. Технологічний фактор пов’язаний з останніми досягненнями в галузі штучного інтелекту, які ми вже кілька років активно інтегруємо у нашу роботу з аналізу великих обсягів соціальних даних. Ці інновації дали змогу зробити значний прорив у продуктивності, зокрема завдяки використанню великих мовних моделей (LLM), які забезпечують поглиблену обробку онлайн висловлювань. Вони також дозволяють здійснювати автоматизовану якісну категоризацію даних, значно розширюючи аналітичні можливості та підвищуючи ефективність роботи.

Суспільний компонент проєкту ґрунтується на переконанні, що подолати дезінформацію можливо лише за умови загальносуспільного підходу. Фахівці, які працюють у цій сфері, нерідко стикаються з почуттям ізоляції або браком ресурсів для протидії дедалі масштабнішим дестабілізаційним впливам. Наша мета — скромна, але важлива: забезпечити їх додатковими інструментами.

Чим цей проєкт відрізняється від інших, пов’язаних зі штучним інтелектом, медіа та навчанням?

PROMPT є другою Європейською наративною обсерваторією. Його основою став проєкт NODES (Обсерваторія наративів для системної боротьби з дезінформацією в Європі), який зосереджувався на структурі та взаємодії спільнот, пов’язаних із поширенням дезінформації в Інтернеті. NODES досліджував такі теми, як міграція, зміна клімату та COVID-19, аналізуючи, як формуються та поширюються дезінформаційні наративи.

Наш проєкт будується на цих напрацюваннях і робить наступний крок уперед, інтегруючи великі мовні моделі для більш глибокого моніторингу процесів формування та поширення наративів.

Однак PROMPT — це не спроба створити «чарівну кулю» чи «найкращу» модель. Ми скептично ставимося до такого роду обіцянок. Наша мета — розробити найбільш практичну та корисну модель.

Академічна спільнота докладає багато зусиль для розробки інноваційних методів аналізу наративів, що є важливим внеском у цю сферу. Однак часто бракує зусиль, спрямованих на адаптацію цих досліджень до потреб тих, хто щодня протистоїть дезінформації. Відмінним прикладом є проєкти на кшталт vera.ai, які розробляють і тестують інструменти для виявлення дезінформації на основі штучного інтелекту. У рамках PROMPT ми об’єднали зусилля з фактчекерами та організацією Wikimedia France — однією з найбільших онлайн-платформ, яка стикається з системними ризиками, зокрема в контексті вимог ЄС.

Ми також доповнюємо роботу в галузі фактчекінгу та медіаграмотності, наприклад, Європейської обсерваторії цифрових медіа (EDMO) або членів Європейської мережі стандартів фактчекінгу. Ми також раді, що можемо спиратися на досвід Інституту Еріха Броста, який може розширити нашу діяльність до всеосяжної мережі інститутів журналістики в усіх державах-членах ЄС.

Джордан Рікер – операційний директор дослідницького інституту OPSCI. Як співзасновник консалтингової компанії, що вийшла на біржу, він розробляв цифрові стратегії. Викладав маркетинг в Університеті Сорбонна Нувель. Протягом двох з половиною років відповідав за цифрову присутність міста Париж.

Як Європейська наративна обсерваторія сприяє боротьбі з дезінформацією?

Щоб зрозуміти наш внесок, важливо спочатку усвідомити значення наративів у сучасному інформаційному просторі. Дезінформаційні наративи становлять серйозну загрозу для країн ЄС. Поширення неправдивої інформації про війну в Україні може підірвати громадську підтримку як національних, так і спільних дій ЄС на підтримку України. Дезінформаційні наративи, спрямовані проти ЛГБТКІА+ спільнот, шкодять інтеграції, рівності та реалізації прав людини. Неправдива інформація, пов’язана з виборами, здатна вводити виборців в оману та руйнувати довіру до демократичних інституцій.

Суб’єкти дезінформації, зокрема ті, що діють за підтримки «держав-ізгоїв», наполегливо працюють над дестабілізацією наших демократій, посіюючи невдоволення та поляризуючи суспільні дискусії. Щоб ефективно протидіяти цим загрозам, ми маємо використовувати найкращі наукові докази та передові методи. Проєки на кшталт PROMPT, які займаються дослідженням і моніторингом наративів, відіграють ключову роль у боротьбі з дезінформацією як в онлайн-, так і в офлайн-просторі. Їхній внесок полягає в ідентифікації, викритті, засудженні та нейтралізації дезінформаційних кампаній, а також у підвищенні їхньої вартості для тих, хто стоїть за такими маніпуляціями.

Існує безліч аспектів дезінформації, які потребують глибшого аналізу. Наприклад, важливо зрозуміти, як вона поширюється через соціальні платформи: чи використовує універсальні риторичні шаблони, чи адаптується до місцевих мовних і культурних особливостей. Це одне з ключових питань, на які проєкт PROMPT прагне знайти відповіді.

Яку роль відіграють великі мовні моделі (LLM) у викритті фейкових новин у ЗМІ та Інтернеті?

Дезінформація — це не лише простий поділ на «фейкові» чи «правдиві» новини. Ми вважаємо, що вона має концептуально сприятливі, повторювані способи подання інформації, які можуть бути ідентифіковані та проаналізовані. Мова при цьому є складною системою: її структура та значення змінюються залежно від мови та типу дискурсу. Наприклад, агресивна, відверта мова ненависті кардинально відрізняється від прихованих форм, таких як сарказм або гумор. Великі мовні моделі здатні розпізнавати ці систематичні особливості й варіації у великомасштабних текстових масивах. 

Більшість людей сприймають великі мовні моделі (LLM) як інструменти для створення текстів. Однак генеративний штучний інтелект (GenAI) може не лише виявляти дезінформацію, а й надавати журналістам і фактчекерам її контекст у доступній та зрозумілій формі. Наприклад, так само, як ви запитуєте ChatGPT про найкращий план для дня народження 4-річної дитини, ви можете використати модель, яку ми розробляємо, щоб дослідити певне оманливе або неправдиве твердження, яке виявив штучний інтелект. Вона зможе відповісти на такі питання: Звідки це твердження походить? Де ще публікували подібні заяви? Якими мовами це було зроблено? Які упередження використовує це твердження та яка риторика допомагає йому поширювати дезінформацію?

Хоча великі мовні моделі здатні виконувати багато завдань, їхній головний фокус має бути на практичному застосуванні для тих, хто перебуває на передовій боротьби з дезінформацією. Саме тому в цьому проєкті центральну роль відіграють журналісти та представники громадянського суспільства.

Яким темам присвячений проєкт і чому обрано саме їх?

Тематики проєкту були визначені Європейською Комісією, яка вирішила змістити фокус із Covid-19 на інші, не менш важливі та часто взаємопов’язані питання. Однією з ключових тем стала агресивна війна проти України. В інтернеті триває безліч подій, які генерують величезний обсяг даних і нових знань, що дозволяє проєкту PROMPT ефективно будувати свої дослідження.

Ще однією важливою темою є зростання поширення неправдивих і шкідливих наративів, пов’язаних із гендерною ідентичністю та самовираженням (так звана гендерна дезінформація). Ці наративи часто супроводжуються дискримінаційними висловлюваннями щодо жінок, гомофобією та проявами нетерпимості до ЛГБТКІА+ спільноти. Проєкт досліджує, як ці явища впливають на соціальну згуртованість, демократію та базові права людини, а також шукає шляхи зменшення цих ризиків. Окремо вивчаються оманливі наративи, пов’язані з виборами, які мають значний потенціал для маніпулювання громадською думкою, впливу на поведінку виборців та підриву демократичних процесів.

Окрім таких тем, як міграція та війна в Україні, ми також спостерігаємо міжтематичні закономірності. З наших попередніх досліджень, інших дослідницьких проєктів та роботи журналістів і фактчекерів ми знаємо, що акаунти, які поширюють дезінформацію про Covid або вакцини, можуть один день просувати путінську версію подій в Україні, а наступного — наративи, підтримувані Росією. Подібні наративи й твердження можуть з’являтися від одних виборів до інших. Це означає, що проєкт PROMPT може не лише зробити значний внесок у боротьбу з дезінформацією, а й багато чого навчитися з досвіду інших ініціатив у цій сфері.

Дізнатися більше про проєкт ENO/PROMPT можна тут.

Цей текст було вперше опубліковано на німецькому сайті EJO 15 листопада 2024 року. Українською переклала Олександра Ярошенко.

Погляди, висловлені на цьому сайті належать авторам і не обов’язково відображають точки зору, політики та позиції EJO. 

Стежте за нами у Facebook.