Fałszywe wiadomości i dezinformacja (FNaD) są coraz częściej rozpowszechniane za pośrednictwem różnych platform internetowych i społecznościowych, powodując szerokie zakłócenia i wpływając na postrzeganie podejmowania decyzji. Wysiłki badawcze zostały podjęte w celu opracowania modeli wykrywania FNaD opartych na sztucznej inteligencji (AI) i uczeniu maszynowym (ML). W artykule przedstawione zostały różne aspekty fake newsów oraz roli SI i data science w ich identyfikacji i przeciwdziałaniu. Omówione zostały techniki analizy treści, wykrywania manipulowanych obrazów, identyfikacji deepfake’ów, analizy sieci społecznościowych i wielu innych interesujących zagadnień. Rozpatrzono również konsekwencje fake newsów i ich wpływ na społeczeństwo,  jak wpływają na demokrację, zaufanie do mediów, procesy podejmowania decyzji i codzienną rzeczywistość.

Fake news – zagrożenia

W dzisiejszym dynamicznym świecie, w którym informacje rozprzestrzeniają się z zawrotną prędkością, staje się niezwykle ważne umieć rozróżnić prawdziwe wiadomości od manipulacyjnych, dezinformacyjnych treści.

Fake newsy, czyli fałszywe wiadomości, definiowane jako fałszywe relacje zdarzeń, pisane i czytane na stronach internetowych, stanowią realne zagrożenie dla społeczeństwa, polityki, gospodarki i wielu innych obszarów naszego życia. Szerzenie dezinformacji – fałszywe informacje udzielane celowo – może wpływać na wybory, tworzyć podziały społeczne, a nawet wpływać na zdrowie publiczne. Dlatego kluczowe jest posiadanie narzędzi i strategii, które pozwolą nam skutecznie zwalczać fake newsy i budować odporność na manipulacje informacyjne.

Dezinformacja dotycząca pandemii COVID-19

W trakcie pandemii koronawirusa fake newsy na temat sposobu transmisji, skuteczności leków czy pochodzenia wirusa rozprzestrzeniały się szybko. To prowadziło do nieprawidłowych informacji, dezinformacji i wpływało na decyzje podejmowane przez ludzi w sprawie ochrony zdrowia.

Manipulacja w kampaniach wyborczych

Fake newsy były szeroko wykorzystywane w różnych kampaniach wyborczych, gdzie dezinformacja i manipulacja informacją miały na celu wpływanie na wyborców. Przykłady obejmują fałszywe historie o kandydatach, sfałszowane obrazy czy informacje o rzekomych skandalach.

Dezinformacja związana z imigrantami i uchodźcami

Fake newsy na temat imigrantów i uchodźców często prowadzą do wzrostu nienawiści, nietolerancji i uprzedzeń. Są to często manipulowane lub fałszywe informacje, które mają na celu podsycanie strachu i wrogości wobec osób migrujących.

Wojna Dezinformacji

W 2022 roku rosyjska inwazja na Ukrainę wprowadzała wojnę dezinformacyjną odnośnie ich ataku, mającą na celu manipulowanie opinią publiczną i zacieranie prawdy. Rosyjskie media i agenci propagandy szerzyli fałszywe narracje, sugerując, że interwencja Rosji była niezbędna w celu ochrony rosyjskojęzycznej ludności Ukrainy. Jednocześnie fałszywie przedstawiano Ukrainę jako agresora, oskarżając ją o prowokowanie konfliktu. Te dezinformacje miały na celu zamaskowanie faktycznych działań Rosji i wprowadzenie zamieszania w społeczności międzynarodowej.

Fake news a łańcuch dostaw

Rozpowszechnianie fałszywych informacji zagraża również markom i negatywnie wpływa na konsumpcję produktów i usług, co ostatecznie oddziałuje na operacje łańcucha dostaw. Decyzje oparte na dezinformacji mogą prowadzić do zakłóceń w łańcuchu dostaw i podejmowania niepewnych lub złych decyzji. Zakłócenie w łańcuchu dostaw (SCD) definiowane jest jako zakłócenie przepływu materiałów, środków finansowych i informacji między firmami a ich głównymi interesariuszami – np. dostawcami, producentami, dystrybutorami, sprzedawcami i klientami. Zakłócenia mogą wpływać na operacje łańcucha dostaw przez określony czas. Łańcuchy dostaw obejmują działania potrzebne do dostarczania produktów i usług firmom docelowym konsumentom, a dokładne informacje stanowią integralną część tych łańcuchów, umożliwiając podejmowanie decyzji dotyczących przyszłego popytu, podaży, przepływów gotówki, zwrotów i innych operacji łańcucha dostaw.

Istnieją historyczne przykłady, jak fake newsy mogą wpływać na łańcuchy dostaw i operacje biznesowe. Od lat 50. do 90. XX wieku przemysł tytoniowy systematycznie rozpowszechniał dezinformacje na temat szkodliwych skutków narażenia na dym aktywny i bieżący, manipulując badaniami, danymi i mediami. W 2013 roku oficjalne konto Associated Press na Twitterze zostało zhakowane i wysłano tweet o dwóch eksplozjach raniących prezydenta Baracka Obamę. W ciągu kilku godzin wywołało to spadek wartości rynku akcji o 130 miliardów dolarów amerykańskich. W 2017 roku sześć brytyjskich indyjskich restauracji padło ofiarą fałszywych wiadomości twierdzących, że podają ludzkie mięso. Jedna z restauracji musiała ograniczyć godziny pracy personelu, a jej przychody spadły o połowę.

 

Rola Data Science w identyfikacji fake news

W celu walki z szerzeniem fake newsów i dezinformacji, sztuczna inteligencja (SI) i data science wchodzą na scenę jako potężne narzędzia. SI i analiza danych dają nam możliwość wykrywania wzorców, analizy treści i oceny wiarygodności informacji w skali, której człowiek nie byłby w stanie osiągnąć. Algorytmy uczenia maszynowego mogą badać ton, emocje i kontekst treści, pomagając nam odróżnić prawdziwe informacje od dezinformacji. Wykorzystanie SI i data science otwiera drzwi do nowych możliwości w walce z fake newsami.

Wykrywanie fałszywych informacji jest trudnym i skomplikowanym zadaniem. Większość rozwiązań opiera się na podejściu opartym na przetwarzaniu języka naturalnego (NLP), gdzie proponowane są różne architektury głębokiej sztucznej sieci neuronowej. Ponieważ głównym celem tworzenia takich algorytmów jest rozróżnianie między prawdziwymi i fałszywymi informacjami, twórcy najpierw muszą nauczyć systemy czym są te informacje.

Większość tych sztucznych inteligencji (w tym Grover) jest rozwijana poprzez zasilanie ich istniejącymi artykułami z różnych zestawów danych dotyczących fałszywych wiadomości. Są to ogromne wirtualne biblioteki danych, zawierające autentyczne informacje i źródła, które pomagają AI rozpoznawać wzorce ludzkiego pisania.

Niektóre z tych zestawów danych obejmują: 

• RealNews: Ten zestaw danych został wykorzystany do szkolenia Grovera i zawiera ponad 5000 autentycznych publikacji, które zajmują 120 GB przestrzeni.
• Kaggle: Ten zestaw danych zajmuje około 57 MB przestrzeni dyskowej i zawiera 13 000 wierszy i 20 kolumn danych.
• George McIntire: Nazwany na cześć analityka wizualizacji danych, ten zestaw danych dotyczących fałszywych wiadomości wymaga 31 MB przestrzeni dyskowej.

Po zakończeniu tego procesu AI może budować złożone modele, które potrafią identyfikować, jak określone słowa są używane i jak różne pojęcia są ze sobą powiązane.

Techniki rozpoznawania fake newsów

Istnieje kilka technik i podejść, które można zastosować do wykrywania fałszywych informacji.

Przetwarzanie języka naturalnego (NLP)

Techniki NLP odgrywają kluczową rolę w wykrywaniu fałszywych informacji. Poprzez analizę treści tekstowych artykułów, nagłówków i postów na mediach społecznościowych modele NLP mogą identyfikować wzorce, wskazówki językowe i niekonsekwencje, które mogą wskazywać na obecność fałszywych informacji.

Weryfikacja źródeł

Jedną z technik jest weryfikacja wiarygodności i reputacji źródła informacji. Organizacje zajmujące się weryfikacją faktów, takie jak Snopes czy Politifact oceniają wiarygodność i dokładność serwisów informacyjnych oraz poszczególnych artykułów. Sprawdzenie informacji z zaufanymi źródłami może pomóc w identyfikacji fałszywych informacji.

Weryfikacja faktów

Polega na systematycznym ocenianiu twierdzeń przedstawionych w artykułach informacyjnych i sprawdzaniu ich dokładności. Fakt-checkerzy analizują dowody, konsultują wiarygodne źródła i oceniają wiarygodność przedstawionych informacji.

Analiza mediów społecznościowych

Fałszywe informacje często szybko się rozprzestrzeniają za pośrednictwem mediów społecznościowych. Analiza wzorców dystrybucji, interakcji użytkowników i wskaźników zaangażowania może dostarczyć informacji o autentyczności wiadomości. Wykrywanie botów i trolli również może pomóc w wykrywaniu kampanii dezinformacyjnych.

Uczenie maszynowe i sztuczna inteligencja

Techniki uczenia maszynowego, takie jak algorytmy klasyfikacji, mogą być szkolone na opisanych zbiorach danych, aby identyfikować fałszywe informacje. Modele te uczą się na podstawie wzorców i cech w wiarygodnych i niewiarygodnych artykułach, co pozwala na klasyfikację nowych artykułów jako potencjalnie fałszywe lub autentyczne na podstawie nauczonych wzorców.

Analiza sieciowa

Analiza sieci zależności między źródłami informacji, osobami i kontami mediów społecznościowych może dostarczyć cennych informacji na temat rozprzestrzeniania się fałszywych informacji. Wykrywanie grup połączonych kont lub identyfikacja podejrzanych wzorców

Zaangażowanie w tworzenie rozwiązań wykrywających fake news

Fake News Challenge (FNC) to inicjatywa mająca na celu rozwinięcie i promowanie badań dotyczących wykrywania fałszywych informacji. FNC powstało w odpowiedzi na rosnący problem fake newsów i dezinformacji w mediach społecznościowych oraz w celu rozwinięcia skutecznych rozwiązań w tej dziedzinie.

Fake News Challenge przyciąga uwagę badaczy, naukowców i entuzjastów uczenia maszynowego z całego świata. Inicjatywa polega na organizowaniu konkursów i wyzwań, które stawiają przed uczestnikami zadanie wykrycia fałszywych informacji. Celem jest rozwinięcie nowych technik i algorytmów, które mogą skutecznie odróżniać prawdziwe wiadomości od dezinformacji.

W ramach Fake News Challenge tworzone są zbiory danych, które zawierają prawdziwe i fałszywe informacje, artykuły i nagłówki. Uczestnicy mają za zadanie opracować modele uczenia maszynowego, które na podstawie tych danych będą klasyfikować wiadomości jako prawdziwe lub fałszywe. Celem jest rozwinięcie skutecznych technik analizy języka naturalnego i wykorzystanie ich w praktyce do wykrywania fake newsów.

Fake News Challenge jest platformą współpracy i wymiany wiedzy między badaczami, a także dostarcza zestawu narzędzi i frameworków, które mogą pomóc w rozwijaniu rozwiązań w dziedzinie wykrywania fake newsów. Dzięki temu inicjatywa przyczynia się do wzrostu świadomości na temat problemu fake newsów oraz promuje rozwój skutecznych technik i narzędzi, które mogą przeciwdziałać dezinformacji w mediach.

Fake News Challenge jest ważnym krokiem w kierunku walki z fake newsami i dezinformacją. Poprzez współpracę między naukowcami i badaczami, inicjatywa dostarcza nowe spojrzenie na problem i przyczynia się do rozwinięcia efektywnych rozwiązań w dziedzinie wykrywania fałszywych informacji.

Podsumowanie

Podsumowując, fake newsy i dezinformacja stanowią poważne zagrożenie dla społeczeństwa i różnych obszarów naszego życia. Są rozpowszechniane za pośrednictwem internetu i mediów społecznościowych, wpływając na podejmowane decyzje w społeczeństwie. 

Sztuczna inteligencja i data science odgrywają kluczową rolę w identyfikacji fake newsów. Algorytmy uczenia maszynowego oparte na przetwarzaniu języka naturalnego mogą analizować treści tekstowe i identyfikować wzorce, niekonsekwencje i wskazówki językowe w celu wykrywania fałszywych informacji. Weryfikacja źródeł, weryfikacja faktów, analiza mediów społecznościowych, uczenie maszynowe i analiza sieciowa to kilka z technik wykorzystywanych do zwalczania dezinformacji.

Ważne jest dalsze badanie i rozwijanie tych technologii w celu skutecznego wykrywania i zwalczania fake newsów. Wiedza i świadomość społeczeństwa również odgrywają kluczową rolę w zapobieganiu rozprzestrzenianiu się dezinformacji. Tylko poprzez współpracę między badaczami, społecznościami internetowymi, organizacjami fakt-checkingowymi i platformami społecznościowymi możemy zapobiegać rozpowszechnianiu się dezinformacji w społeczeństwie.

 

Źródła:

• http://www.fakenewschallenge.org
• https://link.springer.com/article/10.1007/s10479-022-05015-5
• https://hipporeads.com/how-artificial-intelligence-can-detect-and-create-fake-news/
• https://innovationorigins.com/en/ai-identifies-fake-news-in-seconds-with-complete-transparency/
• https://www.forbes.com/sites/forbescommunicationscouncil/2019/09/12/how-ai-can-create-and-detect-fake-news/?sh=2fad8a82e84b
• https://www.ncbi.nlm.nih.gov/pmc/articles/PMC9299232/