– Nikt z nas nie jest odporny na dezinformację – dowodził prof. Dariusz Jemielniak z Akademii Leona Koźmińskiego i Uniwersytetu Harvarda podczas wykładu wygłoszonego na Europejskich Targach Nauki w Poznaniu.
Jako przykład powszechnego mitu zdrowotnego w Polsce socjolog społeczeństw cyfrowych wskazał wiarę w skuteczność Rutinoscorbinu, produktu, którego działania nie potwierdzono naukowo. Szkodliwość społeczna takiego przekonania nie wydaje się duża. Inaczej jest, gdy zaczynamy wierzyć w zagrożenia płynące ze szczepionek lub zaprzeczamy globalnemu ociepleniu.
Zdaniem naukowca fake news jest fenomenem, w którym zarówno nadawca komunikatu, jak i odbiorca liczą się z tym, że komunikat jest nieprawdziwy. – Nie ma przekazać zapisu zdarzeń z przeszłości, ale powiedzieć większą narrację o tym, jak działa świat – powiedział.
Profesor uświadamiał, że korzenie szerszego zjawiska – propagandy – sięgają głęboko w przeszłość. – Spójrzmy na Oktawiana. Dystrybuował „prawdziwy” testament Marka Antoniusza po to, żeby podburzyć przeciw niemu Rzym, i robił to na tyle skutecznie, że Antoniusz musiał salwować się ucieczką, mimo że nie chciał swojego potomstwa z Kleopatrą osadzić na tronie. Podobnie w XV w. pojawiła się plotka o tym, że Żydzi porywają dzieci, aby w rytualnych mordach zbierać ich krew na macę. Mimo że brzmi to absurdalnie, doprowadziło do szeregu pogromów – przypominał.
– Wtedy nie było ani internetu, ani powszechnego pisma. Plotka rozprzestrzeniała się tylko i wyłącznie przez narrację z ust do ust i była w stanie tak mocno zadziałać na umysły ludzi, że ci ruszali z widłami na sąsiada, by go zamordować. Te mechanizmy już półtora tysiąca lat temu były bardzo silne – wyjaśniał prof. Jemielniak.
Dlaczego to działa?
Po pierwsze, dezinformacja tego typu służy bardzo konkretnemu celowi. Po drugie, nie może być całkowitą nieprawdą, musi zawierać ułamek prawdy, która ułatwia przyswojenie przekazu.
– Jeżeli ktoś do dziesięciu informacji faktograficznych dorzuci jedenastą, sprzeczną z faktami, to można powiedzieć, że jest to nawet groźniejsze. Gdyby przekazał nam jedenaście informacji kompletnie od czapy, bylibyśmy przynajmniej w stanie uruchomić nasz informacyjny system obronny. W tym przypadku zostaje on jednak uśpiony – przekonywał prelegent.
Kolejna cecha, po której można rozpoznać dezinformację, to niezwykle emocjonalnie nacechowany język. Ma on wyłączyć racjonalne myślenie i wywołać natychmiastową reakcję. Co ciekawe, dezinformacja niekoniecznie ma spowodować, że w nią uwierzymy. Wystarczy, że wywoła pewne zniechęcenie.
– Od 10 lat badam skrajne ruchy np. ludzi wierzących w UFO, płaską Ziemię, antyszczepionkowców. O ile margines osób, które wierzą literalnie w taki przekaz, jest bardzo mały, o tyle reakcja tzw. sentymentu jest duża. Przykładowo mieliśmy do czynienia z udaną rosyjską kampanią informacyjną, która mówiła o tym, że Ukrainki przyjechały do Polski kraść mężów. Racjonalnie wiemy, że Ukrainki uciekają przed wojną, chcemy im pomóc, ale jednocześnie pojawiają się myśli: przyjechały tu samotne kobiety, ja mam męża, wolę, żeby trzymały się z daleka – powiedział badacz.
Więcej, coraz więcej
Czy teraz, kiedy stare i sprawdzone techniki manipulacji trafiają na nowe platformy i do generatywnej AI, coś się zmieniło? Głównie wzrosła wariantowość. Nie wymyśliliśmy nowych sposobów dezinformowania, tylko sprawiliśmy, że te dobrze znane można stosować na znacznie większą skalę.
– Jeśli oglądając media społecznościowe dziwimy się, dlaczego jest tam tak dużo wygenerowanych treści, a mało autentycznych, to właśnie z tego powodu. Niestety systemy będą generowały deepfake’i postrzegane jako prawdziwe. Kiedyś bardzo prymitywne, dziś są coraz bardziej skuteczne. Co ciekawe, deepfake Zełeńskiego z 2020 r., mimo że fatalny technicznie, zadziałał. Bo w dezinformacji nie chodzi o to, co jest prawdziwe faktograficznie, tylko o wywołanie emocji – podkreślił naukowiec.
Profesjonalna produkcja dezinformacji stała się dziś prawdziwym biznesem. Na przykład rosyjska jednostka Storm-1516 masowo tworzy i rozpowszechnia fałszywe treści w internecie. Zajmują się tym całe zespoły ludzi. Co więcej, dezinformację szerzą również liczne fałszywe profile i konta, często generowane przy pomocy sztucznej inteligencji. Te konta skutecznie wzmacniają swoje przekazy i sprawiają wrażenie szerokiego poparcia dla propagowanych treści.
Profesor Jemielniak opowiedział, jak w 2021 r. razem z Yaroslavem Krempovychem przy pomocy metody Social Vector Analysis wykrył kampanię dezinformacyjną wymierzoną w szczepionkę AstraZeneki przeciw Covid-19.
– To w zasadzie jedyna technika, o której można powiedzieć, że prawdopodobnie będzie skuteczna zawsze, ponieważ dezinformatorzy niezmiennie próbują sztucznie zwiększać swoje zasięgi. Ma ona jednak pewne ograniczenia. Obecnie tworzenie takich kont i nadawanie im wiarygodności jest bardzo tanie. Wystarczy wygenerować zdjęcie i publikować pozornie zwyczajne treści: „to ja przy grillu”. W efekcie masowo powstają uwiarygodnione konta botowe, jest ich coraz więcej, a przez to coraz trudniej zidentyfikować jedną konkretną sieć dezinformacyjną – stwierdził naukowiec.
Manipulatorzy informacyjni stosują jeszcze inny sposób na uwiarygodnienie swoich treści: powtarzają je w różnych miejscach sieci, aż zaczynają wyglądać na prawdziwe. Wykorzystują również fakt, że użytkownicy w większości korzystają tylko z pierwszej strony wyników wyszukiwania. Nasycają internet informacjami, które wpływają na to, co internauci znajdują w wyszukiwarkach – również odpowiedzi generowane przez sztuczną inteligencję.
Szczepionka dla umysłu
Niestety obalanie fałszywych informacji, czyli debunking, często nie działa. W przypadku osób bardzo przywiązanych do swoich przekonań może paradoksalnie utwierdzać ich w tej postawie. Dzieje się tak dlatego, że do ludzi bardziej przemawiają emocjonalne historie, nie analizy statystyczne. Na przykład antyszczepionkowcy często rozumieją, że szczepienia są korzystne statystycznie, ale uważają, że ich własne dziecko może znaleźć się w marginalnej grupie, który doświadczy powikłań.
Naukowcy prowadzą badania nad pre-bankingiem, rodzajem „szczepionki informacyjnej”, której celem jest uodpornienie odbiorcy na dezinformację.
– Obecnie w ramach projektu realizowanego wspólnie z Centrum Nauki Kopernik i MIT Museum w Cambridge testujemy pewne rozwiązanie. Chcemy pozwolić ludziom na rozmowę z chatbotem, który będzie starał się delikatnie rozpoznać, w jakie nieprawdziwe informacje czy błędne przekonania wierzą. Następnie, krok po kroku, będzie prowadził ich przez proces rozumowania tak, aby sami mogli dojść do wniosku, że być może dane przekonanie nie jest słuszne – poinformował prof. Jemielniak.
Ograniczyć fałsz
Walkę z dezinformacją utrudnia polityka mediów społecznościowych. Algorytm X promuje treści prawicowe do tego stopnia, że wyświetla je 20 razy częściej niż lewicowe, co jest świadomym działaniem właściciela, natomiast TikTok preferuje informacje skrajne i kontrowersyjne, prawdopodobnie dlatego, że wywołują większe zainteresowanie użytkowników. Niestety rzetelne i zgodne z wiedzą fakty rozprzestrzeniają się wolniej, bo nie budzą silnych emocji.
Naukowiec uważa, że należy wypracować nowe zasady dostępu do platform i ograniczyć rozpowszechnianie dezinformacji. – Jeżeli nie wprowadzimy mechanizmów regulacyjnych ograniczających rozprzestrzenianie niektórych typów informacji, będziemy mieli problem. Pytanie tylko, gdzie zaczyna się cenzura? Obawiałbym się sytuacji, w której to rząd sam decyduje, jakie treści mogą być dystrybuowane. Jednocześnie już dziś kontrolujemy pewne kategorie treści, np. faszystowskie, pedofilskie, dlatego myślę, że można byłoby zbudować społeczny konsensus wokół wąskiego katalogu najbardziej szkodliwych form dezinformacji, wymagających interwencji państwa. Niestety obecnie nie widzę do tego większej woli politycznej – stwierdził badacz.