Rosyjska propaganda infiltruje chatboty AI. Raport NewsGuard ujawnia skalę problemu

Sztuczna inteligencja, która miała być narzędziem przyszłości, okazuje się podatna na manipulacje informacyjne. Z najnowszego raportu organizacji NewsGuard wynika, że największe modele AI, w tym ChatGPT, Google Gemini czy Meta AI są „infekowane” rosyjską propagandą. Według badaczy kluczową rolę w tym procederze odgrywa moskiewska sieć „Prawda”, zalewająca chatboty dezinformacją, wpływając na generowane przez nie odpowiedzi.

Rosyjska dezinformacja?

NewsGuard przeanalizowało 10 czołowych systemów AI, badając ich reakcje na treści powiązane z rosyjską propagandą. Wyniki są alarmujące – żaden z testowanych modeli nie był wolny od wpływów prokremlowskiej narracji. Ponad jedna trzecia odpowiedzi generowanych przez chatboty zawierała nieprawdziwe informacje zgodne z przekazem „Prawdy”, a niektóre boty wręcz cytowały tę moskiewską sieć jako źródło.

W raporcie wskazano, że w samym 2024 roku „Prawda” opublikowała aż 3,6 miliona artykułów, które pojawiają się w wynikach wyszukiwania zachodnich systemów AI. To sprawia, że chatboty są „infekowane” rosyjskimi narracjami i rozpowszechniają dezinformację wśród użytkowników.

„LLM Grooming” – nowa metoda manipulacji AI

Autorzy badania podkreślają, że rosyjscy propagandyści stosują metodę nazwaną „LLM Grooming”. Polega ona na systematycznym zalewaniu modeli językowych zmanipulowanymi treściami, żeby wpłynąć na ich odpowiedzi. Chatboty nie tylko przejmują fałszywe informacje z internetu, ale są też celowo poddawane ekspozycji na dezinformację przez rosyjskie operacje wpływu.

„Prawda” – instrument rosyjskiej wojny informacyjnej

Sieć „Prawda” powołano do życia w kwietniu 2021 roku, kilka miesięcy przed pełnoskalową inwazją Rosji na Ukrainę. Jej głównym zadaniem jest rozpowszechnianie prokremlowskich przekazów przez platformy społecznościowe, takie jak X, BlueSky oraz Telegram. W przeciwieństwie do tradycyjnych mediów propagandowych, „Prawda” nie tworzy własnych treści, lecz powiela komunikaty rosyjskich państwowych mediów i kremlowskich urzędników.

Czy AI można uodpornić na dezinformację?

„Bez skutecznych mechanizmów filtrujących treści dezinformacyjne sztuczna inteligencja może stać się narzędziem manipulacji na niespotykaną dotąd skalę. Dlatego konieczne jest wdrożenie bardziej zaawansowanych metod wykrywania fake newsów. Nie można również pominąć konieczności wprowadzenia większej transparentności w sposobie działania modeli językowych” – tłumaczy Magdalena Dziegieć, młodsza specjalistka ds. cyberbezpieczeństwa.

Rosyjska propaganda już teraz wpływa na miliony użytkowników korzystających z chatbotów AI. Pytanie brzmi, jak długo największe firmy technologiczne będą ignorować ten problem? Jakie kroki podejmą, żeby ograniczyć wpływ dezinformacji na generowane treści? Z pewnością będziemy obserwować sytuację i na bieżąco Was informować.

Jeśli chcesz przeczytać nasz artykuł o tym „Jak weryfikować fake newsy?” zajrzyj TUTAJ.

Chcesz wiedzieć, co dzieje się w cyberświecie? W takim razie, sprawdź pozostałe wpisy!