Publisert på nettstedet Meduza 7. mars 2025. Kilde: NewsGuard
Et russisk desinformasjonsnettverk kalt Pravda («Sannhet») har påvirka ledende AI-chatboters produksjon ved å publisere en rekke artikler som har kom inn blant robotenes treningsdata, avslører en ny rapport fra analysegruppa NewsGuard. Ifølge forskere var dette ikke bare en bivirkning av at Moskva oversvømmet nettet med falske fortellinger – det var hovedmålet for dette initiativet. Her er hvordan ordningen fungerte.
Et «godt finansiert» online russisk desinformasjonsnettverk kalt Pravda la ut 3,6 millioner artikler i fjor, hvorav mange ble behandlet av populære chatbots som OpenAIs ChatGPT-4o, Claude (Anthropic), Meta AI, Gemini (Google) og Copilot (Microsoft), ifølge en ny rapport fra «vakthundgruppa» NewsGuard. Disse chatbotene skal ha gjengitt narrativer spredt av Pravda i 33 prosent av svarene deres.
Forskernes funn stemmer overens med en rapport i februar fra den amerikanske ideelle organisasjonen American Sunlight Project (ASP), som fant at manipulering av AI-teknologier, i stedet for å nå menneskelige brukere, sannsynligvis var det russiske nettverkets primære mål. Denne metoden for å påvirke store språkmodeller (LLMs) har blitt kalt «LLM grooming.»
Ifølge NewsGuard forfølger Pravda en ambisiøs strategi ved bevisst å infiltrere dataene som benyttes av chatbots, som er basert på kunstig intelligens , publisere falske påstander og propaganda med det formål å påvirke svarene til AI-modeller om emner i nyhetene, i stedet for å målrette propagandaen direkte mot menneskelige lesere.
Pravda produserer ikke originalt innhold, men sprermateriale fra pro-Kreml-kilder, inkludert russiske statsmedier, gjennom et nettverk av forskjellige nettsteder. NewsGuard-studien har identifisert 150 nettsteder i dette nettverket, hvorav rundt 40 publiserer innhold retta mot Ukraina, 70 fokuserer på Europa og 30 er aktive i forhold til Afrika, Stillehavsregionen, Midtøsten, Nord-Amerika, Kaukasus og Asia. Resten er delt inn etter tema.
Nettstedene i Pravda-nettverket publiserer innhold på en rekke språk. Mange av domenenavna deres inkluderer navn på byer og regioner i Ukraina, for eksempel News-Kiev.ru, Kherson-News.ru og Donetsk-News.ru.
I løpet av de tre åra med Russlands invasjon har Pravda spredt minst 207 desinformasjonsfortellinger, inkludert påstander om «hemmelige amerikanske biolaboratorier i Ukraina» og anklager om «Zelenskys misbruk av amerikansk militærhjelp», ifølge NewsGuard.
ASP-eksperter har advart om alvorlige langsiktige risikoer forbundet med forsøk på å manipulere kunstig intelligens. Jo mer falske fortellinger sirkulerer i nettmedier, jo større er sannsynligheten for at språkmodeller vil begynne å behandle dem som troverdige og inkorporere dem i svarene sine.
Axios bemerker at NewsGuards studie kom akkurat da Washington angivelig hadde stoppa den amerikanske cyberkommandoens aktiviteter mot Russland.