Nederlandstalige chatbots verspreiden met regelmaat Russische desinformatie, zo zou blijken uit onderzoek van journalistiek platform Pointer (KRO-NCRV). Chatbots als ChatGPT, Mistral en Microsoft Copilot geven soms foutieve en door het Kremlin beïnvloede informatie als antwoord op vragen over de oorlog in Oekraïne. De oorzaak ligt bij het zogenoemde Pravda-netwerk, een omvangrijk web van websites dat op grote schaal pro-Russische propaganda publiceert.
Desinformatie
Het Pravda-netwerk, dat in korte tijd is uitgegroeid tot meer dan 400 websites verspreid over 68 landen, speelt een centrale rol in de verspreiding van nepnieuws. Vorig jaar alleen al werden via deze sites 3,6 miljoen berichten online gezet. Hoewel de websites zelf weinig bezoekers trekken vanwege hun lage kwaliteit, duiken hun teksten opvallend vaak op in de zoekresultaten van Google, in Wikipedia-artikelen én in antwoorden van AI-chatbots.
Onbetrouwbare bronnen
Pointer onderzocht acht Nederlandstalige chatbots en stelde vast dat zes van hen onjuiste informatie gaven over de oorlog. Zo beweerden meerdere bots onterecht dat Rusland een NAVO-piloot zou hebben gedood, of dat de Oekraïense geheime dienst betrokken zou zijn bij drugshandel. De chatbot Claude kwam als enige schoon uit de test. Mistral bleek het slechtst te presteren met acht onjuiste vermeldingen, gevolgd door Microsofts Copilot met vijf fouten. Opvallend is dat Grok, de chatbot van Elon Musk, vaak weigert dergelijke onbetrouwbare bronnen te gebruiken.
Zorgwekkend
Het probleem reikt verder dan alleen AI: de Pravda-sites worden ook regelmatig geciteerd op Wikipedia liefst 1.500 keer, aldus Pointer. Europarlementariër Kim van Sparrentak (GroenLinks), betrokken bij de totstandkoming van de nieuwe Europese AI-wet, noemt de bevindingen zorgwekkend. “Wij hebben ons sterk gemaakt voor een verbod op het verspreiden van desinformatie via AI. Deze wetgeving moet onze democratie beschermen”, aldus Van Sparrentak.
Toch is er nog geen definitieve tekst voor de AI-wet, mede doordat technologiebedrijven druk uitoefenen om minder verplichtingen opgelegd te krijgen. Van Sparrentak noemt dit een gemiste kans: “Veiligheid in Europa draait niet alleen om wapens, maar ook om het vertrouwen in informatie en democratische instituties.”