Zorgen over buitenlandse inmenging in Duitse verkiezingen met AI-nepnieuws
De Groene klimaatminister Habeck vraagt mensen meer te knuffelen in plaats van de verwarming aan te zetten. CDU-leider Merz is doodziek. Bondskanselier Scholz heeft een miljoenenvilla in Californië en minister Baerbock een minnaar in Nigeria.
Je hoeft op sociale media niet lang te scrollen om deze klinkklare leugens tegen te komen. Op X, Facebook en TikTok wemelt het van de desinformatie over Duitse politici.
Het gaat hierbij om doelgerichte campagnes "van buitenlandse diensten" om de Duitse verkiezingen op 23 februari te verstoren, waarschuwde de binnenlandse veiligheidsdienst onlangs. Met name Rusland zou een "scala aan middelen" inzetten om de verkiezingen te beïnvloeden.
Journalisten van Correctiv en NewsGuard wisten onlangs ruim honderd Duitse 'nieuwssites' te herleiden tot Rusland. Het gaat om sites met geloofwaardige namen als Berliner Tagespost en Tagesnews24, gevuld met door AI-geschreven pro-Russische berichten.
De Amerikaanse Kremlin-propagandist John Mark Dougan lijkt achter de site te zitten, vertelt journalist Roberta Schmid. "Hij bevestigde het niet tegenover ons, maar hij liet blijken trots zijn op dit project." Dezelfde methode paste Dougan, die naar Moskou is gevlucht, eerder toe met 167 'Amerikaanse' nepnieuwssites.
Dankzij kunstmatige intelligentie (AI) kunnen zulke sites razendsnel uit de grond worden gestampt. "We zagen dat de berichten op iedere website ongeveer dezelfde lengtes hadden, met vergelijkbare details en soms ook dezelfde fouten", zegt Schmid. Een nadeel van AI: de sites worden steeds geloofwaardiger en daarmee moeilijker te herkennen.
Veel van de sites zijn kort na de val de Duitse regering opgezet en verkeren nu nog in een 'slaapstand'. "Naarmate de verkiezingen dichterbij komen, gaan ze meer publiceren. Dat zien we de afgelopen dagen al gebeuren", schetst Schmid. "Ze hebben genoeg aan één succesvol nepbericht dat viraal gaat om succesvol te zijn."
Informatiesaboteurs worden daarbij geholpen doordat Facebook en Instagram, net als X, desinformatie sinds de terugkeer van Trump de vrije hand geven. "Ook zien we dat sommige artikelen opvallend hoog in de zoekresultaten komen", vult collega Leonie Pfaller aan. "Dat kan duiden op manipulatie van de SEO." Daarmee worden ongeoorloofde technieken bedoeld om hoger bij zoekmachines te belanden.
In december werden de Roemeense presidentsverkiezingen dermate verstoord door Russische inmenging dat besloten werd de uitslag ongeldig te verklaren. De Duitse verkiezingen zijn de volgende stembusgang in Europa. Volgens de Amerikaanse FBI wordt vooral geprobeerd de rechts-radicale, Ruslandgezinde AfD te steunen.
Halve waarhedenWie trapt in zulke leugens? Eigenlijk kan zulke desinformatie op iedereen effect hebben, legt onderzoeker Edda Humprecht van de Universiteit van Jena uit. "Wanneer iemand wordt gevraagd of hij dit gelooft, zeggen velen: het had zo kunnen zijn. Als de inhoud overeenkomt met wat je toch al vermoedt, dan is de kans groter dat je het gelooft en verspreidt."
Bovendien gaat het niet alleen om leugens, maar vaak om halve waarheden of het versterken van polariserende standpunten.
Het belangrijkste doel is om twijfel te zaaien over de democratie en wat überhaupt nog geloofd kan worden, vertelt Humprecht. "Dat is de grote balanceeract: mensen moeten beseffen dat niet alles op sociale media te geloven is, maar niet het vertrouwen verliezen in daadwerkelijk journalistieke media."
De Duitse regering heeft vorig jaar een nieuwe instelling opgericht, die buitenlandse manipulatie moet opsporen. Dat team bestaat momenteel uit twaalf medewerkers, laat een woordvoerder weten. Over de resultaten van het team wordt niets gedeeld. Wel meldt de dienst dat de campagnes zich met name richten op het creëren van verdeeldheid in Europa, twijfel zaaien over klimaatverandering en afnemen van steun aan Oekraïne.
De mogelijkheden om op te treden zijn beperkt, vertelt Roberta Schmid van NewsGuard. "Doordat het verspreiden van desinformatie door buitenlandse diensten in principe niet strafbaar is, kunnen internetproviders niet worden gedwongen de sites offline te halen." Sommigen deden dat wel nadat de journalisten de providers daarop wezen.
Regulering van sociale media is cruciaal, zegt onderzoeker Humprecht. "De EU heeft daarbij goede stappen gezet, de vraag is of die regulering wordt doorgezet." De nieuwe Amerikaanse regering dreigt namelijk met consequenties als de EU deze 'digitaledienstenwet' handhaaft.
Het belangrijkst is dat mensen zelf weten hoe desinformatie eenvoudig herkend kan worden, zegt journalist Pfaller. "Kijk of de site een colofon heeft, wat in Duitsland verplicht is, of zoek een tweede bron." Door het gebruik van AI is dat laatste echter ook lastiger geworden, vult Schmid aan. "Dan kom je op honderd andere nepsites met ongeveer hetzelfde bericht."