Deze deepfakes van Wilders en Van der Plas glippen door filters Meta en X

vrijdag, 24 mei 2024 om 11:31

bijgewerkt om vrijdag, 24 mei 2024 om 12:38

Techbedrijven zeggen van alles te doen om deepfakes van hun platforms te weren, maar in de praktijk kunnen gefingeerde beelden van Nederlandse politici moeiteloos worden verspreid. Meta en X accepteren voor duizenden euro's aan advertenties met nepvideo's, blijkt uit onderzoek van BNR. Bekijk de beelden hieronder.

Stortvloed in aantocht

We staan aan het begin van een stortvloed aan gemanipuleerde, nauwelijks van echt te onderscheiden beelden. En de socialmediabedrijven doen te weinig om het tegen te houden. BNR betaalde slechts 20 euro om overtuigende deepfakes in elkaar te zetten van Geert Wilders, Caroline van der Plas en Rob Jetten.

Filters zijn zo lek als een mandje

Meta (het moederbedrijf van Facebook) en X (voormalig Twitter) accepteerden duizenden euro's aan advertentiegelden om op de dag van de Europese verkiezingen de nepvideo's aan miljoenen gebruikers te tonen. Alleen TikTok weigerde de publicatie van de gefingeerde beelden vanwege 'verdacht gedrag'.

Tijdig ingrijpen is noodzakelijk

Volgens experts staat de deur wagenwijd open voor misbruik. “Deepfakes kunnen EU-breed een grote impact hebben op de legitimiteit van verkiezingen”, zegt AI-expert Jochem de Groot tegen BNR. ”Tijdig ingrijpen is noodzakelijk om de integriteit van de Europese verkiezingen op 6 juni te waarborgen. Je kunt achteraf wel verantwoordelijken aanwijzen en straffen uitdelen, maar dan is de schade al gedaan.”

Narigheid

Het is een raadsel waarom Meta en X niet ingrijpen. De techbedrijven willen niet op vragen reageren. Technisch gezien is het identificeren van deepfakes niet al te lastig. De Nederlandse startup DuckDuckGoose pikte alle video's van BNR er moeiteloos uit. “Meta en X zouden dit ook moeten kunnen”, zegt oprichter Mark Evenblij. “Ik zie hier narigheid uit ontstaan.”