'De bibliotheek voor de bestrijding van digitale criminaliteit'

Home » Cybercrime » Nieuws Deep Fake » Deepfakes kunnen op termijn de samenleving ontwrichten

Deepfakes kunnen op termijn de samenleving ontwrichten

Gepubliceerd op 5 januari 2022 om 15:00

Deepfake-video's worden steeds populairder en daarmee neemt het gevaar voor misbruik toe. Onderzoekers van de Tilburg University onderzochten hoe het nieuwe kabinet dit kan tegengaan. Bart van der Sloot, privacy- en big data-expert en Associate Professor bij Tilburg University voorziet dat dat flink wat problemen gaat opleveren.

Negentig procent van online content gemanipuleerd

'Over een paar jaar voorspellen we dat zo'n negentig procent van alle online content gemanipuleerd zal zijn', aldus Van der Sloot. 'Dat gaat niet uitsluitend om deepfakes, maar ook om kleine manipulaties. Je weet dus op het gegeven niet meer wat echt is en wat nep is, en als iets nep is: wat precies? Dat kan veel problemen opleveren voor journalisten of rechters.'

Van der Sloot noemt het ludieke filmpje van de zingende ministers dat tijdens de feestdagen rondging, maar hij waarschuwt voor serieuzere problematiek. 'Je kunt ook de minister van Defensie de oorlog laten verklaren aan een ander land, of door het manipuleren van satellietbeelden insinueren dat Rusland kernraketten naar de Oekraïense grens verplaatst. Heel veel kwalijke toepassingen. Daarom hebben wij onderzocht of de wetgeving met betrekking tot deepfakes toereikend is en wat er aan moet veranderen.'

Op de website This X Does Not Exist, zie je personen, dieren en zaken die niet in het echt bestaan maar met 'generative adversarial networks' (GAN) zijn gemaakt.

Wetgeving met betrekking tot deepfakes niet toereikend

De conclusie van het onderzoek blijkt nu dus niet toereikend, dus zijn er volgens Van der Sloot directe maatregelen nodig. 'Eerst moeten er bepaalde inhoudelijke lacunes worden aangepakt. Als iemand een deepfake door twee personen samen te voegen, krijg je een niet-bestaand persoon, maar die wel heel erg echt lijkt. Daar kun je dan vervolgens allerhande uitspraken aan toeschrijven, of aan seksuele activiteiten laten doen.'

Ook vindt Van der Sloot dat de technologie om deepfakes te maken aan banden moet worden gelegd. 'Handhaving zorgt ook voor een groot probleem. Hoe ga je in godsnaam als OM of de autoriteit persoonsgegevens alles controleren als straks negentig procent van alle online content gemanipuleerd is?' Dat kan volgens Van der Sloot alleen als de technologie wordt ingeperkt. 'Maak het niet beschikbaar voor de consumentenmarkt. Je staat het wel toe voor de retail- en entertainmentsector, maar het is dan niet meer zo dat jan en alleman met een telefoontje zo deepfakes kunnen maken.'

Naar aanleiding van het onderzoek komt het team van TU dan ook met een aantal oplossingen. 'Die moet je als geheel bekijken', stelt Van der Sloot. 'Je moet én techniek inzetten om te scannen op digitale manipulatie, maar je moet de mensen ook heel erg bewust maken van de mogelijkheden. Iedereen kent de verhalen van kinderen die hun ouders bellen en vragen om geld. Een slimme ouder gaat in zo'n geval over tot videobellen, maar ook dat kan tegenwoordig gemanipuleerd worden. Op het gegeven moment zie je door de bomen het bos niet meer, en journalisten alles helemaal kapot laten checken is ook niet te doen.'

Categorisering Deepfakes Naar Gebruiker En Adressant
Afbeelding – 675,7 KB 34 downloads

Toch gloort er licht aan het einde van de tunnel vindt Van der Sloot. Deepfakes zijn door middel van technologie te onderscheiden van het echte werk, al moet men wel waakzaam blijven. 'Op dit moment is technologie in staat om 65 procent van alle deepfakes automatisch te filteren, maar experts denken dat het minder wordt', stelt hij. 'Op termijn zal de helft te automatisch te filteren zijn. Het restant zal je via verboden of bewustwording tegen moeten gaan. Daarom kun je het beste kijken naar hoe je voorkomt dat er zo'n grote stroom aan deepfakes zal ontstaan.'

Nep Porno

Met name het maken van nepporno door middel van deepfakes vormt een groot probleem. 'Ongeveer 95 procent van alle deepfakes die momenteel online staan gaat over vrouwen - die daar natuurlijk niet om hebben gevraagd - die allerlei seksuele handelingen uitvoeren', aldus Van der Sloot. 'En waar deepfakes al genoeg problemen opleveren voor politici, is het nog veel afschuwelijker voor jonge meisjes. Je zult maar op de middelbare school zitten en er duikt een deepfake pornovideo van je op. Verschrikkelijk.'

Het stemt Van der Sloot dan ook gelukkig dat er wel degelijk veranderingen in de wetgeving in de pijpleiding zitten. 'Naast de obligate deviezen 'denk dubbel na' en 'als het te mooi is om waar te zijn, dan is dat ook zo' komt er een nieuwe algoritmeautoriteit en wordt de autoriteit persoonsgegevens flink versterkt', aldus Van der Sloot. 'Zij zullen ook veel meer aan handhaving moeten gaan doen. Ze moeten kijken naar hoe voorkomen kan worden dat consumenten toegang krijgen tot dergelijke apps, als je weet dat ze die voor kwaadaardige doeleinden gaan gebruiken.'

Ook vindt Van der Sloot dat serviceproviders in moeten zetten op het verplichten van algoritmische detectie en dat burgers meer bewust moeten worden van de gevaren. 'Er is niets grappigs aan het verspreiden van deepfakeporno van een meisje, dat doet heel veel kwaad', concludeert hij. 'Als je gaat kijken naar een palet aan maatregelen, zal het zeker kunnen zorgen voor een kentering.'

De volledige analyse van het onderzoek kunt u hier onder bekijken of downloaden.

Deepfakes NL
PDF – 5,4 MB 44 downloads

Bron: thisxdoesnotexist.com, thispersondoesnotexist.com, tilburguniversity.edu, bnr.nl

Meer info over deepfake 

Bekijk alle vormen en begrippen

 

Meer rapporten bekijken of downloaden

 

Heeft u tips of verdachte activiteiten gezien online? Neem dan contact op met de politie. Telefonisch via het nummer 0900-8844 of online via het meld formulier. Uiteraard kunt u daarnaast ook tips melden bij Cybercrimeinfo.

Meer nieuws over deepfake


«