Deepfake het nieuwe gevaar van desinformatie: 'Nixon' die NASA Apollo 11-ramp aankondigt

Gepubliceerd op 22 juli 2020 om 16:34
Deepfake het nieuwe gevaar van desinformatie: 'Nixon' die NASA Apollo 11-ramp aankondigt

‘Het lot heeft bepaald dat de mannen die de maan in vrede gingen verkennen, nu op de maan in vrede zullen rusten’, zie je Richard Nixon vertellen over het eerste duo op de maan. En het lijken net echte historische beelden.

MIT en Mozilla willen dat mensen de verontrustende kracht van deepfake-video's beter begrijpen in een nieuw project genaamd 'In Event of Moon Disaster'

Kijk hoe president Richard Nixon heel slecht nieuws brengt over de Apollo 11-maanlanding in deze deepfake-video gemaakt door MIT. 

Apollo 11 maanlanding

De maanlanding van Apollo 11 op 20 juli 1969 was een mijlpaal in de ruimtegeschiedenis. Maar wat als de astronauten stierven tijdens hun missie naar de maan en president Richard Nixon tragisch nieuws op tv moest brengen aan het Amerikaanse kijkerspubliek?

In deze verontrustend echte deepfake- video breekt president Nixon het nieuws dat NASA heeft gefaald en dat astronauten op de maan zijn gestorven. Deepfakes zijn video-vervalsingen waardoor mensen lijken te doen of dingen zeggen die ze niet zijn. Deepfake-software heeft gemanipuleerde video's toegankelijk gemaakt en steeds moeilijker te detecteren als nep.

'Het lot heeft bepaald dat de mannen die naar de maan zijn gegaan om in vrede te verkennen, op de maan zullen blijven om in vrede te rusten', zegt Nixon in de deepfake-video die verwijst naar astronauten Neil Armstrong, Buzz Aldrin en Michael Collins .

Het duurde een half jaar voordat de AI-experts van het Massachusetts Institute of Technology een zeer overtuigende  7 minuten durende deepfake-video maakten  die feitelijk NASA-beeldmateriaal combineert  met Nixon die een tragische toespraak hield , alsof Apollo 11 niet was geslaagd in zijn missie naar de maan.

Deep-learning

Kunstmatige intelligentie "deep-learning" -technologie werd gebruikt om Nixons stem- en gezichtsbewegingen overtuigend te maken. De contingentie toespraak (te vinden in het  Nationaal Archief ) werd voorgelezen door een acteur. 

MIT's Center for Advanced Virtuality creëerde zijn nieuwe project genaamd 'In Event of Moon Disaster' - dat op maandag werd gelanceerd - om mensen te laten zien welke gevaarlijke invloed deepfake-video's kunnen hebben op een nietsvermoedend publiek. 

Dit is de eerste keer dat de Nixon Apollo 11 deepfake-video in zijn geheel aan het publiek wordt gepresenteerd na een fysieke kunstinstallatie op MIT in de herfst van 2019. 

"In Event of Moon Disaster is een meeslepend kunstproject dat je uitnodigt in een alternatieve geschiedenis en ons allemaal vraagt ​​om na te denken over hoe nieuwe technologieën de waarheid om ons heen kunnen buigen, omleiden en verdoezelen", aldus de website van het project. "Door deze alternatieve geschiedenis te creëren, onderzoekt het project de invloed en de alomtegenwoordigheid van verkeerde informatie en deepfake-technologieën in onze hedendaagse samenleving."

In Event of Moon Disaster wil mensen niet alleen deepfakes beter begrijpen, maar ook uitleggen hoe deepfakes worden gemaakt en hoe ze werken; hoe je een deepfake kunt herkennen ; hun potentieel gebruik en misbruik; en wat er wordt gedaan om deepfakes en desinformatie te bestrijden. 

Dit project wordt ondersteund door een subsidie ​​van Mozilla's Creative Media Awards , die voortbouwen op de missie van Mozilla om meer betrouwbare AI in consumententechnologie te realiseren. 

Rn 100 6 1 2
PDF – 131,7 KB 384 downloads

De contingentie toespraak Nationaal Archief

Onderwijs en bewustwording

De video "In Event of Moon Disaster" als casuïstiek benadrukt de gevaren van desinformatie en het belang van betrouwbare media voor het behoud van de democratie. Deze zorgen zijn actueler en relevanter voor studenten dan ooit. In een tijdperk van toenemend autoritair populisme, begeleidende acties tegen legitieme journalistieke verkooppunten en de roep om burgerlijke en raciale rechtvaardigheid, hebben burgers behoefte aan geloofwaardige informatie en een beter begrip van hoe ze met deze gefragmenteerde mediaomgeving moeten omgaan.

Hoewel initiatieven op het gebied van mediageletterdheid sterk variëren tussen middelbare scholen en hogescholen, richten ze zich meestal op een constellatie van interpretatieve praktijken, waardoor studenten de tools krijgen die nodig zijn om te onderzoeken hoe verschillende vormen van media worden gemaakt, gebruikt en geïnterpreteerd.

Onderwijsstof Ter Bewustwording Van Gemanipuleerde Media
PDF – 637,9 KB 382 downloads

Bron: cnet, moondisaster

Gerelateerde berichten

Deepfakes kunnen op termijn de samenleving ontwrichten

Deepfake-video's worden steeds populairder en daarmee neemt het gevaar voor misbruik toe. Onderzoekers van de Tilburg University onderzochten hoe het nieuwe kabinet dit kan tegengaan. Bart van der Sloot, privacy- en big data-expert en Associate Professor bij Tilburg University voorziet dat dat flink wat problemen gaat opleveren.

Lees meer »

Meer nieuws

Daders 'high impact crimes' stappen over naar cybercrime

Er is een toename van het aantal daders van 'high impact crimes', zoals woninginbraken, overvallen, straatroven en geweldsmisdrijven, dat zich met cybercrime bezighoudt. Om dit tegen te gaan is de overheid verschillende initiatieven gestart, voornamelijk gericht op jongeren. Dat stelt demissionair minister Grapperhaus van Justitie en Veiligheid in een voortgangsrapportage over high impact crimes.

Lees meer »

Duitsland eist dat Russische cyberaanvallen onmiddellijk ophouden

Een Russische hackersgroep genaamd 'GhostWriter' doet er alles aan om de aankomende parlementsverkiezingen in Duitsland te torpederen. Het hackerscollectief verspreidt desinformatie via sociale media, om zo de publieke opinie te beïnvloeden. Daarnaast voeren de aanvallers phishingcampagnes uit op politici, in een poging om hun accounts over te nemen.

Lees meer »

Bol.com: Antwoord en win een VanMoof S3!

De afgelopen dagen ontving we een behoorlijk aantal meldingen over een misleidende winactie uit naam van Bol.com. Ook Opgelicht?! kreeg hier veel meldingen over. De belofte is dat er een fiets van het Nederlandse fietsenmerk VanMoof wordt weggegeven, een fiets met een winkelwaarde van zo'n 2.200 euro. Er is echter wel een probleem: er wordt helemaal niks weggegeven. Wat wil de organisatie van deze 'winactie' dan wél van je?

Lees meer »

Overzicht cyberaanvallen week 35-2021

Cybercrimineel perst hogeschool van Arnhem en Nijmegen af, tweede kamer stelt vragen over "hack" bij onderwijsinstelling ROC Mondriaan en Italië gaat ransomware te lijf met giga plan en miljarden budget. Hier het overzicht van afgelopen week en het nieuws van dag tot dag.

Lees meer »

Phishing, nepshop en fraude meldingen week 35-2021

Het melden van 'digitale oplichting' pogingen is belangrijk, door het melden kunnen we andere potentiële slachtoffers behoeden voor het te laat is. Heb je een phishing mail, smishing bericht of werd je gebeld en vertrouw je het niet? Laat het ons, of onze collega's van Opgelicht?!, Radar, Kassa, of Fraudehelpdesk dan weten, want Samen bestrijden we cybercrime / digitale fraude. Ben je slachtoffer geworden van oplichting doe dan 'altijd' aangifte bij de politie.

Lees meer »

Levendige handel gestolen persoonsgegevens op het darkweb

Als een bedrijf of instantie gehackt wordt, kunnen persoonsgegevens worden gestolen. Voor slachtoffers kan dat vergaande consequenties hebben, zoals identiteitsfraude. Helaas is het voor slachtoffers nauwelijks mogelijk de schade te verhalen, aldus dr. Tim Walree, die op dit onderwerp promoveerde.

Lees meer »

Spyware in iPhone kabel

Een beveiligingsonderzoeker heeft kabeltjes gemaakt die er normaal uitzien maar via een eigen wifi-netwerk alles kunnen doorspelen wat een slachtoffer typt.

Lees meer »

Sexting onderzoek 2021

Op 4 september is het de Dag van de Seksuele Gezondheid. Hoe is het gesteld met de seksuele gezondheid van Nederlandse jongeren? En hoe speelt het risicovolle sexting hierin een rol? 

Lees meer »

CEO fraude nu en in de toekomst

Waar oplichters zich vroeger vooral op de gewone burger richtten, komt het nu steeds vaker voor dat criminelen hun snelle babbeltruc aan de deur inruilen voor een cyberaanval op lange termijn, met uitzicht op een aanzienlijk hogere opbrengst. Een van de meest populaire oplichtingstechnieken staat bekend als CEO fraude. Wat is dit precies, en hoe werkt het? We duiken in de wereld van CEO fraude om je te leren hoe je het fenomeen herkent en hoe je jezelf en jouw organisatie er tegen wapent.

Lees meer »

‘Cyberweerbaarheid vraagt om maatwerk’

Het is erg moeilijk om het gedrag van mensen te veranderen, zeker als het om de weerbaarheid tegen cybercriminaliteit gaat. Daarom ontwikkelen twee lectoren van de Hogeschool Saxion en de Haagse Hogeschool samen met gemeentes een aanpak die gericht is op specifieke doelgroepen. “We zijn ervan overtuigd dat dat effectiever is dan een one-size-fits-all-benadering.”

Lees meer »

Heeft u tips of verdachte activiteiten gezien online? Neem dan contact op met de politie. Telefonisch via het nummer 0900-8844 of online via het meld formulier. Uiteraard kunt u daarnaast ook tips melden bij Cybercrimeinfo.