Angstaanjagend: Onderzoekers passen gesproken tekst in video aan zonder dat kijker het merkt

De zinnen die een persoon uitspreekt in een video veranderen zonder dat dat te zien is, het is een gevaarlijke ontwikkeling. Je kunt immers iemand dingen laten zeggen die hij helemaal niet heeft gezegd zonder dat de kijker het door heeft. De technologie die dat mogelijk maakt is weer een stap dichterbij. Onderzoekers van Adobe Research, Stanford University, het Max Planck Institute for Informatics en Princeton University hebben een algoritme ontwikkeld waarmee iemand door een andere tekst te typen de spraak van een persoon in een video kan wijzigen. Bij deze zogenoemde deepfakes-technologie worden gezichten zodanig aangepast dat voor de kijker niet zichtbaar is dat de tekst niet echt is uitgesproken door de persoon. De onderzoekers passen in een voorbeeld de quote uit 'I love the smell of napalm in the morning' aan in 'I love the smell of french toast in the morning'. De persoon die de woorden uitspreekt, lijkt dit in onderstaande video ook echt te zeggen. De techniek werkt als volgt: het algoritme gaat in het bronmateriaal op zoek naar vergelijkbare klanken, die vervolgens worden samengevoegd tot woorden. Het begrijpt welke bewegingen de mond daarvoor moet maken en plakt de aangepaste mond weer vast aan de bovenkant van het gezicht. De technologie is nog niet op het niveau dat kwaadwillenden in een handomdraai een nepvideo kunnen maken, maar hoe lang zal dat nog duren?

Bron(nen): The Verge