Economie

Chinese deepfake app zaait paniek

In China heeft de nieuwe gezichts-applicatie Zao voor heel wat opschudding gezorgd. Al snel ontwikkelde het programma zich in het land tot de snelst geïnstalleerde applicatie op de iPhone. Nagenoeg even vlug rees echter de kritiek. Zao laat de gebruiker toe om zijn eigen gelaat op bewegende beelden te monteren. De gebruiksvoorwaarden van de applicatie eisten echter dat de gebruikers het portretrecht op hun eigen gelaat afstaan. Op die manier kan Zao de beelden onder meer voor reclames gebruiken. Die voorwaarden zorgden echter meteen voor verontwaardigde reacties.

Onder meer WeChat, de de belangrijkste chatdienst van China, heeft de diensten van Zao geblokkeerd.

Face-swapping

Zao is ontwikkeld door Momo, een Chinees bedrijf dat het merendeel van zijn inkomsten uit streamingdiensten genereert. Momo staat genoteerd op de Amerikaanse technologiebeurs Nasdaq. De Chinese onderneming heeft momenteel een marktkapitalisatie van meer dan 7 miljard dollar.

Zao laat zijn gebruikers onder meer toe om in scènes uit bioskoopfilms, televisieshows of muziekvideo’s de plaats van beroemdheden in te nemen. Vervolgens kan de gebruiker dat materiaal op sociale media met anderen delen. De applicatie vereist wel dat de gebruikers Zao vooraf meerdere foto’s met verschillende gelaatsuitdrukkingen bezorgen.

De voorbije jaren hebben technologieën rond face-swapping in de applicatie-sector voor verschillende successen gezorgd. Eerst was er Masquerade, dat drie jaar geleden door Facebook is overgenomen. Meer recent was er de lancering van FaceApp, dat gebruikers de mogelijkheid bood hun gelaat te bewerken. Op die manier konden de gebruikers zich een idee vormen hoe ze er op oudere leeftijd of als een ander geslacht zouden kunnen uitzien. 

FaceApp, ontwikkeld door het Russische bedrijf Wireless Lab, kreeg echter eveneens met zware kritiek te maken. Onder meer wezen de critici erop dat de applicatie heel wat persoonlijke gegevens van zijn gebruikers opslaat. Ook de Russische herkomst van de applicatie was voor velen een reden voor ongerustheid. De organisatie Bits of Freedom raadde het gebruik van FaceApp af.

Nepnieuws

Bovendien wijzen critici naar de deepfake-dreiging. “Met behulp van kunstmatige intelligentie kunnen immers nepvideo’s worden gemaakt met gezichten en stemmen die kunstmatig zijn gereconstrueerd,” luidt het. “De technologie kan misbruikt worden voor onder meer identiteitsdiefstal, cyberpesten en nepnieuws.”

Zao heeft snel op de kritiek gereageerd. Momo stelde daarbij de zorgen over privacykwesties volledig te begrijpen. Het bedrijf veranderde ook de gebruiksvoorwaarden van de applicatie. Zao beloofde het verzamelde bestand foto’s en video’s alleen te zullen gebruiken om zijn diensten verder te verbeteren.

Content die door gebruikers wordt verwijderd, zal volgens Zao ook van zijn servers worden gewist. Maar die tussenkomst is niet van aard geweest om iedereen gerust te stellen. Volgens WeChat, eigendom van het Chinese internetbedrijf Tencent, zijn er aan de applicatie teveel beveiligingsrisico’s verbonden.

Tags
Show More
Close
Close