Facebook gaat deepfakes verbieden

Facebook gaat deepfakes verbieden en meteen verwijderen. Dat meldt het bedrijf in een blogpost. Het platform doet dat om nepnieuws en manipulatie tegen te gaan.

Deepfakes worden volgens het platform nog niet veel gebruikt. Het bedrijf wil de destructieve hype echter voor zijn. Dat gebeurt juist omdat deepfakes niet altijd goed zijn te onderscheiden van echt.

 

Echt lijken

In de blogpost stelt Facebook dat het vaak gaat om video’s die nep zijn maar echt lijken. “Veel mensen posten video’s en maken ze een beetje mooier. Deepfakes zijn echter helemaal nep terwijl ze echt lijken. Het lijkt dan bijvoorbeeld of een politicus iets beweert terwijl dat niet waar is. Alleen vermelden dat het nep is is onvoldoende. De post kan dan nog steeds overal opduiken.”

Samenwerking is wel noodzakelijk om goede resultaten te bereiken, erkennen de schrijvers van de post. Het platform heeft daarom gesprekken gevoerd met technisch experts, beleidsmakers, media, juristen en bijvoorbeeld academici. Samen vergroten ze de kennis rond gemanipuleerde media.

 

Beleid

Het aangescherpte beleid is een van de gevolgen daarvan. Het gaat om de volgende soorten video’s.

  • Video’s die erg zijn aangepast, ver boven het niveau van bijvoorbeeld verbetering van beelden. Het gaat dan bijvoorbeeld om filmpjes die zo erg zijn bewerkt dat ze misleidend zijn. Zozeer dat de kijker denkt dat degene in het filmpje iets ongeloofwaardigs zegt of doet
  • Als de betreffende video gemaakt is met AI of machine learning maar echt lijkt.

 

Satire

Volgens het platform gaat het daarbij niet om satire met bijvoorbeeld filmpjes waarin de woordvolgorde van de spreker is omgedraaid.

Filmpjes die als verdacht worden aangemerkt maar waarvan iets minder zeker is dat het gaat om een deepfake, worden eerst beperkt in hun verspreiding. Ze worden geweigerd als advertentie mocht het zo zijn aangeboden aan het netwerk.

Een team van factcheckers met vijftig partners in veertig talen gaat erop toezien. Wie het bericht al heeft gezien en verspreid krijgt bovendien een waarschuwing.

 

Uitdaging

Intussen is identificeren van deepfakes een hele uitdaging. Daarom is het team van experts sinds september aan de slag, ook met ontwikkeling en leren herkennen ervan.  Bij dat project zijn heel veel verschillende partijen en deskundigen betrokken.

Het platform meldt daarbij dat vorige maand een deepfake-netwerk hebben opgerold. Dit netwerk gebruikte met AI gemaakt fotomateriaal om nepaccounts te maskeren.

Facebook is een samenwerking aangegaan met persbureau Reuters. Samen gaan ze zorgen dat mediabedrijven nepnieuws beter herkennen.

 

Voorbeeld

Een treffend voorbeeld komt uit ICT/Magazine van oktober 2019. De CEO van een gerenommeerd energiebedrijf in het Verenigd Koninkrijk dacht bijvoorbeeld dat hij zijn baas aan de lijn had vanuit het Duitse moederbedrijf.

In het voor hem herkenbare Engels met typisch Duitse melodische accent kreeg hij de opdracht € 220.000 over te maken naar een Hongaarse leverancier. In goed vertrouwen maakte de bestuurder het geld direct over, waarna bleek dat het de bankrekening was van cybercriminelen.

Voor zover nu bekend, is dit een van de eerste cyberaanvallen waarbij deepfake voice technologie het verschil heeft gemaakt.

Gerelateerde berichten...

X