De opkomst van synthetische media

digi man vrouw slimme technologie

Komt er een nieuwe golf aan schaduw-IT?

Gezichtsfilters die de videovergadering opleuken, een automatische transcriptie voor de ondertiteling van dat tutorial filmpje of de inzet van een digitale kloon omdat die ene collega geen gelegenheid had om zelf bij de filmshoot aanwezig te zijn. Het zijn allemaal voorbeelden van synthetische media die een wereld aan nieuwe mogelijkheden bieden voor marketeers of andere businessontwikkelaars.

Veel van deze nieuwe applicaties bevinden zich momenteel in schimmige bètavormen of komen rechtstreeks van GitHub. Dat weerhoudt marketeers er niet van om hiermee te gaan experimenteren. Het is natuurlijk maar de vraag of de IT-manager blij is met deze nieuwe synthetische media. Is hiermee een nieuwe strijd geboren tussen marketingteams op zoek naar innovatieve digitale creaties en IT-afdelingen die staan voor governance, security en consistentie?

Rogue IT

Uit eigen onderzoek blijkt dat 71 procent (van 120 IT-bestuurders uit verschillende Europese landen) verwacht dat synthetische media voor een nieuwe golf van zogeheten rogue-IT gaat zorgen. De vraag werd gesteld op de dag dat bekend werd dat fraudeurs zo’n 35 miljoen dollar bij een bank stalen dankzij de inzet van een deepfake stem van de bankdirecteur. Dat heeft ongetwijfeld invloed gehad op de antwoorden. Desondanks is het evident dat het merendeel van deze IT-bestuurders zich zorgen maakt over de minder positieve bijeffecten van een nieuwe golf schaduw-IT. Veel IT managers weten zich nauwelijks nog raad met de enorme toename van synthetische media. Dat diezelfde IT-bestuurders gepokt en gemazeld zijn met vele hypes, innovaties en regulering legt hier kennelijk weinig gewicht in de schaal. Er lijkt opnieuw werk aan de winkel voor de IT-manager.

Mediarevolutie

Het duurt niet lang meer voordat het overgrote deel van de media gemanipuleerd is door kunstmatige intelligentie. Nu al gebeurt dat veel vaker dan gedacht. Zo worden smartphonecamera-instellingen al automatisch aangepast zodra een kat, mens of voedsel op de foto wordt gezet. Kunstmatige intelligentie wordt ook gebruikt bij het achtergrondje in Teams of bij het wegfilteren van het stofzuigergeluid tijdens een telefoongesprek met de nieuwe AirPods van Apple. Het zijn allemaal voorbeelden van een heuse mediarevolutie dankzij het gebruik van kunstmatige intelligentie.
Met SnapCam is het maken van gezichtsfilters een fluitje van een cent. Een simpele deepfake voor de virtuele camera is zo gemaakt met DeepFaceLive of xpressioncamera.com. Descript, Resemble.ai, otter.ai zijn voorbeelden van applicaties waarmee transcriptie-apps een deepfake stem gemaakt kunnen worden. Via synthesia.ai of het Nederlandse 3DUniversum worden nu al vele digitale klonen gemaakt.

Juiste balans

Met de toenemende inzet van synthetische media lijkt een nieuwe IT-revolutie voor de deur te staan. IT-managers zijn altijd al op zoek naar de juiste balans tussen beheren en standaardiseren enerzijds en anderzijds het geven van voldoende ruimte aan marketeers en businessontwikkelaars zodat deze autonome keuzes kunnen maken en de vrijheid hebben om te innoveren. Deze balans zal zich ook dit keer niet zonder slag of stoot openbaren. Aan de ene kant wil je als IT-manager een veilige speeltuin creëren met een groot, ondoordringbaar hek eromheen. Maar tegelijkertijd wil je ook dat de gebruiker zo goed mogelijk opleiden en ondersteunen, zodat hij geheel autonoom de juiste beslissingen kan maken in de grote boze buitenwereld. Het vinden van deze balans wordt er niet eenvoudiger op als informele datastromen, onveilige programma’s en houtje-touwtje bouwsels continu op de loer liggen.

Deepfake bedreigingen

Deze risico’s spelen bínnen organisaties, maar de risico’s van buitenaf nemen ook toe. Want hoe kwetsbaar is een bedrijf dat lukraak applicaties gebruikt die zijn gebaseerd op kunstmatige intelligentie? Per slot van rekening is nog nauwelijks bewezen hoe veilig de inzet daarvan is. En hoe eenvoudig is het inmiddels om met deepfake stemmen medewerkers om de tuin leiden, met de meest vreselijke gevolgen van dien? Hier zijn we slecht op voorbereid. 58 procent van de IT-bestuurders verwacht namelijk de put pas te dempen (lees: beleid beschikbaar te hebben ter bescherming van deepfakes) nadat het kalf is verdronken (lees: nadat er bijvoorbeeld fikse financiële fraude heeft plaatsgevonden dankzij de inzet van zo’n deepfake stem). Zo lijkt de geschiedenis zich weer te herhalen. Weet u het nog? Er moesten eerst voldoende cyberaanvallen hebben plaatsgevonden, voordat digitale veiligheid een onderwerp werd voor de bestuurskamer.

Actie

In een tijd dat cyberaanvallen toenemen en ernstiger worden, komt daar nu mogelijk een nieuwe golf van rogue-IT overheen. Als we daar dan ook nog eens de deepfake bedreigingen van buitenaf bij optellen, dan is het zaak om in actie te komen. Om te beginnen zouden marketingmanagers samen met IT moeten beoordelen welke AI-toepassingen gewenst zijn voor de inzet van succesvolle businessontwikkeling. Pas dan kunnen we met een gerust hart profiteren van vele mogelijkheden en beloftes van synthetische media.

Auteur: Thijs Pepping, trendanalist van het Verkenningsinstituut voor Nieuwe Technologie (VINT) van IT-dienstverlener Sogeti.

Lees ook:

Gerelateerde berichten...

X