Rathenau Instituut: ontwerpeisen aan digitale samenleving

kunstmatige intelligentie op lichaam digitale samenleving

Het Rathenau Instituut komt met een lijst van tien ontwerpeisen waar de digitale samenleving an moet voldoen. De lijst staat in een manifest.

Dat manifest kwam tot stand op basis van onderzoeken van het afgelopen jaar. Die gingen vooral over de impact van technologie op de samenleving.

Volgens het instituut ging de digitale samenleving een nieuwe fase in met de doorbraak van zogeheten immersieve technologieën. Dat zijn bijvoorbeeld augmented reality, virtual reality en spraakcomputers.

De fysieke en digitale wereld raken met elkaar verknoopt. Dat roept volgens het instituut urgente maatschappelijke en politieke vragen op. Het rapport moet aanjager zijn voor politiek en publiek debat over de digitale samenleving.

Grenzen vervagen

“Onze vergaande onderdompeling in digitale technologie vervaagt de grens tussen mensen en computer, tussen fysiek en digitaal,” stelt het instituut in een verklaring. “Kunnen we nep nog van echt onderscheiden? Hoe gaan we met elkaar om in de nieuwe digitale wereld? Sturen wij de digitale wereld aan, of worden wij door de digitale wereld aangestuurd? Diverse publieke waarden zijn in het geding, waaronder privacy, autonomie, waarachtigheid en gezondheid.”

De eisen zijn:
  1.  We willen de baas blijven over ons digitale lijf. Immersieve technologie verzamelt voortdurend gevoelige, intieme data. Een opname van onze stem, onze gebaren of ons gezicht. Dit levert tal van privacyrisico’s op. De bescherming van deze intieme gegevens is nog niet op orde. De overheid moet deze gegevens, met name biometrische gegevens, beter juridisch beschermen, zodat burgers meer regie krijgen over hun lichaams- en gedragsgegevens.
  2. We willen anoniem kunnen blijven. Het gebruik van spraak- en AR-technologie kan iemands anonimiteit in zowel publieke als private ruimtes bedreigen. De identiteit van toevallige voorbijgangers kan steeds accurater en op steeds grotere afstand worden achterhaald door hun gezicht, loopgedrag of stemgeluid te analyseren. Toepassingen waarbij burgers in de publieke ruimte, op afstand, zijn te identificeren, moeten daarom worden verboden.
  3. We willen controle over onze virtuele identiteit. Via immersieve technologie geven we uitdrukking aan onze identiteit. Net zoals we in het fysieke domein kledingstukken of tatoeages gebruiken om ons te onderscheiden, kan dat ook in het virtuele domein. Dat kan leiden tot zeer ongewenste en vernederende sociale situaties. Het is daarom essentieel dat de overheid duidelijk maakt wat je wel en niet mag doen met de opname van een ander. Mensen verdienen bescherming tegen ongewenste digitale ingrepen op hun lichaam.
  4. We willen duidelijkheid over nieuwe digitale eigendomskwesties. Immersieve technologie roept ook nieuwe vragen op over ons eigendomsrecht zowel de virtuele als de fysieke wereld. Van wie is de data op sociale media precies? En van wie zijn de profielen die je daarop kan baseren? Is ons eigendom geschonden als iemand in AR een scheldwoord op onze muur schildert? De bestaande juridische kaders dienen daarom verhelderd en geactualiseerd te worden. Wat offline geldt, geldt ook online.
  5. We willen leven in een inclusieve digitale wereld. Er wordt al langer gesproken over de uitdaging om onze digitale samenleving inclusief te maken, niet te discrimineren op basis van geslacht of huidskleur en geen stereotypes aan te moedigen. Deze uitdaging geldt nadrukkelijk voor de manier waarop immersieve technologie onze werkelijkheid aanpast. Bedrijven en ontwikkelaars moeten inclusie centraal stellen bij de ontwikkeling en het gebruik van hun toepassingen.
  6. We willen kunnen weten dat iets nep is. Immersieve technologie kan gebruikers flink verwarren. Zo dachten kinderen die in VR met orka’s hadden gezwommen, later dat ze dit écht hadden gedaan. Spraakassistenten spreken met levensechte stemmen. Weet je straks nog dat je een robot aan de lijn hebt? Ontwikkelaars en bedrijven moeten afspreken, dat gebruikers vooraf worden geïnformeerd als iets nep is, en niet voor de gek worden gehouden.
  7. We willen bescherming tegen manipulatie en beïnvloeding. Door middel van immersieve technologie kunnen mensen beïnvloed en gemanipuleerd worden. De intieme gegevens die verzameld worden, geven bedrijven tal van inzichten in iemands persoonlijkheid, gedrag en voorkeuren. Fysiek-virtuele ruimtes bieden ook nieuwe mogelijkheden voor gerichte reclames, die op een direct en onbewust niveau kunnen inspelen op iemands verlangens, voorkeuren en keuzes. Daarom is een samenlevingsbrede inzet nodig, met bijdragen van onafhankelijke journalistiek, investeringen in de mediavaardigheid van burgers en heldere afspraken over hoever beïnvloeding mag gaan.
  8. We willen dat onze gezondheid niet geschaad wordt. Immersieve technologie kan onze gezondheid verbeteren, maar ook schaden. De technologie kan mensen nieuwe vaardigheden bijbrengen, menselijke vaardigheden uitbreiden en leerprocessen versnellen en goedkoper maken. Maar therapieën met VR en AR zijn nog jong – er is nog onvoldoende kennis van de risico’s die gepaard gaan met het gebruik van de technologie, en van de langetermijneffecten. Van VR- en AR-toepassingen is bekend dat ze in extreme gevallen kunnen leiden tot verslaving. En met name AR-toepassingen blijken ook risico’s met zich mee te dragen ten aanzien van de fysieke veiligheid. Zo hebben spelers van het populaire mobiele spel Pokémon GO al meermaals (dodelijke) verkeersongelukken veroorzaakt. Er is meer onderzoek nodig naar negatieve effecten en bedrijven moeten meer doen om gebruikers ertegen te beschermen.
  9. We willen een digitale markt met eerlijke machtsverhoudingen. De afgelopen twintig jaar is een klein aantal technologiebedrijven uitgegroeid tot machtige commerciële giganten die de interneteconomie domineren. Dit geldt ook voor de markt voor AR, VR en spraaktechnologie. De overheid moet effectiever tegenwicht bieden tegen de macht van de grote technologiebedrijven. En bedrijven moeten meer verantwoordelijkheid nemen om de rechten van consumenten te beschermen.
  10. We willen dat publieke ruimtes publiek blijven. Immersieve technologie zet het gemeenschappelijke karakter van de publieke ruimte onder druk. Ten eerste omdat mensen de mogelijkheid krijgen om publieke ruimtes via een persoonlijke digitale bril te bekijken – we schreven al over een app die zwervers uit het straatbeeld haalt. Dat ondergraaft de sociale cohesie en versterkt de maatschappelijke fragmentatie die nu al te zien is. Ten tweede kunnen commerciële AR-ontwikkelaars zoveel virtuele lagen en toepassingen op een publieke ruimte loslaten, dat het niet meer een plek voor iedereen is. Denk aan een strand dat in Pokémon Go zoveel Pokémons toebedeelt kreeg, dat het overspoeld werd door Pokemonfans. Voor digitale uitingen in publieke ruimtes moeten heldere regels gelden, zodat de gemeenschappelijkheid bewaard blijft. Dat vraagt om het ontwikkelen van een nieuwe sociale etiquette: hoe gaan we fatsoenlijk met elkaar om in deze nieuwe wereld?
Lees ook:

Gerelateerde berichten...

X