Grijsdenken

Marco Gianotten - Pre-mortem strategie

Een computer heeft geen moreel besef: beslissingen zijn zwart of wit. In de binaire wereld van nullen en enen is er geen ruimte voor ‘ongeveer’. Met de komst van zelfrijdende auto’s, chirurgische robots en autonome militaire drones wordt het belangrijk dat computers een moreel geweten hebben om beslissingen over leven en dood te kunnen nemen.

 

Mensen maken weliswaar meer fouten dan machines, maar je kunt ze daarvoor wel verantwoordelijk houden. Een algoritme kan je daarentegen niet verhoren of vervolgen. Cultuurwetenschapper Maya Indira Ganesh stelde op het hackers-event Chaos Communication Conference dat morele keuzes moeten worden geprogrammeerd. Los van juridische kwesties stelt ze vast dat computers daarom moeten leren ‘grijsdenken’: weg dus van de zwart-wit redenatie.

 

De eerste microchips die uitkomsten inschatten zijn er al: Singular Computing heeft prototypes gebouwd. Zij zetten in op de ontwikkeling van chips die niet in staat zijn tot mathematisch correcte calculaties: vraag hoeveel 1 plus 1 is en je krijgt antwoorden als 1,99 of 2,02. Dit is voorwaardelijk om contextueel besef (de opstap naar moraliteit) te automatiseren. Onze echte wereld zit vol met ruis. We weten veel niet exact, maar zijn als mens toch in staat besluiten te nemen op basis van ‘ongeveer-analyses’. Dit is fuzzy-logic. Wanneer een mens objecten als lichtgekleurde bestelbusjes op camerabeelden van voorbijrazende snelwegverkeer moet herkennen, doet hij dat op basis van inschattingen. Dat gaat bijna feilloos en zonder veel inspanning. Dat denken is grijs en niet zwart-wit.

 

Voor het geautomatiseerd interpreteren van hoge resolutie videobeelden en 3D-data zoals uit stereofotografie heb je zogeheten ‘approximate computing’ nodig. Je hebt een ongekende hoeveelheid verwerkingscapaciteit nodig wanneer in een fractie van een seconde besluiten moeten worden genomen. En veelal zonder datatransmissie naar een rekencentrum: een aanvalsdrone zal autonoom besluiten moeten kunnen nemen.

Met de huidige generatie dataverwerking vergt dat zoveel capaciteit en energie dat een drone zo zwaar wordt dat ie niet meer goed kan vliegen. De eerste tests met de chips van Singular voor het analyseren van videodata leveren enorme voordelen op: 100 keer snellere analyse tegen 2 procent van de energie in vergelijking tot conventionele dataverwerking. Dat is dus 50.000 keer efficiënter.

 

De toekomst van artificial intelligence en deep-learning hangt in sterke mate af van de ontwikkeling van chips die ‘slecht’ zijn in rekenen. Worden computers dan toch menselijk?

 

Gerelateerde berichten...

X