In de zomermaanden gaat alles een tempootje lager en heerst de komkommertijd in de media. Dan kom je ineens opvallende tech-nieuwtjes tegen die je de rest van het jaar misschien mist. Zo viel mijn oog op de kop: Volvo blijft botsen met kangoeroes. Dat klinkt als typische komkommer-clickbait, maar het bijbehorende bericht zegt meer over de uitdagingen van digitalisering dan je in eerste instantie denkt.
Wat blijkt: in Australië hebben de auto’s van Volvo grote moeite om kangoeroes te herkennen. De sensors kunnen de afstand en de snelheid van de springende beesten niet goed inschatten, waardoor de auto niet kan ingrijpen als een botsing dreigt. Dat is een relevant probleem, want jaarlijks zijn er in Australië gemiddeld 20.000 botsingen tussen auto’s en kangoeroes. Aangezien een flinke kangoeroe even zwaar is als een volwassen man, levert dat een hoop schade op. En een tragisch einde voor al die arme kangoeroes natuurlijk.
Nu is Volvo een Zweeds merk en worden hun auto’s ontworpen in Zweden, met de Zweedse omstandigheden als uitgangspunt. De programmeurs van Volvo hebben er dus voor gezorgd dat hun auto’s heel goed zijn in het herkennen van overstekende elanden, maar ze hebben geen seconde nagedacht over scenario’s met springende kangoeroes. Je kunt het ze moeilijk kwalijk nemen. Het zegt wel iets over de uitdaging voor ons als ontwerpers en producenten van digitale technologie. De keuzes die wij bewust of onbewust maken, hebben soms een onverwachte uitwerking.
Die ontwerpkeuzes zijn extra relevant als je kijkt naar de enorme potentie van kunstmatige intelligentie. We kunnen computers al leren onderhandelen, bluffen, strategisch denken, objecten herkennen, recepten verzinnen, informatie verzamelen en auto’s besturen. Volgens experts staan we aan het begin van een revolutie waarin kunstmatige intelligentie vele taken van ons gaat overnemen. We geven digitale technologie daarmee steeds meer verantwoordelijkheden. Dat vraagt om een ontwerpproces waarin blinde vlekken en structurele vooroordelen zoveel mogelijk ondervangen worden.
Steeds meer ict-bedrijven passen dit bewustzijn van de maatschappelijke impact van technologie al standaard toe in de ontwikkeling van hun producten. Ook binnen de wetenschap wordt hier aandacht aan besteed, bijvoorbeeld in het DesignLab van de Universiteit Twente. Ik zie ook dat bedrijven steeds meer vragen naar werknemers met grondige kennis van de sectoren en doelgroepen waarvoor ze producten ontwikkelen. Om die reden is het ook belangrijk om diversiteit in de sector aan te moedigen: verschillende achtergronden leiden tot andere inzichten en uiteindelijk tot betere producten en diensten. Daar ben ik van overtuigd.
Het is natuurlijk niet zo dat Volvo standaard Australiërs in hun designteam moet opnemen om rekening te kunnen houden met kangoeroes. Je kunt vooraf niet overal aan denken. Bovendien is ICT een plastisch product dat in de praktijk geperfectioneerd kan worden. Doordachte design-keuzes helpen wel om waar nodig verantwoording af te leggen en de werking van ICT te verklaren. Op die manier zorgen we ervoor dat nieuwe technologie sneller omarmd wordt door een bredere groep mensen, waarmee we de positieve impact van ICT vergroten. Uiteindelijk zullen ook de Australische kangoeroes veilig kunnen oversteken.
