Het Amerikaanse tijdschrift Nature vroeg onlangs 1600 wetenschappers naar hun mening over AI. Overwegend enthousiaste reacties, want de slimme technologie bespaart tijd en helpt wetenschappers sneller patronen te ontrafelen. Nadelen zijn er ook zoals de toenemende afhankelijkheid, fraude, bias en discriminerende data in modellen.
AI is de katalysator van kenniswerving met bijzondere bijwerkingen. Dit opent deuren naar science fiction achtige scenario’s zoals praten met dieren en bizarre inkijkjes in de toekomst. Een uitnodiging voor IT-managers voor de ontrafeling van patronen in de eigen IT praktijk. De onderstaande voorbeelden zetten de plussen en minnen daarbij op een rij.
Uitlegbaarheid
ChatGPT en andere Large Language Modellen (LLM’s) ontrafelen de menselijke taal. Dat gebeurt inmiddels ook met de taal van dieren. Het zogeheten ‘Earth Species Project’, dat bestaat uit een team van AI-wetenschappers, conversatietechnologen en ondernemers, verzamelt data van biologen over vogelzang, walvisroepen en andere diergeluiden. AI-modellen analyseren en synthetiseren de vele klanken. Naar verwachting heeft het team drie tot vijf jaar nodig om de AI een vloeiende conversatie met een aantal diersoorten te laten voeren. Deze AI ontwaart de patronen en weet dan wat een gemiddelde reactie is. Het werkt zoals GenAI, waarbij ChatGPT of Midjourney volgende woord of beeld in een menselijke reactie kan raden, maar zelf niet snapt wat er werkelijk wordt gezegd. De vraag is dan in hoeverre wetenschappers nog snappen wat en waarom er wel of niet iets gezegd wordt. Patronen worden ontrafeld, maar begrijpen is een tweede. Kortom, uitlegbaarheid is een uitdaging.
Zien wat we niet willen zien
AI ontrafelt patronen die we eigenlijk liever niet willen zien. Vraag beeldgenerator Midjourney naar een persoon uit de VS en de AI-tool presenteert jonge, veelal blanke vrouwen met een Amerikaanse vlag op de achtergrond. Een Indiaas persoon wordt afgebeeld als een oudere man met baard in traditionele kledij. Dit schrikbarende gebrek aan diversiteit werd snel wereldnieuws. Onderzoekers suggereren dat Midjourney te zwaar leunt op aanwezige stereotypen in het trainingsmateriaal. Meermalig gebruik leidt bovendien alleen maar tot versterking van stereotypen. Het roer moest dus om. Zo kwam Google maanden later met Gemini. Er was veel werk gestoken in het voorkomen van bias in de AI-plaatjesmaker. Ook dat was vervolgens wereldnieuws, want hun pogingen tot meer diversiteit waren nu doorgeschoten. Een voormalig Google-medewerker klaagde zelfs op X dat de techreus nauwelijks kan erkennen dat er ook nog blanke mensen bestaan. Dat werd onderbouwd met foto’s van de zoekopdracht naar Zweedse vrouwen, waarbij alleen donker gekleurde vrouwen werden getoond.
Als algoritmen discrimineren of vooroordelen laten zien, komt dat omdat mensen deze slimme technologie programmeren of voeden met menselijke data. De hoop is dat kunstmatige intelligentie mensen juist met de neus op de feiten drukt. AI houdt een spiegel voor die een uiterst intieme blik geeft in de psyche van zowel de mens, het zelfbeeld als de samenleving. Dat vraagt om lef om in die spiegel te durven en blijven kijken. Pas dan kan de mens werkelijk boven zichzelf uitstijgen. Nooit eerder is de samenleving zo openlijk geconfronteerd met eigen tekortkomingen. De confrontatie aangaan, is een zegen.
Toekomst voorspellen
Het voorspelbaar vermogen is een belangrijk pluspunt van AI. Life2Vec is een AI-model dat levensverwachtingen voorspelt. Het model is afkomstig van Deense wetenschappers die hierover eind 2023 publiceerden in Nature Computational Science. Onzichtbare patronen uit het dagelijks leven worden zichtbaar en doorgetrokken naar de toekomst. De Denen hebben gegevens uit het nationaal register van Denemarken gebruikt met details over een diverse groep van zes miljoen mensen. De dataset omvat levensaspecten over onderwijs, gezondheid, inkomen en bijvoorbeeld beroep uit een periode van 2008 tot 2016. De onderzoekers pasten taalverwerkingstechnieken toe en genereerden een vocabulaire voor alle levensgebeurtenissen. Life2Vec is op die manier in staat patronen te ontrafelen uit zinnen als “In september 2012 ontving Hendrik twintigduizend euro als bewaker bij een kasteel in Elsinore”. Of “Tijdens haar derde jaar op de middelbare school volgde Herma deze vijf keuzevakken”. Het doel was het algoritme te laten leren van die persoonlijke gegevens en op basis daarvan levens te voorspellen.
Om te testen hoe goed hun AI-model was, selecteerden de wetenschappers 100.000 individuen waarbij de helft tussen 2016 en 2020 was overleden en de andere helft nog leefde. De onderzoekers wisten welke personen na 2016 waren overleden. Dat wist het algoritme niet. Vervolgens lieten de wetenschappers de slimme technologie voorspellen welke personen nog in leven zijn. Het algoritme had het in 78 procent van de gevallen bij het rechte eind. Een indrukwekkend resultaat dat bijvoorbeeld de verzekeringsindustrie compleet kan veranderen. Risico-inschattingen worden tenslotte veel accurater. Dat gaat de gezondheidszorg eveneens helpen en het zal ook zeker invloed hebben op ons eigen leven.
Groot durven denken én doen
Drie casussen die regelrecht uit de toekomst lijken te komen. Ze laten zien hoe onze dans met patronen verandert en prikkelen bovendien onze fantasie. Ook die van de IT-manager die patronen in eigen data, systemen en processen kan gaan ontrafelen. Als groot durven denken én doen straks bij elkaar komen, kunnen medewerkers en AI dan radicaal anders gaan samenwerken? Hoe gaan zij dansen met nieuwe patronen? Dat wordt een interessante zoektocht voor de IT-manager.
Thijs Pepping is trendanalist bij het Verkenningsinstituut Nieuwe Technologie (VINT) van IT-dienstverlener Sogeti
Lees ook:
- De AI-tsunami van 2024
- Sogeti verhuist naar Utrecht
