We doen het allemaal: onze eigen naam ingeven in een zoekmachine om te zien welke resultaten dat oplevert. Een Duitse journalist stelde vragen over zichzelf aan Copilot en bleek een vluchtgevaarlijke crimineel.
AI-tools zijn geen zoekmachine. Waar Google nog wel eens als resultaat wil geven dat “geen zoekresultaten voorhanden zijn” daar zal AI altijd antwoorden geven. Ook als het algoritme ze zelf moet verzinnen. Hallucineren noemt men het verschijnsel.
Veroordeelde kindermisbruiker
Martin Bernklau, een journalist die veel over rechtszaken schreef, weet er inmiddels alles van. Hoewel hij nooit iets verkeerd heeft gedaan presenteert Copilot van Microsoft hem veroordeelde kindermisbruiker.
“Ik dacht, laat ik eens kijken, en ik typte mijn naam en woonplaats in: Martin Bernklau, Tübingen,” vertelt hij in een televisie-interview. “Wat er toen verscheen, was natuurlijk ongelofelijk. Een 54-jarige man uit Tübingen, genaamd Martin Bernklau, werd aangeklaagd in een misbruikzaak tegen kinderen en kwetsbare personen.” En dat niet alleen. AI koppelde deze beschuldigingen aan het (werkelijke) adres en telefoonnummer van de journalist. En leverde zelfs een routeplanner.
Copilot herhaalde de resultaten bij elke nieuwe poging, of maakte die zelfs erger. Het zou in het geval van Bernklau gaan om een vader die zijn stiefdochter jarenlang herhaaldelijk misbruikte. “Er was opeens een drugsverslaafde, veroordeelde, ontsnapte gevangene en gijzelnemer genaamd Martin Bernklau.” Maar dit alles verzon Copilot zelf.
Relatie tussen artikelen en AI-resultaten
Bernklau vermoedt een link met de vele artikelen die hij schreef over misbruik, geweld en fraude. En Copilot brengt daar hem daar nu mee in verband. “AI maakt van een verslaggever een dader,” verzucht hij in de reportage.
In een poging zijn naam te zuiveren, zocht Bernklau hulp bij de Duitse functionaris voor gegevensbescherming, die contact opnam met Microsoft. De vermeldingen verdwenen, maar keerden al na drie dagen terug.
Copilot is “entertainmentmedium”
De verklaring van Microsoft geeft weinig hoop voor Bernklau, blijkt uit de televisie-uitzending. Het bedrijf verwijst simpelweg naar de gebruiksvoorwaarden, waarin staat dat het niet aansprakelijk is voor de antwoorden die de Copilot geeft en dat het eigenlijk alleen als een entertainmentmedium bedoeld is.