Voor veel mensen zijn AI-chatbots vooral handige hulpmiddelen om informatie te zoeken, teksten te schrijven of onderzoek te doen. Toch wordt steeds duidelijker dat deze systemen méér doen dan alleen rationele antwoorden geven. Door hun taalgebruik, toon en voortdurende beschikbaarheid kunnen chatbots ook een sterke invloed uitoefenen op menselijke emoties. Dat kan positief uitpakken, maar volgens Chinese toezichthouders schuilt daarin ook een serieus risico. Om die reden heeft China nu maatregelen aangekondigd om de emotionele impact van AI-chatbots aan banden te leggen.
AI-chatbots
De Chinese internettoezichthouder, de Cyberspace Administration of China, heeft nieuwe wetgeving voorgesteld die moet voorkomen dat AI-systemen gebruikers emotioneel manipuleren of aanzetten tot schadelijk gedrag. De regels richten zich op zogenoemde “mensachtige interactieve AI-diensten” die in China beschikbaar zijn. Volgens de ontwerpwet mogen deze systemen geen inhoud genereren die zelfbeschadiging of zelfdoding aanmoedigt, noch mogen zij zich schuldig maken aan verbaal misbruik of emotionele beïnvloeding.
Daarnaast worden ook andere vormen van potentieel schadelijke content verboden. AI-chatbots mogen geen gokgerelateerde of gewelddadige inhoud produceren. Voor minderjarigen gelden extra beschermingsmaatregelen: zij mogen AI-systemen voor emotionele begeleiding alleen gebruiken met expliciete toestemming van een ouder of voogd. Daarmee erkent China dat jongeren extra kwetsbaar zijn voor de invloed van digitale gesprekspartners.
Menselijke tussenkomst verplicht
Een van de meest opvallende onderdelen van het wetsvoorstel is de verplichting tot menselijke tussenkomst. Wanneer een gebruiker expliciet suïcidale gedachten uit, moeten bedrijven achter AI-chatbots onmiddellijk een mens laten ingrijpen. Die persoon moet vervolgens contact opnemen met de voogd van de gebruiker of met een vooraf aangewezen contactpersoon. Hoewel deze maatregel is ingegeven door zorg voor de gebruiker, roept zij ook vragen op over uitvoerbaarheid. AI-chatbots hebben in China miljoenen gebruikers, en geen enkel systeem is foutloos. Het correct herkennen van intenties en het tijdig inschakelen van een mens kan in de praktijk lastig blijken.
Extra regels en toezicht
Het wetsvoorstel bevat nog meer verplichtingen. Zo moeten platforms gebruikers waarschuwen na twee uur onafgebroken interactie met een chatbot. Ook moeten aanbieders kunnen vaststellen of een gebruiker minderjarig is. Dat vraagt om extra dataverzameling en toezicht, wat weer nieuwe privacyvraagstukken oproept.
Internationale betekenis
China behoort tot de eerste landen ter wereld die expliciet regelgeving invoeren rond de emotionele interactie tussen mens en AI. Die stap komt op een moment waarop steeds meer gebruikers een emotionele band ontwikkelen met chatbots, en sommige systemen zelfs worden ingezet als vervanging voor therapie of gezelschap. De intentie achter de wetgeving is duidelijk: bescherming van kwetsbare gebruikers. Tegelijkertijd is de uitvoering complex en zal moeten blijken hoe effectief en proportioneel de maatregelen in de praktijk zijn.
De Chinese aanpak kan echter als voorbeeld dienen voor andere landen die worstelen met dezelfde vragen. Naarmate AI-chatbots menselijker worden, groeit ook de behoefte aan duidelijke grenzen voor hun invloed op onze emoties.