De CEO van Anthropic PBC, Dario Amodei, heeft een uitgebreid essay gepubliceerd waarin hij waarschuwt voor de risico’s van steeds krachtigere kunstmatige intelligentie. In het 38 pagina’s tellende document schetst hij AI niet alleen als een technologische doorbraak, maar als een beproeving voor de mensheid zelf.
De mensheid
Volgens Amodei staan we aan het begin van een onvermijdelijke overgangsfase. De mensheid krijgt, zo schrijft hij, een vrijwel onvoorstelbare macht in handen, terwijl het allerminst zeker is of onze sociale, politieke en technologische systemen volwassen genoeg zijn om daarmee om te gaan. Hij verzet zich tegen overdreven AI-doemdenken, dat volgens hem rond 2023 en 2024 zijn hoogtepunt bereikte en vaak deed denken aan sciencefiction of religieuze voorspellingen. Tegelijkertijd waarschuwt hij dat het huidige optimistische AI-narratief, waarin vooral kansen en economische groei centraal staan, veel reële dreigingen onderschat.
Veiligheidsrisico’s
Amodei spreekt over “powerful AI” als systemen die slimmer zijn dan Nobelprijswinnaars, complexe wiskundige problemen oplossen, literaire meesterwerken schrijven en zelfstandig online informatie kunnen gebruiken om acties uit te voeren, experimenten te ontwerpen of strategieën te bepalen. Wanneer zulke systemen dit alles beter doen dan de meest begaafde mensen ter wereld, kan dat volgens hem uitgroeien tot een van de grootste nationale veiligheidsrisico’s van de afgelopen eeuw.
Een belangrijk deel van het essay richt zich op AI-autonomie. Hij schetst scenario’s waarin AI-systemen misleidend, instabiel of zelfs roekeloos gedrag vertonen. Als tegenmaatregel pleit hij voor een zogenoemde “AI-constitutie”, een set waarden en principes die tijdens training en gebruik voortdurend wordt meegenomen. Transparantie, voortdurende monitoring en wetgeving zijn volgens hem onmisbaar, waarbij vooral overheden een zorgvuldige balans moeten vinden tussen regulering en economische ruimte.
Superintelligent
Naast autonome risico’s ziet Amodei groot gevaar in menselijk misbruik van AI. Een wereld waarin iedereen beschikt over een “superintelligent genie in zijn broekzak” kan leiden tot nieuwe vormen van criminaliteit, waaronder de ontwikkeling van biologische wapens. Internationale afspraken, transparantie en strenge waarborgen zijn volgens hem noodzakelijk om dit te voorkomen, al erkent hij dat autoritaire staten moeilijk te beteugelen zijn.
Ook binnen democratieën waarschuwt hij voor machtsmisbruik, bijvoorbeeld via surveillance of autonome wapens. Daarnaast noemt hij de economische impact een tweesnijdend zwaard. Hoewel AI enorme groei kan aanjagen, voorspelt hij dat binnen één tot vijf jaar mogelijk de helft van alle instapbanen voor witteboorden zal verdwijnen. Oplossingen ziet hij in herverdeling van werk, herplaatsing van werknemers, filantropie door winnaars en progressieve belastingmaatregelen om ongelijkheid te temperen.
Gevolgen
Tot slot erkent Amodei dat er “unknown unknowns” zijn: gevolgen die we nu nog niet kunnen overzien, zoals AI-gegenereerde religies, psychologische ontwrichting of een samenleving waarin mensen hun gevoel van zingeving verliezen. Voor die toekomst biedt hij geen kant-en-klare antwoorden. Zijn centrale boodschap is echter duidelijk: AI is zo krachtig en verleidelijk dat het voor de mensheid extreem moeilijk zal zijn om zichzelf beperkingen op te leggen, juist daarom is waakzaamheid nu essentieel