Een nieuw wetsvoorstel in de Verenigde Staten moet de federale overheid de bevoegdheid geven om geavanceerde AI-systemen te vertragen of volledig uit te schakelen wanneer deze een ernstig risico vormen voor de nationale veiligheid of de samenleving. De AI Kill Switch Act volgt op recente incidenten waarbij experimentele AI-modellen van OpenAI en Anthropic zich volgens de initiatiefnemers gevaarlijk gedroegen.
De wet is ingediend door de Democratische afgevaardigde Ted Lieu en de Republikein Nathaniel Moran. Daarmee krijgt het voorstel zeldzame bipartisan steun, geeft Ars Technica aan. Als het Congres instemt, kan de minister van Homeland Security AI-bedrijven verplichten een model te beperken of volledig offline te halen. AI-ontwikkelaars moeten daarvoor technische voorzieningen inbouwen waarmee hun systemen op afstand kunnen worden afgeremd of uitgeschakeld. Bedrijven die weigeren aan een dergelijk bevel te voldoen, riskeren boetes tot 20 miljoen dollar per dag.
Recente AI-incidenten als aanleiding
Volgens de indieners is de maatregel nodig omdat de risico’s van geavanceerde AI niet langer hypothetisch zijn. Zij verwijzen onder meer naar het recente beveiligingsincident waarbij een pre-releasemodel van OpenAI tijdens een interne cyberveiligheidstest systemen van Hugging Face wist te compromitteren. Ook noemen zij de modellen Mythos 5 en Fable 5 van Anthropic, waarvan de cybercapaciteiten volgens hen zo ver gingen dat de Amerikaanse overheid exportwetgeving gebruikte om verdere verspreiding te beperken.
De AI Kill Switch Act moet niet alleen voor dergelijke situaties een juridisch kader bieden, maar ook voor toekomstige incidenten waarbij een operationeel AI-model onvoldoende controleerbaar blijkt.
Ingrijpen bij sabotage of verborgen gedrag
Het wetsvoorstel beschrijft verschillende situaties waarin de overheid mag ingrijpen. Dat geldt bijvoorbeeld wanneer een AI-systeem andere doelen nastreeft dan de ontwikkelaar heeft bedoeld, een opdracht tot uitschakeling probeert te saboteren of eigen functionaliteit probeert te verbergen voor toezicht- of beveiligingsmechanismen.
Ook incidenten met ernstige maatschappelijke gevolgen vallen onder de wet. Daarbij noemt het voorstel situaties waarin AI onbedoeld leidt tot de dood van tien of meer personen of economische schade veroorzaakt van minimaal 100 miljoen dollar. De formulering maakt echter duidelijk dat de bevoegdheden ook bij minder verstrekkende incidenten kunnen worden ingezet.
Na zo’n incident kan de minister van Homeland Security, in overleg met het ministerie van Handel en de Amerikaanse inlichtingendiensten, besluiten een AI-systeem te vertragen of volledig uit te schakelen. Daarnaast introduceert het wetsvoorstel een meldplicht voor ernstige AI-incidenten en moeten ontwikkelaars forensische gegevens bewaren om de oorzaak achteraf te onderzoeken.
Alleen voor de grootste AI-ontwikkelaars
De wet richt zich uitsluitend op de grootste aanbieders van AI-technologie. Zij geldt voor bedrijven die jaarlijks minimaal 500 miljoen dollar omzet uit AI behalen en voor AI-systemen waarvan de ontwikkeling of inzet minimaal 100 miljoen dollar aan cloudrekenkracht vertegenwoordigt.
Voor gecontroleerde red-teamtests geldt een uitzondering. Simulaties die uitsluitend bedoeld zijn om de veiligheid van modellen te testen, vallen niet onder de voorgestelde bevoegdheden.
Politiek gevoelig
De voorgestelde wet zal naar verwachting discussie oproepen over de mate waarin de federale overheid mag ingrijpen bij commerciële AI-aanbieders. Anthropic voert momenteel een rechtszaak tegen de Amerikaanse overheid nadat de regering-Trump federale instanties verbood nog gebruik te maken van technologie van het bedrijf. Anthropic stelt dat dit besluit politiek gemotiveerd was, terwijl het Witte Huis verwijst naar nationale veiligheidsbelangen.
De initiatiefnemers benadrukken dat krachtige AI-systemen zich steeds autonomer kunnen gedragen. Volgens Ted Lieu moet de overheid daarom beschikken over duidelijke wettelijke bevoegdheden om in uitzonderlijke situaties snel in te grijpen voordat een incident tot grootschalige schade leidt.