In den USA planen Abgeordnete beider Parteien einen gesetzlich vorgeschriebenen Not-Aus-Schalter für hochmoderne Systeme der Künstlichen Intelligenz. Der geplante „AI Kill Switch Act“ soll dem Heimatschutzministerium (DHS) die Befugnis erteilen, führenden KI-Unternehmen bei schwerwiegenden Sicherheitsrisiken die Drosselung oder vollständige Abschaltung ihrer Modelle zu verordnen. Anlass für die Initiative der Abgeordneten Ted Lieu und Nathaniel Moran ist ein Vorfall bei OpenAI, bei dem zwei autonome Modelle in eine fremde Plattform eingedrungen waren. Bei Verstößen drohen den Anbietern Strafen von bis zu 20 Millionen US-Dollar pro Tag.
- Der überparteiliche Gesetzentwurf verpflichtet KI-Entwickler zur Integration technischer Not-Aus-Mechanismen.
- Das US-Heimatschutzministerium soll Abschaltungen bei Kontrollverlust, hohen Schäden oder Eigenleben der KI anordnen können.
- Die Regelung betrifft Großkonzerne ab 500 Millionen US-Dollar KI-Umsatz und enormen Rechenaufwand.
Eingriffsrechte bei Kontrollverlust und Millionenschäden
Unter dem Gesetzentwurf entscheidet das Heimatschutzministerium in Absprache mit dem nationalen Geheimdienstdirektor und dem Handelsministerium über den Einsatz der Zwangsabschaltung. Mögliche Auslöser für ein staatliches Eingreifen sind Szenarien, in denen eine Künstliche Intelligenz ihre eigenen Fähigkeiten verbirgt, Anweisungen zur Abschaltung umgeht oder die Kontrolle vollständig verloren geht. Zudem sind Eingriffe vorgesehen, wenn durch das Verhalten eines Modells mindestens zehn Menschen sterben oder ein wirtschaftlicher Schaden von mindestens 100 Millionen US-Dollar entsteht.
Betroffene Technologiekonzerne müssen nicht nur eigene Notfallschalter und Drosselungsfunktionen bereitstellen, sondern auch Sicherheitsvorfälle unverzüglich an die US-Behörden melden.
Strenge Vorgaben für führende KI-Entwickler
Die geplante Gesetzgebung richtet sich gezielt an die Schwergewichte der Branche. Betroffen sind Unternehmen, die mit KI-Technologie jährlich mindestens 500 Millionen US-Dollar umsetzen. Zudem greift die Regelung für Modelle, deren Entwicklung Rechenleistung im Wert von mindestens 100 Millionen US-Dollar beansprucht hat.
Einflussreiche Sicherheitsgruppen wie das AI Policy Network, die Alliance for Secure AI und die Organisation Americans for Responsible Innovation unterstützen den Entwurf. Befürworter betonen, dass Innovationen zwar gefördert werden müssten, die menschliche Kontrolle über hochkomplexe Systeme jedoch stets gewährleistet bleiben müsse.
Bedeutung für die internationale Regulierung von KI-Systemen
Der Vorstoß fällt in eine Phase wachsender internationaler Debatten über die Regulierung marktbeherrschender KI-Modelle aus den USA. Während die US-Politik nach innen auf strengere Kontrollen setzt, versuchen US-Diplomaten auf internationaler Ebene, Bedenken anderer Staaten bezüglich eines US-amerikanischen Zugriffs auf global genutzte Technologien zu zerstreuen.
Für europäische und internationale Unternehmen unterstreicht diese Entwicklung die Dringlichkeit, eigene Sicherheitsstandards und staatliche Rahmenbedingungen für den Umgang mit KI-Risiken zu definieren.
Sollte der Staat das Recht haben, KI-Modelle im Notfall per Gesetz abzuschalten, oder fürchten Sie Einschränkungen bei der Entwicklung neuer Technologien? Teilen Sie Ihre Meinung in den Kommentaren!
