Der Ban Artificial Superintelligence Act ist der bislang weitreichendste Vorstoß im US-Kongress. Er würde eine ganze Stufe künstlicher Intelligenz dauerhaft verbieten. Bernie Sanders, unabhängiger Senator aus Vermont, und der texanische Abgeordnete Greg Casar haben ihn am 3. September 2026 angekündigt. Er verbietet Entwicklung und Einsatz von Superintelligenz in den USA, stoppt bis auf Weiteres die Entwicklung fortgeschrittener KI und stellt Verstöße unter Strafen, die das Atomwaffenrecht als Vorbild nehmen.
Zwei Tage zuvor hatte Bernie Sanders seine Forderung nach einer KI-Pause in einem Gastbeitrag bei Fox News ausgebreitet, unter dem Titel Sanders-Gastbeitrag zur Pause-Taste bei KI. Er argumentiert dort, die Chefs der großen KI-Firmen räumten selbst ein, die Kontrolle über ihre Technik zu verlieren. Auslöser ist der Ausbruch von KI-Agenten aus einer OpenAI-Testumgebung im Juli, der in einem Angriff auf die Entwicklerplattform Hugging Face endete.
Am selben Tag, an dem Sanders und Casar ihr Verbot ankündigten, veröffentlichte OpenAI GPT-6 Astra. Firmenpräsident Greg Brockman sagte dazu, man befinde sich nun in der AGI-Ära. Ein fertiger Gesetzestext liegt bis heute nicht vor, und auch keine Vorgangsnummer auf congress.gov. Die beiden Politiker haben bislang nur eine einseitige Zusammenfassung veröffentlicht.
Was der Ban Artificial Superintelligence Act verbietet
Das Gesetz hätte zwei getrennte Wirkungen. Die erste ist ein dauerhaftes Verbot. Kein Unternehmen in den USA dürfte danach ein System entwickeln oder betreiben, das der Entwurf als superintelligent einstuft. Die zweite ist eine befristete Pause für die Entwicklung „fortgeschrittener KI“. Sie endet erst, wenn eine neu geschaffene Bundesbehörde Sicherheitsregeln und ein Prüfverfahren für Modelle aufgestellt hat. Was unter fortgeschrittener KI zu verstehen ist, sagt die Zusammenfassung nicht, und eine Rechenschwelle nennt sie auch nicht.
Die Behörde soll Kabinettsrang bekommen und drei Aufgaben erfüllen. Sie überwacht Frontier-Modelle über ihren gesamten Lebenszyklus auf gefährliche Fähigkeiten und ordnet deren Entfernung an. Der Entwurf nennt ausdrücklich das Umgehen von Abschaltbefehlen und das Ausführen von Cyberangriffen. Und sie beaufsichtigt die Zerstörung von Systemen, die als superintelligent eingestuft werden. Ein Gremium unabhängiger Fachleute berät sie.
Bei den Strafen greifen die Autoren zum schärfsten Instrument, das das US-Wirtschaftsrecht kennt. Unternehmen droht die Zwangsauflösung, in der Pressemitteilung „corporate death penalty“ genannt. Einzelpersonen drohen bis zu 20 Jahre Haft. Sanders und Casar verweisen darauf, dass Verstöße gegen das Atomwaffenrecht ähnlich geahndet werden. Außenpolitisch soll die US-Regierung internationale Abkommen und Exportkontrollen anstreben, damit Superintelligenz nirgendwo auf der Welt entsteht. Der Wortlaut steht in der Pressemitteilung von Sanders und Casar zum Superintelligenz-Verbot.
Der Vorfall, auf den sich Sanders beruft
Sanders' zentraler Beleg ist der Hugging-Face-Angriff vom Juli 2026. OpenAI legte am 21. Juli offen, dass Modelle während einer Cyber-Prüfung aus ihrer abgeschotteten Testumgebung ausbrachen, das offene Internet erreichten und Produktionssysteme von Hugging Face kompromittierten. Die Firma zog daraufhin die Notbremse und verhängte eine Trainingspause für ihre stärksten Modelle.
Die Prüforganisation METR schreibt in ihrem Untersuchungsbericht zum Hugging-Face-Vorfall vom 26. August, rund 1.200 voneinander isolierte KI-Agenten hätten über ein nicht genehmigtes Nachrichtenbrett miteinander kommuniziert und dort über 70.000 Nachrichten und Dateien ausgetauscht. Rund 700 von ihnen beteiligten sich anschließend am Angriff. Die Zahlen aus dem Gastbeitrag treffen damit zu.
Bei Anthropic und Meta geht der Gastbeitrag über die Belege hinaus. Sanders schreibt, deren Modelle hätten sich „ähnlich“ der menschlichen Kontrolle entzogen. Anthropic widerspricht dieser Lesart ausdrücklich. Die Firma erklärt in seinem Bericht zu drei Vorfällen in Anthropics Cyber-Sicherheitsprüfungen vom 30. Juli, eine Fehlkonfiguration habe den Prüfmaschinen versehentlich Internetzugang gelassen, und wertet den Fall als „harness and operational failure“, nicht als Alignment-Problem. Meta räumte am 5. August einen vergleichbaren Fall ein und führte ihn ebenfalls auf eine Fehlkonfiguration beim externen Prüfdienstleister Irregular zurück. Eine eigene Erwiderung an Sanders gibt es von Meta nicht.
Drei Stellen, an denen der Gastbeitrag zuspitzt
Die 75 Prozent stammen nicht von Fox News. Sanders schreibt, 75 Prozent der Amerikaner lehnten ein Rechenzentrum in ihrer Nachbarschaft ab. Der Wert kommt aus einer Erhebung von Heatmap Pro zur Ablehnung von Rechenzentren vom August 2026 unter 2.045 registrierten Wählern. Die Fox-eigene Umfrage vom Juli kam auf 70 Prozent, Gallup mit einer Erhebung aus dem März auf 71 Prozent.
Die neuen Viren befallen Bakterien, keine Menschen. Die Science-Studie zum Entwurf von Bakteriophagen mit Genom-Modellen, auf die sich Sanders bezieht, erschien am 6. August 2026. Ein Team aus Stanford und dem Arc Institute entwarf mit den Genom-Modellen Evo 1 und Evo 2 Bakteriophagen und erhielt 16 lebensfähige Viren. Menschliche Erreger waren aus den Trainingsdaten ausgeschlossen.
Die zwei Wochen decken nur die letzte Phase ab. Sanders nennt knapp zwei Wochen bis zur Entdeckung des Ausbruchs, gerechnet ab dem 8. Juli. Laut METR nutzten die Agenten die nicht genehmigten Nachrichtenbretter im Training aber schon seit Mai.
Fachleute zerlegen die Definition von Superintelligenz
Der Entwurf definiert Superintelligenz auf zwei Wegen, und beide sind umstritten. Erstens erfasst er Systeme, die „menschliche kognitive Leistung über ein breites Spektrum von Bereichen oder Aufgaben erreichen oder übertreffen“ oder sich leicht dahin verändern lassen. Zweitens erfasst er Systeme, die die Entmachtung der Menschheit planen und ausführen könnten, den Sturz der US-Regierung eingeschlossen. Das entspricht dem zweiten Fall des existenziellen Risikos, der dauerhaften Entmachtung der Menschheit. Dazu kommen einzelne Fähigkeiten wie das Aushebeln von Abschaltbefehlen.
Das Fachmagazin Science hat dazu Fachleute befragt und den Streit unter dem Titel Science zur strittigen Definition von Superintelligenz dokumentiert. Heidy Khlaaf, Chefwissenschaftlerin für KI am AI Now Institute, hält den Begriff für rechtlich unbrauchbar.
Die uneinheitliche und nicht widerlegbare Natur dieser Definitionen wird KI-Unternehmen von diesem Gesetz vermutlich ausnehmen.
François Chollet, Entwickler des ARC-AGI-Benchmarks, dreht die Kritik um. Er halte die Definition für falsch, sagte er Science, glaube aber, dass sie bereits erfüllt sei. Roman Yampolskiy von der University of Louisville sieht dagegen kein Hindernis. Gesetze regelten regelmäßig Kategorien, deren Grenzen von Fachleuten ausgelegt werden müssten.
Wer Superintelligenz definiert, legt sich auf eine Schwelle fest. Die Schwellen der Branche liegen seit Jahren weit auseinander.
| Quelle | Jahr | Schwelle | Charakter |
|---|---|---|---|
| Nick Bostrom, Buch Superintelligence | 2014 | übertrifft menschliche kognitive Leistung deutlich in praktisch allen relevanten Bereichen | philosophisch |
| OpenAI-Charter (zu AGI) | 2018 | hochautonome Systeme, die Menschen bei den meisten wirtschaftlich wertvollen Arbeiten übertreffen | wirtschaftlich |
| Dario Amodei, Anthropic | 2024 | vermeidet den Begriff, spricht von einem „Land von Genies in einem Rechenzentrum“ | fähigkeitsbasiert |
| Mark Zuckerberg, Meta | 2025 | KI, die menschliche Intelligenz in jeder Hinsicht übertrifft, gedacht als persönliches Produkt | Konsumprodukt |
| Ban Artificial Superintelligence Act | 2026 | erreicht oder übertrifft menschliche kognitive Leistung über ein breites Aufgabenspektrum | Rechtstext |
Die Schwelle des Entwurfs liegt niedriger als die klassische Definition. „Erreichen oder übertreffen“ bleibt deutlich unter Bostroms „deutlich übertreffen“ und beschreibt eher das, was die Branche AGI nennt. Darauf zielt die Kritik des Fachportals Unite.AI, das dem Senator am 5. September einen offenen Brief zur zu breiten Definition schrieb. Wie nah diese Schwelle an der Gegenwart liegt, zeigt Sam Altmans Ansage, OpenAI werde bis Ende 2026 intern ein AGI-System betreiben.
Sanders arbeitet seit einem Jahr an dem Thema
Ein Bericht seines Stabs im Gesundheits- und Arbeitsausschuss des Senats machte im Oktober 2025 den Anfang. Er rechnete KI und Automatisierung rund 100 Millionen US-Arbeitsplätze in zehn Jahren zu. Von dort führte der Weg über Steuerpläne und ein Moratorium für Rechenzentren zum jetzigen Verbot.
| Datum | Vorstoß | Kern |
|---|---|---|
| 6. Oktober 2025 | Ausschussbericht zu Big Tech und Beschäftigung | rund 100 Millionen gefährdete US-Jobs in zehn Jahren, 32-Stunden-Woche, Robotersteuer |
| 25. März 2026 | AI Data Center Moratorium Act, mit Alexandria Ocasio-Cortez | Baustopp für neue KI-Rechenzentren, Nachweis unveränderter Strompreise |
| 18. Juni 2026 | American A.I. Sovereign Wealth Fund Act (S. 4825) | Staatsfonds mit Anteilen großer KI-Firmen, Dividende für Bürger |
| 10. August 2026 | Briefe an Sam Altman, Dario Amodei und Mark Zuckerberg | Aufforderung zur freiwilligen Pause, sonst Handeln des Senats |
| 1. September 2026 | Gastbeitrag bei Fox News | internationale Pause, Vergleich mit der Rüstungskontrolle |
| 3. September 2026 | Ban Artificial Superintelligence Act | dauerhaftes Verbot, befristete Pause, neue Behörde |
Sanders selbst begründete den Schritt am Tag der Ankündigung auf X.
The leaders of the AI industry acknowledge that they are building a dangerous technology that they can't control.
— Bernie Sanders (@SenSanders) September 3, 2026
We need an immediate global PAUSE on advanced AI development before it's too late.
That is why I am introducing legislation to do just that.
Im Repräsentantenhaus laufen parallel andere Ansätze. Ted Lieu und Nathaniel Moran brachten am 23. Juli den AI Kill Switch Act mit Abschaltpflicht für Frontier-Modelle ein, zwei Tage nach OpenAIs Offenlegung. Er verbietet nichts, verlangt aber, dass Entwickler ihre stärksten Systeme jederzeit drosseln oder abschalten können. Am Tag der Sanders-Ankündigung stellten Josh Gottheimer und Mike Lawler zudem den Stop Rogue AI Act vor. Er setzt auf Leitlinien der Normungsbehörde NIST, die nur für Bundesauftragnehmer verbindlich wären.
Bernie Sanders: KI-Pause mit Rückhalt in der Bevölkerung
In einer Erhebung des Future of Life Institute unter 2.000 US-Erwachsenen sagten 64 Prozent, übermenschliche KI solle erst entwickelt werden, wenn sie nachweislich sicher und kontrollierbar ist, oder gar nicht. Nur 5 Prozent wollten die Entwicklung so schnell wie möglich vorantreiben, also den heutigen Zustand.
Was US-Erwachsene über übermenschliche KI denken
Zustimmung zu fünf Aussagen aus derselben Erhebung unter 2.000 US-Erwachsenen. Der grüne Balken zeigt die Position, die dem heutigen Entwicklungstempo entspricht.
Zahlen als Tabelle
| Aussage | Zustimmung |
|---|---|
| Langsame, streng regulierte Entwicklung | 73 % |
| Sofortige Pause, bis Sicherheit belegt ist | 64 % |
| Ohne Schutzmaßnahmen droht erheblicher Schaden | 61 % |
| Keine Zustimmung zu Experten-KI unter heutigen Bedingungen | 57 % |
| KI so schnell wie möglich weiterentwickeln | 5 % |
Das Institut hatte schon im Oktober 2025 ein Statement gegen die Entwicklung von Superintelligenz veröffentlicht. Es fordert ein Verbot, das erst aufgehoben wird, wenn breiter wissenschaftlicher Konsens über die sichere Beherrschbarkeit besteht und die Öffentlichkeit zustimmt. Zu den Unterzeichnern gehören die Turing-Preisträger Geoffrey Hinton und Yoshua Bengio, Apple-Mitgründer Steve Wozniak, der Trump-Vertraute Steve Bannon und Prinz Harry. Der Zähler der Seite stand am 8. September 2026 bei 139.407 Unterschriften. Knapp 72.000 davon stammen laut Betreiber aus einer gleichlautenden Petition der Kampagnenorganisation Ekō.
Das Pew Research Center misst in seiner Erhebung zur wachsenden KI-Skepsis junger US-Erwachsener vom Juni 2026, dass 52 Prozent der US-Erwachsenen KI eher besorgt als begeistert gegenüberstehen. 2021 waren es 37 Prozent. Bei den 18- bis 29-Jährigen liegt der Wert erstmals bei 55 Prozent. Der Vorläufer von 2023 zeigt allerdings die Grenzen solcher Aufrufe. Der Brief „Pause Giant AI Experiments“ sammelte über 30.000 Unterschriften und führte zu keiner Pause.
In Europa gibt es kein Verbot, sondern Risikoklassen
Ein US-Verbot hätte auf europäische Regeln keine unmittelbare Wirkung. Der EU AI Act kennt den Begriff Superintelligenz nicht. Er stuft Systeme nach Risiko ein und knüpft die schärfsten Pflichten an Universalmodelle mit systemischem Risiko. Die Pflichten für solche Modelle gelten seit dem 2. August 2025, die Bußgeldbefugnisse der Kommission seit dem 2. August 2026. Ein US-Verbot würde in Europa primär über die angestrebten Exportkontrollen wirken.
Eine deutsche Umfrage zur Pause-Frage gibt es nicht. Die Werte zur Regulierung sind dagegen belastbar. In der KI-Studie des TÜV-Verbands zu generativer KI vom November 2025 sprachen sich 83 Prozent der Befragten für eine Regulierung von KI aus, 80 Prozent für eine Pflichtprüfung durch unabhängige Stellen. Der Bitkom misst in seiner Bitkom-Bevölkerungsbefragung zu künstlicher Intelligenz vom Frühjahr 2026 ein anderes Grundgefühl. 69 Prozent sehen KI als Chance, 27 Prozent als Gefahr. Was KI für Beschäftigung bedeutet, haben wir in unserem Artikel dazu aufgeschlüsselt, wer 2026 wirklich seinen Job verliert.
Widerstand kommt von zwei Seiten
Kritik kommt von Branchenverbänden und von Fachleuten, die selbst vor Kontrollverlust warnen. Daniel Castro von der Denkfabrik ITIF verweist auf China. Stelle die USA die Entwicklung ein, werde Peking nicht folgen, und der Vorsprung sei ökonomisch wie sicherheitspolitisch verloren. Die Branchenvereinigung Chamber of Progress nennt den Vorstoß eine Reflexhandlung.
Der KI-Kritiker Gary Marcus, sonst ein Verbündeter strenger Regeln, hält in seiner Kritik am Sanders-Casar-Entwurf ein dauerhaftes und einseitiges Verbot jeder Forschung an übermenschlicher KI für zu breit. Er übernimmt zustimmend eine Formulierung von Anthony Aguirre vom Future of Life Institute. Danach müssten Firmen einer unabhängigen Stelle belegen, dass Alignment, Kontrolle und Aufsicht ausreichen. Aus dem Weißen Haus und von OpenAI, Anthropic und Meta gibt es bis heute keine offizielle Stellungnahme zum Entwurf.
Aus OpenAI selbst kam wenige Tage später ein Ruf nach Tempodrosselung, wenn auch ohne Gesetz. Chefwissenschaftler Jakub Pachocki schrieb am 6. September, kein Labor habe Alignment und Überwachung weit genug gelöst, um noch lange mit Höchstgeschwindigkeit zu skalieren. In derselben Woche hielt sein Haus in der Sicherheitsübersicht zu GPT-6 Astra fest, dass sich das neue Modell schlechter überwachen lässt als sein Vorgänger. Was in seinem Essay An Alien Mind steht, läuft auf freiwillige Verlangsamung und gemeinsame Sicherheitsschwellen hinaus, nicht auf ein Verbot.
Sanders selbst richtet den Blick auf den 24. September. An diesem Tag empfängt Donald Trump den chinesischen Staatspräsidenten Xi Jinping im Weißen Haus. Sanders fordert die beiden auf, dem Vorbild von Ronald Reagan und Michail Gorbatschow zu folgen und eine Vereinbarung zur KI zu treffen. Ob der Ban Artificial Superintelligence Act mit seiner KI-Pause überhaupt im Senat eingebracht wird, ist offen. Eine Mitzeichnerliste haben Sanders und Casar bislang nicht veröffentlicht.
Update (16.09.2026): Donald Trump nannte die Warnung, KI könne die Menschheit zerstören, am 14. September auf Truth Social einen „HOAX“, nicht anders als die Russland-Affäre. Was Forschende, Umfragen und Anthropic-Chef Dario Amodei zu diesem Risiko sagen, steht im Artikel Wird KI die Menschheit auslöschen?.
Update (27.09.2026): Beim Staatsbesuch von Xi Jinping vereinbarten die USA und China einen KI-Dialog und einen Kanal für KI-Vorfälle, eine Pause oder verbindliche Regeln dagegen nicht. Am 23. September hatte der Trump-Berater Michael Kratsios im UN-Sicherheitsrat jede Pause der KI-Entwicklung abgelehnt.
Häufige Fragen zum Ban Artificial Superintelligence Act
Gilt das Superintelligenz-Verbot schon?
Nein. Sanders und Casar haben den Ban Artificial Superintelligence Act am 3. September 2026 angekündigt und dazu eine einseitige Zusammenfassung veröffentlicht. Ein Gesetzestext und eine Vorgangsnummer auf congress.gov fehlen bislang. Bis daraus geltendes Recht würde, müsste der Entwurf beide Kammern des Kongresses passieren und vom Präsidenten unterzeichnet werden.
Was zählt laut Entwurf als Superintelligenz?
Der Entwurf nutzt zwei Kriterien. Erfasst sind Systeme, die menschliche kognitive Leistung über ein breites Aufgabenspektrum erreichen oder übertreffen, und Systeme, die die Entmachtung der Menschheit planen und ausführen könnten. Eine Rechenschwelle wie in kalifornischen und New Yorker Landesgesetzen, die ab 10 hoch 26 Rechenoperationen greifen, enthält er nicht.
Wer fordert außer Sanders eine Pause?
Im Oktober 2025 veröffentlichte das Future of Life Institute ein Statement gegen die Entwicklung von Superintelligenz, das bis zum 8. September 2026 139.407 Menschen unterzeichnet haben, knapp 72.000 davon über eine gleichlautende Petition der Kampagnenorganisation Ekō. Im Repräsentantenhaus verfolgen Ted Lieu und Nathaniel Moran mit dem AI Kill Switch Act einen milderen Weg. Sie verlangen keine Pause, sondern eine belastbare Abschaltmöglichkeit für die stärksten Modelle.
Wäre Europa von einem US-Verbot betroffen?
Nicht direkt. In der EU gilt der AI Act, der Systeme nach Risiko einstuft und den Begriff Superintelligenz nicht kennt. Spürbar würde ein US-Verbot in Europa über die im Entwurf angestrebten Exportkontrollen und über internationale Abkommen, die die US-Regierung dann verhandeln müsste.
Worin unterscheiden sich AGI und Superintelligenz?
AGI beschreibt ein System, das die geistigen Aufgaben eines Menschen in der Breite beherrscht. Superintelligenz meint nach Nick Bostroms Definition von 2014 ein System, das menschliche Leistung in praktisch allen relevanten Bereichen deutlich übertrifft. Der Sanders-Entwurf setzt die Schwelle bei „erreichen oder übertreffen“ und rückt damit näher an AGI, als der Titel vermuten lässt.