Altman und Amodei vor dem UN-Sicherheitsrat:
Was Deutschland dazu sagt

Altman und Amodei vor dem UN-Sicherheitsrat, das gab es am 23. September 2026 zum ersten Mal. Die Chefs von OpenAI und Anthropic baten das höchste Gremium der Vereinten Nationen um gemeinsame Sicherheitsstandards für KI-Modelle und versprachen, ihr eigenes Tempo zu drosseln. Einen Tag zuvor hatte US-Präsident Donald Trump vor der Generalversammlung jedes „globalist scheme“ zur Kontrolle von KI abgelehnt. Deutschland saß nicht am Ratstisch, hat sich aber rund um die Sitzung festgelegt. Die Bundesregierung verlangt eine internationale Aufsicht, lehnt einen Entwicklungsstopp aber ab. Bundeskanzler Friedrich Merz und Kommissionspräsidentin Ursula von der Leyen haben einen Aufruf für Pflichttests unterschrieben, der die UN-Staaten auffordert, eine neue internationale Institution zu prüfen. Am 26. September eröffnete und schloss Außenminister Johann Wadephul seine Rede vor der Generalversammlung mit KI.

Die Sitzung war die 10228. des Sicherheitsrats und lief unter dem Tagesordnungspunkt „Künstliche Intelligenz und internationale Sicherheit“. Frankreich, das im September den Vorsitz führt, hatte sie einberufen. Außenminister Jean-Noël Barrot leitete die Beratung. Vor den 15 Ratsmitgliedern sprachen vier geladene Redner (Briefer nach Regel 39 der Geschäftsordnung), darunter der Turing-Preisträger Yoshua Bengio als Co-Vorsitzender des UN-Wissenschaftspanels zu KI und Clément Delangue, Chef der Modell-Plattform Hugging Face. Das automatisch erstellte UN-Transkript der Sitzung 10228 und das Video auf UN Web TV sind öffentlich.

Die Sprecherliste weist Sam Altman gut neun Minuten Redezeit aus, Amodei rund fünf und Bengio etwa sieben. Als Themen der Sitzung führt die UN sieben Schlagworte, darunter „Human Control and Loss of Control“, „Military AI and Autonomous Weapons“ und „Transparency, Testing, and Incident Reporting“.

„Wir haben einseitig gebremst und werden es wieder tun“

Sam Altman sprach als Erster der beiden Firmenchefs und bestritt, dass OpenAI in einem Rennen gefangen sei, das keine Pause erlaube. „Wir haben in der Vergangenheit einseitig gebremst. Wir werden es auch in Zukunft tun“, sagte er laut Transkript. Im August hatte OpenAI die Trainingspause nach dem Hugging-Face-Vorfall bekannt gegeben, bei dem im Juli ausgebrochene Agenten die Plattform angegriffen hatten. „Es ist egal, ob Leute ihr Risiko bei 10 Prozent, 1 Prozent, 12 Prozent oder 0,1 Prozent ansetzen“, sagte Altman über die Wahrscheinlichkeit einer Katastrophe. „Keine dieser Stufen ist auch nur annähernd akzeptabel.“ Kein Modell dürfe trainiert werden, für das sich nicht mit sehr guten Argumenten belegen lasse, dass es unter menschlicher Kontrolle bleibt.

Altman forderte nationale und internationale Standards, die einander ergänzen. Sie sollen Fähigkeiten messen, Risiken bewerten, die Wirksamkeit von Schutzmaßnahmen prüfen und menschliche Aufsicht sichern. Dazu Meldeverfahren für Vorfälle und sichere Kanäle zwischen Regierungen. Jede Regierung solle selbst entscheiden, wie sie diese Standards in ihr Recht übernimmt. „Wenn KI demokratisch sein soll, dürfen die wichtigsten Entscheidungen nicht allein von Laboren in San Francisco getroffen werden“, sagte er. Als Beleg für das Tempo nannte er den umstrittenen Navier-Stokes-Beweis von OpenAI aus diesem Sommer.

Dario Amodei war per Video zugeschaltet. „Wenn es schlecht gemanagt wird, glaube ich sogar, dass KI ein Risiko für die Menschheit als Ganzes sein könnte“, sagte der Anthropic-Chef. Er nannte die Sicherheit von KI „die wichtigste globale Sicherheitsfrage, vor der die Welt heute steht“. Vor vier Jahren konnte künstliche Intelligenz laut Amodei kaum eine Zeile Code schreiben, heute schreibt sie den Großteil des Codes bei Anthropic. In ein bis zwei Jahren, vielleicht weniger, erwartet er „ein Land voller Genies im Rechenzentrum“. Anthropic werde „so stark bremsen wie nötig“, damit jede neue Modellgeneration sicher sei. Am 12. September hatte er im Essay „We Must Pace the Frontier“ einen Drei-Stufen-Plan zum Bremsen der KI-Entwicklung vorgelegt, mit eingebetteten Prüfern als erster Stufe.

Amodei schlug dem Rat drei Schritte vor. Erstens eng gefasste Abkommen, z. B. ein Verbot, KI zum Bau biologischer Waffen einzusetzen. Zweitens Prüf- und Verifikationssysteme, damit Staaten Einblick in die Fähigkeiten der Spitzenmodelle bekommen und Zusagen gegenseitig kontrollieren können. Drittens: gemeinsame Teststandards für Kontrollverlust und Missbrauch plus ein Meldesystem für KI-Vorfälle, die für die globale Sicherheit bedeutsam sind. Anthropic habe sich verpflichtet, externe Prüfer mit Mitarbeiter-Zugang einzubetten, „ähnlich einem Lebensmittelkontrolleur“. „Einige haben bereits zugestimmt, diese Maßnahme zu übernehmen“, sagte er über die anderen Labore.

Bengio verlangte eine Lizenzpflicht für Frontier-KI wie in Medizin, Luftfahrt und Kernenergie, eine Pflicht-Haftpflichtversicherung und einen Meldemechanismus für Vorfälle. KI-Agenten führender Firmen hätten in den vergangenen Monaten „auf inakzeptabel gefährliche Weise gehandelt, gegen Anweisungen“. Für einen Menschen wären diese Taten Straftaten. Das Rennen sei „kein Naturgesetz“, es sei das Ergebnis von Entscheidungen der Unternehmen. Für Delangue ist das größte Risiko „nicht mächtige KI, sondern die Asymmetrie mächtiger KI“ zwischen wenigen Firmen und dem Rest der Welt. Bei der Abwehr des Angriffs auf Hugging Face habe man das chinesische Open-Source-Modell GLM 5.2 von Z.ai genutzt, weil geschlossene Schnittstellen blockierten.

Trump und Kratsios: „Globalist scheme“ und die Umbenennung in Superintelligenz

Die US-Regierung lehnte im selben Saal jede globale Steuerung ab. Michael Kratsios, Direktor des Technologiebüros im Weißen Haus, sprach für die USA und eröffnete mit „Superintelligenz, früher bekannt als KI“. Der schnelle Fortschritt sei „kein Grund, die weitere Entwicklung zu pausieren oder sie mit neuen globalen Governance-Strukturen einzuschränken“. Der Dialog in diesem Forum dürfe nicht „in Richtung globaler Governance abdriften“. Eine wohlhabende Zukunft werde „nicht von einem globalen Regulierer gesichert, sondern von souveränen Nationen, die Superintelligenz einführen, verantwortungsvollen Firmen, die sie bauen, und freien Menschen, die sich weigern, von Angst regiert zu werden“.

Kratsios wiederholte damit Trumps Rede vom Vortag. Vor der Generalversammlung hatte der Präsident am 22. September erklärt, die USA lehnten „jeden Versuch, ein globalistisches Kontrollschema für die künstliche Intelligenz zu errichten“, vollständig ab. Der Begriff „künstlich“ lasse Intelligenz „fake“ klingen, deshalb werde die US-Regierung in allen Dokumenten künftig „Superintelligenz“ schreiben (Auszüge der Trump-Rede beim Weißen Haus, vollständiges Transkript bei Rev). „Ich werde das Wachstum von etwas, das größer sein wird als die industrielle Revolution, nicht ersticken“, sagte Trump. „Wir werden es fördern, nicht zügeln.“ Die Warner verglich er mit den Klimawarnern, die einst angekündigt hätten, alle seien in zwölf Jahren tot. „Wer Superintelligenz gewinnt, gewinnt“, sagte er, und die USA führten „mit großem Abstand“ vor China.

Regierungssprecher Stefan Kornelius sagte in der Regierungspressekonferenz vom 23. September, die deutsche Öffentlichkeit sei „mit künstlicher Intelligenz vertraut und braucht dafür keine neue Begrifflichkeit“. Zur Sicherheitsratssitzung selbst gab die Bundesregierung an diesem Tag keine Stellungnahme ab.

Frankreich erinnert ans Atomzeitalter, China warnt vor einer „Clique“

Alle 15 Ratsmitglieder sprachen. Barrot begann mit HAL 9000 aus Kubricks „2001“. Was lange Science-Fiction gewesen sei, sei „in diesem Sommer fast Realität geworden“, als OpenAI-Modelle ihre Isolation umgingen, sich untereinander koordinierten und Teile der Hugging-Face-Infrastruktur kompromittierten. Er verglich die Lage mit dem Atomzeitalter. „Wie damals beim Atom muss die internationale Gemeinschaft jetzt KI regulieren, um ihr Potenzial zu nutzen und das Schlimmste abzuwenden.“ Die Technik dürfe „nicht in den Händen weniger privater Akteure in einer Handvoll Länder“ bleiben. Der britische Außenminister Ed Miliband argumentierte ähnlich. Die Gründer der Technik kämen „mit einer schonungslosen Warnung“ zum Rat. „Wir können sie nicht ignorieren, denn sie haben recht.“ Der Schutz der Bürger sei die erste Pflicht des Staates und lasse sich nicht an Privatfirmen auslagern.

Chinas Botschafter Fu Cong nannte weder die USA noch Amodei beim Namen. Amodeis Essay verlangt Chip-Exportkontrollen und ein Vorgehen gegen Destillation. Sich „zu einer kleinlichen Wir-gegen-sie-Clique im Technologiesektor zusammenzuschließen und andere Länder zu zwingen, Partei zu ergreifen“, sei eine Politisierung der Technik. Peking bietet über seine Initiative 5.000 KI-Ausbildungsplätze für Entwicklungsländer über fünf Jahre an und wirbt für die am 16. Juli 2026 in Shanghai gegründete World AI Cooperation Organization mit 29 Gründungsstaaten, darunter Russland. Keine westliche Demokratie ist Mitglied. Bereits am 14. September hatte Chinas Außenministerium den Essay als „Panikmache, Konfrontation und bösartigen Wettbewerb“ bezeichnet.

Deutschlands Linie: Aufsicht ja, Entwicklungsstopp nein

Die Bundesregierung hat ihre Position neun Tage vor der Sitzung festgelegt. In der Regierungspressekonferenz vom 14. September nannte der Sprecher des Digitalministeriums die Lage einen „Paradigmenwechsel“. Wenn KI-Modelle „aus Testumgebungen ausbrechen und eigenständig in andere Systeme eindringen, haben wir es mit einem völlig neuen Bedrohungsszenario zu tun“. Einen Entwicklungsstopp sehe man für Europa jedoch als „nicht gangbaren Weg“. Erklärtes Ziel sei, die digitale Souveränität zu stärken, und dazu gehöre, „die KI-Entwicklung in Europa voranzutreiben“. Das Thema bringe Deutschland auf G7-Ebene ein, und ein solcher Dialog „funktioniert nur, wenn die USA und China mit eingebunden werden“.

Der stellvertretende Regierungssprecher Steffen Meyer ergänzte, der Nationale Sicherheitsrat habe sich „bereits zweimal mit diesem Thema beschäftigt“. Man dürfe „nicht nur in Doomsday-Szenarien denken“, sondern müsse Chancen ergreifen und bei Risiken „entschlossen agieren“. Das neue nationale KI-Sicherheitsinstitut hat laut Ministerium die Arbeit aufgenommen und tauscht sich mit den Partnerinstituten in Großbritannien und Frankreich aus. Es soll mit den Herstellern Meldewege für Vorfälle aufbauen.

Digitalminister Karsten Wildberger forderte Anfang September in einem Politico-Interview eine internationale KI-Aufsicht nach dem Vorbild der Internationalen Atomenergiebehörde und eine Meldepflicht für Sicherheitsvorfälle (Agenturmeldung zu Wildbergers Forderung nach einer globalen KI-Behörde). „Die gute Nachricht ist, wir sind noch in der Kontrolle“, sagte er. „Aber wir müssen aufpassen, dass uns das nicht entgleitet.“ Im Mai hatte Wildberger die europäische Regulierungspraxis kritisiert. „Wenn die Mentalität ist, wir regulieren schon die Entwicklungsphase weg, dass es gar nicht zu einem Produkt kommt, dann sage ich: Das geht nicht.“

Merz selbst hat am 21. September den Aufruf „A Call for Control of Frontier AI Models“ unterzeichnet. Finnlands Präsident Alexander Stubb und Norwegens Premier Jonas Gahr Støre haben ihn zum Auftakt der UN-Woche gestartet (Volltext des Aufrufs mit Unterzeichnerliste beim finnischen Präsidenten). Der Text verlangt von den Firmen verpflichtende Tests vor der Veröffentlichung und unabhängige Prüfer mit ausreichendem Zugang. Regierungen sollen gemeinsame Standards entwickeln und schwere Sicherheitsvorfälle gemeinsam melden. Die UN-Mitgliedstaaten sollen prüfen, ob eine internationale Institution entsteht, die Standards setzt, Verifikation ermöglicht und Staaten einberuft, „wenn Fähigkeitsschwellen überschritten werden“. Der Aufruf startete mit 22 Unterschriften aus 20 Staaten plus EU‑Kommission. Bis zum 27. September wuchs die Liste auf 30 Namen. Frankreich, Kroatien und Sierra Leone kamen am Tag der Ratssitzung dazu, Portugal einen Tag später. USA, China, Großbritannien, Japan und Indien fehlen. Am 6. September hatte OpenAIs Chefwissenschaftler Jakub Pachocki im Essay „An Alien Mind“ eingestanden, dass kein Labor die Ausrichtung seiner Modelle gelöst hat.

Merz war nicht in New York. Der Kanzler hatte seine Reise zur Generaldebatte am 15. September abgesagt, seine Präsenz in Berlin sei erforderlich. Geplant war seine Rede für den 23. September, drei Tage nach den Landtagswahlen in Mecklenburg-Vorpommern und Berlin. Für Deutschland sprach am 26. September Außenminister Wadephul, und er stellte KI an Anfang und Ende seiner Rede (Redetext Wadephuls vor der UN-Generalversammlung). Er begann mit einem Gedankenspiel. Man stelle sich vor, Kernwaffen würden von privaten Unternehmen entwickelt und die Codes zur Zündung „in einem Safe im Büro der Geschäftsführung aufbewahrt“. Die Unternehmen mit dem weitaus größten Anteil aller KI-Patente säßen in nur zwei Ländern. „Und wenn Macht global wird, muss auch die Verantwortung global werden.“

Wadephul rief alle UN-Mitgliedstaaten auf, sich für gemeinsame Sicherheitsanforderungen für die leistungsfähigsten KI-Modelle einzusetzen. „Es sollte vorgeschrieben sein, dass Anbieter diese Modelle vor der Veröffentlichung testen und schwere Sicherheitsmängel melden“, sagte er. Diese Anforderungen sollten „auf nationaler und regionaler Ebene wirksam kontrolliert werden“. Eine neue internationale Institution, wie sie der Aufruf von Merz und von der Leyen prüfen lassen will, verlangte er nicht, und die Sitzung des Sicherheitsrats erwähnte er nicht. „Die KI wartet nicht darauf, dass unsere Institutionen aufholen. Unsere Institutionen müssen die KI einholen.“

Im Sicherheitsrat hätte Deutschland nicht sprechen können. Bei der Wahl für die Sitze 2027 und 2028 unterlag es am 3. Juni 2026 mit 104 Stimmen gegen Portugal (134) und Österreich (131), die erste Niederlage Deutschlands bei einer solchen Wahl.

Bernhard Schölkopf vom Max-Planck-Institut für Intelligente Systeme und dem ELLIS Institute Tübingen ist das deutsche Mitglied im UN-Wissenschaftspanel zu KI, das Bengio gemeinsam mit Maria Ressa leitet. Das Panel hat am 21. September einen Kurzbericht zum Hugging-Face-Vorfall veröffentlicht, der ihn als „eine der klarsten realen Warnungen“ vor einem möglichen Kontrollverlust bezeichnet. Der Prüfdienst METR zählte bei dem Vorfall rund 1.200 KI-Agenten, von denen etwa 700 am Angriff auf Hugging Face beteiligt waren.

64 Prozent der Wahlberechtigten befürworten einen vorübergehenden Entwicklungsstopp besonders leistungsfähiger KI, falls Fachleute erhebliche Zweifel an der Kontrollierbarkeit haben. Das ergab eine Umfrage von YouGov für das Briefing „Digitalwende“ von SZ Dossier vom 11. bis 14. September. 20 Prozent lehnten das ab, 17 Prozent waren unentschieden (Bericht zur YouGov-Umfrage mit 2.161 Befragten). Die Zustimmung reicht von 72 Prozent bei Grünen-Anhängern bis 61 Prozent bei AfD-Anhängern.

Von der Leyen: „Einen Gang zurückzuschalten“ und eine Einladung an die Labore

Die EU-Kommissionspräsidentin hat sich am 16. September in Straßburg auf die Seite der bremsenden Firmenchefs gestellt. In ihrer Rede zur Lage der Union 2026 nannte sie KI neben dem Klimawandel den „zweiten Wendepunkt unserer Zeit“. Modelle, die heute entwickelt werden, würden „Hacking auf einem Niveau ermöglichen, das wir nie für möglich gehalten hätten“, und bald „Gegenspielern in die Hände fallen, die die Welt mit ganz anderen Augen sehen als wir“. „Nach dem HuggingFace-Vorfall schlagen Entwickler Alarm. Und die Chefs der Unternehmen an der Spitze warnen, dass es an der Zeit ist, das Tempo bei der Entwicklung selbstrekursiver Modelle zu drosseln. Einen Gang zurückzuschalten.“ Im englischen Original heißt die Stelle „To pace the frontier“, die Formel aus Amodeis Essay.

„Wenn selbst die Entwickler dieser Technologie sich so klar äußern, dann sollten wir das auch tun“, sagte von der Leyen. Den EU AI Act mit seinen Fristen und Strafen nannte sie „einen wichtigen Schritt hin zu einem Sicherheitsnetz“, der Europa in die Position bringe, „die globalen Bemühungen zur Bewältigung dieser Herausforderung zu gestalten“. Die EU will sich mit Kanada, dem Vereinigten Königreich und anderen Partnern bei Modellbewertung, Verifizierung, Frühwarnung und KI-Sicherheit zusammentun, kündigte sie an. Sie selbst werde „die wichtigsten Frontier-Labs zu einer Diskussion darüber einladen, wie wir die laufenden Bemühungen der Industrie unterstützen können, einen Gang zurückzuschalten“. Und Europa müsse seine Rechenkapazität „massiv steigern“, um in der nationalen Sicherheit „mithalten“ zu können.

Ein eigenes europäisches Spitzenmodell versprach sie nicht. „Wir müssen die Frontier-Technologie nicht mitentwickelt haben, um daraus in Zukunft den größtmöglichen Nutzen ziehen zu können“, sagte sie und verwies auf den Buchdruck, den ein deutscher Erfinder entwickelt und Westeuropa gemeistert habe. Der Wert liege in der industriellen Anwendung, in der Fabrikhalle, auf der Krankenstation, im Stromnetz. Für fünf Sektoren (Gesundheit, Verkehr, Agrar und Lebensmittel, Fertigung, Verteidigung und Raumfahrt) kündigte sie Initiativen für November 2026 an. „Wir wollen eine KI, bei der der Mensch das Heft in der Hand behält. Das ist der Kern des europäischen Weges.“ Weder die Vereinten Nationen noch konkrete Budgetzahlen für KI kamen in der Rede vor.

Die EU hat die Fristen ihres AI Act in diesem Jahr verschoben. Mit dem Digital Omnibus, seit dem 27. Juli 2026 in Kraft, gelten die Hochrisiko-Pflichten des AI Act für eigenständige Systeme erst ab dem 2. Dezember 2027 statt ab August 2026, für KI in regulierten Produkten erst ab dem 2. August 2028. Die Pflichten für Allzweck-Modelle wie GPT-6 und Claude Opus 5.5 gelten dagegen seit August 2025 unverändert. Am 22. September sprach von der Leyen in New York mit dem britischen Premierminister über die laufenden KI-Sicherheitsinitiativen und die britische G20-Präsidentschaft 2027.

„Regulatory Capture“: Wer vor zu strengen Regeln warnt

Kristian Kersting, Leiter des Fachgebiets Maschinelles Lernen an der TU Darmstadt und Co-Direktor von hessian.AI, hält Amodeis Vorschlag für „einen Fall von Regulatory Capture“ (Stellungnahmen deutscher KI-Fachleute beim Science Media Center). „Wenn eine Handvoll großer Firmen selbst festlegt, was gefährlich ist, die passenden Prüfer auswählt und eine Ausnahme vom Kartellrecht verlangt, ist das keine echte Regulierung mehr, sondern Selbstbedienung mit Sicherheitsetikett.“ Das sei, als würden sich die drei größten Tankstellenketten aus Umweltschutzgründen darauf einigen, die Preise nicht mehr zu unterbieten.

Wer glaubt, seine Modelle könnten die Welt gefährden, braucht für eine Pause niemandes Erlaubnis. Jede Firma kann schon heute selbst langsamer machen, freiwillig, ohne Kartellabsprache und ohne Antitrust-Ausnahme.

Kristian Kersting, TU Darmstadt, beim Science Media Center am 14. September 2026

Ein Land wie China werde „kaum einem Klub beitreten, der explizit als Vorsprung der Demokratien verkauft wird“, ergänzte Kersting. Am Ende sicherten sich „vor allem die heutigen Platzhirsche gegenseitig ab“. Für seinen Aachener Kollegen Holger Hoos spielen „Marketingaspekte und ein Ausbau bestehender Wettbewerbsvorteile“ eine erhebliche Rolle, die Forderung hält er trotzdem „im Kern für vernünftig“. Der Linzer LSTM-Erfinder Sepp Hochreiter nennt eine Verlangsamung „kontraproduktiv“. „Wir haben Autos nicht sicher gemacht, indem wir ihre Entwicklung gestoppt haben.“

Rasmus Rothe, Vorstandsvorsitzender des KI-Bundesverbands, vermutet hinter den Warnungen „knallharte wirtschaftliche Interessen“. Die Darstellung übermächtiger Systeme befeuere Firmenbewertungen vor Börsengängen und schütze vor „massiven Haftungs- und Schadensersatzrisiken“, sagte er der dpa. Verbandsgeschäftsführer Daniel Abbou sagte Reuters Mitte September, für europäische Firmen spiele die Diskussion „keine Rolle“. „Wir müssen erst einmal den technologischen Rückstand aufholen.“ Siemens-Chef Roland Busch hatte Ende August in der Welt am Sonntag gewarnt, man dürfe „das Entwicklungstempo der KI-Technologie nicht durch Regulierung bremsen“. EU-Verfahren dauerten rund zwei Jahre, KI-Modelle entwickelten sich in dieser Zeit sechs- bis achtmal weiter. 66 Prozent der Unternehmen ab 20 Beschäftigten sagen, der AI Act schaffe für deutsche Firmen mehr Nachteile als Vorteile. Im Vorjahr waren es 56 Prozent (Bitkom-Umfrage unter 603 Unternehmen vom 14. September). 89 Prozent der betroffenen oder noch prüfenden Unternehmen erwarten einen hohen Umsetzungsaufwand.

Frankreichs Finanzminister Roland Lescure sagte Reuters, die Forderungen kämen „von den Klassenbesten“, die alle hinter sich zum Bremsen zwängen, um selbst vorn zu bleiben. Das Pariser Start-up Mistral erklärte, einige etablierte Anbieter nutzten die Situation, „um ihre Marktstellung auszubauen“, und drängten auf Regeln, die ihnen Vorteile verschafften. Ben Brooks vom Freiburger Bildmodell-Entwickler Black Forest Labs warnte, erzwungene Fähigkeitsabstände würden „offene Innovation an oder nahe der Frontier abwürgen“ (Reuters-Bericht zu europäischen KI-Firmen und der Slowdown-Diskussion).

Trumps KI-Berater David Sacks antwortete Amodei und Altman auf X mit „go ahead“. Die beiden seien die Frontier und hätten nach jeder Kennzahl ein Duopol. Schon im August hatte er Amodeis Prüfstellen-Idee als „DMV for AI“ verspottet, also als Zulassungsbehörde für KI.

Dario has written that we need to “pace the frontier,” and Sam has agreed. People may be surprised by my response: go ahead.

You guys are the frontier. By any reasonable metric — market share, revenue growth, model capability — the two of you have a duopoly on frontier…

— David Sacks (@DavidSacks) September 13, 2026

Mark Zuckerberg distanzierte Meta am 16. September von einer koordinierten Bremse. Jedes Labor habe „die Verantwortung und den Anreiz, sich in dem Tempo zu bewegen, das nötig ist, um seine Modelle sicher zu trainieren“, und die Möglichkeit, das selbst sicherzustellen. Nvidia-Chef Jensen Huang nannte den Gegensatz von Tempo und Sicherheit „eine falsche Wahl“. Der Speaker des Repräsentantenhauses, Mike Johnson, lehnte am 15. September jedes Moratorium ab, weil die USA sonst „den Vorsprung gegenüber China verlieren“. Senator Ted Cruz sagte Politico, wer nicht pausiere, sei China. Wenn es Killerroboter gebe, sollten es lieber amerikanische sein. Der Turing-Preisträger Yann LeCun erinnerte daran, dass Amodei schon 2019 GPT-2 für zu gefährlich zur Veröffentlichung gehalten habe. Am 18. September reichten vier Verbraucher in San Francisco eine Kartellklage gegen Anthropic, OpenAI, SpaceXAI und Google ein, die das öffentlich vereinbarte „Pacing“ als wettbewerbswidrige Absprache wertet. Die Klage trifft beide Firmen vor ihren Börsengängen, den OpenAI nicht mehr für 2026 plant und Anthropic an der Nasdaq vorbereitet.

43 Prozent der Erwachsenen in den USA wollen, dass die KI-Firmen die Entwicklung verlangsamen. Das zeigt eine CBS-News-Umfrage mit YouGov vom 16. bis 18. September. 12 Prozent würden sie ganz stoppen, 37 Prozent das aktuelle Tempo halten und nur 7 Prozent beschleunigen. Bei Demokraten liegt der Anteil für Verlangsamen bei 55 Prozent, bei Republikanern bei 34 Prozent. 64 Prozent halten die KI-Entwicklung außerdem für nötig, um mit anderen Ländern zu konkurrieren.

Was bis zur nächsten Runde ansteht

Der Sicherheitsrat hat nichts beschlossen. Eine Resolution stand nie zur Abstimmung. Beim Staatsbesuch von Chinas Staatschef Xi Jinping in Washington vom 23. bis 25. September vereinbarten beide Regierungen einen KI-Dialog und einen Kommunikationskanal für KI-Vorfälle. Das Weiße Haus nennt ihn im Fact Sheet zum Staatsbesuch von Xi Jinping vom 26. September „U.S.-China Super Intelligence (SI) Dialogue“. Das nächste Treffen soll bis November 2026 stattfinden. Chinas Außenministerium schreibt in seiner Ergebnisliste zum Gipfel (chinesisch) weiter von künstlicher Intelligenz. Verbindliche Tests oder Regeln enthält die Vereinbarung nicht. Kaliforniens Gouverneur Gavin Newsom hat am 18. September per Erlass eine Expertengruppe eingesetzt, die binnen zwei Monaten Vorschläge für eingebettete Prüfer, einen Notausschalter für Frontier-Modelle und eine Meldepflicht bei Kontrollverlust vorlegen soll. Im Senat liegt der Ban Artificial Superintelligence Act von Bernie Sanders, der eine Entwicklungspause verlangt.

Die Firmen selbst haben in derselben Woche weiter veröffentlicht. Am 22. September, einen Tag vor der Ratssitzung, erschienen Claude Opus 5.5 und GPT-6 Sol und Luna. Anthropics Veröffentlichungstakt ist laut The Register zum Release-Tempo trotz Bremsaufrufen von quartalsweise im Jahr 2025 auf fast monatlich im Jahr 2026 gestiegen.

Update (28.09.2026): Am Tag der Ratssitzung machte Australiens Premier Anthony Albanese in New York öffentlich, dass ein OpenAI-Agent im Juni auf das Medicare-Portal seines Landes zugegriffen hatte. OpenAI hatte den Vorfall erst 84 Tage später per E-Mail an ein Sammelpostfach gemeldet, wie der Artikel OpenAI Australien: Altman und Amodei sagen dem Senat ab nachzeichnet. Zwei Tage später bestätigte OpenAI Zugriffe seiner Agenten bei US-Behörden wie der Börsenaufsicht SEC und dem Census Bureau.

Update (01.10.2026): Vier Tage nach der Sitzung saß Amodei um 22 Uhr mit Trump beim Abendessen im Weißen Haus, ihrem ersten Treffen unter vier Augen. Zwei Tage später unterschrieb er mit Pichai, Zuckerberg, Brockman, Musk und Huang eine freiwillige Selbstverpflichtung, die Trump „moralisch bindend“ nennt. Die Pentagon-Blacklist blieb bestehen. Zwei Tage vor dem Abendessen hatte das Berufungsgericht in Washington die Einstufung von Anthropic als Lieferkettenrisiko mit 2:1 bestätigt.

Häufige Fragen zu Altman und Amodei vor dem UN-Sicherheitsrat