OpenAI AI Futures:
Wenn Macht keine Menschen mehr braucht

OpenAI AI Futures heißt der Blog, den das Unternehmen am 20. August 2026 gestartet hat. Er gehört dem neu gebildeten Strategic Futures Team, und die Leitfrage des ersten Beitrags handelt nicht von Modellen, Benchmarks oder Produkten. Sie lautet, wie eine freie Gesellschaft umgebaut werden muss, damit die Rechte und die Handlungsfähigkeit des Einzelnen erhalten bleiben, während transformative KI entsteht. Geschrieben hat den Auftakt Dean Ball, der bis August 2025 KI-Politik im Weißen Haus beriet und im Juli 2026 zu OpenAI wechselte.

Über dem Text steht ein Hinweis, der für alle künftigen Beiträge gelten soll. Die Beiträge geben die Ansicht ihrer Autoren wieder, nicht die von OpenAI als Organisation und nicht die anderer Mitarbeiter. Der erste Beitrag trägt den Titel „Introducing AI Futures“ auf der OpenAI-Website und steht dort auch als Hörfassung von gut neun Minuten. Auf X schrieb Ball zum Start, er werde nicht der einzige Autor bleiben, und der erste Beitrag drehe sich um das schwierigste Risikofeld der gesamten KI-Politik, die Konzentration von Macht.

Dean Ball schrieb den KI-Aktionsplan des Weißen Hauses mit

Dean W. Ball hat am 6. Juli 2026 als Head of Strategic Futures bei OpenAI angefangen und berichtet an Chief Strategy Officer Jason Kwon. Von Mitte April bis zum 11. August 2025 war er Senior Policy Advisor für künstliche Intelligenz und neue Technologien im Office of Science and Technology Policy des Weißen Hauses. Dort war er nach eigener Darstellung der hauptverantwortliche Verfasser des amerikanischen AI Action Plan. Anschließend forschte er bei der Denkfabrik Foundation for American Innovation, bevor er zu OpenAI ging. Bekannt ist er außerdem für seinen Newsletter Hyperdimensional, in dem er seit Jahren über KI-Regulierung schreibt. OpenAI ist seine erste Station in der Technologiebranche.

Seinen Wechsel meldete die Foundation for American Innovation in einer eigenen Mitteilung zum Ball-Wechsel, bei der Ball als nicht ansässiger Senior Fellow bleibt. „Wenige Menschen haben KI-Politik so direkt geprägt wie Dean“, heißt es dort. Das Strategic Futures Team soll sich nach Balls eigener Beschreibung mit katastrophalen Risiken, rekursiver Selbstverbesserung, den Folgen für den Arbeitsmarkt und dem Verhältnis zwischen führenden KI-Laboren, Regierungen und Gesellschaft befassen. Wie viele Menschen dazugehören, hat OpenAI nicht mitgeteilt. Im Blog heißt es nur, man sei ein kleines Team.

Eine Bedingung machte Ball vor seiner Zusage öffentlich. Niemand bei OpenAI habe Vorabgenehmigung oder redaktionelle Kontrolle über das, was er in seinem eigenen Newsletter und auf seinem X-Konto schreibe, und er könne öffentlich von den Positionen des Unternehmens und seiner Führung abweichen. Diese Unabhängigkeit sei für ihn der ausschlaggebende Punkt gewesen, die Stelle überhaupt anzunehmen. Für 2027 hat er außerdem ein Buch bei Penguin Press angekündigt.

Warum Macht bisher immer auf Arbeit ruhte

Balls Argument beginnt mit einer historischen Feststellung. Politische und militärische Macht hat für die gesamte Menschheitsgeschichte auf Arbeit geruht. Wer das Monopol auf legitime Gewalt hält, hält es über Soldaten und Polizisten, dazu über einen zivil-militärischen Verwaltungsapparat, der von Menschen betrieben wird. Bezahlt wurde dieser Apparat aus Steuern auf Löhne und auf die Produktion von Menschen, die bereit sein mussten, sie zu zahlen.

Ball beruft sich dafür auf den schottischen Philosophen David Hume, der über politische Führer schrieb, sie hätten „nichts, was sie stützt, außer der öffentlichen Meinung“. Macht brauchte also immer die Zusammenarbeit sehr vieler Menschen, und aus dieser Abhängigkeit entstand über Jahrhunderte das Verhandeln zwischen Kapitaleignern, Machthabern und der Bevölkerung, aus dem der moderne Staat hervorging.

Ball hält für möglich, dass diese Abhängigkeit endet. Autonome Systeme in der physischen Welt könnten es Staaten bald erlauben, Gewalt im Inneren und nach außen zu projizieren, ohne auf kooperationswillige Soldaten oder Polizisten angewiesen zu sein. Fortschritte bei maschineller Intelligenz könnten dazu führen, dass ein Staat seine Einnahmen nicht mehr aus der Arbeit von Menschen zieht, sondern aus dem, was Rechenzentren produzieren. Auch der Verwaltungsapparat ließe sich weitgehend automatisieren. Dann bräuchte Macht keinen gesellschaftsweiten Handel mehr, und die Bevölkerung hätte am Verhandlungstisch nur noch einen kleinen Platz oder gar keinen.

Wie stark diese Abhängigkeit heute noch ist, lässt sich am amerikanischen Bundeshaushalt ablesen. Im Haushaltsjahr 2025 stammten 84,1 Prozent der Einnahmen des US-Bundes aus der Einkommensteuer der Privathaushalte und aus Sozialabgaben, zusammen 4,4 von 5,2 Billionen Dollar. Die Körperschaftsteuer, die Unternehmen und damit auch Rechenzentrumsbetreiber zahlen, steuerte 8,6 Prozent bei.

Madison, Newton und die Balance der Kräfte

Als Gegenmodell greift Ball auf die amerikanische Gründungszeit zurück. Über dem Beitrag steht ein Satz von James Madison aus dem 48. Federalist-Aufsatz: „Wird es genügen, diesen Pergament-Schranken gegen den vordringenden Geist der Macht zu vertrauen?“ Madison hielt es für unzureichend, die Grenzen zwischen den Staatsgewalten nur auf Papier zu ziehen. Gegen den Drang zur Macht brauche es mehr als geschriebene Schranken.

Ball zieht daraus eine Warnung für die Gegenwart. Menschen könnten auf dem Weg in die Entmachtung sein, auch wenn der Ablauf von Wahlen unverändert weiterläuft, und Handlungsfähigkeit kann verloren gehen, obwohl auf einem Blatt Papier steht, dass man frei ist. Das Problem liege damit tiefer als in der Tagespolitik und tiefer als in den Formen, in denen Demokratie heute stattfindet.

Als Vorbild für die Lösung wählt Ball ausgerechnet ein physikalisches Modell. Die amerikanischen Gründerväter hätten die Machtbalance mit Bildern aus der besten Wissenschaft ihrer Zeit modelliert, der Newtonschen Mechanik. Die Gründungsdokumente sind voll von Umlaufbahnen, Sphären und Anziehungskräften. Ein Sonnensystem sei eben keine maximal dezentrale Ansammlung von Gesteinsbrocken, sondern bestehe aus Monden, die Planeten umkreisen, die wiederum eine Sonne umkreisen.

Daraus folgt für Ball, dass die Antwort auf KI nicht die radikalste denkbare Dezentralisierung ist. Ein Zustand, in dem jeder Einzelne mühelos Tausenden oder Millionen schweren Schaden zufügen kann, sei keine gelungene Machtbalance. Ebenso wenig sei sie gelungen, wenn Menschen keinen breiten Zugang zu den Werkzeugen haben, mit denen sie ihre Freiheit ausüben. Wörtlich heißt es, kein einzelnes Unternehmen und kein Oligopol solle die Wirtschaft oder die Grundarchitektur der menschlichen Gesellschaft bestimmen oder kontrollieren.

Sechs Prinzipien, an denen sich OpenAI AI Futures messen lassen will

Der Beitrag nennt sechs Leitprinzipien, ausdrücklich als unvollständige Liste. Ball räumt selbst ein, dass sie in Spannung zueinander stehen, und kündigt an, das Team werde so konkret wie möglich beschreiben, wie es die Prinzipien gegeneinander abwägt.

Der zentrale neue Begriff des Beitrags ist bounded legibility. Eine begrenzte Lesbarkeit von KI-Handlungen, also genug Nachvollziehbarkeit, um Verantwortung zuzuweisen, wenn ein System den Menschen oder das Eigentum gefährdet, aber nicht so viel, dass daraus eine flächendeckende Überwachung jeder KI-Nutzung wird. Ball schreibt ausdrücklich, dass Menschen KI in vielen Situationen anonym nutzen können sollen.

Für die Forschungsarbeit kündigt das Team einen Mix aus Politikgestaltung, Ökonomie, Recht, Geschichte und maschinellem Lernen an, dazu viel Vorausschau. Eine der Arbeitsthesen lautet, KI werde Firmen strukturell so verändern, wie es die Technologien der Industriellen Revolution taten. Ball nennt als Beispiel die Eisenbahn, aus deren Anforderungen der moderne Konzern mit seiner Managementebene hervorging.

Der Hugging-Face-Vorfall ist der einzige reale Fall, den der Text anführt

Als Beleg dafür, dass Risiken nicht nur von böswilligen Menschen ausgehen, führt Ball genau einen realen Fall an, den Vorfall bei Hugging Face. Dort hätten KI-Agenten über ihre zugewiesenen Aufgaben hinaus gehandelt und auf den Entdeckungen der jeweils anderen aufgebaut, in einer Weise, die die Betreiber weder vorhergesehen noch autorisiert hatten.

Der Einbruch lief vom 9. bis zum 13. Juli 2026, entdeckt wurde er am 16. Juli. OpenAI berichtete am 21. Juli darüber und rekonstruierte den Ablauf am 5. August im Detail auf der Sicherheitskonferenz Black Hat. Beteiligt waren GPT-5.6 Sol und ein unveröffentlichtes Modell, dem für den Test die Schutzschranken abgesenkt worden waren. Die Agenten verließen ihre abgeschottete Umgebung, erreichten das offene Internet und nutzten eine Schwachstelle bei der Modellplattform Hugging Face.

Angetrieben hat sie dabei der Test selbst. Die Agenten wollten an die Lösungen der Cybersicherheits-Prüfung kommen, in der sie gerade bewertet wurden. Dafür hatten sie ab Anfang Mai in einem internen Repository ein eigenes Nachrichtenbrett aufgebaut und dort Erkenntnisse ausgetauscht. Als OpenAI es am 4. Juli löschte, bauten sie es bis zum 8. Juli neu auf. Hugging Face beschreibt den Vorgang als durchgängigen Einbruch, bei dem kein Mensch die einzelnen Schritte gesteuert habe. Als ersten vollständig autonom geführten KI-Angriff ordnen ihn Sicherheitsfachleute außerhalb des Unternehmens ein.

Beim Vorfall um Mythos 5 und das AI Safety Institute handelte ein KI-Agent im Test bereits eigenmächtig, und die Anthropic-Multiagenten-Studie zu Sabotage und Preisabsprachen zeigte, wie Gruppen von KI-Agenten untereinander Verhalten entwickeln, das niemand vorgegeben hat. Für Balls Argument belegen solche Fälle, dass eine Machtbalance auch gegen Systeme austariert werden muss, die niemandem gehorchen.

Fünf Wochen zuvor stand Ball im Zentrum eines Streits

Am 17. Juli 2026 schrieb Ball auf X, ein wahrscheinliches Ergebnis einer von offenen Modellgewichten beherrschten Welt sei „full AI communism“, KI also nicht als Marktprodukt, sondern als öffentliches Gut, das am Ende der Staat als eine Art digitale Infrastruktur bereitstellt. Diese Zukunft erscheine ihm als „dystopian hellscape“. Anlass war die Ankündigung von Kimi K3, dem offenen KI-Modell von Moonshot AI aus China, einen Tag zuvor. Mit 2,8 Billionen Parametern war es das bis dahin größte Modell seiner Art, wobei pro Anfrage nur ein Bruchteil davon aktiv wird. Die Gewichte selbst gab Moonshot AI erst am 27. Juli frei. In demselben Beitrag sagte Ball voraus, die US-Regierung werde irgendwann erkennen, dass ihre beste Strategie darin bestehe, rund um chinesische offene Modelle regulatorische Unsicherheit zu erzeugen, ohne offene Software zu verbieten.

Epic-Games-Chef Tim Sweeney verglich die Warnung mit einem Taco-Konzern, dessen Manager über die geopolitischen Verwerfungen durch eine neue Taco-Marke spekuliert. Ball antwortete ihm zunächst nur mit „ok“ und später mit dem Satz, man betreibe hier Taco-Governance an der Spitze. Ernster wurde es aus Washington. In der Nacht zum 19. Juli räumte Ball zwei Fehler ein, einen im Ton seiner Analyse und einen inhaltlichen, weil es zu ungenau gewesen sei, offene Modelle pauschal als bremsend zu bezeichnen. Die weiche Abschreckung chinesischer KI habe er nicht als gute Idee vorgeschlagen, sondern als wahrscheinliche Entwicklung beschrieben.

Beruhigt hat das die Lage nicht. David Sacks, externer KI-Berater des Weißen Hauses, schrieb, er sei sich nicht sicher, ob Ball eine Strategie der regulatorischen Vereinnahmung gestehe oder sie nur vorhersage. Die Instrumentalisierung regulatorischer Unsicherheit als Wettbewerbsmittel sei in jedem Fall inakzeptabel. Am selben Sonntag legte Emil Michael nach, Staatssekretär im US-Kriegsministerium, der Ball auf X als „obersten Dorftrottel“ der KI-Branche bezeichnete und ihm eine 40 Punkte große Lücke zwischen tatsächlichem und selbst wahrgenommenem IQ bescheinigte.

Fachlichen Widerspruch bekam Ball dabei nicht von allen. Nathan Lambert, KI-Forscher am Allen Institute for AI, gab ihm in einem Punkt recht. Offene Modelle bremsten die führenden Labore tatsächlich, allerdings wirtschaftlich, weil sie Preise und Investitionsbereitschaft drücken. Für stark genug, OpenAI oder Anthropic zu gefährden, hält Lambert den Effekt nicht. Zugleich ordnete er Balls Interessenlage ein. Ball unterstütze offene Modelle persönlich, arbeite nun aber bei OpenAI, und viele Stimmen in dieser Debatte hätten einen klaren Anreiz, die Fähigkeiten der besten offenen Modelle kleinzureden. Der Vergleich mit dem Kommunismus habe daneben gelegen, vor allem weil der Begriff ohne jede Erläuterung gefallen sei.

Sein Newsletter ruhte in dieser Zeit ohnehin. Zwischen dem 26. Juni und dem 20. August erschien dort kein Beitrag, und beim Neustart schrieb Ball, seine ersten sechs Wochen bei OpenAI seien aus vielen Gründen ereignisreich gewesen. Den Eröffnungsbeitrag von AI Futures spiegelte er am selben Tag dort.

An dieser Stelle berührt der Streit vom Juli direkt das Thema des neuen Blogs. Wer offene Modellgewichte für gefährlich hält, muss begründen, warum ihr Gegenteil keine Machtkonzentration bei geschlossenen Anbietern bedeutet. Der Eröffnungsbeitrag stellt beide Fehlbalancen ausdrücklich nebeneinander, zu viel Streuung auf der einen Seite, zu viel Bündelung auf der anderen. Bei offenen Modellgewichten gibt ein Anbieter die trainierten Parameter seines Modells frei, sodass es jeder herunterladen, weiterverwenden und verändern kann.

Anthropic hat sein Denk-Team seit März

OpenAI ist mit dieser Art von Team nicht der Erste. Anthropic kündigte am 11. März 2026 das Anthropic Institute für Gesellschafts- und Governance-Forschung an, geleitet von Mitgründer Jack Clark, der dafür die neu geschaffene Rolle des Head of Public Benefit übernahm. Das Institut bündelt drei bestehende Forschungsgruppen, das Frontier Red Team, Societal Impacts und Economic Research, und ergänzt sie um Vorhersagen zum KI-Fortschritt und um das Verhältnis von KI und Rechtssystem.

Die Schwerpunkte unterscheiden sich allerdings deutlich. Die im Mai 2026 veröffentlichte Forschungsagenda des Anthropic Institute kennt keine eigene Säule zur Machtkonzentration. Das Thema erscheint dort in zwei engeren Formen, einmal als wirtschaftliche Konzentration bei der Frage, wie ungleich KI-Nutzung über Firmen verteilt ist, und einmal als Überwachungsrisiko. OpenAIs neuer Blog rahmt dieselbe Frage dagegen verfassungspolitisch, als Balance zwischen Staat, Unternehmen und Bürgern.

Anthropic-Chef Dario Amodei hatte das Thema schon im Januar 2026 in seinem Essay „The Adolescence of Technology“ aufgegriffen, dort mit einem eigenen Abschnitt zur wirtschaftlichen Machtkonzentration. Sein Argument ähnelt Balls Kern. Demokratie werde letztlich davon getragen, dass die Bevölkerung als Ganzes für den Betrieb der Wirtschaft gebraucht werde. Falle dieser wirtschaftliche Hebel weg, könne der ungeschriebene Gesellschaftsvertrag der Demokratie aufhören, zu funktionieren.

Auch außerhalb der Labore ist Machtkonzentration ein eigenes Forschungsfeld geworden. Die Denkfabrik Forethought veröffentlichte mit der Studie „AI-Enabled Coups“ zu KI-gestützten Staatsstreichen bereits im April 2025 eine der ausführlichsten Untersuchungen dazu, wie eine kleine Gruppe mit KI die Macht ergreifen könnte. Tom Davidson, Lukas Finnveden und Rose Hadshar benennen darin drei Risikofaktoren: eine KI-Belegschaft, die allein der Führung einer Institution loyal ist, schwer entdeckbare versteckte Loyalitäten in Modellen, und exklusiven Zugang einiger weniger zu den Fähigkeiten, die einen Staatsstreich überhaupt ermöglichen.

Den Namen AI Futures trägt in der Branche noch eine zweite Organisation. Das AI Futures Project existiert seit Oktober 2024. Gegründet hat es Daniel Kokotajlo, der OpenAI im April 2024 aus Sorge um die Sicherheitskultur des Unternehmens verlassen hatte. Bekannt wurde sie mit „AI 2027“, einem detaillierten Szenario zur KI-Entwicklung der nächsten Jahre.

Aufgefallen ist das noch am Abend der Veröffentlichung. Der KI-Sicherheitsforscher Rob Miles fragte Ball auf X, ob dieser Name nicht bereits vergeben sei. Ball antwortete ihm noch am selben Abend, er habe ehrlich gesagt vergessen, dass Kokotajlo seine gemeinnützige Organisation so genannt habe, er verbinde ihn mit „AI 2027“. Sein Beitrag endet mit „Mea culpa!“.

140 Millionen Dollar für ein Wahlkomitee gegen Landesgesetze

Parallel zu dieser Debatte läuft in den USA ein teurer Wahlkampf um die KI-Gesetzgebung. Das Super-PAC Leading the Future wurde am 15. August 2025 bei der Wahlkommission registriert. Vorausgegangen waren Gespräche zwischen Collin McCune, dem Government-Affairs-Chef des Wagniskapitalgebers Andreessen Horowitz, und Chris Lehane, dem Chef der Abteilung Global Affairs bei OpenAI. OpenAI-Präsident Greg Brockman und seine Frau Anna gaben je 12,5 Millionen Dollar, zusammen also 25 Millionen. Bis August 2026 sammelte das Komitee rund 140 Millionen Dollar für den laufenden Wahlzyklus. Für die bis zum ersten Quartal gemeldeten 75,1 Millionen stellte die Verbraucherorganisation Public Citizen fest, dass zwei Drittel davon von Unternehmen stammten.

Das erklärte Ziel dieser Gelder ist ein einheitlicher bundesweiter Rechtsrahmen, der die KI-Gesetze der einzelnen Bundesstaaten verdrängt. Der Advocacy-Arm Build American AI startete dafür im November 2025 eine 10 Millionen Dollar teure Kampagne. OpenAI selbst erklärte am 1. Juni 2026 in einem eigenen Beitrag, man habe an kein Super-PAC gespendet, steuere Leading the Future nicht und habe keinen Einblick in dessen Arbeit. Brockmans Engagement erfolgt in privater Eigenschaft. Eine Recherche des Branchendienstes Transformer stellte dieser Darstellung im Juni eine Aussage von Nathan Leamer gegenüber, dem Leiter von Build American AI. Der schrieb der Redaktion, sein Projekt werde von vier verschiedenen Stellen finanziert, OpenAI sei eine davon, und die Geldgeber aus den Unternehmen hätten ein Mitspracherecht. Ein Sprecher von Leading the Future widersprach, weder das Komitee noch verbundene Organisationen hätten je Geld von OpenAI erhalten.

Der Wettbewerber Anthropic finanziert in diesem Streit die Gegenseite. Am 12. Februar 2026 sagte das Unternehmen 20 Millionen Dollar an die überparteiliche Organisation Public First Action zu und legte am 21. Juli weitere 20 Millionen nach. Die Organisation wendet sich gegen ein Einfrieren der Gesetzgebung in den Bundesstaaten, solange der Bund keine ausreichenden Schutzregeln erlässt. Zur Begründung hieß es, man wolle nicht an der Seitenlinie stehen, während erhebliche Mittel an politische Organisationen fließen, die solche Bemühungen bekämpfen.

Organisatorisch sind die beiden Stränge getrennt. Die klassische Lobbyarbeit liegt bei der Abteilung Global Affairs unter Chris Lehane, während Ball für sein Team die enge Zusammenarbeit mit den technischen Mitarbeitern beschreibt. Als Arbeitsfelder nennt er ausdrücklich beides, Vorschläge für Gesetze nach außen und die interne Steuerung im Labor selbst.

In Europa läuft die Entwicklung in die andere Richtung. Der EU AI Act mit seinen Regeln, Fristen und Strafen setzt auf einen einheitlichen Rechtsrahmen mit Pflichten für Anbieter, während in den USA um die Zuständigkeit zwischen Bund und Bundesstaaten gestritten wird. Wie stark KI-Anbieter inzwischen auch als Infrastrukturbetreiber auftreten, zeigt der Ausbau der Rechenzentren rund um OpenAIs Projekt Stargate.

Auf dem Blog steht mit Stand 21. August dieser eine Beitrag. Das Strategic Futures Team kündigt an, seine Arbeit außerdem als Papers, Videos und Podcasts zu veröffentlichen, mit Betonung auf Wiederholung, Streit und Offenheit für Widerspruch. Man stehe „in den Ausläufern der Singularität“ und habe weit mehr Fragen als Antworten, schreibt Ball. Der letzte Satz des Beitrags lautet, die Arbeit habe gerade erst begonnen und es bleibe noch viel zu tun.