Glossareintrag
Wir denken. KI tippt mit.
Rekursive Selbstverbesserung (englisch Recursive Self-Improvement, kurz RSI) bedeutet einen bislang hypothetischen Vorgang, bei dem ein KI-System seine eigenen Fähigkeiten steigert und mit jeder Verbesserung auch besser darin wird, sich weiter zu verbessern. Im Deutschen ist auch von selbstverbessernder oder sich selbst verbessernder KI die Rede. Jede Generation entwirft und trainiert die nächste, ohne dass Menschen die Forschungsarbeit leisten. Anthropic definiert den Begriff in seinem Bericht „When AI builds itself“ vom Juni 2026 als „ein KI-System, das vollständig autonom seinen eigenen Nachfolger entwerfen und entwickeln kann“. Das Wort „rekursiv“ trennt RSI von gewöhnlichem Lernen. Ein Modell, das durch Fine-Tuning besser in einer Aufgabe wird, verbessert sich, aber nicht den Vorgang, mit dem es verbessert wird. Von RSI spricht man erst, wenn sich diese Schleife schließt und das System den Verbesserungsmechanismus selbst in die Hand nimmt.
Die Idee stammt von dem britischen Mathematiker Irving John Good, der im Zweiten Weltkrieg in Bletchley Park mit Alan Turing an der Entschlüsselung deutscher Funksprüche gearbeitet hatte. In seinem Aufsatz „Speculations Concerning the First Ultraintelligent Machine“ von 1965 beschrieb Good eine ultraintelligente Maschine, die noch bessere Maschinen entwerfen könne. „Es käme dann zweifellos zu einer Intelligenzexplosion, und die Intelligenz des Menschen bliebe weit zurück“, schrieb er. Die erste ultraintelligente Maschine sei deshalb „die letzte Erfindung, die der Mensch je machen muss, vorausgesetzt, die Maschine ist fügsam genug, uns zu sagen, wie wir sie unter Kontrolle halten“.
Drei Begriffe werden dabei oft vermischt. Rekursive Selbstverbesserung ist der Mechanismus, die Intelligenzexplosion das mögliche Ergebnis, und die technologische Singularität bezeichnet die gesellschaftliche Folge, ab der sich die Entwicklung menschlicher Vorhersage entzieht. Eine KI, die nach Goods Beschreibung alle geistigen Leistungen des Menschen weit übertrifft, heißt heute Artificial Superintelligence (ASI), eine KI auf allgemein menschlichem Niveau AGI. Mit Werbeaussagen wie „lernt mit jedem Beleg“ in Buchhaltungs- oder Handwerkssoftware hat RSI nichts zu tun (Hinweis: siehe Anwendungsteil).
Der Philosoph Nick Bostrom hat den Mechanismus 2014 in seinem Buch „Superintelligence“ als Rechnung gefasst. Solange Menschen den Großteil der Entwicklungsarbeit leisten, wächst die Fähigkeit eines Systems nur so schnell wie deren Forschung. Ab einem Punkt, den Bostrom „Crossover“ nennt, stammt der Großteil der Verbesserung aus der Arbeit des Systems selbst, und jeder Zuwachs an Fähigkeit erhöht im gleichen Verhältnis die Kraft, die in die nächste Verbesserung fließt. Wie schnell es danach geht, hängt davon ab, wie schwer sich das System weiter verbessern lässt. Bostrom unterscheidet einen langsamen Übergang über Jahrzehnte oder Jahrhunderte, einen mittleren über Monate oder Jahre und einen schnellen über Minuten, Stunden oder Tage. Eliezer Yudkowsky hatte dafür schon um 2000 den Begriff „Seed AI“ geprägt, eine Saat-KI, die ihren eigenen Quellcode umschreibt. Der Informatiker Jürgen Schmidhuber beschrieb 2003 mit der Gödel-Maschine ein formales Programm, das jeden Teil seines Codes umschreibt, sobald es bewiesen hat, dass die Änderung nützlich ist.
Die Forschungsorganisation Forethought unterscheidet in einer Analyse vom März 2025 drei Rückkopplungsschleifen, je nachdem, was die KI verbessert. Entweder nur die Software, also Algorithmen und Trainingsverfahren bei gleichbleibender Hardware, oder zusätzlich das Chipdesign, oder auch die Chipproduktion samt Fabrikbau. Die reine Software-Schleife gilt als die schnellste, weil sie keine physische Fertigung benötigt. Das Szenario „AI 2027“ von Daniel Kokotajlo und Kollegen (April 2025) spielt diesen Fall durch. Darin entsteht im März 2027 ein „übermenschlicher Programmierer“ und im September 2027 ein „übermenschlicher KI-Forscher“, jeweils in Hunderttausenden parallel laufenden Kopien. Die Autoren nennen selbst die Rechenleistung für Experimente als Engpass. Kritiker wie Gary Marcus halten die zugrunde liegenden Kurven für nicht belegt. Arvind Narayanan und Sayash Kapoor von der Princeton University erwarten in ihrem Aufsatz „AI as Normal Technology“ (April 2025), dass die Automatisierung der KI-Entwicklung schrittweise zunimmt, statt in einem einzelnen Moment umzuschlagen.
Reale Systeme schließen die Schleife bisher nur in Teilen:
Alle drei großen Labore haben Schwellen für automatisierte KI-Forschung in ihre Sicherheitsregeln geschrieben. OpenAIs Preparedness Framework (Version 2, April 2025) führt „AI Self-improvement“ als eigene Risikokategorie. Als „kritisch“ gilt ein Modell, das zu rekursiver Selbstverbesserung fähig ist. OpenAI definiert das als übermenschlichen Forschungs-Agenten oder als Modell, das einen Generationssprung wie von o1 zu o3 in einem Fünftel der Zeit von 2024 schafft, also in etwa vier Wochen, über mehrere Monate hinweg. Dann will OpenAI die Weiterentwicklung anhalten, bis Schutzmaßnahmen für diese Stufe festgelegt sind. Das im September 2026 erschienene GPT-6 Astra erreicht die kritische Stufe in der Cybersicherheit, in der KI-Selbstverbesserung bleibt es laut seiner System Card dagegen unterhalb der Schwelle „hoch“. Anthropics Responsible Scaling Policy stufte in Version 3.0 (Februar 2026) ein Modell als „hochfähig“ ein, wenn es zwei Jahre des KI-Fortschritts von 2018 bis 2024 in ein einziges Jahr pressen könnte.
Seit den Fassungen 3.1 und 3.4 (April und Juli 2026) gilt laut Anthropics Risk Report ein anderes Kriterium. Die Schwelle ist erreicht, wenn ein Modell alle Forscher und Entwickler des Unternehmens zu vergleichbaren Kosten ersetzen könnte oder wenn sich das Fortschrittstempo der KI-Entwicklung durch Automatisierung verdoppelt. Google DeepMind unterscheidet in seinem Frontier Safety Framework (Version 3, September 2025) zwei Stufen. Auf der ersten hat ein Modell die KI-Entwicklung bereits deutlich über die historische Rate hinaus beschleunigt, auf der zweiten kann es die Arbeit jedes Google-Entwicklungsteams, das an KI-Fähigkeiten arbeitet, zu vergleichbaren Kosten vollständig übernehmen. Auch der International AI Safety Report 2026 unter Leitung von Yoshua Bengio nennt den Einsatz von KI zur Beschleunigung der KI-Forschung als Trend mit erheblichen Folgen. Das Regelwerk von OpenAI erklärt unser Glossareintrag zum Preparedness Framework, das Gegenstück von Anthropic unser Glossareintrag zur Responsible Scaling Policy; wie OpenAI es im Fall seiner Cyber-Fähigkeiten angewendet hat, steht in unserem Artikel zur Verschiebung von OpenAI Astra.
Wie nah die Schwelle ist, legt Anthropic in seinem Risk Report vom 14. August 2026 offen. Claude schreibe inzwischen „eine große Mehrheit des Codes“ in den Produktivsystemen, die interne Forschung laufe deutlich schneller als ohne KI, aber bislang nicht doppelt so schnell. Der Bericht stuft das Risiko aus automatisierter Forschung als „niedrig“ ein, allerdings mit geringerer Sicherheit als zuvor, weil die aufgabenbasierten Tests gesättigt seien und erste Anzeichen einer Beschleunigung sichtbar würden. Ein internes, unveröffentlichtes „Model 2“ sei etwas fähiger als Mythos 5. Auf CoBench, einer Sammlung von 449 echten Fehlerdiagnose-Aufgaben aus dem Unternehmen, erwartet Anthropic von einem Modell, das sein Forschungspersonal vollständig ersetzen könnte, mindestens 85 Prozent. Ein KI-Kommentator verbreitete die Zahlen auf X unter der Überschrift „RSI is near“; die Einzelheiten stehen in unserem Artikel zum Anthropic Model 2.
Die Zeitschätzungen der Beteiligten liegen weit auseinander. Jack Clark, Mitgründer von Anthropic, bezifferte gegenüber TIME im August 2026 die Wahrscheinlichkeit auf 60 Prozent, dass KI sich bis 2028 autonom selbst verbessert. OpenAIs Chefwissenschaftler Jakub Pachocki hatte den vollautomatisierten KI-Forscher bis März 2028 laut TIME im April 2026 „das wichtigste Ziel für uns“ genannt. Dem Magazin sagte er zugleich, das solle verlangsamt werden, es brauche „eine Art internationale Norm“. Google-DeepMind-Chef Demis Hassabis sprach gegenüber Axios im Mai 2026 von „weicher Selbstverbesserung“, weil Programmier-Agenten Ingenieure produktiver machten. Die Systeme verbesserten sich aber noch nicht von allein. Im Juli 2026 unterzeichneten laut TIME rund 1.300 Beschäftigte von KI-Unternehmen einen Brief an die US-Regierung, der internationale Koordinationsmechanismen fordert.
Auf der Gegenseite steht eine Studie, die ein Team um Peter Kirgis, Sayash Kapoor und Arvind Narayanan am 29. Juli 2026 auf arXiv veröffentlichte. KI-Agenten auf Basis von Spitzenmodellen erhielten sechs Tage und ein Rechenbudget von mehreren Tausend Dollar, um die Forschungsfragen zweier noch unveröffentlichter NeurIPS-Einreichungen zu bearbeiten. Die Agenten erledigten die gesamte Programmierarbeit ohne menschliche Hilfe, kamen bei den eigentlichen Forschungszielen aber nicht voran, und beide Ergebnisse lehnten die Originalautoren eindeutig ab. Als Ursachen nennt die Studie ein schlechtes Urteil darüber, was als veröffentlichungsreif gilt, einfallslose Reaktionen auf Schwächen im Versuchsaufbau und wirkungsloses Umsteuern in Sackgassen. Epoch AI wies im November 2025 darauf hin, dass sich Verbesserungen an Algorithmen womöglich erst in Experimenten von der Größe echter Trainingsläufe zeigen, Rechenleistung also auch in einer reinen Software-Schleife der Engpass bliebe. Eine Selbstverbesserungs-Schleife verbessert außerdem nur, was ihr Prüfmaßstab misst. AlphaEvolve funktioniert laut DeepMind nur bei Problemen, deren Lösung sich automatisch prüfen lässt, und die Darwin Gödel Machine zeigte, wie ein Agent den Maßstab selbst manipuliert.
Im EU AI Act kommt der Begriff nicht vor, wohl aber Systeme, die nach dem Inverkehrbringen weiterlernen. Nach Artikel 43 Absatz 4 gilt eine solche Veränderung bei Hochrisiko-Systemen nicht als „wesentliche Änderung“ mit neuer Konformitätsbewertung, sofern der Anbieter sie schon bei der ersten Bewertung festgelegt hat. Beschrieben sein muss sie in der technischen Dokumentation. Ein System, das sich unvorhergesehen selbst verändert, wäre danach neu zu bewerten.
Für Handwerksbetriebe und lokale Unternehmen gibt es keinen Einsatzfall für rekursive Selbstverbesserung, der Begriff beschreibt einen Forschungsstand und kein Produkt. Betriebe begegnen ihm trotzdem beim Lesen von Software-Werbung, bei den Lernfunktionen von KI-Agenten und bei der Frage, wie lange eine Entscheidung für ein KI-Werkzeug trägt.
Formulierungen wie „lernt mit jedem Beleg“ meinen etwas anderes. Lexware Office beschreibt in seiner Hilfe zu Zuordnungsvorschlägen, das Programm lerne aus der Masse aller Zuordnungen im System und merke sich benutzerspezifische Buchungen; aufgehobene Vorschläge fließen als Korrektur ein. DATEV schreibt zu seinem Automatisierungsservice Rechnungen, die KI lerne dazu, sobald ein Buchungsvorschlag bestätigt oder geändert werde. Bei sevdesk heißt es, die Belegerkennung verbessere sich mit jedem hochgeladenen Beleg. In allen drei Fällen lernt das System aus den Korrekturen seiner Nutzer und aus Mustern früherer Belege. Es verändert nicht den Vorgang, mit dem es verbessert wird, und die Anbieter legen nicht offen, ob überhaupt Modellgewichte nachtrainiert werden. Die Handwerkssoftware-Anbieter Plancraft, HERO und ToolTime versprechen auf ihren KI-Seiten im Sommer 2026 kein Dazulernen aus Nutzerdaten; ToolTime erklärt zu seiner Sprach-App Echo ausdrücklich, Nutzerdaten würden nicht zum Training allgemeiner Modelle verwendet.
Die Lernfunktionen von KI-Agenten arbeiten auf derselben Ebene. Claude Code legt laut Anthropics Dokumentation eigene Notizen über Korrekturen und Vorlieben des Nutzers an und lädt sie in jede neue Sitzung. Anthropics Werkzeug skill-creator prüft Arbeitsanleitungen (Skills) mit Testfällen, vergleicht zwei Fassungen blind und schlägt Verbesserungen vor. Forscher der Stanford University, von SambaNova Systems und der UC Berkeley lassen in einer Studie vom Oktober 2025 ein Sprachmodell ein wachsendes „Spielbuch“ aus eigenen Erfahrungen pflegen. Bei Agenten-Aufgaben brachte das gut 10 Prozent bessere Ergebnisse. Geändert werden dabei Notizen, Anleitungen und Prompts, also der Kontext, den das Modell liest (siehe Context Engineering); das Modell selbst bleibt dasselbe. Weil sich in solchen Notizen auch falsche Annahmen festsetzen, lohnt ein gelegentlicher Blick in die angelegten Dateien, Claude Code speichert sie als einfache Textdateien.
Für die Auswahl von KI-Werkzeugen zählt das Tempo, das die Debatte um RSI antreibt. Nach der Messung der Forschungsorganisation METR vom Januar 2026 verdoppelte sich die Länge der Aufgaben, die Spitzenmodelle in der Hälfte der Fälle allein erledigen, seit 2019 etwa alle sieben Monate. Seit 2024 sind es etwa alle drei Monate. Das zu diesem Zeitpunkt beste gemessene Modell, Claude Opus 4.5, bewältigte Aufgaben von rund fünf Stunden menschlicher Arbeitszeit. Ein Werkzeug, das heute an einer Aufgabe scheitert, kann sie mit dem nächsten Modell erledigen, und ein Anbieter, der sein Modell nicht austauscht, fällt zurück. Beim Kauf lohnt deshalb die Frage, welches Modell hinter der Funktion steckt und ob der Anbieter es wechseln kann; Plancraft, HERO und ToolTime nennen auf ihren KI-Seiten keinen Modellanbieter. Bei einer Verdopplung alle drei bis sieben Monate ist ein Zweijahresvertrag an einen Stand gebunden, der bis zum Vertragsende drei- bis achtmal überholt wurde.
Anthropic rechnet in „When AI builds itself“ mit drei Wegen, vom Stillstand des Trends über anhaltende Effizienzgewinne bis zur vollen Selbstverbesserung. RSI sei nicht unausweichlich, hält der Bericht fest, könne aber früher kommen, als die meisten Institutionen vorbereitet seien. Laut der Bitkom-Befragung von 504 Handwerksbetrieben vom August 2025 nutzten erst 4 Prozent der Betriebe KI und 9 Prozent planten es. 76 Prozent sahen Bedarf an mehr Digitalkompetenz, 43 Prozent investierten gezielt in Weiterbildung zu Digitalthemen.
