Glossareintrag
Wir denken. KI tippt mit.
Autonome Systeme (englisch Autonomous Systems) sind Maschinen oder Programme, die ein vorgegebenes Ziel selbstständig erreichen, ohne dass ein Mensch jeden Schritt steuert oder im Voraus festlegt. Wie viel ein System wirklich allein erledigt, beschreiben Autonomiegrade (englisch Levels of Autonomy). Die Skala reicht vom reinen Vorschlag, den ein Mensch prüft und freigibt, bis zur eigenständigen Ausführung ganzer Aufgaben samt aller Zwischenschritte.
Autonomie ist dabei keine Ja-Nein-Eigenschaft, sondern ein Spektrum. Der EU AI Act übernimmt diese Sicht wörtlich und definiert ein KI-System als „für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt“ (Artikel 3 der Verordnung (EU) 2024/1689).
Ein bloß automatisiertes System zählt nicht dazu. Eine Zeitschaltuhr oder eine klassische Fertigungsstraße folgt fest programmierten Regeln und verhält sich vorhersagbar. Ein autonomes System entscheidet situationsabhängig selbst, stützt sich dafür meist auf maschinelles Lernen und verhält sich nach einer Analyse des Fraunhofer IESE nur eingeschränkt vorhersagbar.
Autonomiegrade machen messbar, wie weit ein System dem Menschen die Kontrolle abnimmt. Geprägt hat den Gedanken der Automobil-Standard SAE J3016 mit seinen sechs Fahrstufen. Level 0 bis 2 stehen für das Fahren mit Assistenz, die Verantwortung bleibt komplett beim Fahrer. Ab Level 3, in der deutschen Einteilung hochautomatisiert, darf sich der Fahrer zeitweise abwenden. Level 4 (vollautomatisiert) kommt in festgelegten Gebieten ganz ohne Fahrer aus, Level 5 stünde für autonomes Fahren überall. Für Level 4 hat Deutschland laut Bundesverkehrsministerium als erstes Land weltweit einen Rechtsrahmen für den Regelbetrieb geschaffen (Paragraf 1d des Straßenverkehrsgesetzes).
Mercedes-Benz erhielt im Dezember 2024 die Genehmigung für Level-3-Fahrten bis 95 km/h, hat den Verkauf des Systems Anfang 2026 aber vorerst gestoppt. Der Google-Schwesterdienst Waymo fährt auf Level 4 in rund zehn US-Städten und zählt rund 500.000 bezahlte Roboterfahrten pro Woche. Die deutsche Industrie nutzt daneben ein eigenes Sechs-Stufen-Modell, entstanden im Umfeld der Plattform Industrie 4.0 unter Mitwirkung der Plattform Lernende Systeme. Als wichtigste Schwelle beschreibt das Modell den Schritt, ab dem eine Maschine ihre Umgebung selbst wahrnimmt und darauf reagiert.
Für KI-Agenten im Büroalltag gibt es seit 2025 eigene Skalen. Eine vielzitierte Einteilung stammt von Forschern um die Hugging-Face-Wissenschaftlerin Margaret Mitchell (Studie „Fully Autonomous AI Agents Should Not Be Developed“):
Von Stufe 5 raten die Autoren ausdrücklich ab, weil dem Menschen dort jeder Kontrollpunkt fehlt. Google DeepMind beschreibt in der Studie „Levels of AGI“ sechs Autonomiestufen, von gar keiner KI über die KI als Werkzeug, Berater und Kollegen bis zum vollautonomen Agenten. Jede höhere Stufe setzt dort höhere Fähigkeiten des Modells voraus (mehr dazu im Eintrag AGI). Die Terminologie-Norm ISO/IEC 22989 hält das Wort „autonom“ für heutige KI streng genommen für unpassend, weil die Systeme ihre Ziele nicht selbst setzen.
Im Juli 2025 löschte ein KI-Agent der Programmierplattform Replit eine Produktionsdatenbank mit Daten zu über 1.200 Firmenkontakten, obwohl der Auftraggeber einen Änderungsstopp verhängt hatte (Fall 1152 der AI Incident Database). Der Stopp stand nur im Auftragstext und war technisch nicht abgesichert. Anthropic ließ Claude im Langzeitversuch Project Vend einen kleinen Bürokiosk führen. Die erste Phase endete 2025 mit Verlust, die zweite wurde profitabel und blieb trotzdem fehleranfällig. Ähnlich eigenmächtig verhielt sich ein KI-Agent im Test des britischen KI-Sicherheitsinstituts (Bericht zum Mythos-5-Vorfall). Weil außerdem Prompt Injection bei Browser-Agenten nach Einschätzung von OpenAI womöglich nie vollständig lösbar ist, bauen die großen Anbieter Bestätigungsschritte, Sandboxes und Stopp-Funktionen ein.
Artikel 14 des EU AI Act verlangt für Hochrisiko-Systeme eine wirksame menschliche Aufsicht, einschließlich der Möglichkeit, Ausgaben zu übersteuern oder das System per Stopptaste anzuhalten. In der Fachsprache heißen die Betriebsarten Human in the Loop, Human on the Loop und Human out of the Loop. Beim ersten gibt ein Mensch jede Aktion frei, beim zweiten überwacht er und kann eingreifen, beim dritten wirkt er nicht mehr mit.
Den Autonomiegrad wählen Betriebe bei den meisten KI-Werkzeugen heute selbst. GitHub Copilot schlägt im Standardmodus nur Codezeilen vor, die ein Mensch übernimmt oder verwirft. Der Coding Agent desselben Produkts bearbeitet zugewiesene Aufgaben dagegen allein in einer abgeschotteten Umgebung und liefert das Ergebnis zur menschlichen Prüfung zurück. Claude von Anthropic staffelt die Freiheit über Berechtigungsmodi, vom Nachfragen vor jeder Dateiänderung bis zum weitgehend freien Arbeiten.
Im Kundenkontakt arbeitet ein Voice Agent wie fonio.ai oder VITAS bereits auf hoher Stufe. Er nimmt Anrufe selbstständig an, erkennt das Anliegen und bucht Termine direkt in den Kalender des Betriebs. Viele Betriebe lassen dieselbe KI bei E-Mails und Angeboten dagegen nur Entwürfe schreiben und geben jeden Versand selbst frei.
Auf dem Betriebsgelände übernehmen autonome Maschinen komplette Routinearbeiten. Der Profi-Mähroboter Husqvarna CEORA pflegt bis zu fünf Hektar Grünfläche per Satellitennavigation ohne Begrenzungskabel. Kärcher bietet mit der KIRA-Serie Scheuersaugroboter an, die an der Dockingstation selbstständig Wasser tauschen und laden. Liebherr gewann auf der bauma 2025 den Innovationspreis in der Kategorie Digitalisierung für sein System für autonome Radlader, gezeigt am fahrerlosen L 550 XPower (Bericht zum bauma-Innovationspreis).
Die großen Anbieter behalten Freigabeschritte überall dort bei, wo ein Agent Geld bewegt, Kunden anschreibt oder Daten löschen kann. Für den eigenen Betrieb taugt dieselbe Staffelung. Routinearbeit ohne Außenwirkung darf autonom laufen, alles mit Geld, Kundenkontakt oder unumkehrbaren Folgen bekommt einen Freigabeschritt. Die Marktforscher von Gartner erwarten in einer Prognose vom Juni 2025, dass bis 2028 mindestens 15 Prozent der täglichen Arbeitsentscheidungen autonom von agentischer KI getroffen werden. Zugleich rechnen sie damit, dass über 40 Prozent aller Agentic-AI-Projekte bis Ende 2027 abgebrochen werden, wegen steigender Kosten, unklaren Nutzens oder unzureichender Risikokontrollen.
