Glossareintrag

Was bedeutet
Programmatic Tool Calling bei KI/AI (PTC, Code Mode)?

Wir denken. KI tippt mit.

Lesezeit: 6 Minuten
Veröffentlicht: 24.09.2026
Aktualisiert: 10.10.2026

Programmatic Tool Calling bei KI/AI (PTC, Code Mode)

Definition:

Programmatic Tool Calling (kurz PTC, deutsch programmatische Tool-Aufrufe) ist ein Verfahren, bei dem ein KI-Agent seine Werkzeuge (Tools) nicht einzeln nacheinander aufruft, sondern ein kleines Programm schreibt, das alle Aufrufe erledigt. Der Code läuft in einer abgeschotteten Umgebung (Sandbox), ruft von dort die Tools auf, wertet die Antworten aus und gibt nur das Endergebnis an das Sprachmodell zurück. Zwischenergebnisse gelangen nie ins Kontextfenster. Das spart Token und Wartezeit.

Die heute übliche Bezeichnung stammt von Anthropic, das die Funktion am 24. November 2025 für Claude vorstellte. OpenAI führt seit dem 9. Juli 2026 ein Feature gleichen Namens. Cloudflare und der Open-Source-Agent goose nennen dasselbe Muster Code Mode. Die Wissenschaft spricht von CodeAct. PTC baut auf Function Calling auf und ersetzt es nicht.

Beschreibung:

Beim klassischen Function Calling kostet jede Runde von Tool-Aufrufen einen vollen Durchlauf des Sprachmodells (Inferenz). Jedes Ergebnis landet vollständig im Kontextfenster, auch wenn das Modell davon nur einen Bruchteil benötigt. In der Anthropic-Dokumentation zu Programmatic Tool Calling prüft ein Agent das Budget von 20 Mitarbeitern. Klassisch sind das 20 Modell-Durchläufe, und tausende Spesenposten wandern durchs Kontextfenster. Mit PTC fragt ein einziges Skript alle 20 Personen ab, vergleicht die Summen mit dem Budget und meldet nur die Mitarbeiter über dem Limit. Aus mehreren hundert Kilobyte werden laut Anthropic wenige Zeilen.

Beispiel aus dem Betrieb: Ein Meister benötigt die Preise für 30 Artikel. Ohne PTC ruft er selbst 30-mal beim Großhändler an und stapelt jede Preisliste auf seinem Schreibtisch. Mit PTC schreibt er dem Azubi einen Zettel (alle 30 Preise abfragen, die drei günstigsten Lieferanten notieren). Der Azubi arbeitet den Zettel ab. Der Meister bekommt drei Zeilen zurück. Der Meister ist das Sprachmodell, sein Schreibtisch das Kontextfenster und der Zettel der Code.

Ablauf bei Claude:

  • Aufrufweg je Tool. Der Entwickler gibt für jedes Tool im Feld allowed_callers vor, ob das Modell es direkt, aus Code heraus oder auf beiden Wegen aufrufen soll. Das Feld lenkt das Modell und ist laut Anthropic keine Sperre in der API.
  • Modell schreibt Code. Claude verfasst ein Python-Skript, das die Tools wie normale Funktionen benutzt (mit Schleifen, Bedingungen und parallelen Aufrufen).
  • Sandbox führt aus. Das Skript läuft in einem Container ohne Internetzugang auf Anthropics Servern. Bei jedem Tool-Aufruf pausiert es. Die API reicht die Anfrage an die Anwendung weiter.
  • Anwendung liefert. Sie führt das Tool aus wie beim Function Calling. Das Ergebnis geht zurück an das Skript, nicht ins Kontextfenster.
  • Nur die Ausgabe zählt. Das Modell sieht am Ende allein, was das Skript ausgibt. Für die Zwischenergebnisse berechnet die API laut Anthropic keine Token.

Sprachmodelle haben im Training Millionen Programme aus Open-Source-Projekten gesehen, aber nur wenige, meist künstlich erzeugte Beispiele für Tool-Aufrufe. Cloudflare stellte mit diesem Argument im September 2025 seinen Code Mode für MCP vor. Die Autoren vergleichen den klassischen Tool-Aufruf mit Shakespeare, der nach einem Monat Sprachkurs ein Stück auf Mandarin schreiben soll. Das CodeAct-Paper „Executable Code Actions Elicit Better LLM Agents“ beschrieb das Muster 2024 wissenschaftlich. Im Test mit 17 LLMs hat das Team mit Code-Aktionen eine um bis zu 20 Prozent höhere Erfolgsquote gemessen als mit Aufrufen im JSON- oder Textformat.

Anbieter im Vergleich (Stand September 2026):

  • Anthropic (Claude): Python im Container. Die öffentliche Beta startete zusammen mit der Tool Search, die Tool-Definitionen erst bei Bedarf lädt.
  • OpenAI: JavaScript in einer isolierten V8-Laufzeit ohne Netzzugriff, eingeführt mit GPT‑5.6. In der Responses API schalten Entwickler die Funktion selbst ein. In der OpenAI Agents API ist sie standardmäßig aktiv. Der OpenAI-Leitfaden zu Programmatic Tool Calling nennt keine Messwerte und schreibt, die Wirkung hänge von der Aufgabe und den Tool-Antworten ab.
  • Cloudflare: Code Mode übersetzt die Tools eines MCP-Servers in eine TypeScript-Schnittstelle. Im Februar 2026 machte Cloudflare so seine gesamte API mit über 2.500 Endpunkten über zwei Tools und rund 1.000 Token zugänglich. Der klassische Weg hätte 1,17 Millionen Token belegt.
  • goose: Der Open-Source-Agent schreibt im Code Mode JavaScript. Die goose-Anleitung zum Code Mode empfiehlt ihn für Sitzungen mit vielen aktiven Erweiterungen.
  • Google (Gemini): kein gleichwertiges Feature. Das dortige Compositional Function Calling verkettet Einzelaufrufe. Jeder davon läuft weiter über das Modell.

Die veröffentlichten Messwerte stammen von den Anbietern selbst. Anthropic nannte im Engineering-Beitrag zu Advanced Tool Use für komplexe Rechercheaufgaben einen Rückgang von 43.588 auf 27.297 Token (37 Prozent). Die aktuelle Dokumentation nennt für einen Test mit 75 Tools rund 38 Prozent weniger berechnete Eingabe-Token bei unveränderter Genauigkeit. Im Produktivbetrieb sparen Anfragen mit 10 bis 49 Tools typischerweise 20 bis 40 Prozent. Beim Benchmark τ²-bench mit ein bis zwei Aufrufen pro Runde blieb die Punktzahl gleich. Die Kosten stiegen um rund 8 Prozent.

PTC lohnt sich kaum:

  • bei Abläufen, in denen das Modell nach jedem Ergebnis neu überlegen muss
  • bei wenigen Aufrufen mit kleinen Antworten, weil der Start des Containers und das Schreiben des Skripts dann mehr kosten, als sie sparen
  • bei Tools, die zwischen zwei Aufrufen eine Rückmeldung des Nutzers benötigen

Bei Claude führt die Anwendung ihre eigenen Tools weiterhin selbst aus. Rechte, Protokolle und eine menschliche Freigabe vor heiklen Aktionen bleiben also möglich. Tool-Ergebnisse fließen aber als Text in laufenden Code. Anthropic warnt in der Dokumentation vor Code-Injection (eingeschleustem Programmcode), sobald ein Tool Daten aus fremden Quellen liefert. Der Angriffsweg ähnelt der Prompt Injection, bei der manipulierte Inhalte dem Modell Befehle unterschieben. Die Sandbox begrenzt den Schaden. Bei Anthropic, OpenAI und Cloudflare hat der Code keinen freien Netzzugriff. Cloudflare hält Zugangsschlüssel aus der Sandbox heraus und hängt sie erst außerhalb an die Anfrage.

(Hinweis: Die oft zitierte Ersparnis von 98,7 Prozent stammt aus Anthropics Beitrag „Code execution with MCP“ vom November 2025. Sie beschreibt einen einzelnen Beispiel-Ablauf mit 150.000 gegen 2.000 Token und ist kein Messwert des API-Features PTC.)

Programmatic Tool Calling bei KI/AI (PTC, Code Mode) für Unternehmen und Handwerker:

Handwerksbetriebe und lokale Unternehmen schalten Programmatic Tool Calling nicht selbst ein. Die Technik steckt in der Programmierschnittstelle (API) der Modellanbieter und richtet sich an Entwickler, die Agenten bauen. Fasst ein Agent viele Datensätze auf einmal an, zeigt sich PTC im Betrieb als niedrigere Rechnung und kürzere Wartezeit.

Aufgaben, bei denen sich PTC lohnt:

  • Offene Posten. Der Agent prüft alle 300 Ausgangsrechnungen in Lexware Office oder sevdesk und meldet nur die 12 überfälligen mit Kunde und Betrag.
  • Materialpreise. Er gleicht 400 Artikel der Materialliste mit den aktuellen Großhändlerpreisen ab und nennt die Positionen, die mehr als 5 Prozent teurer geworden sind.
  • Bewertungen. Er liest sämtliche Google-Bewertungen von drei Standorten und liefert die fünf häufigsten Beschwerden.

In allen drei Fällen interessiert das KI-Modell nur das Ergebnis. Ohne PTC laufen trotzdem alle 300 Rechnungen oder 400 Preise durch das Kontextfenster und stehen als Token im Verbrauch.

Ein Chatbot, der im Kalender nach einem freien Termin schaut, profitiert nicht. Dasselbe gilt für einen Voice Agent am Telefon, der pro Gespräch ein oder zwei Tools benutzt. Anthropic hat bei Abläufen mit ein bis zwei aufeinanderfolgenden Aufrufen pro Runde rund 8 Prozent Mehrkosten gemessen.

Fragen an die Agentur oder das Softwarehaus, das den Agenten baut:

  • Nutzt der Agent bei Massenabfragen PTC oder Code Mode, oder läuft jeder Datensatz einzeln durchs Modell?
  • Wo läuft der erzeugte Code, in der Sandbox des Modellanbieters oder in einer eigenen?
  • Was passiert mit den Daten? Kundennamen und Beträge bleiben zwar aus dem Kontextfenster heraus, laufen aber durch den Container des Anbieters. Anthropic bewahrt Container-Daten bis zu 30 Tage auf und nimmt PTC von der Null-Datenspeicherung (Zero Data Retention) aus.
Automation Intelligence im Handwerk - Glossareintrag
Lexikon für künstliche Intelligenz und Automation - Glossar für Handwerker und Handwerksbetriebe
Handwerk transformieren durch Artificial Intelligence und Automation Intelligence

Webinar Release

Webinar Release

Sie haben eine Frage?

Sie haben eine Frage