Kosten senken und Performance steigern mit der Claude Platform

Durch Optimierung von Prompt-Caching, Anweisungen und Aufwand können die Kosten von Claude gesenkt werden, ohne die Anwendungsleistung zu beeinträchtigen.

Leistung und Kosten werden oft als ein Kompromiss betrachtet: Um weniger auszugeben, nimmt man schlechtere Ergebnisse in Kauf. In der Praxis haben wir festgestellt, dass viele Anwendungen, die die Claude Platform nutzen, Kosten senken können, ohne auf Leistung zu verzichten, und zwar mit drei Maßnahmen: Maximierung der Prompt-Cache-Trefferquote, Entfernung von Anti-Patterns aus Ihren Prompts beim Upgrade auf Claude-Modelle der Spitzenklasse und Kalibrierung des Aufwands auf die Aufgabe. Wir haben diese Anleitung in die claude-api skill integriert. In diesem Artikel zeigen wir, wie Claude Code mit der claude-api skill oft Wege findet, Kosten zu senken und gleichzeitig die Leistung zu erhalten oder zu verbessern.

Prompt-Cache

Bevor Claude eine Antwort generiert, verarbeitet es zunächst Ihren Prompt in einen internen Arbeitszustand. Dieser Schritt, genannt Prefill, ist der teure Teil der Eingabeverarbeitung. Prompt-Caching speichert diesen Zustand (den Key-Value- oder KV-Cache): Wenn eine Anfrage mit demselben Präfix beginnt, liest Claude ihn zurück, anstatt ihn neu zu berechnen. Cache-Lesevorgänge werden zu einem Bruchteil des vollen Eingabepreises abgerechnet.

Es gibt einige praktische Überlegungen, um eine effektive Nutzung des Prompt-Caches sicherzustellen. Erstens ist der Prompt-Cache an ein bestimmtes Modell gebunden. Zweitens müssen Prompt-Cache-Lesevorgänge über das Präfix hinweg byte-exakt sein. Schließlich hat der Prompt-Cache eine begrenzte Lebensdauer (TTL).

Vor diesem Hintergrund gibt es einige praktische Tipps:

• Seien Sie vorsichtig, wenn Sie die Aufwands-Einstellung mitten im Gespräch ändern. Diese Einstellungen werden vor Ihrem Inhalt in den Prompt eingefügt und sind daher Teil des gecachten Präfixes. Nur bei ausgewählten Claude-Modellen, einschließlich Opus 5 und Fable 5.1, können Sie den Aufwand mitten im Gespräch aktualisieren, ohne den Cache zu unterbrechen.
• Halten Sie volatile Werte aus dem Präfix heraus. Ein dynamischer Zeitstempel oder eine ID im System-Prompt kann sich zwischen Modellaufrufen ändern und den Cache unterbrechen.
• Vermeiden Sie Tool-Definitionen, die sich selbst neu anordnen. Bei Verwendung der Claude Messages API wird der Prompt in einer festen Reihenfolge zusammengesetzt, wobei die Tool-Definitionen oben gerendert werden. Jede Änderung an der Tool-Definition unterbricht den Cache.
• Seien Sie vorsichtig beim Verzweigen von Gesprächen. Sub-Agenten und Verzweigungen teilen sich den Cache des übergeordneten Elements nur dann, wenn das Präfix der Verzweigung byte-identisch ist, auf demselben Modell läuft und denselben Aufwand verwendet.

Wie man es behebt

Wir haben ein paar Lektionen für das Prompt-Cache-Management gesammelt:

• Überwachen Sie Ihre Prompt-Cache-Trefferquote sorgfältig. Die Claude Console und die Cache Diagnostics API bieten Prompt-Cache-Diagnosen, einschließlich Gründen für Prompt-Cache-Fehlschläge (Abbildung 1) und genau, wo zwei Anfragen auseinandergingen.

• Verzögern Sie selten genutzte Tools. Deklarieren Sie alle Ihre Tools im Voraus, aber markieren Sie die selten genutzten als defer_loading: Sie bleiben außerhalb des gecachten Präfixes und werden nur dann an das Gespräch angehängt, wenn Claude sie mit der Tool-Suche nachschlägt, sodass der Cache erhalten bleibt.
• Wenden Sie System-Prompt-Updates als Nachrichten an. Bestimmte Claude-Modelle erlauben es Ihnen, eine Systemanweisung als Nachricht mitten im Gespräch hinzuzufügen, anstatt den System-Prompt zu bearbeiten, was den Cache erhält.
• Gestalten Sie die Anfrage so, dass der stabile Teil stabil bleibt. Fügen Sie zuerst statischen Kontext (Tool-Definitionen und den System-Prompt) und das wachsende Gespräch dahinter ein (Abbildung 2).

• Nehmen Sie Änderungen am Modell oder Aufwand vor, wenn der Prompt-Cache ohnehin unterbrochen wird. Bestimmte Operationen, wie Kompaktierung, schreiben bereits einen Großteil des Caches (des Gesprächs) neu. Das ist ein guter Zeitpunkt, um das Modell oder den Aufwand zu wechseln, da Sie ohnehin für einen Fehlschlag bezahlen.
• Verschieben Sie den Cache-Breakpoint, während das Gespräch wächst. Mit der Claude Platform können Sie automatisches Caching einstellen, um den Cache-Breakpoint auf den letzten cachebaren Block anzuwenden.
• Wärmen Sie den Cache vor. Um die Latenz zu reduzieren, senden Sie eine Anfrage mit max_tokens: 0 und einem expliziten Cache-Breakpoint, wobei Sie dieselbe Aufwands-Einstellung wie für Ihren echten Traffic verwenden. Dies verarbeitet den Prompt und schreibt ihn in den Cache, ohne etwas zu generieren. Wenn Sie dies zu Sitzungsbeginn ausführen (z. B. während ein Benutzer tippt), trifft die erste echte Anfrage auf einen warmen Cache.
• Überschreiten Sie nicht die TTL des Prompt-Caches. Die 5-minütige Cache-TTL zählt ab dem Start der Anfrage. Wenn ein Agent auf Tool-Aufrufen oder Sub-Agent-Anfragen blockiert, die länger als 5 Minuten laufen, läuft der Cache des übergeordneten Elements ab, bevor das Ergebnis zurückkommt. Erwägen Sie in solchen Fällen, stattdessen eine 1-stündige TTL für das Präfix festzulegen.

Anweisungen

Prompts können Anweisungen ansammeln, die Modellschwächen patchen. Diese Anweisungen können im Verhältnis zu den Fähigkeiten der neuesten Claude-Modelle abweichen. Hier sind häufige Prompting-„Anti-Patterns“, die Claude-Modelle der Spitzenklasse behindern und unbeabsichtigt die Kosten erhöhen können:

• Verifikationsrituale. Anweisungen wie „Überprüfen Sie Ihre Arbeit doppelt“ oder „Überprüfen Sie zweimal vor dem Antworten“ werden von Spitzenmodellen oft wörtlich genommen und können Tokens verschwenden.
• Gründlichkeits- und Betonungsverstärker. „Seien Sie maximal gründlich“, „KRITISCH: SIE MÜSSEN IMMER…“ können bei der Arbeit mit Spitzenmodellen zu Ausführlichkeit und zusätzlichen Tool-Aufrufen führen.
• Obligatorische Verfahren und Notizblock-Gerüste. Prozesse mit festen Schritten (z. B. „Denken Sie Schritt für Schritt in einem Notizblock“) oder Denkvorlagen sind Rituale, die Spitzenmodelle nicht benötigen. Dieses Gerüst kann sich auf das native Denken aufsetzen und unnötige Tokens verbrauchen.
• Veraltete Beispiele. Wenige Beispiele, die auf die Fehlermodi eines älteren Modells abgestimmt sind, können einem Spitzenmodell beibringen, lange Denkketten bei Anfragen zu imitieren, die sie nicht benötigen.
• Widersprüchliche Regeln. Spitzenmodelle sind besser darin, Anweisungen zu befolgen. Widersprüchliche Anweisungen („immer innerhalb der Richtlinie erstatten“ vs. „niemals Rückerstattungen ohne Eskalation ausstellen“) können von Spitzenmodellen wörtlicher befolgt werden, was zu einer verschlechterten Leistung führt.
• Veraltete Konfiguration. Einstellungen, die für eine ältere Claude-Generation geschrieben wurden (z. B. manuelle Denkbudgets), können von der Claude Platform mit neueren Modellen abgelehnt werden.

Wie man es behebt

Wir haben die claude-api skill mit einem neuen Befehl aktualisiert, der auf diese Anti-Patterns achtet. Führen Sie in Claude Code /claude-api prompt-audit gegen Ihre Prompts, Skills oder Tool-Beschreibungen aus. Das Audit deckt alles in Ihrem Arbeitsverzeichnis ab, einschließlich Anwendungscode, der die Claude API aufruft, und Claude Codes eigener Konfiguration (z. B. CLAUDE.md oder Skills).

Zum Beispiel haben wir eine Modellmigration von Opus 4.8 zu Opus 5 an einem Kundensupport-Benchmark getestet. Wir sind von einem sauberen Prompt ausgegangen und haben nacheinander ein Anti-Pattern eingefügt (eine veraltete Denk-Einstellung, ein Paar widersprüchlicher Rückerstattungsregeln, einen manuellen Notizblock, „zweimal überprüfen“, „maximal gründlich sein“ und ein obligatorisches Sechs-Schritte-Verfahren), was sechs Legacy-Prompts ergab.

Wir haben jeden auf Opus 4.8, auf Opus 5 mit nur geänderter Modell-ID und auf Opus 5 nach einmaliger Ausführung von /claude-api prompt-audit pro Prompt ausgeführt (Abbildung 3 zeigt den Durchschnitt über die sechs).

Mit Opus 5 verbrauchen Verifikationsrituale („zweimal überprüfen“) unnötige Tokens, indem sie die Auftragssuche bei jeder Rückerstattung duplizieren. Betonungsverstärker („maximal gründlich sein“) wurden zu Dutzenden unnötiger Wissensdatenbank-Suchen.

Die Ausführung von /claude-api prompt-audit entfernte die Anti-Patterns, senkte die Kosten um 14,6 % und erhöhte die Genauigkeit um durchschnittlich 5,3 %. Die Kosten sanken, weil zusätzliche Tool-Aufrufe und duplizierte Denkprozesse eliminiert wurden. Die Genauigkeit stieg aus drei Gründen. Die veraltete Denk-Einstellung führte dazu, dass die API jede Routing-Anfrage rundweg ablehnte. Die widersprüchlichen Rückerstattungsregeln führten dazu, dass Opus 5 vier fällige Rückerstattungen zurückhielt, während es den Kunden um Bestätigung bat. Und der manuelle Notizblock kollidierte mit Opus 5s integriertem Denken: Bei drei Tickets schrieb es den Tool-Aufruf in seine Überlegungen und führte ihn nie aus.

Aufwand

Aufwand sagt Claude, „wie hart es arbeiten soll“. Bei niedrigem Aufwand gelangt Claude im Allgemeinen schneller zu Schlussfolgerungen. Bei hohem Aufwand überlegt Claude, verifiziert und erkundet Alternativen, bevor es antwortet.

Das Kosten-Leistungs-Verhältnis über Aufwandsstufen bei einem einzelnen Modell kann variieren. Zum Beispiel erzielt Claude Fable 5 bei niedrigem Aufwand 11,5 % für 5,35 $ pro Aufgabe auf FrontierCode Diamond (den 50 schwierigsten Aufgaben). Bei maximalem Aufwand erreicht Fable 5 30,9 % für 19,00 $ pro Aufgabe; die Änderung des Aufwands steigert die Punktzahl um etwa das 2,7-fache (+19 Punkte) bei etwa dem 3,5-fachen der Kosten (Abbildung 4).

Bei Claude Fable 5.1 zeigt Humanity's Last Exam (ohne Tools) eine steile Kurve mit einem abnehmenden letzten Schritt. Es erzielt etwa 53 % bei niedrigem Aufwand für etwa 0,30 $ pro Frage und etwa 61 % bei maximalem Aufwand für etwa 2,23 $; der letzte Schritt auf Maximum fügt etwa einen halben Punkt für 46 % mehr Kosten hinzu. Der Gewinn liegt innerhalb des Lauf-zu-Lauf-Rauschens des Benchmarks, sodass Sie mehr für keinen messbaren Gewinn bezahlen.

Der Aufwand kann in beide Richtungen falsch kalibriert sein:

• Annahme, dass höher immer besser ist. Hoher Aufwand kann zu Überdenken führen. Claude verbringt mehr Zeit mit Überlegungen, als die Aufgabe erfordert, was Kosten und Latenz erhöht und die Antwortqualität verschlechtern kann. Überlegung hilft nur, solange es noch Beweise zu finden gibt.
• Voreingenommenheit hin zu niedrigem Aufwand. Zu niedrig eingestellt, hört Claude auf, bevor es genügend Beweise hat. Es tätigt weniger Tool-Aufrufe, sodass es möglicherweise aus dem ersten Suchergebnis statt aus dem dritten antwortet. Es denkt weniger über schwierige Schritte nach und überspringt die Überprüfung, die es normalerweise selbst durchführen würde. Die Antwort sieht fertig aus, basiert aber auf unvollständigen Informationen.

Wie man es behebt

Es gibt einige nützliche Möglichkeiten, den Aufwand zu kalibrieren:

• Testen Sie stärkere Modelle bei niedrigerem Aufwand. Ein stärkeres Modell bei niedrigem Aufwand kann billiger sein als ein schwächeres Modell, das hart arbeitet (hoher Aufwand). Zum Beispiel erreicht Claude Fable 5.1 bei niedrigem Aufwand auf CursorBench 3.2 die Leistung von Fable 5 bei hohem Aufwand zu einem Drittel der Kosten (Abbildung 5). Zwei Dinge machen das neuere Modell billiger: Bei niedrigem Aufwand leistet es weniger Arbeit pro Aufgabe, und die Prompt-Cache-Lesevorgänge von Fable 5.1 werden mit 0,25 $ pro Million Tokens gegenüber 1,00 $ für Fable 5 abgerechnet. Selbst zu Fable 5s Preisen würde Fable 5.1 bei niedrigem Aufwand etwa 40 % weniger kosten.

• Verstehen Sie die Form Ihrer Aufgabe. Die Messung der Anwendungsleistung über eine Reihe von Aufwandsstufen hinweg ist eine nützliche Möglichkeit, den Kosten-Leistungs-Kompromiss für Ihre spezifische Aufgabe zu verstehen. Bei einer nicht gesättigten Evaluierung deutet eine flache Kosten-Leistungs-Kurve über die Aufwandsstufen hinweg darauf hin, dass die Aufgabe nicht durch Denk-Rechenleistung begrenzt ist; eine Erhöhung des Aufwands ist nicht vorteilhaft.

Diese Kalibrierung beinhaltet oft die Durchführung einer Evaluierung über Modelle und Aufwandsstufen hinweg. In Claude Code führt /claude-api hillclimb diese Suche für Sie durch: Es teilt Ihre Evaluierung in Trainings- und Testsets auf, schlägt Konfigurationsänderungen vor und liest fehlgeschlagene Trainingsbeispiele, um zu beheben, was es findet.

Wir haben es an einem Kundensupport-Benchmark ausgeführt, beginnend mit Opus 4.8 bei seinem Standardaufwand (hoch). Der Hillclimber versuchte zuerst Opus 5 bei niedrigem Aufwand, wobei er prompt-audit anwendete, um obligatorische Tool-Aufruf-Rituale, Notizblock-Schritte und widersprüchliche Regeln zu entfernen. Damit wurde die Opus 4.8-Baseline bei 98,9 % Trainingsgenauigkeit übertroffen und die Kosten auf 2,6 Cent pro Ticket gesenkt (Abbildung 6).

Dann stieg es auf Sonnet 5 bei niedrigem Aufwand herunter, was mit 1 Cent pro Ticket noch billiger war, aber die Genauigkeit fiel auf 88,9 %. Beim Lesen der fehlgeschlagenen Trainings-Tickets fügte Claude Routing-Regeln und eine Rückerstattungsgrenzen-Referenz zum Prompt hinzu, wodurch Sonnet 5 bei gleichen Kosten wieder auf 98,9 % gebracht wurde.

Bei den 14 zurückgehaltenen Tickets, die die Suche nie sah, erzielte die endgültige Konfiguration 90,5 % gegenüber 78,6 % des ursprünglichen Setups, bei etwa einem Fünftel der Kosten.

Automatisierung der Kostenreduzierung

Prompt-Caching, Anweisungen und Aufwand sind übliche Hebel zur Kostensenkung. Unsere Dokumentation deckt noch mehr ab. Um ein ganzheitliches Kosten-Audit von Anwendungscode durchzuführen, der die Claude API verwendet, haben wir /claude-api cost-optimize hinzugefügt: Es profiliert, wohin Ihre Ausgaben fließen, wendet Kostensenkungen an und zeigt, wenn Sie eine Evaluierung bereitstellen, wie sich die Einsparungen auf die Leistung auswirken.

cost-optimize beginnt damit, herauszufinden, wohin Ihre Tokens gehen: aus den Nutzungs- und Kostenberichten Ihrer Organisation, wenn Sie einen Claude Admin API-Schlüssel haben, aus dem Nutzungsobjekt jeder API-Antwort, wenn Ihre Anwendung es protokolliert, oder, falls beides nicht zutrifft, durch Lesen Ihres anforderungserstellenden Codes und Schätzen.

Es ordnet dann die verfügbaren Einsparungen, beginnend mit Prompt-Caching, dem Kürzen dessen, was jede Anfrage mit sich führt (einschließlich eines prompt-audit), der Begrenzung der Ausgabe und dem Batching von unbeaufsichtigten Arbeiten. Wenn Sie eine Evaluierung bereitstellen, geht es weiter und berechnet Kosten und Leistung über Aufwandsstufen und Modellauswahlen hinweg. Wir haben dies an vier öffentlichen Benchmarks mit Sonnet 5 als Baseline ausgeführt (Abbildung 7):

• LegalBench (~58 % niedrigere Kosten): cost-optimize schlug vor, ein gemeinsames Präfix über Aufgaben hinweg zu cachen, niedrigen Aufwand einzustellen und Aufgaben über die Batch API zu verarbeiten. Die Denk-Tokens fielen von 102.779 auf 8.284 und die Erfolgsquote blieb innerhalb des Rauschens, und die Kosten sanken um ~58 %.
• tau2-bench retail (~73 % niedrigere Kosten): Durch die Implementierung von Prompt-Caching mit expliziter Breakpoint-Platzierung reduzierte cost-optimize die Ausgaben um 72 %, während die Erfolgsquote stabil blieb.
• OfficeQA Pro (~52 % niedrigere Kosten): cost-optimize fügte Batch-Verarbeitung und Dokumenten-Caching hinzu, was die Kosten von 136,20 $ auf 64,87 $ senkte.
• SWE-bench Verified (~55 % niedrigere Kosten): cost-optimize stellte fest, dass die Standardkonfiguration bereits korrekt cached. Die Einsparungen ergaben sich aus der Einstellung des Aufwands auf mittel und der Begrenzung der Ausgabe des Agenten auf nur wenige prägnante Sätze. Die medianen Schritte pro Aufgabe gingen von 29 auf 17 zurück und die Prompt-Tokens fielen von 75,2 M auf 33,7 M.

Erste Schritte

Beginnen Sie mit /claude-api prompt-audit, wenn Sie zu einem Claude-Modell der Spitzenklasse migriert sind und Ihre vorhandenen Prompts überprüfen möchten. Es scannt die Prompts, Skills und Tool-Beschreibungen in Ihrem Arbeitsverzeichnis. Dies kann Anwendungscode sein, der die Claude API aufruft, oder die Konfiguration von Claude Code (CLAUDE.md, Skills). Es entfernt häufige Anti-Patterns, die Spitzenmodelle behindern.

Greifen Sie zu /claude-api cost-optimize, wenn Ihre Anwendung die Claude API verwendet und Sie ein Kosten-Audit wünschen. Es profiliert den Token-Verbrauch und testet dann verschiedene Hebel: Es wendet prompt-audit an, prüft aber auch auf Möglichkeiten zur Kostensenkung durch Prompt-Caching, Batching unbeaufsichtigter Arbeiten oder Begrenzung der Ausgabe. Wenn Sie eine Evaluierung bereitstellen, misst es die Kompromisse bei Aufwand und Modellauswahl.

Verwenden Sie schließlich /claude-api hillclimb für eine Suche über Kosten und Leistung. Bei einer gegebenen Evaluierung teilt Claude sie in Trainings- und Testsets auf und schlägt dann Aktualisierungen Ihrer Anwendung vor, die darauf abzielen, die Kosten zu senken und gleichzeitig die Baseline-Leistung zu erhalten. Claude liest die fehlgeschlagenen Trainingsfälle, um die Suche zu leiten, und die endgültige Konfiguration wird anhand des zurückgehaltenen Testsets bewertet.

Um mehr zu erfahren:

• Siehe unsere Dokumentation hier
• Siehe unser Kochbuch zur Kostenreduzierung hier
• Siehe die claude-api skill hier; die skill ist auch in Claude Code integriert
• Siehe diesen Artikel im Claude Blog hier

Geschrieben von Lance Martin (@RLanceMartin), Brad Abrams (@brada), Isabella He (@IsabellaKHe) und Ben Lehrburger (@benlehrburger).