„Dieses Modell unterstützt kein Prefill von Assistant-Nachrichten“ – welche Claude-Modelle Prefill eingestellt haben und was es ersetzt

Welche Claude-Modelle Prefill ablehnen (Stand September 2026)

Anthropics Fehlerreferenz ist eindeutig: Claude 4.6 und spätere Modelle unterstützen kein Prefill der letzten Assistant-Nachricht, und eine solche Anfrage erzeugt genau diesen 400-Fehler (https://platform.claude.com/docs/en/api/errors#prefill-not-supported). Namentlich sind das Claude Opus 4.6 und jedes spätere Opus, einschließlich Claude Opus 5.5 (https://platform.claude.com/docs/en/models/opus-5-5/migration-guide); Claude Sonnet 4.6 und Claude Sonnet 5 (https://platform.claude.com/docs/en/models/sonnet-5/migration-guide); sowie Claude Fable 5 und Fable 5.1 (https://platform.claude.com/docs/en/models/fable-5-1/migration-guide). Claude Haiku 4.5 akzeptiert weiterhin ein Prefill, ebenso Claude Sonnet 4.5 und Claude Opus 4.5 – deshalb tritt dieser Fehler häufig nach einer Änderung der Modell-ID statt nach einer Codeänderung auf. Frühere Assistant-Nachrichten in der Unterhaltung, einschließlich Few-Shot-Beispielen, sind nicht betroffen.

Mit einem User-Turn enden – einschließlich der einzeiligen Korrektur

Oft hat niemand absichtlich ein Prefill geschrieben: Etwas im Stack hat zuletzt eine Assistant-Nachricht eingefügt. Öffentliche Berichte führen dies auf einen Speicherverwalter zurück, der eine solche Nachricht anhängt (Strands Issue #1694), eine Agentenschleife, die nach einem Turn erneut anfragt, den sie fälschlich für unvollständig hält (opencode Issue #46415), aufeinanderfolgende Antworten und Agentenübergaben (LiveKit Issue #4907) sowie eine am Ende verbliebene leere Assistant-Nachricht (AutoGen PR #7931). Wenn die nachgestellte Nachricht leer ist, entfernen Sie sie – das ist die eine Zeile. Enthält sie Text, den Sie fortsetzen möchten, folgen Sie Anthropics Migrationsanleitung für Fortsetzungen: Legen Sie die Fortsetzung in eine User-Nachricht, die die Stelle zitiert, an der die Antwort abgebrochen wurde. Eine dokumentierte Ausnahme, die unverändert bleiben soll: Ein pause_turn aus Server-Tools wie der Websuche wird fortgesetzt, indem der pausierte Assistant-Inhalt unverändert zurückgesendet wird (https://platform.claude.com/docs/en/agents-and-tools/tool-use/server-tools).

from openai import OpenAI

client = OpenAI(base_url="https://api.kunavo.com/v1", api_key="sk-kn-...")

def end_on_user(messages: list[dict]) -> list[dict]:
    """Claude 4.6 and later reject a conversation whose last turn is the assistant's."""
    last = messages[-1] if messages else None
    if not last or last["role"] != "assistant" or last.get("tool_calls"):
        return messages               # tool_calls are owed tool results instead
    content = last.get("content")
    if not content or (isinstance(content, str) and not content.strip()):
        return messages[:-1]          # the one line: drop an empty tail
    tail = content[-200:] if isinstance(content, str) else "..."
    return messages + [{
        "role": "user",
        "content": f"Your previous response was interrupted and ended with {tail!r}. "
                   "Continue from where you left off.",
    }]

messages = [
    {"role": "user", "content": "Explain HTTP caching in three bullets."},
    {"role": "assistant", "content": ""},  # the empty tail a framework left behind
]

resp = client.chat.completions.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    messages=end_on_user(messages),
)
print(resp.choices[0].message.content)

Ersetzen Sie die Funktion des Prefills

Anthropics Prompting-Leitfaden ordnet jeder früheren Verwendung von Prefill einen Ersatz zu (https://platform.claude.com/docs/en/build-with-claude/prompt-engineering/claude-prompting-best-practices#migrating-away-from-prefilled-responses). JSON erzwingen: strukturierte Ausgaben, die die Antwort auf Ihr Schema beschränken und für Claude Haiku 4.5, Sonnet 4.5, Opus 4.5 und jedes spätere Modell verfügbar sind (https://platform.claude.com/docs/en/build-with-claude/structured-outputs); für YAML oder ein anderes Format empfiehlt der Leitfaden, die Struktur anzufordern und bei Abweichung erneut zu versuchen. Klassifizierung: ein Tool mit einem Enum Ihrer gültigen Bezeichnungen oder strukturierte Ausgaben. Eine Präambel überspringen: eine System-Prompt-Anweisung wie „Direkt und ohne Präambel antworten.“ Eine Persona beibehalten: Legen Sie die Rolle im System-Prompt fest (https://platform.claude.com/docs/en/build-with-claude/prompt-engineering/claude-prompting-best-practices#give-claude-a-role) und platzieren Sie regelmäßige Erinnerungen im User-Turn statt in einem vorbefüllten Assistant-Turn. Abgebrochene Antwort: die obige Fortsetzung im User-Turn. Das Erzwingen eines Tool-Aufrufs ist nicht überall ein direkter Ersatz – Claude Fable 5.1 und Claude Opus 5.5 lehnen tool_choice any und tool jeweils mit einem eigenen 400-Fehler ab (https://platform.claude.com/docs/en/api/errors#forced-tool-use-not-supported).

# Before: messages ended with {"role": "assistant", "content": "{"}
# Kunavo forwards output_config as sent; the reply is constrained to the schema.
curl https://api.kunavo.com/v1/messages \
  -H "x-api-key: sk-kn-..." \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "claude-sonnet-4-6",
    "max_tokens": 1024,
    "messages": [
      {"role": "user", "content": "Extract the name and email: John Smith <john@example.com>"}
    ],
    "output_config": {
      "format": {
        "type": "json_schema",
        "schema": {
          "type": "object",
          "properties": {
            "name": {"type": "string"},
            "email": {"type": "string"}
          },
          "required": ["name", "email"],
          "additionalProperties": false
        }
      }
    }
  }'

Welche Claude-Modelle unterstützen kein Prefill von Assistant-Nachrichten?

Laut der Anthropic-Dokumentation vom September 2026 gilt dies für jedes Claude-Modell ab 4.6: Claude Opus 4.6 und alle späteren Opus-Modelle, Claude Sonnet 4.6 und Sonnet 5, Claude Fable 5 und 5.1 sowie die Mythos-Modelle. Claude Haiku 4.5, Sonnet 4.5 und Opus 4.5 akzeptieren weiterhin eines.

Wie erzwinge ich JSON-Ausgabe von Claude ohne Prefill?

Verwende strukturierte Ausgaben: Übergib ein JSON-Schema in output_config.format, und die Antwort wird darauf beschränkt. Über einen OpenAI-kompatiblen Endpunkt sendest du es als response_format mit type json_schema; Kunavo übersetzt dies in output_config.format. Anthropic führt Message-Prefilling grundsätzlich als inkompatibel mit JSON-Ausgaben auf.

Warum erhalte ich diesen Fehler, obwohl ich nie ein Prefill verwendet habe?

Etwas in deinem Stack hat eine Assistant-Nachricht als letzte Nachricht hinterlassen – etwa ein Memory- oder Sitzungsmanager, eine Agentenschleife, die nach einem Durchlauf erneut anfordert, eine Agentenübergabe oder eine leere Assistant-Nachricht, die niemand entfernt hat. Protokolliere das messages-Array exakt so, wie es gesendet wird; sein letztes Element hat role: "assistant".

Kann ich weiterhin Assistant-Nachrichten in die Unterhaltung aufnehmen?

Ja. Nur der letzte Durchlauf ist eingeschränkt; frühere Assistant-Nachrichten, einschließlich Few-Shot-Beispielen, sind nicht betroffen.

Warum passiert das auch über einen OpenAI-kompatiblen Endpunkt?

Weil das Gateway deine abschließende Nachricht mit role: "assistant" als abschließenden Claude-Assistant-Durchlauf weitergibt – dasselbe Prefill, nur umgeformt. Kunavos Chat-Übersetzer macht genau das, und dieselbe Nachricht wurde über andere OpenAI-kompatible Gateways gemeldet (opencode issue #13768). Die Lösung ist dieselbe: Beende mit einer User-Nachricht.