“Model ini tidak mendukung prefill pesan assistant” — model Claude mana yang menghapus prefill, dan apa penggantinya

Model Claude mana yang menolak prefill (per September 2026)

Referensi kesalahan Anthropic menyatakannya dengan tegas: model Claude 4.6 dan yang lebih baru tidak mendukung prefill pada pesan assistant terakhir, dan permintaan yang melakukannya mendapatkan 400 ini persis (https://platform.claude.com/docs/en/api/errors#prefill-not-supported). Berdasarkan nama, ini mencakup Claude Opus 4.6 dan setiap Opus setelahnya, termasuk Claude Opus 5.5 (https://platform.claude.com/docs/en/models/opus-5-5/migration-guide); Claude Sonnet 4.6 dan Claude Sonnet 5 (https://platform.claude.com/docs/en/models/sonnet-5/migration-guide); serta Claude Fable 5 dan Fable 5.1 (https://platform.claude.com/docs/en/models/fable-5-1/migration-guide). Claude Haiku 4.5 masih menerima prefill, begitu pula Claude Sonnet 4.5 dan Claude Opus 4.5 — itulah sebabnya kesalahan ini biasanya muncul bersama perubahan model-ID, bukan perubahan kode. Pesan assistant yang lebih awal dalam percakapan, termasuk contoh few-shot, tidak terpengaruh.

Akhiri dengan giliran user — termasuk perbaikan satu baris

Sering kali tidak ada yang sengaja menulis prefill: sesuatu dalam stack menempatkan pesan assistant sebagai pesan terakhir. Laporan publik menelusurinya ke pengelola memori yang menambahkan pesan (Strands issue #1694), loop agen yang meminta ulang setelah giliran yang keliru dianggap belum selesai (opencode issue #46415), balasan berurutan dan handoff agen (LiveKit issue #4907), serta pesan assistant kosong yang tertinggal di akhir (AutoGen PR #7931). Jika pesan terakhir kosong, hapus — itulah satu baris perbaikannya. Jika berisi teks yang ingin Anda lanjutkan, ikuti panduan migrasi Anthropic untuk kelanjutan: letakkan kelanjutan tersebut dalam pesan user yang mengutip bagian tempat jawaban berhenti. Satu pengecualian terdokumentasi yang harus dibiarkan: pause_turn dari alat server seperti penelusuran web dilanjutkan dengan mengirim kembali konten assistant yang dijeda apa adanya (https://platform.claude.com/docs/en/agents-and-tools/tool-use/server-tools).

from openai import OpenAI

client = OpenAI(base_url="https://api.kunavo.com/v1", api_key="sk-kn-...")

def end_on_user(messages: list[dict]) -> list[dict]:
    """Claude 4.6 and later reject a conversation whose last turn is the assistant's."""
    last = messages[-1] if messages else None
    if not last or last["role"] != "assistant" or last.get("tool_calls"):
        return messages               # tool_calls are owed tool results instead
    content = last.get("content")
    if not content or (isinstance(content, str) and not content.strip()):
        return messages[:-1]          # the one line: drop an empty tail
    tail = content[-200:] if isinstance(content, str) else "..."
    return messages + [{
        "role": "user",
        "content": f"Your previous response was interrupted and ended with {tail!r}. "
                   "Continue from where you left off.",
    }]

messages = [
    {"role": "user", "content": "Explain HTTP caching in three bullets."},
    {"role": "assistant", "content": ""},  # the empty tail a framework left behind
]

resp = client.chat.completions.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    messages=end_on_user(messages),
)
print(resp.choices[0].message.content)

Gantikan fungsi prefill

Panduan prompting Anthropic memetakan setiap penggunaan prefill lama ke pengganti (https://platform.claude.com/docs/en/build-with-claude/prompt-engineering/claude-prompting-best-practices#migrating-away-from-prefilled-responses). Memaksa JSON: structured outputs, yang membatasi respons pada skema Anda dan tersedia di Claude Haiku 4.5, Sonnet 4.5, Opus 4.5, serta setiap model setelahnya (https://platform.claude.com/docs/en/build-with-claude/structured-outputs); untuk YAML atau format lain, saran panduan tersebut adalah meminta strukturnya dan mencoba lagi jika formatnya meleset. Klasifikasi: gunakan tool dengan enum label yang valid atau structured outputs. Melewati pembuka: instruksi system prompt seperti “Respond directly without preamble.” Mempertahankan persona: tetapkan perannya di system prompt (https://platform.claude.com/docs/en/build-with-claude/prompt-engineering/claude-prompting-best-practices#give-claude-a-role), dan letakkan pengingat berkala di giliran pengguna, bukan di giliran assistant yang telah diprefill. Jawaban yang terpotong: gunakan kelanjutan pada giliran pengguna di atas. Memaksa pemanggilan tool bukan pengganti langsung di semua tempat — Claude Fable 5.1 dan Claude Opus 5.5 menolak tool_choice any dan tool dengan 400 mereka sendiri (https://platform.claude.com/docs/en/api/errors#forced-tool-use-not-supported).

# Before: messages ended with {"role": "assistant", "content": "{"}
# Kunavo forwards output_config as sent; the reply is constrained to the schema.
curl https://api.kunavo.com/v1/messages \
  -H "x-api-key: sk-kn-..." \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "claude-sonnet-4-6",
    "max_tokens": 1024,
    "messages": [
      {"role": "user", "content": "Extract the name and email: John Smith <john@example.com>"}
    ],
    "output_config": {
      "format": {
        "type": "json_schema",
        "schema": {
          "type": "object",
          "properties": {
            "name": {"type": "string"},
            "email": {"type": "string"}
          },
          "required": ["name", "email"],
          "additionalProperties": false
        }
      }
    }
  }'

Model Claude mana yang tidak mendukung prefill pesan assistant?

Menurut dokumentasi Anthropic per September 2026, setiap model Claude mulai 4.6: Claude Opus 4.6 dan setiap Opus setelahnya, Claude Sonnet 4.6 dan Sonnet 5, Claude Fable 5 dan 5.1, serta model Mythos. Claude Haiku 4.5, Sonnet 4.5, dan Opus 4.5 masih menerimanya.

Bagaimana cara memaksa output JSON dari Claude tanpa prefill?

Gunakan structured outputs: teruskan skema JSON dalam output_config.format dan respons akan dibatasi olehnya. Melalui endpoint yang kompatibel dengan OpenAI, kirim sebagai response_format dengan type json_schema; Kunavo menerjemahkannya menjadi output_config.format. Anthropic menyatakan bahwa message prefilling tidak kompatibel dengan output JSON dalam kondisi apa pun.

Mengapa saya mendapatkan error ini padahal tidak pernah melakukan prefill?

Sesuatu dalam stack Anda meninggalkan pesan assistant sebagai pesan terakhir — memory atau session manager, loop agent yang meminta ulang setelah suatu giliran, handoff agent, atau pesan assistant kosong yang tidak dihapus siapa pun. Catat array messages persis seperti saat dikirim; elemennya yang terakhir akan memiliki role: "assistant".

Apakah saya masih dapat menyertakan pesan assistant dalam percakapan?

Ya. Hanya giliran terakhir yang dibatasi; pesan assistant sebelumnya, termasuk contoh few-shot, tidak terpengaruh.

Mengapa ini juga terjadi melalui endpoint yang kompatibel dengan OpenAI?

Karena gateway membawa pesan role: "assistant" terakhir Anda sebagai giliran assistant terakhir Claude — prefill yang sama, hanya dibentuk ulang. Penerjemah chat Kunavo melakukan hal tersebut, dan pesan yang sama telah dilaporkan melalui gateway kompatibel OpenAI lainnya (opencode issue #13768). Perbaikannya sama: akhiri dengan pesan pengguna.