Panduan API yang kompatibel dengan OpenAI — dari endpoint lokal Ollama hingga model frontier ter-host

"OpenAI-compatible" berarti API menggunakan format wire yang sama dengan /v1/chat/completions milik OpenAI — sehingga SDK atau alat OpenAI apa pun dapat digunakan dengan hanya mengubah base_url. Ollama menyediakan endpoint kompatibel-OpenAI untuk model yang berjalan secara lokal di mesin Anda. Kunavo menyediakannya untuk model frontier yang di-host — Claude, GPT, serta model gambar, video, dan audio — di balik satu bearer token. Panduan ini menjelaskan polanya dan cara berpindah di antara keduanya tanpa menulis ulang kode.

Apa arti "OpenAI-compatible"

Format OpenAI Chat Completions telah menjadi standar de facto: array messages sebagai masukan, choices[].message sebagai keluaran, Server-Sent Events untuk streaming, dan tools untuk pemanggilan fungsi. Endpoint apa pun yang mematuhi kontrak tersebut bersifat "OpenAI-compatible", dan SDK resmi openai (Python, Node, serta setiap port komunitas) dapat diarahkan ke sana dengan mengatur base_url.

Pola Ollama (lokal)

Ollama menjalankan model terbuka secara lokal dan menyediakannya di http://localhost:11434/v1:

from openai import OpenAI

# Ollama exposes an OpenAI-compatible endpoint on localhost
client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")

resp = client.chat.completions.create(
    model="llama3.1",
    messages=[{"role": "user", "content": "Summarize this changelog."}],
)
print(resp.choices[0].message.content)

Kode yang sama, model frontier yang di-host (Kunavo)

Arahkan SDK yang sama persis ke Kunavo dan pilih model frontier. Hanya base_url, api_key, dan model yang berubah — pemanggilannya sama byte demi byte:

import os
from openai import OpenAI

# Same SDK, same call shape — only base_url, api_key and model change
client = OpenAI(
    base_url="https://api.kunavo.com/v1",
    api_key=os.environ["KUNAVO_API_KEY"],
)

resp = client.chat.completions.create(
    model="claude-sonnet-5",  # or claude-haiku-4-5, gpt-5-5, gpt-5-6-terra...
    messages=[{"role": "user", "content": "Summarize this changelog."}],
)
print(resp.choices[0].message.content)

Dapatkan kunci di /app/keys; quickstart menyediakan bentuk Node dan curl.

Lokal vs di-host — kapan menggunakan yang mana

Pengaturan umum: Ollama di localhost untuk pengembangan offline, Kunavo untuk kualitas yang di-host dalam produksi — satu variabel lingkungan dapat menukar keduanya. Untuk kontrak per bidang yang diterapkan kedua sisi — parameter, delta streaming, tool_calls, objek usage, dan tabel paritas terhadap permukaan v1 milik Ollama — lihat referensi /v1/chat/completions dan bagian kompatibilitas OpenAI Ollama.

Menemukan model saat runtime

Seperti /api/tags milik Ollama, Kunavo menyediakan katalog berbentuk OpenAI. Selesaikan slug saat runtime, bukan dengan hardcode:

# Discover every enabled model (OpenAI-shaped, like Ollama's /api/tags)
curl https://api.kunavo.com/v1/models \
  -H "Authorization: Bearer $KUNAVO_API_KEY"

Di luar chat

Kunci yang sama menjangkau endpoint gambar (/v1/images/generations), video (/v1/video/generations), dan audio — semuanya berbentuk OpenAI. Lihat panduan AI multimodal dan perbandingan OpenRouter untuk mengetahui perbedaan Kunavo dari gateway lain.

Ada satu permukaan yang melampaui definisi umum “compatible” dan perlu diketahui: POST /v1/responses. Codex CLI hanya menerima penyedia khusus melalui Responses API, sehingga sebagian besar gateway yang kompatibel dengan OpenAI sama sekali tidak dapat menggerakkannya — biaya Codex per token menyelesaikannya dengan blok konfigurasi yang dapat dijalankan. Untuk menetapkan harga workload GPT termasuk input yang di-cache, kalkulator harga API OpenAI menggunakan jumlah token Anda sendiri.

Pertanyaan umum