LibreChat

LibreChat nimmt ein Gateway als endpoints.custom-Block in librechat.yaml — vier Pflichtfelder, den Schlüssel aus .env und einen Neustart, bevor es in der Auswahl erscheint.

# librechat.yaml — project root, beside your .env
version: 1.3.5          # the value the documentation's own example carries

endpoints:
  custom:
    # Required: name, apiKey, baseURL, models. The name must be unique and
    # must not reuse a built-in endpoint name such as openAI or anthropic.
    - name: "Kunavo"
      apiKey: "${KUNAVO_API_KEY}"        # resolved from .env, not written here
      # Keep the /v1. LibreChat appends /chat/completions to this by default.
      baseURL: "https://api.kunavo.com/v1"
      models:
        default: ["claude-sonnet-5", "claude-haiku-4-5"]
        fetch: true                      # fills the picker from GET /v1/models
      titleConvo: true
      titleModel: "claude-haiku-4-5"         # titles are a separate call — pin a cheap id
      modelDisplayLabel: "Kunavo"

      # Optional but worth the four lines: without it LibreChat prices your
      # traffic from a table it ships. prompt/completion are USD per million
      # tokens; context is that model's own window. All three required.
      tokenConfig:
        claude-sonnet-5:
          prompt: 1.4
          completion: 7
          context: 1000000
        claude-haiku-4-5:
          prompt: 0.7
          completion: 3.5
          context: 200000

Schritt für Schritt

1. Erstellen Sie unter /app/keys einen Schlüssel und kopieren Sie ihn — er wird nur einmal angezeigt.
2. Binden Sie unter Docker zuerst die Konfiguration ein: Laut Schnellstart müssen Sie docker-compose.override.yml.example nach docker-compose.override.yml kopieren und das Volume librechat.yaml einkommentieren. Bei einer Bare-Metal-Installation entfällt dieser Schritt.
3. Erstellen oder bearbeiten Sie librechat.yaml im Projektstamm, also im selben Verzeichnis wie .env, und fügen Sie den obigen Eintrag endpoints.custom hinzu.
4. Legen Sie den Schlüssel unter .env als KUNAVO_API_KEY=sk-kn-... ab. Der Platzhalter ${KUNAVO_API_KEY} in der YAML-Datei wird von dort aus aufgelöst. So bleibt das Geheimnis aus der Konfigurationsdatei heraus, die Sie einchecken.
5. Starten Sie LibreChat neu und öffnen Sie dann die Endpunktauswahl: Kunavo erscheint neben den integrierten Anbietern als eigener Eintrag. Die Modellliste wird entweder von GET /v1/models abgerufen oder – falls der Abruf fehlschlägt – Ihrem Array models.default entnommen.
6. Senden Sie eine Nachricht und prüfen Sie anschließend, ob der Modellwähler tatsächlich zwischen Modellen wechselt. Da die IDs am Endpunkt aufgelöst werden, sind Claude- und GPT-IDs unter demselben Eintrag hier normal und kein Konfigurationsfehler.

Abgeglichen mit Referenz zu LibreChats benutzerdefiniertem Endpunktobjekt am 21. September 2026. Einstellungen von Drittanbietern können sich ändern; wenn ein Feldname hier nicht mehr mit deiner Ansicht übereinstimmt, ist diese Seite maßgeblich, nicht diese hier.

Vor dem Debugging des Clients prüfen

Eine Anfrage klärt, ob der Fehler am Endpunkt, am Schlüssel oder an der Konfigurationsdatei liegt. Wenn diese Anfrage JSON zurückgibt, funktionieren dieselbe Basis-URL und derselbe Schlüssel in LibreChat.

# Settles whether a failure is the endpoint, the key, or the client.
curl -sS https://api.kunavo.com/v1/models \
  -H "Authorization: Bearer sk-kn-..."

Welche Modell-ID in das Feld gehört

Jedes Textmodell ist über eine Modell-ID erreichbar – die aktuelle Liste findest du unter GET /v1/models, den Katalog mit Preisen auf der Modellseite. Die Tarife sind USD pro 1 Mio. Token, Eingabe / Ausgabe.

Drei optionale Felder mit unterschiedlichem Verhalten hinter einem Gateway

Alle Angaben in dieser Tabelle stammen aus derselben Feldreferenz, die am oben genannten Datum eingesehen wurde. Sie beschreibt die eigene Konfiguration von LibreChat – kein Testergebnis von Kunavo und keine Aussage darüber, wie sich eine bestimmte Modell-ID verhält, sobald die Anfrage den Client verlässt.

Die Anleitung in vier Schritten – einbinden, konfigurieren, Umgebungsvariable setzen, neu starten – finden Sie auf LibreChats Schnellstartseite für benutzerdefinierte Endpunkte. Dort dient ein Gateway als Beispiel.