AnythingLLM vs. LibreChat: Wissensarbeitsbereiche oder Multi-Modell-Agenten

AnythingLLM und LibreChat sind beide kostenlos, MIT-lizenziert und selbst hostbar; die Wahl hängt also nicht vom Preis ab, sondern davon, ob der Abruf in das Produkt integriert oder daneben bereitgestellt wird. AnythingLLM macht Dokumente zur Arbeitseinheit: Dateien in einen Workspace legen, und Embedder sowie Vektorspeicher sind bereits vorhanden. LibreChat macht die Unterhaltung zur Arbeitseinheit: viele Modelle, viele Benutzer, rollenbasierte Berechtigungen und die Dokumentsuche als separaten Dienst, den Sie selbst einrichten.

Eine Korrektur des Blickwinkels vor dem Vergleich, denn sie verändert, wie Sie das Projekt lesen. LibreChat ist jetzt ein ClickHouse-Projekt: ClickHouse, Inc. gab am 4. November 2025 die Übernahme bekannt und erklärte, dass für bestehende Bereitstellungen „der Betrieb unverändert fortgesetzt wird und weiterhin in das Open-Source-Projekt und die Community investiert wird“; außerdem trägt librechat.ai heute noch das entsprechende Banner. AnythingLLM bleibt ein Produkt von Mintplex Labs. Jede unten zitierte Quelle wurde am 21. September 2026 geprüft; die Schlussnotiz nennt die Quellen, die für diese Seite direkt erneut gelesen wurden.

Welche Lösung zu Ihrer tatsächlichen Aufgabe passt

Was die Lösungen kosten und was „Pro“ bedeutet

Die Preise wurden am 21. September 2026 von anythingllm.com/cloud und den oben verlinkten Seiten abgelesen. In dieser Tabelle gibt es zwei Fallen. Erstens bezeichnet „AnythingLLM Pro“ zwei voneinander unabhängige Dinge — den gehosteten Cloud-Tarif für 99 $/monatlich und eine Desktop-Pro-Lizenz, die Desktop v1.15.0 oder höher erfordert und deren Preis auf keiner erreichbaren offiziellen Seite steht — daher ist ein Preis ohne Angabe, welcher der beiden gemeint ist, bedeutungslos. Zweitens widerspricht sich die eigene Terminologie des Anbieters: Auf der Preisseite stehen Basic und Pro, während die Cloud-Einschränkungsseite „Starter“ und „Professional“ nennt. Keine Quelle aus erster Hand ordnet die beiden Bezeichnungen einander zu; bestätigen Sie dies daher beim Checkout, statt anzunehmen, dass es sich um dieselben Tarife handelt.

Auf der LibreChat-Seite gibt es außerdem einen zeitlichen Widerspruch, den man kennen sollte: Eine GitHub-Diskussion vom 12. Februar 2026 zitiert den Plan, „dieses Angebot weiterzuentwickeln und diese API in ihrer derzeitigen Form einzustellen“, mit dem Zieltermin 1. Mai 2026; dennoch erklärt die Preisseite am 21. September 2026 weiterhin, dass bestehende Abonnenten ihre Abonnements verwalten können. Ob dieses Datum umgesetzt wurde, kann diese Seite nicht bestätigen.

Die Aufteilung beim Abruf — die eigentliche Entscheidung

AnythingLLM. Dokumente werden in einen Workspace gelegt, und die App indiziert sie selbst. Die Server-Umgebungsdatei enthält VECTOR_DB="lancedb" als einzigen nicht auskommentierten Wert; Chroma, Pinecone, Astra, pgvector, Weaviate, Qdrant, Milvus und Zilliz stehen daneben auskommentiert. Der Haken ist der Umfang: Die Dokumentation zum Embedder sagt: „Embedding-Modelle werden systemweit festgelegt und können nicht wie LLMs atomar pro Workspace konfiguriert werden“, und eine spätere Änderung bedeutet, dass Sie „Ihre hochgeladenen Dokumente löschen und erneut einbetten müssen“. Das sind die Migrationskosten dieses Produkts — sie fallen in Form von Re-Indexierungszeit statt Geld an.

LibreChat. Die Dokumentsuche ist überhaupt nicht in der Chat-App enthalten. Die RAG-API „läuft als separater FastAPI-Dienst mit einer PostgreSQL- und pgvector-Datenbank“, konfiguriert über RAG_API_URL und EMBEDDINGS_PROVIDER (openai, azure, huggingface, huggingfacetei oder ollama), mit Chunking-Standards von 1500 und einer Überlappung von 100. Agents greifen als file_search-Funktion darauf zu, und ein Administrator kann diese Funktion pro Rolle entziehen. Mehr Bereitstellung; mehr Kontrolle.

Kunavo stellt keine Embeddings, Sprach-zu-Text- oder Text-zu-Sprache-Funktionen bereit — kein aktiviertes Modell besitzt diese Endpunkte — daher verweisen in beiden Produkten der Embedder-Slot sowie die separaten Transkriptions- und Sprach-Slots von AnythingLLM auf einen entsprechenden Provider, während der Chat-Slot derjenige ist, den ein Kunavo-Schlüssel abdeckt. Die RAG-Implementierung beschreibt, wie diese Phasen aufgeteilt werden.

Agents, MCP und wer was ändern darf

Zwei Hinweise zu dieser Tabelle. Die LibreChat-Berechtigungsliste bezieht sich auf die Dokumentation zu 0.8.8-rc; da das Projekt kein stabiles Release-Tag veröffentlicht, enthält ein älteres gepinntes Image möglicherweise nicht alle Funktionen — prüfen Sie dies anhand der tatsächlich ausgeführten Version. Die AnythingLLM-Rollennamen stammen von der Seite „Security and Access“, die mit „DOCKER VERSION ONLY! Diese Einstellungen sind nur in der Docker-Version von AnythingLLM verfügbar“ beginnt — ein Satz darüber, wo sich die Einstellungen befinden, nicht darüber, dass Cloud für Einzelbenutzer ausgelegt ist, denn die Cloud-Dokumentation beschreibt Cloud als Mehrbenutzerbereitstellung.

Beide auf einen einzigen Schlüssel verweisen

Beide akzeptieren einen OpenAI-kompatiblen Endpunkt, weshalb der Betrieb beider Lösungen mit einem Schlüssel ein fairer Vergleich ist. Die Konfigurationen unterscheiden sich in für ein Gateway wichtigen Punkten.

# AnythingLLM — LLM Preference -> provider "OpenAI (generic)".
# Self-host env names, from server/.env.example on master:
LLM_PROVIDER='generic-openai'
GENERIC_OPEN_AI_BASE_PATH='https://api.kunavo.com/v1'
GENERIC_OPEN_AI_API_KEY=sk-kn-...
GENERIC_OPEN_AI_MODEL_PREF='claude-sonnet-5'      # typed by hand; no model-list fetch is documented
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=1000000
# Embeddings are a SEPARATE provider slot with its own key and its own base
# path (EMBEDDING_ENGINE / EMBEDDING_BASE_PATH / EMBEDDING_MODEL_PREF), and so
# are the transcription and speech slots. A working chat endpoint proves
# nothing about any of them.

# LibreChat — librechat.yaml in the project root, beside your .env.
endpoints:
  custom:
    - name: "Kunavo"                      # required
      apiKey: "${KUNAVO_API_KEY}"        # required; resolved from .env
      baseURL: "https://api.kunavo.com/v1"  # required
      models:                             # required
        default: ["claude-sonnet-5", "claude-haiku-4-5"]
        fetch: true
      # tokenConfig is what the docs say supplies a custom endpoint's rates and
      # context windows — read by context usage, cost breakdowns and balance
      # transactions. prompt/completion are USD per million tokens; context is
      # that model's own window. All three are required, per model.
      tokenConfig:
        claude-sonnet-5:
          prompt: 1.4
          completion: 7
          context: 1000000

Die eigene Dokumentation von AnythingLLM beschreibt diesen Provider als „LLM-Provider für Entwickler — Sie sollten ihn nur verwenden, wenn Sie wissen, was Sie tun“, der „möglicherweise nicht wie vorgesehen funktioniert, wenn Sie eine Konfigurationseinstellung falsch eingeben“. Sie sagt nicht, ob Tool-Aufrufe, Agents oder Streaming über diese Route erhalten bleiben; daher behauptet diese Seite keine der beiden Möglichkeiten. Die Referenz für benutzerdefinierte Endpunkte von LibreChat erfordert name, apiKey, baseURL und models und bietet zusätzlich eine Option, für die es bei AnythingLLM kein dokumentiertes Gegenstück gibt: provider: anthropic leitet denselben Block über den nativen Anthropic-Client weiter, wobei die Modell-IDs manuell angegeben werden müssen, da „OpenAI-Style models.fetch für native benutzerdefinierte Anthropic-Endpunkte nicht verwendet wird“. Noch eine Einschränkung, wenn jeder Benutzer seinen eigenen Endpunkt mitbringt: Mit baseURL: "user_provided" leitet LibreChat konfigurierte Header-Vorlagen nicht an dieses Ziel weiter.

Auch die Kostentransparenz ist asymmetrisch. LibreChat dokumentiert tokenConfig als die Angabe, die die Raten pro Million für einen benutzerdefinierten Endpunkt und die Kontextfenster definiert, sowie als Eingabe für Kontextverbrauch, Kostenaufschlüsselungen und Kontostandsbuchungen — ein Administrator trägt sie also wie oben für jedes Modell manuell ein; AnythingLLM hat keine eigene dokumentierte Ratentabelle pro Modell. Keine der beiden Lösungen sollte als Ihr Hauptbuch betrachtet werden. Die Einrichtung ist für beide dokumentiert: AnythingLLM und LibreChat.

Eine beispielhafte monatliche Schätzung

Dies ist eine veranschaulichende Tokenrechnung, keine gemessenen Kosten und keine Abrechnungsobergrenze. Angenommen, ein Workspace beantwortet monatlich 600 Fragen, wobei jede Frage 12,000 Eingabetokens aus System-Prompt, abgerufenen Passagen und kurzem Verlauf sendet und 600 Ausgabetokens zurückgibt. Die Raten sind die aktuellen Preise des Kunavo-Katalogs pro Million Tokens. Die rechte Spalte verdoppelt den abgerufenen Kontext, um den hier entscheidenden Hebel zu zeigen — wie viel Sie pro Frage abrufen, ist eine Preisentscheidung und in beiden Produkten identisch.

Lesen Sie dies zusammen mit der Abonnementzeile, nicht an ihrer Stelle. Unter diesen Annahmen kostet Claude Haiku 4.5 monatlich $6.30 an Tokens und liegt damit deutlich unter dem Basic-Tarif von AnythingLLM Cloud für 50 $/monatlich — die beiden sind jedoch kein Ersatz füreinander, denn dieser Tarif umfasst eine verwaltete private Instanz und erfordert zusätzlich, dass Sie einen Schlüssel mitbringen. Bei einer selbst gehosteten LibreChat- oder AnythingLLM-Docker-Instanz werden diese 50 $ stattdessen zu einem Posten auf Ihrer eigenen Serverrechnung.

Der Katalogbetrag von Kunavo ist eine Abrechnungsuntergrenze und keine Obergrenze: Sobald der vorgelagerte Anbieter seine Gebühren meldet, wird der höhere der beiden Beträge abgerechnet — die Katalogkosten oder die Kosten des vorgelagerten Anbieters multipliziert mit dem geltenden Aufschlagsfaktor. Gebühren für die Cache-Nutzung und externe Tools sind in diesem Beispiel nicht berücksichtigt. Die Mindestaufladung beträgt $10 als vorausbezahltes Guthaben — ein Mindestbetrag für die Guthabenaufladung, keine Aufgabengebühr und kein Abonnement. Siehe Details zur Abrechnung oder erstelle ein Kunavo-Konto, sobald du dich für einen Client entschieden hast. Eine detailliertere Aufschlüsselung der Ausgaben für die beiden Clients findest du unter AnythingLLM-API-Kosten und LibreChat-API-Kosten.

Sie ziehen eine dritte Option in Betracht? AnythingLLM vs. Open WebUI und LibreChat vs. Open WebUI führen denselben Vergleich mit einer gemeinsamen Alternative durch.

Häufig gestellte Fragen

Quellen geprüft am 21. September 2026. Beim Schreiben dieser Seite direkt erneut gelesen: anythingllm.com/cloud, die AnythingLLM-Cloud-Einschränkungen, Desktop Pro, Agent-, MCP-, Security-and-Access- und Embedder-Konfigurationsdokumentation, das AnythingLLM-Server-Umgebungsbeispiel, die Referenzen von LibreChat zu benutzerdefinierten Endpunkten, der Benutzeroberfläche, MCP und der RAG-API, die LibreChat-Releases-Liste und package.json, code.librechat.ai/pricing, der HTTP-Status von librechat.ai/pricing und /enterprise, die Code-Interpreter-Diskussion sowie die Beiträge zur ClickHouse-Übernahme und zur ClickHouse-Agents-Beta. Die Kunavo-Tokenraten stammen aus dem Live-Katalog; jedes Dollarbeispiel ist eine veranschaulichende Tokenrechnung, und Kunavo hat keinen der beiden Clients zur Laufzeit getestet — die verlinkten Einrichtungsseiten sind Konfigurationsreferenzen, keine Kompatibilitätstests.