AnythingLLM im Vergleich zu Open WebUI: RAG, Bereitstellung und Modellkosten

Wählen Sie AnythingLLM, wenn Sie ein workspace-orientiertes RAG-Produkt möchten, das bereits vollständig zusammengestellt geliefert wird — Dokumente, lokaler Embedder, lokaler Vektorspeicher und Agents in einer Installation. Wählen Sie Open WebUI, wenn Sie eine Multi-User-Chat-Plattform mit kostenloser rollenbasierter Zugriffskontrolle möchten und Ihren eigenen Modell-Endpunkt ohnehin mitbringen. Beide können kostenlos selbst gehostet werden, beide akzeptieren eine OpenAI-kompatible Basis-URL eines Drittanbieters plus Schlüssel, und in beiden Fällen besteht die laufende Rechnung aus Hosting plus Modell-Tokenkosten statt aus Softwarekosten.

Diese Seite beantwortet den Vergleich in beide Richtungen; es gibt keine separate Seite mit umgekehrter Reihenfolge, weil „AnythingLLM vs Open WebUI“ und „Open WebUI vs AnythingLLM“ dieselbe Entscheidung betreffen. Alles, was unten behauptet wird, stammt aus der jeweiligen Website, Dokumentation oder dem Repository des Projekts und wurde am 18. September 2026 geprüft. Kunavo hat keinen der beiden Clients zur Laufzeit getestet; daher gibt es hier keinen Benchmark, keine Latenzangabe und kein Urteil zur Retrieval-Qualität.

Ein Hinweis zur Benennung vor dem Vergleich: Open WebUI hieß früher Ollama WebUI und wurde umbenannt, nachdem das Ollama-Team erklärte, es wolle vermeiden, dass Nutzer das Projekt mit einem offiziellen, markenrechtlich geschützten Ollama-Produkt verwechseln — in der eigenen öffentlichen Diskussion zur Benennung des Projekts, von dem die Teamseite sagt, dass es von seinem Ersteller und Gründer Tim J. Baek geleitet wird. Forks, die weiterhin den alten Slogan tragen, sind kein separater aktiver Wettbewerber. Ebenso wenig sind text-generation-webui, die Stable-Diffusion-Web-UI, oder die any-llm-Bibliothek von Mozilla AI separate Wettbewerber.

Wer sollte was auswählen

Die Migration zwischen beiden ist in einer Richtung günstiger als erwartet und in der anderen nicht. Die Chat-Verbindung ist portierbar: Dieselbe Basis-URL und derselbe Schlüssel lassen sich innerhalb weniger Minuten übertragen. Ihre Dokumente sind es nicht — jedes Produkt besitzt sein eigenes Workspace- oder Wissensmodell und seinen eigenen Vektorspeicher; ein Wechsel bedeutet daher, das Korpus erneut einzulesen und einzubetten. Zwei Einbahnstraßen sollten Sie kennen, bevor Sie sich festlegen: Die Dokumentation von AnythingLLM erklärt, dass Sie, sobald sich eine Instanz im Multi-User-Modus befindet, nicht zum Single-User-Modus zurückkehren können. Außerdem wird AnythingLLM Desktop als Einzelbenutzer-Anwendung beschrieben. Ein Desktop-Pilot, der zu einer Team-Bereitstellung wächst, wird daher zu einem Wechsel auf Docker und nicht zu einem Upgrade.

Was die beiden jeweils kosten

Quellen, alle am 18. September 2026 geprüft: AnythingLLM Pricing, die Übersicht zu Desktop Pro, die Enterprise-Lizenzierung von Open WebUI und die Lizenzseite. Drei Hinweise. Erstens bezeichnet „AnythingLLM Pro“ zwei voneinander unabhängige Produkte — die gehostete Cloud-Stufe für 99 $ und den Lizenzschlüssel für Desktop Pro — daher ist ein Preis ohne Angabe des jeweiligen Produkts bedeutungslos. Zweitens wird nirgendwo ein Preis für Desktop Pro veröffentlicht: Die einzige erreichbare Checkout-URL lehnte am Prüftag Anfragen außerhalb eines Browsers ab. Behandeln Sie den Betrag daher als unbestätigt und lesen Sie ihn im Checkout. Drittens verwenden die eigenen Seiten des Anbieters unterschiedliche Namen für die Stufen — die Preisseite sagt Basic und Pro, während die Seite zu den Cloud-Einschränkungen dieselben Stufen Starter und Professional nennt. Bestätigen Sie beim Checkout, welche Stufe Sie kaufen, und verlassen Sie sich dabei nicht auf den Namen.

AnythingLLM Cloud ist außerdem die Edition mit den stärksten funktionalen Einschränkungen, die aus dem Preis nicht unmittelbar ersichtlich sind. Auf dieser Seite steht, dass die gehostete Cloud keinen integrierten LLM mitliefert, dass das Hochladen eines großen Dokuments — groß gemessen in Wörtern, nicht in Dateigröße — die CPU überlasten, den Prozess beenden und einen 502 erzeugen kann, dass benutzerdefinierte Agents nicht unterstützt werden und dass MCP nicht unterstützt wird. Wenn MCP oder benutzerdefinierte Agents der Grund für Ihre Bewertung von AnythingLLM sind, ist die gehostete Stufe unabhängig vom Budget die falsche Edition.

Die RAG-Kosten, Zeile für Zeile

Die gängige Annahme ist, dass eine Dokumenten-Chat-Konfiguration Inferenz, Embedding, Reranking und Speicherung separat abrechnet. Diese Bestandteile sind in beiden Produkten separat konfigurierbar, aber standardmäßig wird nur einer davon separat abgerechnet: Beide verwenden standardmäßig einen lokalen MiniLM-Embedder und einen lokalen Speicher, und keines sendet Reranking an eine API, sofern Sie es nicht auf eine solche richten.

Zwei Konsequenzen. Wenn Sie eine Embedding-Position budgetiert hatten, streichen Sie sie, bis Sie bewusst eine solche aktivieren. Kunavo stellt kein Embedding-Modell bereit und ebenso wenig ein Text-to-Speech- oder Speech-to-Text-Modell; sein Katalog führt nur Chat-, Bild-, Video- und Musikmodelle auf. Daher ist es heute keine Option, den Embedder, den Transkriptionsprovider oder den Sprachprovider eines der beiden Produkte auf Kunavo zu richten — behalten Sie den lokalen Standard bei. Wenn Sie Embeddings in Open WebUI zu einem externen Provider verlagern, weist die eigene Referenz darauf hin, dass RAG_EMBEDDING_BATCH_SIZE standardmäßig auf 1 gesetzt ist, also eine Anfrage pro Chunk, wodurch ein großer Import langsam wird, bevor er teuer wird. Dieselbe Seite warnt, dass der standardmäßige Chroma-Speicher einen SQLite-Client verwendet, der über mehrere Worker oder Replikate hinweg nicht sicher ist — eine Skalierungsentscheidung, keine Kostenentscheidung, aber sie fällt in dasselbe Projekt. Zum Pipeline-Design selbst siehe unseren Leitfaden zur RAG-Implementierung.

Eine der beiden Lösungen auf einen Endpunkt richten

Beide akzeptieren eine OpenAI-kompatible Basis-URL und einen Schlüssel, und die beiden Formen unterscheiden sich stärker als das zugrunde liegende Konzept.

# AnythingLLM — LLM Preference -> provider "Generic OpenAI"
Base URL              https://api.kunavo.com/v1   # the /v1 root, handed verbatim to the OpenAI SDK
API Key               sk-kn-...
Model context window  <your model's context window>   # defaults to 4096 if left blank
Max Tokens            4096                        # defaults to 1024 if left blank
Selected Model        claude-sonnet-5

# …or as environment variables on the Docker build:
LLM_PROVIDER='generic-openai'
GENERIC_OPEN_AI_BASE_PATH='https://api.kunavo.com/v1'
GENERIC_OPEN_AI_API_KEY=sk-kn-...
GENERIC_OPEN_AI_MODEL_PREF='claude-sonnet-5'
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=<your model's context window>   # falls back to 4096

# Open WebUI — Settings -> Admin -> Connections -> Manage OpenAI API Connections -> Add
URL                   https://api.kunavo.com/v1
API Key               sk-kn-...

# …or at container start:
docker run -d -p 3000:8080 \
  -e OPENAI_API_BASE_URL=https://api.kunavo.com/v1 \
  -e OPENAI_API_KEY=sk-kn-... \
  -v open-webui:/app/backend/data \
  --name open-webui ghcr.io/open-webui/open-webui:main

Vier Details entscheiden darüber, ob es beim ersten Versuch funktioniert. Das URL-Suffix: Die eigene .env.example von AnythingLLM gibt den Basispfad mit /v1 an, und der Quellcode des Providers klärt den Rest: Der Wert wird unverändert als baseURL an das OpenAI SDK übergeben, sodass das SDK seine eigene Route an Ihre Eingabe anhängt. Verwenden Sie /v1 als Basispfad. Die Provider-Warnung: AnythingLLM bezeichnet diese Verbindung als einen auf Entwickler ausgerichteten Provider und warnt, dass sie „möglicherweise nicht wie vorgesehen funktioniert, wenn Sie eine Konfigurationseinstellung falsch eingeben“ — womit wir beim dritten Detail sind, den problematischen Standardwerten. Im oben verlinkten Quellcode des Providers wird die maximale Tokenanzahl auf 1024 und das Kontextfenster für Prompts auf 4096 gesetzt, wenn die entsprechenden Umgebungsvariablen nicht gesetzt sind. Antworten, die aufgrund dieser Standardwerte abgeschnitten werden, sehen genauso aus wie ein Gateway-Fehler. Viertens: Die Modellerkennung ist bei beiden optional. Der Generic OpenAI-Provider von AnythingLLM prüft die Modell-ID niemals vorab auf Gültigkeit — der oben verlinkte Quellcode überspringt die Prüfung, weil er nach eigener Aussage in der Datei nicht weiß, ob das Modell gültig ist. Das ist das Verhalten dieses Providers, keine Aussage über die nach Namen aufgeführten Provider von AnythingLLM. Open WebUI wiederum dokumentiert, dass bei einem Provider, der /models nicht implementiert, die Verbindungsprüfung fehlschlägt, dass dies „nicht bedeutet, dass der Provider inkompatibel ist: Chat Completions funktionieren weiterhin“, und dass Sie die Modellnamen dann von Hand zur Model IDs-Zulassungsliste hinzufügen sollten.

Dieselbe Seite veröffentlicht den Endpunktvertrag klar: /v1/chat/completions ist die erforderliche Route, während /v1/models, /v1/embeddings, /v1/audio/speech, /v1/audio/transcriptions und /v1/images/generations optional sind und jeweils eine Funktion freischalten. Welche der fünf optionalen Routen ein bestimmter Endpunkt beantwortet, ist Sache dieses Endpunkts. Die hier relevante Aussage ist eng gefasst: Kunavo stellt kein Embedding-Modell und weder Text-to-Speech noch Speech-to-Text bereit; daher bleiben die RAG-, TTS- und STT-Einträge dieser Liste bei der jeweils zuvor konfigurierten Lösung. Außerdem wird erklärt, dass Open WebUI „keine anbieterspezifischen, nicht standardisierten APIs im Kern implementiert“ und dass solche Provider über einen Middleware-Proxy oder eine seiner Pipe-Funktionen angebunden werden sollten. AnythingLLM veröffentlicht keinen gleichwertigen Vertrag, aber sein .env.example und der Provider-Quellcode bieten zwei nützliche Auswege: GENERIC_OPEN_AI_CUSTOM_HEADERS für Gateways, die eine zusätzliche Authentifizierung benötigen, und GENERIC_OPENAI_STREAMING_DISABLED, um Streaming zu deaktivieren, wenn der Event-Stream eines Providers fehlerhaft arbeitet.

Eine Bereitstellungsfalle betrifft speziell Open WebUI. Die Funktion Direct Connections ermöglicht es normalen Nutzern, eine eigene Basis-URL und einen eigenen Schlüssel hinzuzufügen, sobald ein Administrator dies aktiviert. Der Browser kommuniziert dabei jedoch direkt mit dem API-Provider, weshalb dieser Cross-Origin-Anfragen von Ihrer Open-WebUI-Domain zulassen muss — die Seite weist darauf hin, dass strikte Provider direkte Browser-Anfragen aus CORS-Gründen blockieren können. Das ist eine Eigenschaft der von Ihnen gewählten API, nicht von Open WebUI, und sollte getestet werden, bevor Sie die Funktion einem Team versprechen. Eine weitere Hostname-Regel ist wichtig, wenn Sie wegen Claude hier sind: Die Anthropic-Seite von Open WebUI sagt, dass jede URL, die api.anthropic.com enthält, erkannt wird und für diesen Host eine spezielle Behandlung der Modellliste sowie ein /api/v1/messages-Passthrough erhält; jeder andere Hostname, einschließlich eines Gateways, ist eine gewöhnliche OpenAI-kompatible Verbindung. Eine allgemeine Erklärung dazu, was „kompatibel“ abdeckt und was nicht, finden Sie im Leitfaden zur OpenAI-kompatiblen API.

Was ein Monat Dokumenten-Chat kostet

Da die Software bei beiden Produkten kostenlos ist, sind Modell-Token der variable Faktor. Retrieval-augmentierte Interaktionen sind eingabelastig: Jede Frage enthält die abgerufenen Textabschnitte, den System-Prompt und einen Teil des Verlaufs. Nehmen wir 200 Interaktionen pro Monat, 6.000 Eingabe-Token und 500 Ausgabe-Token pro Interaktion an — 1,2 Millionen Eingabe- und 100.000 Ausgabe-Token.

Dies ist eine Token-Berechnung auf Grundlage der obigen Annahmen zu den aktuellen Kunavo-Katalogtarifen — eine illustrative Schätzung, keine gemessene Auslastung und keine Obergrenze für Ihre Rechnung. Ihre eigene Anzahl an Textabschnitten, die Länge des Verlaufs und Ihr Wiederholungsverhalten beeinflussen die Kosten stärker als die Modellwahl. Beachten Sie außerdem, dass der günstigste aufgeführte Tarif und die niedrigsten Kosten zum Abschließen einer Aufgabe zwei unterschiedliche Aussagen sind: Ein schwächeres Modell, das bei einer schwierigen Retrieval-Frage drei Versuche benötigt, kann mehr kosten als eines, das einmalig antwortet. Der Katalogbetrag von Kunavo ist eine Abrechnungsuntergrenze — wenn der Upstream-Anbieter seine Kosten meldet, entspricht die Rechnung dem höheren Betrag aus den Katalogkosten und den Upstream-Kosten zuzüglich des geltenden Aufschlags — und die minimale Aufladung beträgt 10 $ als Prepaid-Guthaben, kein Abonnement. Cache-Gebühren und externe Tools sind in diesem Beispiel nicht enthalten; siehe Abrechnungsdetails.

Mehrere Nutzer, Berechtigungen und die Lizenzfrage

Hier unterscheiden sich die beiden Produkte am stärksten, und es geht nicht um die Anzahl der Funktionen — entscheidend ist, welchen Build Sie ausführen. Die Desktop-Übersicht von AnythingLLM bezeichnet Desktop als „single-player“-Anwendung und führt Unterstützung für mehrere Nutzer, Nutzerverwaltung, Verwaltung des Arbeitsbereichszugriffs, Passwortschutz, White-Labeling, einbettbare Chat-Widgets und eine über den Browser zugängliche Benutzeroberfläche als ausschließlich Docker-basiert auf. In der Tabelle sind zwei Zeilen umgekehrt gekennzeichnet, als ausschließlich für Desktop verfügbar: Ein-Klick-Installation und ein integrierter LLM-Anbieter. AnythingLLM für ein Team bedeutet also den Docker-Build, und die Aktivierung des Mehrbenutzermodus ist irreversibel.

Open WebUI geht von Anfang an von mehreren Nutzern aus. Seine drei Rollen — Admin, User und Pending sowie Berechtigungsgruppen und die Zugriffssteuerung pro Modell enthalten in der RBAC-Dokumentation an keiner Stelle eine Lizenzbeschränkung. Beschränkt ist das Branding: Bei mehr als 50 Nutzern innerhalb eines Zeitraums von 30 Tagen müssen der Name und die Marken von Open WebUI sichtbar bleiben, sofern Sie keine Enterprise-Lizenz besitzen, und bei Terminals — die pro Nutzer einen Arbeitsbereich mit separaten Dateien und Prozessen bereitstellen — wird angegeben, dass für den produktiven Einsatz eine Enterprise-Lizenz erforderlich ist. Wenn Sie einen White-Label-internen Assistenten für eine große Organisation benötigen, ist diese Klausel — nicht eine Funktion — die entscheidende Tatsache, und das Docker-White-Labeling von AnythingLLM ist die Alternative, deren Preis Sie mit einem Enterprise-Angebot vergleichen sollten.

Aktueller Stand beider Projekte zum Prüftag, laut GitHub API: AnythingLLM ist MIT-lizenziert, nicht archiviert, die neueste Version v1.16.1 wurde am 27. August 2026 veröffentlicht; Open WebUI ist nicht archiviert, die neueste Version v0.11.3 wurde am 31. August 2026 veröffentlicht, und die Lizenz wird als NOASSERTION angegeben, weil es sich um eine eigene statt um eine standardisierte OSS-Lizenz handelt. Nach diesen beiden Signalen — eine Veröffentlichung im letzten Monat und ein nicht archiviertes Repository — ist keines der beiden Projekte inaktiv.

Wo ein Gateway ins Spiel kommt

Keines der beiden Produkte verkauft Ihnen Inferenz, daher benötigen beide einen Modellendpunkt, und beide können auf denselben Endpunkt verweisen — dadurch wird ein direkter Vergleich günstig: Installieren Sie beide, geben Sie jeweils eine Basis-URL und einen Schlüssel an und vergleichen Sie sie mit identischen Modellen statt anhand einer Vergleichstabelle. Kunavo stellt die OpenAI-kompatible Schnittstelle bereit, die beide unterstützen. Für eines der beiden existiert eine veröffentlichte Einrichtungsanleitung, und dabei handelt es sich auf unserer Seite um eine schriftliche Anleitung, nicht um einen Kompatibilitätstest: Open WebUI mit Kunavo verbinden und anschließend ein Kunavo-Konto erstellen, sobald Sie einen Schlüssel dahinterlegen möchten. Verwenden Sie für AnythingLLM die oben beschriebene Zuordnung der Generic-OpenAI-Felder. Wenn Sie noch Benutzeroberflächen in die engere Auswahl nehmen, behandelt LibreChat vs. Open WebUI den dritten gängigen Kandidaten.

Häufig gestellte Fragen

Anbieterpreise, Lizenzbedingungen, Versionsnummern, Standardkonfigurationswerte und Dokumentationszitate wurden am 18. September 2026 anhand von anythingllm.com, docs.anythingllm.com, docs.openwebui.com, den jeweiligen Projekt-Repositories und der GitHub API geprüft; alle sind oben verlinkt. Die Token-Tarife von Kunavo stammen aus dem Live-Katalog; die Monatswerte sind illustrative Schätzungen auf Grundlage der angegebenen Token-Annahmen. Kunavo hat keinen der beiden Clients zur Laufzeit getestet.