AnythingLLM-Alternativen: Was bei einem Wechsel tatsächlich migriert

Die richtige AnythingLLM-Alternative hängt davon ab, welche der drei Editionen Sie verlassen — Desktop, selbst gehostetes Docker oder Cloud —, da sie aus unterschiedlichen Gründen an ihre Grenzen stoßen. Open WebUI und LibreChat sind die ähnlichsten direkten Alternativen für Multi-User-Chat über Dokumente; RAGFlow ist die richtige Wahl, wenn die Abrufqualität das Problem ist; Onyx eignet sich für unternehmensweite Suche über Konnektoren; LM Studio und Jan passen zu Nutzern, die eigentlich nur ein lokales Chatfenster wollten.

Was in den Markenlisten fehlt, ist die Rechnung für den Umstieg. AnythingLLM exportiert den Chatverlauf und sonst nichts, keine der hier genannten Alternativen dokumentiert einen Importer dafür, und das Tool, das Sie verlassen, ist nicht in Schwierigkeiten — Mintplex-Labs/anything-llm steht unter MIT, ist nicht archiviert, hatte noch am 17. September 2026 Commits im Standard-Branch und veröffentlichte am 27. August 2026 v1.16.1 (GitHub API, am 21. September 2026 erneut geprüft). Sie haben also Zeit, den Umstieg ordentlich durchzuführen.

Warum Nutzer wechseln und welche Edition sie verlassen

Vier Beschwerden machen den größten Teil aus, und jede davon ist eine dokumentierte Eigenschaft einer bestimmten Edition statt eines allgemeinen Mangels.

Gelesen am 19. September 2026 auf der Seite zu den Cloud-Einschränkungen, der Desktop-Übersicht und der Preisseite. Zwei Namensfallen, bevor Sie irgendetwas vergleichen. Die eigenen Oberflächen von AnythingLLM widersprechen sich bei den Namen der Stufen — auf der Preisseite stehen Basic und Pro, in der Dokumentation Starter und Professional, und nichts führt sie zusammen —, prüfen Sie daher, welche Stufe Ihr Konto verwendet. Außerdem bezeichnet „Pro“ zwei voneinander unabhängige Produkte: Cloud Pro für $99/monatlich und AnythingLLM Desktop Pro, einen Lizenzschlüssel für Desktop v1.15.0 und höher. Die Desktop-Pro-Seite beschreibt die Funktionen, veröffentlicht aber keinen Preis, und anythingllm.com/pro liefert 404; jeder Betrag, den Sie mit diesem Namen verbunden sehen, stammt daher von anderer Stelle. Für Cloud Basic oder Pro ist außerdem weder eine Sitzanzahl noch ein Speicher- oder Nutzungskontingent veröffentlicht.

Beachten Sie, was auf dieser Liste nicht steht: die Kosten der Modelle selbst. Diese Rechnung entfällt unabhängig davon nicht, zu welchem selbst gehosteten Tool Sie wechseln, da jedes davon voraussetzt, dass Sie den Schlüssel bereitstellen. Sie ist jedoch nicht identisch — die Abrufstandards unterscheiden sich zwischen diesen Produkten, und sie bestimmen, wie viel Kontext jede Frage mitführt.

Welche Alternative zu welcher Aufgabe passt

Preise und Repository-Metadaten wurden am 19. September 2026 anhand von Open WebUIs Enterprise-Seite, librechat.ai, onyx.app/pricing, ragflow.io, dify.ai/pricing, LM Studios Lizenzbeitrag, msty.ai/pricing und der GitHub API geprüft. Drei Hinweise. Die $29 und $129 von RAGFlow sind Werbepreise, die durchgestrichen von $59 und $259 angezeigt werden, ohne angegebenes Enddatum; außerdem wird auf der Seite nie definiert, was eines der „credits“ kauft. Die Branding-Klausel von Open WebUI, die auf der Lizenzseite und in der LICENSE-Datei des Repositorys ausdrücklich genannt wird, ist das Detail, das die meisten übersehen: Die Beibehaltung des Brandings ist der kostenlose Weg; das Entfernen oder Ändern ist nur zulässig, wenn die Bereitstellung in einem rollierenden Zeitraum von 30 Tagen höchstens fünfzig Endnutzer hat, wenn eine ausdrückliche vorherige schriftliche Genehmigung des Copyright-Inhabers vorliegt oder unter einer Enterprise-Lizenz. Und Onyx ist ein stark kollidierender Name — nur onyx.app kann Onyx-Preise liefern; eine Suche ohne Domain führt zu einem macOS-Wartungsprogramm, einem Anbieter von Druck-RIPs und mehreren anderen Unternehmen.

Vier Projekte, die nicht dem entsprechen, was ältere Artikel behaupten

Alternativenlisten veralten schneller als die darin aufgeführten Produkte. Diese vier werden weiterhin häufig empfohlen und sollten nicht in die engere Auswahl kommen, ohne ihren aktuellen Status zu kennen; alle Angaben wurden am 19. September 2026 geprüft.

Noch ein Fall, den Sie vorsichtig behandeln sollten: Das Repository von Quivr verweist inzwischen auf eine andere GitHub-Organisation, und in der README wird eine RAG-Kernbibliothek statt einer Endnutzeranwendung beschrieben. Es wurde keine datierte Ankündigung gefunden, die den Wechsel erklärt; das ist daher eine Tatsache über die Weiterleitung, nicht über eine Übernahme.

Was migriert wird und was nicht

Das sind die Kosten, die Ihre engere Auswahl bestimmen sollten, und sie sind für jedes Ziel auf dieser Seite gleich.

Was Sie mitnehmen: Chatverlauf, in genau vier Formaten — CSV, JSON, JSONL und JSON (Alpaca) — bereitgestellt über AnythingLLMs /system/export-chats-Endpunkt. Das ist die vollständige Liste der Exporttypen im ausgelieferten Quellcode.

Was nicht: alles andere. Die Dokumentation von AnythingLLM wurde nach einem Dokumentexport, einem Vektorexport oder einem dokumentierten Sicherungs- und Wiederherstellungsverfahren durchsucht; nichts davon wurde gefunden. Das ist fehlende Evidenz und kein Beweis der Unmöglichkeit — aber Sie können eine Migration nicht auf einem undokumentierten Weg planen. Für Workspaces, Embeddings und die Dokumente selbst gibt es keinen dokumentierten Weg nach außen. Die Importzeichenfolgen des Community Hub übertragen Agent-Skills, System-Prompts und Slash-Befehle — die drei von der Dokumentation als unterstützt aufgeführten Elementtypen —, jedoch nur zwischen AnythingLLM-Instanzen; bei selbst gehosteten Installationen schlagen Skill-Importe fehl, sofern COMMUNITY_HUB_BUNDLE_DOWNLOADS_ENABLED nicht gesetzt ist. Keine Alternative auf dieser Seite dokumentiert einen Importer für AnythingLLM-Daten; genau das habe ich in der jeweiligen Dokumentation der einzelnen Produkte geprüft. LibreChat ist das einzige Produkt, das überhaupt einen Konversationsimport dokumentiert, und die genannten Quellen sind ChatGPT, Claude und ChatbotUI v1 — nicht AnythingLLM.

Migration bedeutet also eine erneute Aufnahme, und diese hat eine zwingende Voraussetzung: Ihre ursprünglichen Quelldateien müssen außerhalb der App vorhanden sein. Praktisch bedeutet das:

1. Exportieren Sie zuerst den Chatverlauf, solange die Instanz noch läuft. Das ist der einzige Export von AnythingLLM und dokumentiert, was die Nutzer tatsächlich gefragt haben — später hilfreich, um zu beurteilen, ob die Alternative ebenso gut antwortet.
2. Sammeln Sie die ursprünglichen Dokumente dort, wo sie herkommen — auf dem gemeinsamen Laufwerk, im Wiki, im Ticketsystem —, nicht innerhalb von AnythingLLM.
3. Kopieren Sie den Desktop-Speicherordner vor der Deinstallation in einen Kalt-Speicher. Die dokumentierten Speicherorte sind /Users/<usr>/Library/Application Support/anythingllm-desktop/storage unter macOS, ~/.config/anythingllm-desktop/storage/ unter Linux und C:\Users\<usr>\AppData\Roaming\anythingllm-desktop\storage unter Windows; darin befindet sich anythingllm.db die SQLite-Datenbank. Behandeln Sie dies strikt als Sicherung: Die Dokumentation enthält keine Anweisungen zur Migration, Sicherung oder Wiederherstellung, und es wurde hier nicht getestet, ob der Ordner auf einen anderen Rechner oder in Docker verschoben werden kann.
4. Stellen Sie die Alternative neben der alten Instanz bereit und nehmen Sie die Daten erneut auf. Stellen Sie anschließend beiden Instanzen zehn Fragen, deren Antworten Sie bereits kennen, und vergleichen Sie sie. Die Abrufstandards unterscheiden sich zwischen diesen Produkten; dasselbe Korpus garantiert daher nicht dieselben Antworten.
5. Führen Sie ein Rollback durch, indem Sie nichts tun. Lassen Sie AnythingLLM laufen, bis Schritt 4 erfolgreich ist; AnythingLLM speichert Vektoren standardmäßig in einer instanzinternen LanceDB, sodass der alte Index auf Ihrer eigenen Festplatte liegt und nicht in einem gekündigten Dienst.

Den neuen Client auf einen Modellendpunkt verweisen

Jedes der sieben folgenden Produkte akzeptiert einen Drittanbieter-Endpunkt in einem eigenen Provider-Feld, und jedes hat eine andere Hürde. Das Feld ist in allen Fällen OpenAI-kompatibel; Jan und LibreChat verwenden auf Wunsch auch das Anthropic-Messages-Format. LM Studio und Msty Studio fehlen absichtlich in dieser Tabelle — für keines von beiden konnte auf dieser Seite ein dokumentierter Pfad zu einem entfernten Endpunkt festgestellt werden. Dies ist der Schritt der Neukonfiguration; wenn Sie die Hürde im Voraus kennen, bleibt er kurz.

Jede oben genannte Hürde ist der eigenen Einrichtungsseite des jeweiligen Produkts entnommen: AnythingLLMs OpenAI-Provider (generic), Open WebUIs OpenAI-kompatibler Leitfaden, die Referenz zu benutzerdefinierten Endpunkten von LibreChat, Onyxs Seite zum benutzerdefinierten Inference-Provider, RAGFlows Einrichtung des Model API Key, Jans Seite zu benutzerdefinierten Endpunkten und die README von PrivateGPT.

Eine Abgrenzung sollte geklärt sein, bevor Sie irgendetwas konfigurieren. In AnythingLLM, LibreChat, RAGFlow, Dify und Cherry Studio wird der Embedder als separater Provider vom Chatmodell registriert, mit eigenem Basispfad und eigenem Schlüssel. Kunavo stellt kein Embedding-Modell und kein Speech-to-Text-Modell bereit; ein Embedder, der auf Kunavo verweist, liefert daher den Fehler „model is not available“. Chat Completions sind die einzige Stufe einer RAG-Pipeline, die Kunavo beantworten kann. Lassen Sie den Embedder beim gebündelten lokalen Modell oder bei einem separaten Anbieter:

# Chat goes to an OpenAI-compatible endpoint.
LLM_PROVIDER='generic-openai'
GENERIC_OPEN_AI_BASE_PATH='https://api.kunavo.com/v1'
GENERIC_OPEN_AI_API_KEY='sk-...'
GENERIC_OPEN_AI_MODEL_PREF='claude-haiku-4-5'
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=200000

# Embeddings do NOT. Kunavo serves no embedding model, so the
# embedder stays on the bundled local one (or another vendor).
EMBEDDING_ENGINE='native'
EMBEDDING_MODEL_PREF='Xenova/all-MiniLM-L6-v2'

Diese Trennung ist keine Besonderheit von AnythingLLM: Die RAG-API von LibreChat verfügt über ein eigenes EMBEDDINGS_PROVIDER und ein eigenes RAG_OPENAI_BASEURL, und RAGFlow, Dify und Cherry Studio registrieren Embedding-Modelle jeweils an einer anderen Stelle als Chatmodelle. Planen Sie auch die beiden Hälften getrennt ein. Informationen zur Retrieval-Seite des Designs finden Sie unter RAG implementation; Informationen dazu, was die kompatible Oberfläche abdeckt und was nicht, unter OpenAI-compatible API.

Was ein Monat Chat nach dem Wechsel kostet

Der Client ist in fast jeder oben aufgeführten Zeile kostenlos, daher sind Tokens die wiederkehrende Zahl. Dies ist eine illustrative Tokenrechnung, keine gemessenen Kosten und keine Abrechnungsobergrenze. Nehmen wir ein kleines Team an, das 1.200 Fragen pro Monat stellt, wobei jede Anfrage 6.000 Eingabe-Tokens sendet (abgerufene Chunks, System-Prompt und etwas Verlauf) und 500 Ausgabe-Tokens zurückgibt — 7,2 Mio. Eingabe- und 0,6 Mio. Ausgabe-Tokens pro Monat. Die Preise sind aktuelle Kunavo-Katalogpreise pro Million Tokens.

Zwei Betrachtungen. Erstens verändert bei diesem Umfang die Modellwahl die Rechnung zwischen der günstigsten und der teuersten Zeile um ungefähr den Faktor 2.0, während die Retrieval-Einstellungen, die bestimmen, wie viele Chunks in diesen 6.000 Eingabe-Tokens landen, im Client und nicht beim Provider festgelegt werden — passen Sie daher zuerst den Client an, bevor Sie nach Preisen suchen. Zweitens stellen Sie die Zahlen den Hostingkosten gegenüber: Ein Cloud-Plan für $50/monatlich umfasst das Hosting und verlangt weiterhin, dass Sie den Schlüssel mitbringen; der Vergleich lautet also Hosting plus Tokens gegenüber Ihrem eigenen Docker-Host plus denselben Tokens.

Der Katalogbetrag von Kunavo ist ein Abrechnungsuntergrenze und keine Obergrenze: Wenn der Upstream seine Gebühr meldet, ist die Rechnung der höhere Wert aus den Katalogkosten und den Upstream-Kosten multipliziert mit dem anwendbaren Aufschlag. Cache-Gebühren, Bild- oder Videoaufrufe sowie alle Kosten Ihres Embedders an anderer Stelle sind in diesem Beispiel nicht enthalten. Die minimale Aufladung beträgt $10 als vorausbezahltes Guthaben — ein Mindestbetrag zur Finanzierung, keine Aufgaben- oder Abonnementgebühr. Siehe billing details.

Die Alternative einrichten

Wenn Sie bei Open WebUI landen, veröffentlicht Kunavo eine Konfigurationsreferenz dafür: der Open-WebUI-Einrichtungsleitfaden. Das ist eine veröffentlichte Einrichtungsdokumentation, kein Kompatibilitätstest — keiner der Clients auf dieser Seite wurde zur Laufzeit gegen Kunavos Endpunkt getestet, und alle obigen Angaben wurden aus der jeweiligen Dokumentation, den Lizenzdateien, dem veröffentlichten Quellcode und den Repository-Metadaten der einzelnen Projekte entnommen. Halten Sie während des Ausprobierens einen funktionierenden Weg verfügbar, führen Sie eine begrenzte Aufgabe aus und lesen Sie anschließend die Gebühr, die Ihr Konto tatsächlich dafür aufgezeichnet hat. Erstellen Sie ein Kunavo-Konto, sobald Sie bereit sind, einen Schlüssel aufzuladen.

Sie schwanken noch zwischen zwei konkreten Tools statt zwischen dem gesamten Feld? AnythingLLM vs Open WebUI vergleicht das engste Paar direkt miteinander, und LibreChat vs Open WebUI deckt die andere häufige Vorauswahl ab. AI cost optimization behandelt die Reduzierung der Tokenkosten, sobald Sie sich entschieden haben.

Häufig gestellte Fragen

Am 19. September 2026 und erneut am 21. September 2026 wurden die Preisseiten der Anbieter, Produktdokumentationen, Lizenzdateien, veröffentlichten Quelltexte und Repository-Metadaten für jedes oben genannte Projekt geprüft, ausschließlich aus erster Hand. Die Kunavo-Tokenpreise stammen aus dem aktuellen Katalog, und jedes Dollarbeispiel hier ist eine illustrative Tokenberechnung, keine gemessene Gebühr. Kein Client auf dieser Seite wurde zur Laufzeit mit Kunavos Endpunkt getestet.