Jan AI와 GPT4All 비교: 오프라인 채팅, 문서 및 API 접근

Jan과 GPT4All은 모두 로컬 GGUF 모델을 실행하고 호스팅 API에도 연결할 수 있는 무료 오프라인 우선 데스크톱 채팅 앱이지만, 계속 출시되는 제품은 하나뿐입니다. Jan 저장소에는 2026년 9월 18일 코드가 반영되었고, GPT4All의 최신 릴리스는 2025년 2월 25일의 v3.10.0이며 그 이후 유일한 커밋은 CI 작업입니다. 그렇다고 GPT4All이 죽은 것은 아닙니다. 보관 처리되지 않았고 여전히 다운로드되며 검색 동작은 Jan보다 더 잘 문서화되어 있습니다. 이는 인기 문제가 아니라 작업에 따른 선택 문제라는 뜻입니다.

먼저 두 가지 이름 충돌을 정리해야 합니다. 둘 다 실수로 잘못 게시하기 쉽기 때문입니다. jan.ai의 Jan은 Janitor AI가 아닙니다. 제품도, 대상 사용자도 다르며 관련이 없습니다. 또한 nomic.ai의 "$20/Month" 배너는 GPT4All의 가격이 아닙니다. 이는 도면 검토와 코드 준수 기능을 제공하는 건축·건설 에이전트 제품인 Nomic Platform에 해당합니다. GPT4All 자체는 MIT 라이선스이며 무료입니다.

별 개수가 아니라 작업에 따라 선택하세요

GPT4All은 Jan의 별 44,551개에 비해 77,394개의 별을 보유하고 있습니다(GitHub API, 2026년 9월 19일). 더 유명한 이름이지만 코드베이스는 더 오래되었습니다. 실제 선택을 좌우하는 기준은 다음과 같습니다.

요약하면 특정한 이유로 GPT4All을 선택해야 하는 경우가 아니라면 Jan을 선택하세요. Jan이 명시적으로 지원하지 않는 Intel Mac, 고정된 소프트웨어 목록, 또는 자신이 사용하는 동안 변경이 멈춘 코드베이스를 선호하는 경우가 여기에 해당합니다. 동결되고 문서화된 폴더 인덱서가 기능의 핵심이라면 GPT4All을 선택하세요.

오프라인 채팅과 문서 워크플로

두 제품이 실제로 갈라지는 기준은 이 부분이며, 목록형 비교 글에서 비교하는 기준은 아닙니다.

GPT4All LocalDocs는 Nomic의 무료 장치 내 임베딩 모델을 사용해 폴더를 인덱싱하고, 응답 아래의 Sources를 클릭해 어떤 파일이 참조되었는지 확인할 수 있습니다. 설정 기본값은 구체적이며 문서 폴더를 지정하기 전에 알아둘 가치가 있습니다. 스니펫 크기는 512자이고 프롬프트당 최대 스니펫 수는 3개입니다. 둘 다 늘릴 수 있지만, 문서에서는 늘리면 생성 속도가 느려진다고 경고합니다.

어떤 파일 유형이 인덱싱되는지에 관해 GPT4All의 두 출처는 서로 다른 정보를 제공하며, 공개된 문서가 더 오래된 정보입니다. 설정 페이지에는 .txt, .pdf, .md, .rst가 나열되어 있지만, 릴리스된 소스의 기본값인 main 브랜치의 mysettings.cpp에 있는 localdocs/fileExtensions는 docx, pdf, txt, md, rst입니다. LocalDocs는 v3.4.0에서 .docx 지원이 추가되었으므로, 문서 페이지가 업데이트되지 않은 것으로 보입니다. 채팅 첨부 파일은 별도의 목록을 사용하는 독립적인 경로입니다. ChatView.qml의 첨부 대화 상자는 *.txt *.md *.rst *.xlsx를 기준으로 파일을 필터링합니다. 변경 이력에 따르면 Excel 첨부 파일 지원은 v3.4.0에서, 텍스트, markdown 및 rst 지원은 v3.5.0-rc1에서 추가되었습니다. PDF는 이 필터에 포함되어 있지 않으므로, LocalDocs 컬렉션을 통해서만 모델에 전달될 수 있으며, 그렇지 않으면 전혀 전달되지 않습니다.

Jan Projects는 더 넓은 범위를 지원합니다. "PDF, Markdown, Office 문서(DOCX, XLSX, PPTX), 코드 파일 등"을 청크로 나누고 인덱싱하여 해당 프로젝트의 모든 대화에서 검색할 수 있게 하며, 진행률 표시줄과 파일별 청크 수를 제공합니다. 그러나 Jan 문서에는 임베딩 모델, 스니펫 크기, 검색 한도가 전혀 명시되어 있지 않습니다. 같은 페이지의 개인정보 보호 안내에는 모든 파일이 컴퓨터에서 로컬로 처리되며, 클라우드 공급자를 사용하면 "요청의 일부로 파일이 해당 공급자의 API로 전송된다"고 되어 있습니다. 이 설명이 인덱싱된 프로젝트 파일과 채팅 첨부 파일 중 어느 쪽을 가리키는지, 또는 게이트웨이 기반 사용자 지정 공급자가 어떻게 계산되는지는 설명하지 않으므로, 확정된 사실이 아니라 문서화되지 않은 내용으로 취급하세요.

두 가지 모두에 적용되는 한 가지 경계가 있습니다. 임베딩 단계는 Kunavo가 제공하는 기능이 아닙니다. Kunavo는 채팅 모델을 제공합니다. GPT4All은 기본적으로 사용자의 기기에서 임베딩을 계산하거나, 해당 옵션을 켜면 Nomic 자체 API를 사용합니다. Jan의 엔진 문서에는 이 단계가 llama.cpp에서는 사용 가능하고 MLX에서는 사용할 수 없다고 나와 있으며, 이 단계에 사용할 모델은 명시되어 있지 않습니다. 검색 측을 처음부터 끝까지 설명한 내용이 필요하다면 RAG 구현에서 각 구성 요소를 다룹니다.

모델, 하드웨어 및 각 앱에서 실제로 실행되는 것

Jan은 llama.cpp 또는 MLX에서 로컬 모델을 실행하며, 후자는 macOS 14 이상에서 Apple Silicon만 지원합니다. 자체 Hub에서 GGUF 모델을 다운로드하고, 디스크에 이미 있는 GGUF 파일을 가져와 복사하지 않고 해당 위치에 연결할 수도 있습니다. GPT4All은 앱이 models3.json에서 가져오는 선별된 카탈로그를 제공합니다. — 32개 항목이며, 가장 최신 항목은 2025년 1월의 DeepSeek-R1 distill 모델입니다. Qwen3, Gemma 3 또는 Llama 4는 없습니다(2026년 9월 19일 확인). 또한 Explore Models 페이지는 Hugging Face에서 GGUF 파일을 검색하므로 카탈로그가 엄격한 한도는 아닙니다. 다만 선별된 목록은 프로젝트 관리가 중단된 지 얼마나 되었는지를 보여주는 적절한 지표입니다.

Jan 수치는 Mac 및 Windows 설치 페이지에서, GPT4All 수치는 시스템 요구 사항 표와 README에서 가져왔습니다. 모두 2026년 9월 19일에 확인했습니다.

GPT4All은 두 가지 하드웨어 질문에 대해 서로 모순되는 내용을 제시하며, 어느 쪽도 명확한 답을 제공하지 않습니다. Intel Mac의 경우 README에는 macOS 빌드가 "Monterey 12.6 이상을 필요로 한다"고 되어 있고 Apple Silicon에서 최상의 결과를 얻는다고 되어 있어 Intel이 작동하는 것처럼 읽힙니다. 그러나 시스템 요구 사항 표는 Apple CPU 및 GPU 행에 M1를 표시하고 Intel 프로세서는 어디에도 언급하지 않습니다. Windows-on-ARM의 경우 README에는 win64-arm 설치 프로그램 링크가 있고 해당 빌드가 "Qualcomm Snapdragon 및 Microsoft SQ1/SQ2 프로세서를 지원한다"고 되어 있습니다. 반면 README가 직접 연결하는 요구 사항 표에는 ARM CPU를 사용하는 Windows 및 Linux PC가 지원되지 않는다고 나와 있습니다. v3.10.0 릴리스에는 실제로 자산 중 win64-arm 설치 프로그램이 포함되어 있습니다. README의 링크는 해당 태그가 생성된 지 10분 후인 2025년 2월 25일에 커밋되었고, 요구 사항 표에는 2024년 9월 13일 이후 커밋이 없습니다. 따라서 README가 더 최신의 설명입니다. — 하지만 이 페이지가 두 모순 중 어느 것도 대신 해결해 주지는 않습니다. Intel Mac에서는 Jan이 Intel을 명시적으로 제외하므로 두 앱 중 시도해 볼 가치가 있는 것은 GPT4All뿐입니다. ARM 기기에서는 설치하고 확인한 뒤 사용을 확정하세요.

추가로 언급할 만한 공백이 있습니다. nomic.ai/gpt4all은 버전 번호, 변경 로그 및 시스템 요구 사항이 전혀 없는 다운로드 버튼 네 개를 제공하며, gpt4all.io의 네 설치 프로그램 스텁에는 모두 2025년 2월 4일이라는 Last-Modified 날짜가 표시됩니다. 이는 v3.10.0 태그보다 이전입니다. 온라인 설치 프로그램이므로 설치 시점에 최신 빌드를 가져올 가능성이 높지만, 어떤 업데이트 저장소에서 가져오는지는 확인하지 못했습니다. 다운로드 페이지에서 특정 버전을 가정하지 말고 설치 후 About에서 확인하세요.

로컬 API 서버, 클라우드 액세스 및 기기 밖으로 전송되는 데이터

두 앱 모두 OpenAI 호환 서버를 제공하므로 다른 도구가 앱에 로드된 모델과 통신할 수 있으며, 공유 기기에서는 기본값의 차이가 중요합니다.

2026년 9월 19일 기준 Jan의 Local API Server 및 API preference 페이지와 GPT4All의 API server 문서를 바탕으로 했습니다. Jan의 서버는 llama.cpp 기반으로 문서화되어 있으며 전체적으로 로컬 모델 예제가 사용됩니다. 문서에는 원격 사용자 지정 공급자 모델이 포트 1337을 통해 연결 가능한지 여부가 명시되어 있지 않습니다. 문서화되지 않았을 뿐 배제된 것은 아니므로, 이를 기반으로 구축하기 전에 직접 확인하세요.

개인정보 보호와 관련해 Jan의 Mac 설치 페이지에는 모델, 스레드, 설정 및 로그가 ~/Library/Application Support/Jan/data 아래에 저장되며 클라우드로 아무것도 전송되지 않는다고 나와 있습니다. 하지만 파일 업로드 페이지에는 클라우드 공급자를 사용하는 경우 파일이 요청의 일부로 해당 공급자의 API에 전송된다고 동일하게 명확히 설명되어 있습니다. 두 앱 모두 오프라인 사용이 가능하지만 오프라인 전용은 아닙니다. 원격 공급자를 구성하는 순간 상대방이 누구인지에 따른 일반적인 데이터 처리 문제가 적용됩니다.

두 앱 중 하나를 호스팅된 키 하나에 연결하기

로컬 모델 경로는 요청당 비용이 들지 않지만 하드웨어에 맞는 모델로 제한됩니다. 두 앱의 대안은 기본 URL과 키를 사용하는 것입니다. 두 앱의 차이가 가장 크게 드러나는 부분입니다.

Jan 측 내용은 Custom Endpoints 페이지에서 가져왔으며, 이 페이지는 게이트웨이와 프록시를 지원 사례로 명시합니다. GPT4All 측 내용은 main의 릴리스된 소스에서 확인했습니다. 네 개의 공급자 카드와 OpenAI 허용 목록은 AddRemoteModelView.qml에, 세 필드 레이블은 RemoteModelCard.qml에, URL 구성은 chatllm.cpp에, 하드코딩된 "stream": true와 Authorization: Bearer 헤더는 chatapi.cpp에 있습니다. 어느 내용도 런타임 테스트는 하지 않았습니다.

아무도 기록해 두지 않는 GPT4All의 사실: 기본 제공 OpenAI 카드는 주석에 // last updated 2025-02-24라고 적힌 하드코딩된 허용 목록이며, gpt-3.5-turbo, gpt-3.5-turbo-16k, gpt-4, gpt-4-32k, gpt-4-turbo 및 gpt-4o만 포함합니다. 유효한 공식 OpenAI 키가 있어도 해당 카드는 OpenAI가 그 이후 출시한 모델을 제공할 수 없습니다. Groq 및 Mistral 카드에도 동일한 주석 날짜가 있는 고정 목록이 있습니다. 다만 Mistral 목록에는 -latest 별칭이 포함되어 있으며, 이는 현재 Mistral이 제공하는 항목으로 계속 확인되므로 해당 카드에서 "고정 목록"이 "고정된 모델"을 의미하지는 않습니다. OpenAI 형태의 키에서 gpt-4o보다 최신 모델을 사용하려면 Custom 카드가 경로입니다 — 직접 사용하거나 게이트웨이를 통해 사용할 수 있습니다.

그리고 가장 큰 혼란을 일으키는 Jan의 함정이 있습니다. Jan은 사용자 지정 공급자의 기능을 감지할 수 없으므로 수동으로 추가한 모델에는 도구 기능이 선택되어 있지 않으며, MCP에는 해당 기능이 있는 모델이 필요합니다. 공급자뿐 아니라 모델에서 이를 선택하세요.

Kunavo에서는 두 앱의 값이 동일합니다. 기본 URL은 https://api.kunavo.com/v1, Bearer 키는 sk-kn-로 시작합니다. Jan에서는 OpenAI 호환 형식을 선택하고 모델 목록을 자동으로 채우게 하세요. GPT4All에서는 모델 ID를 정확히 입력해야 합니다. 예를 들어 claude-sonnet-4-6입니다. GPT4All은 제공한 기본 URL에 /chat/completions를 덧붙이고 ID를 전혀 확인하지 않습니다. Jan의 Anthropic 호환 형식도 Anthropic 형태의 엔드포인트에 연결할 수 있지만, Jan 문서에는 "게이트웨이에 문서화된 기본 URL을 사용하라"고만 되어 있고 자체 예제에는 /v1가 없습니다. 이 페이지에서는 해당 경로에 Jan이 어떤 기본 문자열을 요구하는지 테스트하지 않았으므로, 실험할 준비가 되어 있지 않다면 OpenAI 형식을 사용하세요.

# Both apps need the same two things: a base URL that ends in /v1 and a
# Bearer key. This is the check to run BEFORE you type either into an app.
curl -s https://api.kunavo.com/v1/models \
  -H "Authorization: Bearer sk-kn-..."

# Jan calls this exact path to populate its model list.
# GPT4All never calls it for a Custom provider — you type the id by hand.

호스팅 경로의 비용 추정 예시

이는 측정된 작업 비용이 아니며 청구 한도도 아닌, 예시 토큰 산술입니다. 문서 중심 세션에서 30,000개의 캐시되지 않은 입력 토큰 — 시스템 프롬프트, 검색된 스니펫 및 진행 중인 대화 — 을 보내고 2,000개의 출력 토큰을 받는다고 가정하며, 한 달에 50번 반복합니다. 요율은 백만 토큰당 Kunavo 카탈로그의 최신 가격입니다.

검색 설정이 이 산술에 어떤 영향을 주는지 확인하세요. GPT4All은 기본적으로 512자짜리 스니펫을 최대 3개 사용하며, 일반적인 토큰당 4자 근사에 따르면 총 약 400토큰입니다. 따라서 기본 설정에서는 호스팅된 키를 사용하는 LocalDocs 프롬프트의 비용이 주변의 기본 채팅보다 조금 더 비쌀 뿐입니다. 어느 설정이든 높이면 그에 비례해 증가합니다. Jan은 한도를 전혀 공개하지 않으므로 프로젝트 파일이 프롬프트에서 차지하는 비중은 인덱서가 결정하는 값입니다. GPT4All에서 Jan으로 전환한 후 청구액이 예상치 않게 변한다면 가장 먼저 이 비대칭을 확인하세요.

예산으로 간주하기 전에 이를 자신의 사용량에 맞게 조정하세요. 또한 두 앱 모두 로컬 모델 경로에는 요청당 요금이 전혀 없으며, 대신 하드웨어와 전기 비용이 듭니다. Kunavo의 카탈로그 금액은 상한이 아니라 청구 하한입니다. 업스트림이 요금을 보고하면 청구액은 카탈로그 비용과 해당 마크업을 적용한 업스트림 비용 중 더 큰 금액입니다. 캐시 요금과 외부 도구는 이 예시에 포함되지 않습니다. 최소 충전액은 선불 크레딧 $10입니다. 이는 작업 요금이나 구독료가 아닌 자금 충전 최소액입니다. 결제 세부 정보를 참조하세요.

설치, 유지 관리 및 라이선스 경계

모든 행은 2026년 9월 19일에 GitHub 및 PyPI API와 각 프로젝트의 릴리스 목록에서 확인했습니다. 날짜와 관련된 두 가지 주의 사항이 있습니다. jan.ai의 변경 로그는 v0.8.4를 2026년 7월 21일로 표시하지만 GitHub 릴리스에는 7월 23일로 기록되어 있으므로 위에는 "2026년 7월"로 적었습니다. 또한 GPT4All 자체 변경 로그는 v3.10.0을 2월 24일로 표시하지만 릴리스 태그는 2월 25일입니다.

두 가지 소유권 관련 세부 사항을 설명하되, 증거가 뒷받침하는 범위 안에서만 신중하게 말하겠습니다. Jan은 GitHub 조직 janhq 아래 Jan 팀이 공개적으로 개발하고 있으며, 현재 조직 프로필에는 간단히 "Jan"이라고 적혀 있습니다. 이전 menloresearch/jan URL은 현재 해당 URL로 HTTP 301 리디렉션됩니다. Jan의 LICENSE 파일에는 여전히 Menlo Research가 표시되어 있지만, 별도의 menloresearch 조직은 현재 휴머노이드 로보틱스 제품을 설명합니다. 이 변경을 설명하는 날짜가 있는 공지는 제가 찾을 수 있는 곳에 없으므로, 이 페이지에서는 분사나 매각을 주장하지 않습니다. 리디렉션과 두 프로필에 표시된 내용만 설명합니다. GPT4All의 관리자는 사업 내용이 눈에 띄게 바뀌었습니다. nomic.ai 홈페이지의 헤드라인은 현재 설계 및 건설에 관한 것이며, 제품 페이지는 도면 검토 및 코드 준수를 위한 에이전트 플랫폼입니다. GPT4All 페이지는 잔존 페이지로 남아 있습니다. Nomic은 GPT4All의 상태에 대해 어떠한 성명도 발표하지 않았으며, "Is GPT4all dead?"라는 제목의 이슈는 여전히 열려 있고 해결되지 않았습니다.

모든 GPT4All 페이지에 포함해야 할 사용자 보호 관련 안내입니다. nomic.ai는 모바일 빌드를 제공하지 않습니다. GPT4All 페이지에는 데스크톱 설치 프로그램 네 개만 있고 다른 것은 없으며, GitHub 릴리스에도 데스크톱 아티팩트만 있습니다. 저장소의 2024년 이슈 하나는 2024년 12월 20일에 열렸고 '계획 없음'으로 종료되었습니다. 이 이슈는 com.principia_tech.ai.gpt4all라는 이름의 Google Play 패키지를 보고하며, 제보자는 이 패키지가 프로젝트와 무관하고 대화를 하려면 광고를 거쳐야 한다고 말합니다. nomic.ai 또는 GitHub 릴리스에서만 다운로드하세요. 관련 없는 "GPT4Free"와도 혼동하지 마세요.

호스팅 경로 설정

Kunavo는 어느 앱도 엔드포인트에 대해 런타임 테스트하지 않았으며, 두 앱 모두 Kunavo 설정 페이지가 없습니다. 위의 모든 내용은 공식 문서에서, GPT4All의 경우에는 릴리스된 소스에서도 확인했습니다. 검증 가능한 것은 두 앱에 필요한 형태입니다. /v1로 끝나는 OpenAI 형태의 기본 URL 하나, Bearer 키 하나, Jan이 목록을 채울 수 있도록 작동하는 GET /v1/models 하나입니다. 먼저 위의 스모크 테스트를 실행하고, 시도하는 동안 작동하는 경로를 유지한 다음, 하나의 범위가 제한된 작업을 실행하고 계정에 실제로 기록된 요금을 확인하세요.

키에 자금을 충전할 준비가 되면 Kunavo 계정을 생성하세요. 배경 지식이 필요하다면 OpenAI 호환 API에서 두 앱이 사용하는 와이어 형식을 설명하고, 최고의 LLM 게이트웨이에서 호스팅 옵션 비교 방법을 다룹니다. 아직 데스크톱 클라이언트를 선택 중이라면 AnythingLLM과 Open WebUI 비교에서 동일한 무료 앱 및 사용량 기반 API 비용 구조를 가진 문서 중심 대안 두 가지를 비교합니다.

자주 묻는 질문

2026년 9월 19일 확인: 두 GitHub 저장소 API, 두 릴리스 목록, gpt4all PyPI 기록, GPT4All 선별 모델 카탈로그 및 설치 프로그램 헤더, nomic.ai 블로그 태그 링크, menloresearch/jan 리디렉션, jan.ai 변경 로그 및 가격 URL, Jan의 설치, 파일 업로드, MCP, API 서버 및 사용자 지정 엔드포인트 문서, GPT4All의 LocalDocs, 설정 및 API 서버 문서, README, 변경 로그, 모델 페이지 및 시스템 요구 사항 표, 위에 링크한 두 이슈 스레드, README와 요구 사항 표의 커밋 기록, 그리고 main의 GPT4All 소스 — 원격 공급자 뷰, ChatView.qml의 첨부 필터 및 mysettings.cpp에 있는 localdocs/fileExtensions 기본값을 확인했습니다. 확인하지 않은 항목: 두 앱을 Kunavo 엔드포인트에 연결한 런타임 세션, GPT4All 온라인 설치 프로그램이 현재 제공하는 버전, Jan 사용자 지정 공급자 모델이 Jan 자체 로컬 서버를 통해 연결 가능한지 여부. Kunavo 토큰 요율은 실시간 카탈로그에서 가져왔으며, 여기의 모든 달러 예시는 측정된 작업 비용이 아니라 예시 토큰 산술입니다.