janhq/jan

项目概览

可持续关注其本地模型运行、OpenAI 兼容本地接口与 MCP 集成是否继续保持可用并扩大适配范围。

项目类型

MCP · 模型运行

应用场景

聊天助手

部署方式

查看项目说明

License

License 待确认

适合谁

• 希望用桌面图形界面运行本地大语言模型，且不想把编程作为基本使用前提的个人用户。
• 需要兼顾本地模型、可选云模型连接和 OpenAI 兼容本地接口的开发者。

核心能力

• 从 HuggingFace 获取并在本地运行兼容的大语言模型，包括 Llama、Gemma、Qwen、GPT-oss 等。用户可在桌面应用中使用本地模型生成文本响应；所需内存会随模型规模变化。
• 可连接 OpenAI 的 GPT 模型、Anthropic 的 Claude 模型，以及 Mistral、Groq、MiniMax 等服务。该能力为可选的外部服务接入路径，使用时需要相应服务条件。
• 可创建面向特定任务的 AI 助手，用于将模型交互组织为更明确的任务入口。现有事实未说明助手的模板范围或具体自动化边界，采用前应按目标任务验证。
• 可在 localhost:1337 向其他应用提供本地服务接口，适合需要通过 OpenAI 兼容端点访问模型的开发或集成场景。
• 支持通过模型上下文协议连接相关能力，用于扩展代理式任务场景。MCP 及其外部组件不应视为项目自身提供的工具能力。

限制与风险

• 内存要求随模型规模增加。以已列出的 macOS 条件为例，3B 模型需要 8GB 内存，7B 模型需要 16GB，13B 模型需要 32GB，因此不能只依据应用是否可安装判断目标模型能否运行。
• 连接 OpenAI、Anthropic 等云服务是可选路径，但会依赖相应 API 和可能的付费服务；若数据边界要求保持在本地，应避免启用这些连接。
• 现有事实没有记录遥测策略。若组织对遥测或数据收集有明确要求，应在部署前另行核验。

如何开始

• 按操作系统下载安装程序，完成安装后打开 janhq/jan。主要平台提供直接下载或应用商店安装渠道，基础桌面使用不要求编写代码。
• 如需本地运行，可选择来自 HuggingFace 的兼容模型；如需连接云模型，则准备对应服务凭据。选择本地模型前应先核对模型规模与设备内存。

核验依据

• GitHub 项目简介: Jan is an open source alternative to ChatGPT that runs 100% offline on your computer.
• README: Jan is bringing the best of open-source AI in an easy-to-use product. Download and run LLMs with full control and privacy.
• README: The easiest way to get started is by downloading one of the following versions for your respective operating system:
• README: Local AI Models: Download and run LLMs (Llama, Gemma, Qwen, GPT-oss etc.) from HuggingFace
• README: Cloud Integration: Connect to GPT models via OpenAI, Claude models via Anthropic, Mistral, Groq, MiniMax, and others

内容核验时间：