Osmantic/ODS

项目概览

它把通常需要拼接多个开源项目并手动配置的本地 AI 环境，压缩为单命令安装流程，安装脚本会检测硬件并据此选择 GGUF 模型，最低 8 GB 内存的纯 CPU 环境也可运行。

项目类型

AI 工作流 · 模型运行 · 基础设施

应用场景

聊天助手 · 会议记录 · 知识问答 · 图片处理 · 语音音频

部署方式

查看项目说明

License

Apache-2.0

适合谁

• 希望通过单条安装命令搭建本地 AI 栈，再通过网页聊天界面使用模型的用户。
• 拥有从 8 GB 内存纯 CPU 到带 GPU 不同档位硬件的用户，安装器会按硬件选择模型。

核心能力

• 在本地运行开源 LLM 模型：安装器自动检测硬件并按硬件档位选择模型（GGUF 格式，如 Qwen、Phi、DeepSeek 系列）。对用户的价值是不必手动判断自己的机器能跑什么模型；该能力当前可用。
• 使用 Whisper 做语音转文字，使用 Kokoro 做文字转语音，为本地 AI 栈提供语音交互能力；当前可用。
• 工作流自动化与相关集成由 n8n 提供，用户可以在本地栈中编排自动化流程；注意这是 n8n 提供的能力而非项目自研；当前可用。
• 通过 ComfyUI 提供节点式的图像生成，用户以节点连线方式构建生成流程；当前可用。
• 使用向量数据库连接本地文档、私有搜索（SearXNG）与检索工作流，可实现基于自有文档的问答；当前可用。
• 集成 Open WebUI 聊天界面，提供对话历史、网页搜索和文档上传；安装后可打开 http://localhost:3000 开始聊天。

限制与风险

• Windows 上需要 Docker Desktop 且使用 WSL2 后端。
• 可选的云/混合模式使用 OpenAI、Anthropic 或 Together API，可能产生付费 API 成本；另有可选的付费 Brave Search API。

如何开始

• 执行 curl/PowerShell 安装脚本即可开始，安装器会检测硬件并自动配置；首条成功路径即执行安装脚本。

核验依据

• GitHub 项目简介: Turn your PC, Mac, or Linux box into an AI server. LLM inference, chat UI, voice, agents, workflows, RAG, and image generation.
• README: Right now, setting up local AI means stitching together a dozen projects, writing Docker configs from scratch, and praying everything talks to each other.
• README: curl -fsSL https://install.osmantic.com/ods.sh | bash
• README: After install, open **http://localhost:3000** and start chatting.
• README: `v2.5.3` is the current stable release.

来源更新时间：2026-07-15T18:28:28Z

打开原始 GitHub 项目