OpenMOSS/MOSS

项目概览

openmoss/moss 是一个开源的中英双语对话语言模型，具备工具增强能力，并公开了训练数据与微调代码。它支持多轮对话和外部插件调用，适用于在本地部署对话式 AI 的开发者和研究人员。

项目类型

AI Agent · 模型开发 · 模型运行

应用场景

聊天助手

部署方式

查看项目说明

License

Apache-2.0

适合谁

• 需要在本地环境中部署和研究中英双语工具增强对话语言模型的 AI 工程师和研究人员。

核心能力

• 支持中英双语环境下的多轮对话、指令遵循及实用性回应。
• 提供 Int4 和 Int8 量化模型，以降低显存需求。
• 包含对 MOSS 基础模型进行监督微调（SFT）的代码。

限制与风险

• 由于 Triton 的依赖，项目仅支持 Linux 和 WSL，不支持直接在 Windows 和 macOS 上运行。
• 模型可能生成具有事实错误或带有偏见/歧视的有害内容，其输出存在误导用户的可能。
• Int4 和 Int8 量化版本不支持模型并行功能。
• 模型可能生成有害内容，由此产生的负面后果由分发者承担责任。在采用前需评估内容安全风险。

如何开始

• 部署难度较高：需要搭建 Python 3.8 的 conda 环境，通过 pip install -r requirements.txt 安装依赖，下载数 GB 级别的模型权重，并具备足够的 GPU 硬件；由于依赖 Triton，仅支持 Linux 或 WSL 环境。首次运行路径为：克隆仓库、创建 conda 环境、安装依赖、运行示例脚本（如 python moss_cli_demo.py）。

核验依据

• GitHub 项目简介: An open-source tool-augmented conversational language model from Fudan University
• README: moss-moon-003-base: MOSS-003基座模型
• README: MOSS是一个支持中英双语和多种插件的开源对话语言模型
• README: moss-003-sft-plugin-data: moss-moon-003-sft-plugin所使用的插件增强的多轮对话数据，包含支持搜索引擎、文生图、计算器、解方程等四个插件在内的约30万条多轮对话数据。已开源所有数据。
• README: 由于模型参数量较小和自回归生成范式，MOSS仍然可能生成包含事实性错误的误导性回复或包含偏见/歧视的有害内容

内容核验时间：