zai-org/ChatGLM3

项目概览

在语义、数学、推理、代码和知识等多项数据集上，该模型在 10B 参数以下的基础模型中表现突出，且具备工具调用与代码执行能力，适合在本地有限算力条件下进行复杂对话与 Agent 探索。

项目类型

AI Agent · 模型运行

应用场景

聊天助手 · 编程开发

部署方式

查看项目说明

License

Apache-2.0

适合谁

• 需要在本地有限算力条件下使用中英双语对话模型的开发者与研究人员。
• 有工具调用、代码执行和微调需求的学术研究与免费商用场景。

核心能力

• 支持流畅的多轮对话交互。
• 支持在对话中调用外部工具或函数。
• 提供 ChatGLM3-6B 模型的基础微调工具套件。
• 可部署 OpenAI/ZhipuAI 格式的 API，作为 ChatGPT 类应用的后端。

限制与风险

• 由于模型规模较小且存在概率随机性，无法保证输出准确，且输出容易受用户输入误导。
• 模型存在被误导、滥用、传播或不当利用的风险，项目方不对数据安全或舆论风险承担责任。

如何开始

• 克隆仓库后，使用 pip 安装依赖。
• 需要下载数 GB 级别的模型权重。
• 需要修改 Python 代码以适配 GPU、CPU、Mac MPS 等不同硬件后端。

核验依据

• GitHub 项目简介: ChatGLM3 series: Open Bilingual Chat LLMs | 开源双语对话语言模型
• README: ChatGLM3-6B 是 ChatGLM3 系列中的开源模型
• README: ChatGLM3-6B 采用了全新设计的 [Prompt 格式](PROMPT.md) ，除正常的多轮对话外。同时原生支持[工具调用](tools_using_demo/README.md)（Function Call）、代码执行（Code Interpreter）和 Agent 任务等复杂场景。
• README: **ChatGLM3-6B-Base 具有在 10B 以下的基础模型中最强的性能**。
• README: >> response, history = model.chat(tokenizer, "你好", history=[]) >> print(response) 你好👋!我是人工智能助手 ChatGLM3 - 6B, 很高兴见到你, 欢迎问我任何问题。

内容核验时间：