通义千问3-14B函数调用指南：qwen-agent库使用教程
1. 引言
1.1 学习目标
本文旨在为开发者提供一份完整的Qwen3-14B 模型函数调用能力实践指南，重点围绕官方推出的qwen-agent库展开。通过本教程，你将掌握：
- 如何在本地部署 Qwen3-14B 并启用函数调用功能
- 使用
qwen-agent定义工具（tools）并实现结构化输出 - 在 Ollama + Ollama-WebUI 环境中集成 agent 能力
- 切换 Thinking / Non-thinking 模式以优化推理质量与延迟
最终实现一个可响应用户自然语言指令、自动调用外部 API 的智能代理系统。
1.2 前置知识
建议读者具备以下基础： - Python 编程经验 - 对大模型的 prompt 工程和 JSON Schema 有一定了解 - 熟悉命令行操作及 Docker 基本使用
2. Qwen3-14B 核心特性回顾
2.1 模型定位与优势
Qwen3-14B 是阿里云于 2025 年 4 月发布的开源 Dense 架构大模型，参数量达 148 亿，虽非 MoE 结构，但凭借架构优化，在多项基准测试中表现接近甚至超越部分 30B 级别模型。
其核心亮点包括：
- 单卡可运行：FP8 量化版本仅需 14GB 显存，RTX 4090 可全速运行
- 双模式推理：
Thinking模式：显式输出<think>推理链，适合复杂任务Non-thinking模式：直接返回结果，响应速度提升约 50%- 超长上下文支持：原生支持 128k token，实测可达 131k，适用于法律文书、代码库分析等场景
- 多语言互译能力：覆盖 119 种语言与方言，低资源语种翻译性能较前代提升 20%+
- 原生函数调用支持：内置对 JSON Schema 和 tool calling 的解析能力
2.2 函数调用能力的意义
传统大模型输出为自由文本，难以被程序直接解析。而 Qwen3-14B 支持结构化函数调用（Function Calling），即模型可根据输入决定是否调用预定义工具，并以标准 JSON 格式返回函数名与参数。
这一能力是构建 Agent 系统的基础，使得模型可以： - 查询天气、股票等实时信息 - 执行数据库查询或 API 请求 - 控制智能家居设备 - 自动化工作流编排
3. 环境准备与模型部署
3.1 使用 Ollama 部署 Qwen3-14B
Ollama 提供了极简的大模型本地运行方案，支持一键拉取 Qwen3-14B 模型。
# 拉取 FP8 量化版（推荐） ollama pull qwen:14b-fp8 # 或拉取 BF16 版本（更高精度，占用更大） ollama pull qwen:14b-bf16启动服务后，默认监听http://localhost:11434。
验证是否成功加载：
ollama list应能看到qwen:14b-fp8处于可用状态。
3.2 配置 Ollama-WebUI 提升交互体验
Ollama-WebUI 为 Ollama 提供图形化界面，支持历史会话管理、模型切换、自定义 system prompt 等功能。
安装步骤（Docker 方式）
git clone https://github.com/ollama-webui/ollama-webui.git cd ollama-webui docker compose up -d访问http://localhost:3000即可进入 Web 界面。
提示：若需启用函数调用功能，请确保前端能正确传递
tools字段至/api/generate接口。
4. qwen-agent 库快速入门
4.1 安装 qwen-agent
qwen-agent是阿里官方提供的轻量级 Python 库，用于封装工具定义、处理函数调用逻辑。
pip install qwen-agent当前版本兼容 Ollama 输出格式，支持同步与异步调用。
4.2 定义第一个工具：获取天气
我们以“根据城市名获取天气”为例，演示如何注册工具并触发调用。
import json import requests from qwen_agent.agents import Assistant # Step 1: 定义工具描述（JSON Schema） tools = [ { "type": "function", "function": { "name": "get_weather", "description": "获取指定城市的当前天气信息", "parameters": { "type": "object", "properties": { "city": { "type": "string", "description": "城市名称，如 Beijing, Shanghai" } }, "required": ["city"] } } } ] # Step 2: 实现工具函数 def get_weather(city: str) -> str: try: url = f"https://wttr.in/{city}?format=3" response = requests.get(url, timeout=5) return response.text if response.status_code == 200 else "无法获取天气数据" except Exception as e: return f"请求失败: {str(e)}"4.3 创建 Agent 并处理函数调用
# 初始化助手 bot = Assistant( llm='ollama', # 使用本地 Ollama model='qwen:14b-fp8', function_list=[get_weather], # 注册函数 system_message="你是一个智能助手，擅长调用工具帮助用户解决问题。" ) # 用户提问 messages = [{'role': 'user', 'content': '北京现在天气怎么样？'}] # 启动对话循环 for response in bot.run(messages=messages, tools=tools): if response.get("tool_calls"): # 模型希望调用函数 for tool_call in response["tool_calls"]: if tool_call["function"]["name"] == "get_weather": args = json.loads(tool_call["function"]["arguments"]) result = get_weather(args["city"]) # 将结果追加到消息历史 messages.append({ "role": "tool", "content": result, "tool_call_id": tool_call["id"] }) else: # 模型返回最终回答 final_answer = response["content"] print("助手:", final_answer) break # 继续让模型基于工具返回结果生成自然语言回复 if messages[-1]["role"] == "tool": for final_resp in bot.run(messages=messages, tools=tools): if not final_resp.get("tool_calls"): print("助手:", final_resp["content"]) break输出示例
助手: 正在为您查询北京的天气... （内部调用 get_weather 返回） 助手: 北京, 晴, 18°C5. 进阶技巧与最佳实践
5.1 控制推理模式：Thinking vs Non-thinking
Qwen3-14B 支持两种推理模式，可通过 system prompt 显式控制。
启用 Thinking 模式（高质量推理）
system_message = """你是一个严谨的推理助手。 请先在 <think> 标签中逐步分析问题，再给出答案。 适用于数学计算、逻辑推理、复杂决策等场景。"""启用 Non-thinking 模式（低延迟响应）
system_message = """你是一个高效对话助手。 无需展示思考过程，直接给出简洁准确的回答。 适用于日常问答、写作润色、翻译等高频交互场景。"""建议：在需要函数调用的复杂任务中使用 Thinking 模式，提升决策准确性。
5.2 多工具协同调用
qwen-agent支持同时注册多个工具，模型将根据上下文选择合适的组合。
tools = [ { "type": "function", "function": { "name": "search_knowledge_base", "description": "在内部知识库中搜索相关信息", "parameters": {"type": "object", "properties": {"query": {"type": "string"}},"required": ["query"]} } }, { "type": "function", "function": { "name": "send_email", "description": "发送邮件给指定收件人", "parameters": { "type": "object", "properties": { "to": {"type": "string"}, "subject": {"type": "string"}, "body": {"type": "string"} }, "required": ["to", "subject", "body"] } } } ]当用户说：“帮我查一下公司差旅政策，并发邮件给张经理确认”，模型可能依次调用两个函数。
5.3 错误处理与重试机制
实际应用中，工具执行可能失败。建议添加异常捕获和反馈机制：
try: result = tool_function(**args) except Exception as e: result = f"执行出错: {type(e).__name__}: {str(e)}" messages.append({ "role": "tool", "content": result, "tool_call_id": tool_call["id"] })这样模型可基于错误信息进行修正或提示用户。
6. 性能优化与部署建议
6.1 显存与速度优化
| 配置 | 显存占用 | 推理速度（token/s） |
|---|---|---|
| FP16 全精度 | ~28 GB | ~60 (A100) |
| FP8 量化版 | ~14 GB | ~80 (4090), ~120 (A100) |
建议： - 消费级显卡用户优先选用qwen:14b-fp8- 若追求极致性能，可结合 vLLM 进行批处理加速
6.2 生产环境部署建议
- 使用 FastAPI 封装 agent 服务，暴露 RESTful 接口
- 添加缓存层（Redis）避免重复调用
- 设置调用频率限制与权限校验
- 日志记录所有 tool call 行为，便于审计
7. 总结
7.1 全景总结
Qwen3-14B 凭借148 亿 Dense 参数、128k 上下文、双模式推理、原生函数调用支持，成为目前最适合个人开发者和中小企业落地 AI Agent 的开源模型之一。配合qwen-agent库，能够快速构建具备真实世界交互能力的智能体。
其 Apache 2.0 商用许可也极大降低了企业集成门槛，真正实现了“高性能 + 零成本 + 可商用”的三位一体价值。
7.2 实践建议
- 开发阶段：使用 Ollama + Ollama-WebUI 快速验证想法
- 测试阶段：引入
qwen-agent实现结构化函数调用流程 - 上线阶段：迁移至 vLLM 或 TGI 提升吞吐，搭配 FastAPI 提供服务
无论你是想打造自动化客服、智能办公助手，还是个性化教育辅导系统，Qwen3-14B 都是一个极具性价比的选择。
获取更多AI镜像
想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。
