手把手教你用Python调用Qwen3-0.6B，代码全公开

手把手教你用Python调用Qwen3-0.6B，代码全公开

你是不是也遇到过这样的情况：下载好了Qwen3-0.6B镜像，打开Jupyter，却卡在“接下来怎么调用”这一步？复制文档里的代码报错、改来改去还是连不上、提示ConnectionRefusedError或者model not found……别急，这篇教程就是为你写的。不讲大道理，不堆术语，从镜像启动到第一句响应，每一步都配真实可运行的代码、常见报错截图级解析、以及我踩过的所有坑——全部公开。

本文基于CSDN星图平台已预置的Qwen3-0.6B镜像环境编写，所有操作均在该镜像内实测通过（Jupyter已预装依赖，无需额外pip install）。你只需要照着做，5分钟内就能让模型开口说话。

1. 镜像启动与环境确认

1.1 启动镜像并进入Jupyter

在CSDN星图镜像广场中找到Qwen3-0.6B镜像，点击“一键启动”。等待状态变为“运行中”后，点击右侧【打开Jupyter】按钮。系统会自动跳转至类似https://gpu-pod694e6fd3bffbd265df09695a-8000.web.gpu.csdn.net的地址（注意端口号固定为8000）。

正确现象：页面加载成功，显示Jupyter Lab主界面，左侧文件树可见notebooks/目录，右上角Kernel状态为Python 3且显示“Connected”。

❌ 常见异常：

• 页面空白或提示“无法连接” → 检查浏览器是否拦截了跨域请求，尝试换Chrome/Firefox；
• 显示404或“Service Unavailable” → 镜像尚未完全就绪，等待1–2分钟刷新；
• Jupyter打开但Kernel显示“Disconnected” → 点击右上角Kernel → Restart Kernel。

1.2 验证服务端口与API可用性

在Jupyter中新建一个Python Notebook，运行以下诊断代码：

import requests import json # 替换为你的实际base_url（即Jupyter地址，仅需把端口8000前的路径保留） BASE_URL = "https://gpu-pod694e6fd3bffbd265df09695a-8000.web.gpu.csdn.net/v1" try: # 测试健康检查接口（部分镜像开放） health_resp = requests.get(f"{BASE_URL}/health", timeout=5) print(" 服务健康检查通过:", health_resp.json()) except Exception as e: print(" 健康接口不可用（正常），继续测试模型列表...") # 获取模型列表（关键验证步骤） try: models_resp = requests.get(f"{BASE_URL}/models", headers={"Authorization": "Bearer EMPTY"}, timeout=5) if models_resp.status_code == 200: models = models_resp.json().get("data", []) print(" 模型服务已就绪，当前可用模型：") for m in models: print(f" - {m.get('id', 'unknown')} (owned_by: {m.get('owned_by', 'unknown')})") else: print("❌ 模型列表获取失败，状态码:", models_resp.status_code) except Exception as e: print("❌ 连接模型服务失败，请检查base_url是否正确（必须含/v1，端口为8000）")

预期输出示例：

模型服务已就绪，当前可用模型： - Qwen-0.6B (owned_by: qwen)

关键点：base_url必须是Jupyter访问地址 +/v1，例如https://xxx-8000.web.gpu.csdn.net/v1。很多人漏掉/v1或误写成/api/v1，导致后续所有调用失败。

2. LangChain方式调用（推荐新手）

2.1 安装必要依赖（仅首次运行需执行）

# 在Jupyter第一个cell中运行（如已安装可跳过） !pip install langchain-openai==0.1.49 pydantic==2.8.2

注意：必须指定langchain-openai==0.1.49。新版0.2.x已弃用ChatOpenAI的extra_body参数，会导致enable_thinking等参数无效。

2.2 初始化ChatOpenAI模型实例

from langchain_openai import ChatOpenAI import os # 【务必修改】将此处替换为你自己的base_url（来自Jupyter地址+ /v1） BASE_URL = "https://gpu-pod694e6fd3bffbd265df09695a-8000.web.gpu.csdn.net/v1" chat_model = ChatOpenAI( model="Qwen-0.6B", # 模型ID，严格匹配模型列表中的id temperature=0.5, # 创意度：0=确定性输出，1=高度随机 base_url=BASE_URL, # 核心！必须带/v1 api_key="EMPTY", # 固定值，非空字符串即可 extra_body={ # Qwen3特有参数，启用思维链和推理过程返回 "enable_thinking": True, "return_reasoning": True, }, streaming=True, # 开启流式响应，边生成边输出 ) print(" ChatOpenAI模型初始化完成")

2.3 发起首次调用并查看完整响应结构

# 发送最简问题 response = chat_model.invoke("你是谁？") # 打印完整响应对象（含推理过程） print(" 响应类型:", type(response)) print("\n 响应内容:") print(response.content) # 查看是否返回了推理过程（Qwen3核心能力） if hasattr(response, 'additional_kwargs') and response.additional_kwargs: reasoning = response.additional_kwargs.get("reasoning", "") if reasoning: print("\n🧠 推理过程（Thinking Chain）:") print(reasoning[:300] + "..." if len(reasoning) > 300 else reasoning) else: print("\n 未返回reasoning字段，请检查extra_body配置")

预期输出片段：

响应内容: 我是通义千问Qwen3-0.6B，阿里巴巴全新推出的大语言模型... 🧠 推理过程（Thinking Chain）: 用户询问我的身份。我需要明确说明自己是Qwen3系列中的0.6B参数量版本，由阿里巴巴研发...

小技巧：response.content是纯文本结果；response.additional_kwargs["reasoning"]是模型内部思考路径，对调试提示词、理解模型逻辑极有价值。

3. 原生requests方式调用（适合调试与定制）

当LangChain封装不够灵活时（比如要控制stop token、max_tokens细粒度参数），直接调用OpenAI兼容API更可控。

3.1 构造标准OpenAI格式请求

import requests import json def call_qwen3_api(prompt: str, base_url: str, model: str = "Qwen-0.6B") -> dict: """ 调用Qwen3-0.6B原生API 返回完整JSON响应，含reasoning、content、usage等字段 """ url = f"{base_url}/chat/completions" payload = { "model": model, "messages": [{"role": "user", "content": prompt}], "temperature": 0.5, "stream": False, # 设为False获取完整响应 "enable_thinking": True, "return_reasoning": True, "max_tokens": 512 } headers = { "Content-Type": "application/json", "Authorization": "Bearer EMPTY" } try: response = requests.post(url, json=payload, headers=headers, timeout=30) response.raise_for_status() return response.json() except requests.exceptions.RequestException as e: print(f"❌ API请求失败: {e}") return {"error": str(e)} # 测试调用 result = call_qwen3_api("请用三句话介绍Qwen3的特点", BASE_URL) print(" 原生API响应摘要:") print("模型:", result.get("model")) print("回答长度:", len(result.get("choices", [{}])[0].get("message", {}).get("content", ""))) print("推理长度:", len(result.get("choices", [{}])[0].get("message", {}).get("reasoning", "")))

3.2 解析流式响应（真正实现“边打字边显示”）

import time def stream_qwen3_response(prompt: str, base_url: str): """演示如何处理流式响应（模拟聊天界面效果）""" url = f"{base_url}/chat/completions" payload = { "model": "Qwen-0.6B", "messages": [{"role": "user", "content": prompt}], "temperature": 0.3, "stream": True, "enable_thinking": True, "return_reasoning": True } headers = { "Content-Type": "application/json", "Authorization": "Bearer EMPTY" } print(" Qwen3正在思考中...\n") try: with requests.post(url, json=payload, headers=headers, stream=True, timeout=60) as r: r.raise_for_status() full_content = "" for line in r.iter_lines(): if line: decoded_line = line.decode('utf-8').strip() if decoded_line.startswith("data: "): data = decoded_line[6:] if data == "[DONE]": break try: chunk = json.loads(data) delta = chunk.get("choices", [{}])[0].get("delta", {}) content = delta.get("content", "") reasoning = delta.get("reasoning", "") if content: full_content += content print(content, end="", flush=True) elif reasoning: # 可选：高亮显示推理过程（用不同颜色需前端支持，此处用括号标注） print(f"[思考:{reasoning[:20]}...]", end="", flush=True) except json.JSONDecodeError: continue print("\n\n 流式响应结束") return full_content except Exception as e: print(f"\n❌ 流式请求异常: {e}") return "" # 实际调用（你会看到文字逐字出现） stream_qwen3_response("写一首关于春天的五言绝句", BASE_URL)

效果：终端中文字逐字打印，模拟真实对话体验；[思考:...]部分清晰展示模型内部推理路径。

4. 提示词工程实战：让Qwen3-0.6B更好用

Qwen3-0.6B虽小，但支持完整的思维链（CoT）和工具调用能力。好提示词能让它发挥10倍价值。

4.1 思维链（CoT）提示模板（提升逻辑题准确率）

# 普通提问（易出错） simple_prompt = "小明有5个苹果，吃了2个，又买了3个，现在有几个？" # CoT增强版（强制分步推理） cot_prompt = """请按以下步骤回答： 1. 初始苹果数量：5个 2. 吃掉后剩余：5 - 2 = ? 3. 买来后总数：? + 3 = ? 4. 给出最终答案（仅数字） 问题：小明有5个苹果，吃了2个，又买了3个，现在有几个？""" response = chat_model.invoke(cot_prompt) print("🔢 CoT模式结果:", response.content.strip())

4.2 多轮对话管理（保持上下文）

from langchain_core.messages import HumanMessage, AIMessage # 初始化对话历史 messages = [ HumanMessage(content="你好"), AIMessage(content="你好！我是Qwen3-0.6B，很高兴见到你。"), HumanMessage(content="请帮我写一封辞职信，理由是个人发展，语气礼貌简洁。") ] # 传入完整消息历史 response = chat_model.invoke(messages) print("✉ 多轮对话生成的辞职信：") print(response.content)

4.3 工具调用模拟（为后续扩展预留）

# Qwen3支持function calling，以下为模拟调用结构（需后端支持） tool_call_prompt = """你是一个智能助手，能调用工具获取实时信息。 可用工具： - get_weather(city: str): 获取城市天气 - search_web(query: str): 搜索网络信息 请调用工具获取北京今天的天气。 请严格按JSON格式输出： {"name": "get_weather", "arguments": {"city": "北京"}}""" # 直接发送（Qwen3会返回符合格式的JSON字符串） response = chat_model.invoke(tool_call_prompt) print("🛠 工具调用模拟输出:") print(response.content)

5. 常见问题速查手册（附解决方案）

终极排查法：在Jupyter中运行以下命令，一次性验证全部环节：

# 一键诊断脚本 import requests BASE = "https://gpu-pod694e6fd3bffbd265df09695a-8000.web.gpu.csdn.net/v1" print("1. 连通性:", "" if requests.get(BASE+"/health", timeout=3).ok else "❌") print("2. 模型列表:", "" if requests.get(BASE+"/models", headers={"Authorization":"Bearer EMPTY"}).ok else "❌") print("3. API调用:", "" if requests.post(BASE+"/chat/completions", json={"model":"Qwen-0.6B","messages":[{"role":"user","content":"test"}]}, headers={"Authorization":"Bearer EMPTY"}).ok else "❌")

6. 总结：从零到落地的关键三步

你已经走完了Qwen3-0.6B调用的全部关键路径。回顾一下，真正决定成败的只有三个动作：

1. 精准定位base_url：不是Jupyter首页地址，而是Jupyter地址 + /v1，端口必须是8000；
2. 严格使用LangChain 0.1.49：新版不兼容Qwen3的extra_body扩展参数；
3. 善用reasoning字段：它不只是彩蛋，而是调试提示词、理解模型偏差、构建可信AI的黄金入口。

Qwen3-0.6B的价值不在于参数量，而在于它把前沿的思维链能力、轻量部署、开箱即用的API设计，浓缩进了一个6亿参数的模型里。你不需要GPU集群，不需要编译源码，甚至不需要离开浏览器——只要一个Jupyter窗口，就能启动属于你的AI工作流。

下一步，试试用它自动整理会议纪要、批量生成产品描述、或者给孩子的作文写评语。真正的AI应用，永远始于你敲下第一行invoke()的那一刻。

--- > **获取更多AI镜像** > > 想探索更多AI镜像和应用场景？访问 [CSDN星图镜像广场](https://ai.csdn.net/?utm_source=mirror_blog_end)，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。