DeepSeek-R1-Distill-Qwen-1.5B保姆级教程：Windows WSL2环境下完整部署流程

DeepSeek-R1-Distill-Qwen-1.5B保姆级教程：Windows WSL2环境下完整部署流程

1. 项目概述

DeepSeek-R1-Distill-Qwen-1.5B是一个基于轻量级蒸馏模型的本地智能对话助手，专为Windows WSL2环境优化设计。这个项目将带你在个人电脑上搭建一个完全私有的AI对话系统，无需依赖任何云端服务。

这个模型融合了两个优秀AI的特点：

• DeepSeek强大的逻辑推理能力
• Qwen稳定成熟的架构设计

经过特殊优化后，模型体积大幅缩小到1.5B参数，但保留了核心的智能对话功能。这意味着它可以在普通家用电脑上流畅运行，不需要专业级显卡。

2. 环境准备

2.1 硬件要求

在开始之前，请确保你的电脑满足以下条件：

• Windows 10/11 64位系统
• 至少16GB内存
• 支持WSL2的CPU
• 建议配备NVIDIA显卡（非必须，但能提升速度）

2.2 软件准备

需要安装以下组件：

1. WSL2（Windows Subsystem for Linux）
2. Ubuntu 20.04 LTS（推荐）
3. Python 3.8或更高版本
4. CUDA工具包（如有NVIDIA显卡）

3. WSL2环境配置

3.1 启用WSL2功能

以管理员身份打开PowerShell，执行以下命令：

wsl --install dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart wsl --set-default-version 2

3.2 安装Ubuntu系统

1. 打开Microsoft Store
2. 搜索"Ubuntu 20.04 LTS"并安装
3. 安装完成后启动Ubuntu，完成初始设置

3.3 基础环境配置

在Ubuntu终端中运行：

sudo apt update && sudo apt upgrade -y sudo apt install -y python3-pip python3-venv git

4. 模型部署流程

4.1 获取模型文件

git clone https://github.com/your-repo/DeepSeek-R1-Distill-Qwen-1.5B.git cd DeepSeek-R1-Distill-Qwen-1.5B

4.2 创建Python虚拟环境

python3 -m venv venv source venv/bin/activate pip install --upgrade pip

4.3 安装依赖包

pip install -r requirements.txt

主要依赖包括：

• torch
• transformers
• streamlit
• accelerate

5. 启动对话服务

5.1 首次运行准备

首次启动需要下载模型权重文件（约3GB）：

python download_model.py

5.2 启动Streamlit界面

streamlit run app.py

启动过程会显示类似以下日志：

Loading: /root/ds_1.5b Model loaded successfully!

5.3 访问Web界面

服务启动后，终端会显示一个本地URL（通常是http://localhost:8501），在Windows浏览器中打开这个地址即可开始使用。

6. 使用指南

6.1 基本对话操作

1. 在底部输入框输入问题
2. 按Enter键发送
3. 等待模型生成回复（通常几秒钟）
4. 继续对话或点击"清空"按钮重置

6.2 特色功能说明

• 思维链展示：模型会自动将思考过程与最终答案分开显示
• 多轮对话：系统会记住之前的对话上下文
• 显存管理：侧边栏提供一键清理功能

7. 常见问题解决

7.1 模型加载缓慢

首次加载可能需要10-30秒，后续启动会快很多。如果特别慢，可以尝试：

export PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128

7.2 显存不足

如果遇到显存错误：

1. 点击侧边栏"清空"按钮
2. 或者重启服务
3. 也可以尝试减小max_new_tokens参数值

7.3 其他问题

如果遇到依赖冲突：

pip install --force-reinstall -r requirements.txt

8. 总结

通过本教程，你已经成功在Windows WSL2环境下部署了DeepSeek-R1-Distill-Qwen-1.5B本地对话助手。这个方案有三大优势：

1. 完全私有：所有数据都在本地处理
2. 资源友好：适合普通电脑配置
3. 功能全面：支持复杂对话和推理任务

现在你可以尽情探索这个本地AI助手的各种应用场景了！

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。