news 2026/6/10 17:42:57

mindie部署qwen3-8b

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
mindie部署qwen3-8b

参考:
https://www.hiascend.com/document/detail/zh/mindie/230/quickstart/mindie_quickstart_0004.html

https://www.hiascend.com/document/detail/zh/mindie/230/mindiellm/llmdev/mindie_service0285.html

mkdir /root/tmp
modelscope download --model Qwen/Qwen3-8B --local_dir /root/tmp/
将Qwen3-8B直接放到tmp中,目录结构为
/root/tmp/Qwen3-8B/config.json

1. 拉取镜像
docker pull --platform=arm64 swr.cn-south-1.myhuaweicloud.com/ascendhub/mindie:2.3.0-300I-Duo-py311-openeuler24.03-lts

docker images |grep 2.3.0-300I-Duo-py311-openeuler24.03-lts

2.启动容器
docker run -it -d --net=host --shm-size=4g \
       --name  qwen3-8b\
       -w /home \
       --device=/

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/10 12:10:28

Linux网络栈太慢?DPDK如何做到100倍性能提升

去年在做一个高频交易系统的网络模块时,我遇到了一个让人抓狂的问题:明明用的是万兆网卡,但实测吞吐量却连理论值的十分之一都达不到。CPU占用率倒是很高,但数据就是发不出去。 排查了一圈,问题指向了Linux内核网络栈。 这不是个例。很多做高性能网络的工程师都会遇到类…

作者头像 李华
网站建设 2026/6/10 12:13:45

深度测评MBA必看!8款AI论文软件对比与推荐

深度测评MBA必看!8款AI论文软件对比与推荐 2026年MBA论文写作工具测评:如何选对AI助手 在MBA学习与研究过程中,撰写高质量的论文是每位学生必须面对的挑战。随着AI技术的发展,各类论文辅助工具层出不穷,但如何选择真正…

作者头像 李华
网站建设 2026/6/10 12:10:26

学长亲荐!10款AI论文软件测评,本科生毕业论文必备

学长亲荐!10款AI论文软件测评,本科生毕业论文必备 2026年AI论文工具测评:为什么你需要一份精准的推荐榜单 随着人工智能技术在学术领域的深入应用,越来越多的本科生开始借助AI论文软件提升写作效率、优化内容质量。然而&#xff…

作者头像 李华
网站建设 2026/6/10 10:39:42

ArcGIS Python零基础脚本开发教程---前言

文章目录 前言一、适合人群二、你将会学到三、课程简介 前言 编程入门阶段,不宜过度纠结于细枝末节的记忆。过早陷入语法细节,容易分散新手对核心逻辑和编程思维的注意力,且不常用的知识点也极易遗忘。实际开发并非闭卷考试,无需…

作者头像 李华