张小明
前端开发工程师
最近在做一些端侧部署一些小参数模型来进行一些自动化操作的尝试发现一个有意思的地方
使用qwen30b-a3b模型直接使用阿里百炼永远比ollama部署的模型toolcall效果要更好
c#调用ollama的模型默认使用ollama sharp这个包
OllamaSharp
https://github.com/awaescher/OllamaSharp
翻阅代码可知
对于方法调用参数的定义非常的奇怪如果参数是引用类型或者存在嵌套的情况则上下文会完全丢失参数细节
这样调用会存在问题也不足为奇了
如果你也遇到类似的问题可以考虑转用Microsoft.Extensions.AI.OpenAI
ollama也部分兼容openai格式的请求
openai-compatibility
https://docs.ollama.com/api/openai-compatibility
Clawdbot快速部署指南：Qwen3:32B镜像免配置启动Token安全访问全流程 Clawdbot 是一个统一的 AI 代理网关与管理平台，旨在为开发者提供一个直观的界面来构建、部署和监控自主 AI 代理。通过集成的聊天界面、多模型支持和强大的扩展系统，Clawd…
李华
图片旋转判断开源大模型快速上手：免配置镜像单卡GPU高效运行 你有没有遇到过这样的情况：一批从不同设备采集的图片，有的正着、有的倒着、有的歪着，手动一张张旋转校正？光是翻看几百张图就让人头大，更别说批…
李华
all-MiniLM-L6-v2基础教程：对比SBERT、MPNet、E5等Embedding模型选型 你是不是也遇到过这样的问题：想给自己的搜索系统、知识库或推荐功能加上语义理解能力，但面对一堆名字相似的Embedding模型——SBERT、MPNet、E5、all-MiniLM-L6-v2……完…
李华
Lychee-Rerank-MM实战指南：重排序结果后处理（去重/归一化/加权） 1. 这不是普通重排序，是多模态精排的“最后一公里” 你有没有遇到过这样的情况：图文检索系统初筛返回了20个结果，但其中3个其实是同一张商…
李华
零基础玩转SenseVoice Small：手把手教你搭建语音识别Demo 1. 这不是又一个“跑通就行”的教程 你是不是也试过网上那些语音识别Demo？下载模型、改路径、装依赖、报错、再查文档、再报错……折腾两小时，连第一句“你好”都没识别出来。 这次…
李华
Pi0 Web界面交互优化：指令历史保存、动作回放、多轮对话支持 1. 为什么需要优化Pi0的Web交互体验 Pi0不是传统意义上的聊天机器人，而是一个真正能“看见、理解、行动”的视觉-语言-动作流模型。它把摄像头看到的画面、你用自然语言说的指令、以及机器人…
李华