news 2026/4/18 8:09:02

Skywork UniPic:新一代多模态模型,集图像理解、生成和编辑于一体,效率极高

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Skywork UniPic:新一代多模态模型,集图像理解、生成和编辑于一体,效率极高

概述

本研究提出的 Skywork UniPic 是一个 1.5B 参数的自回归模型,它将图像理解、从文本生成图像和图像编辑集成在一个架构中。

传统上,许多多模态人工智能在单独的模型和适配器中处理理解、生成和编辑,导致性能分散和推理成本增加。
UniPic 采用了 “解耦编码策略”,在一个共同的 LLM 骨干上连接了以生成为重点的屏蔽自回归(MAR)编码器和以理解为重点的 SigLIP2 编码器,从而实现了特定任务优化和相互知识转移。此外,该系统还结合了 1 亿规模的高质量数据集、带有奖励模型的数据质量管理以及从 256 像素到 1024 像素的渐进式分辨率扩展学习,从而在 RTX 4090 等常见 GPU 环境中实现高清图像生成。

评估结果表明,GenEval 0.86、DPG-Bench 85.5 和 GEdit-Bench 5.83 等模型具有很高的性能,与同等规模和尺度的现有集成模型相比具有很强的竞争力。

建议的方法

Skywork UniPic 的主要特点是采用 “解耦编码策略”,将图像理解、生成和编辑高效集成到一个模型中。

在生成任务中,使用 MAR 编码器-解码器支持高分辨率合成,同时保持像素级保真度。

另一方面,理解任务使用 SigLIP2 编码器进行语义丰富的特征提取。

两者通过独立的 MLP 投影层连接到 15 亿参数的 Qwen2.5 主干网,从而通过统一的自回归处理实现任务间的知识共享。

学习以四级课程结构进行,从 MAR 预学习、MAR-LLM 对齐、任务集成优化到利用奖励模型的 SFT。
数据质量保证使用在 GRPO 和 Skywork-EditReward 上训练的 Skywork-ImgReward(专门保证编辑准确性),以建立可用于各种编辑和生成场景的数据集,同时消除低质量样本。

实验

实验在三个领域进行:图像生成、图像编辑和图像理解。

在图像生成任务中,使用了 GenEval(建设性理解)和 DPG-Bench(长指令跟踪),UniPic 在 GenEval 中的准确率为 0.86,在 DPG-Bench 中的准确率为 85.5。
在单个对象生成、多个对象组合和位置理解方面,UniPic 的准确率尤其高。

在编辑任务方面,UniPic 在 GEdit-Bench 和 ImgEdit-Bench 分别取得了 5.83 和 3.49 的高分,在行为编辑和风格修改等特定类别中表现出了优势。
比较对象包括 OmniGen2 和 BAGEL 等集成模型,以及 ICEdit 和 Step1X-Edit 等专业编辑模型。

此外,UniPic 还能在 RTX 4090 上生成 1024 x 1024 分辨率的图像,GPU 内存不足 15 GB,这证明了它作为集成式多模态基础设施模型的实用性,在性能、效率和多功能性方面取得了良好的平衡。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/15 14:47:33

CompassVerifier:彻底改变 LLM 解决方案验证的新基准和稳健模型

总结 本文的重点是 “答案验证”,它对于评估 LLM 的性能和设计强化学习中的奖励至关重要。 传统的验证方法主要使用正则表达式进行简单的字符串匹配,或使用通用 LLM 作为决策者。 然而,前者需要定制规则,缺乏灵活性,而…

作者头像 李华
网站建设 2026/4/18 5:43:43

从文本到情感语音:EmotiVoice的工作原理详解

从文本到情感语音:EmotiVoice的工作原理详解 在虚拟主播深情演绎剧情、客服机器人察觉用户不满并温柔回应的今天,我们早已不再满足于“能说话”的语音合成系统。人们期待的是有情绪、有个性、像真人一样的声音——这正是 EmotiVoice 这类新一代 TTS 引擎…

作者头像 李华
网站建设 2026/4/17 8:44:20

基于Spring MVC与AngularJS的API接口管理系统设计与实现

基于Spring MVC与AngularJS的API接口管理系统设计与实现 基于Spring MVC与AngularJS的API接口管理系统:毕业设计优质资源详解 在当今快速发展的软件开发领域,API(应用程序编程接口)已成为系统集成和数据交换的核心组件。随着微服…

作者头像 李华
网站建设 2026/4/18 5:38:25

LobeChat维修手册内容生成实践

LobeChat维修手册内容生成实践 在企业知识管理日益复杂的今天,如何让员工快速获取内部信息、减少重复性咨询,已经成为IT部门面临的一大挑战。与此同时,个人开发者和研究人员也在不断寻找更高效的方式,来测试和对比各类大语言模型&…

作者头像 李华