ERNIE-4.5-0.3B-Base-PT模型发布：百度轻量化大语言模型落地新选择

百度ERNIE（文心一言）系列再添新成员，轻量化基础模型ERNIE-4.5-0.3B-Base-PT正式发布，该模型基于PyTorch框架构建，聚焦文本生成场景，为资源受限环境下的大语言模型应用提供新可能。

【免费下载链接】ERNIE-4.5-0.3B-Base-PT项目地址: https://ai.gitcode.com/hf_mirrors/baidu/ERNIE-4.5-0.3B-Base-PT

近年来，大语言模型（LLM）呈现"双向发展"趋势：一方面，以GPT-4、ERNIE 4.5 MoE系列为代表的大模型持续突破参数规模天花板，探索通用人工智能边界；另一方面，轻量化模型凭借部署成本低、推理速度快的优势，成为边缘计算、嵌入式设备等场景的刚需。据行业研究显示，2024年全球轻量化LLM市场规模同比增长达187%，企业对"小而美"模型的需求显著提升。

ERNIE-4.5-0.3B-Base-PT作为百度ERNIE 4.5家族的轻量化成员，核心亮点在于三点：首先是极致压缩的模型体量，仅0.36B参数规模却继承了ERNIE 4.5系列的技术基因；其次是原生支持PyTorch生态，通过transformers库可快速集成；最后是超长上下文处理能力，支持131072 tokens的文本序列，满足长文档处理需求。

从技术架构看，该模型延续了ERNIE 4.5系列的三大创新方向。在预训练阶段采用异构混合并行策略与分层负载均衡技术，确保小模型也能高效吸收知识；推理优化上应用卷积码量化算法，为后续低比特量化部署奠定基础；虽为文本专用模型，但其底层设计预留了与ERNIE 4.5多模态能力的对接接口。

在实际应用中，这款轻量级模型展现出独特价值。开发者可通过简单代码实现快速调用：

from transformers import AutoModelForCausalLM, AutoTokenizer model_name = "baidu/ERNIE-4.5-0.3B-Base-PT" tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto") prompt = "大语言模型的轻量化趋势带来的主要影响是" inputs = tokenizer([prompt], return_tensors="pt").to(model.device) outputs = model.generate(**inputs, max_new_tokens=100) print(tokenizer.decode(outputs[0], skip_special_tokens=True))

这段示例代码展示了模型的典型调用流程，开发者无需复杂配置即可实现文本生成功能，特别适合原型开发与边缘设备部署。

值得注意的是，该模型明确区分了不同技术路线：带有"-Paddle"后缀的版本使用PaddlePaddle权重，而"-PT"版本则采用Transformer风格的PyTorch权重。这种设计满足了不同技术栈开发者的需求，体现了百度在模型生态构建上的开放态度。

ERNIE-4.5-0.3B-Base-PT的发布，进一步完善了ERNIE 4.5系列的产品矩阵。从参数规模看，百度已形成覆盖0.3B-47B的完整产品线，从应用场景看，实现了从基础文本处理到多模态推理的全场景覆盖。这种"全栈布局"策略，使百度在大模型竞争中既能保持技术领先性，又能快速响应产业落地需求。

对于行业而言，轻量化模型的普及将加速大语言模型的产业化进程。一方面，0.3B级模型可降低企业AI应用门槛，尤其利好中小企业数字化转型；另一方面，通过小模型与大模型的协同部署（如本地推理+云端增强），能在隐私保护与性能需求间取得平衡。随着技术迭代，未来轻量级模型可能在特定任务上达到甚至超越早期大模型水平，推动"AI普惠化"进程。

【免费下载链接】ERNIE-4.5-0.3B-Base-PT项目地址: https://ai.gitcode.com/hf_mirrors/baidu/ERNIE-4.5-0.3B-Base-PT