bert-base-chinese教程：中文NER服务API开发

bert-base-chinese教程：中文NER服务API开发

1. 引言

随着自然语言处理技术的不断演进，预训练语言模型已成为中文文本理解任务的核心基础设施。在众多模型中，bert-base-chinese作为 Google 发布的经典中文 BERT 模型，凭借其强大的语义建模能力，广泛应用于命名实体识别（NER）、文本分类、语义匹配等场景。

本教程基于已部署bert-base-chinese模型的镜像环境，指导开发者从零构建一个可对外提供服务的中文 NER API。该镜像已完成模型文件持久化与依赖配置，支持一键运行基础 NLP 任务演示脚本，极大降低了部署门槛。我们将在此基础上扩展功能，封装模型为 RESTful 接口，实现高效、可复用的工业级服务。

通过本文，你将掌握：

• 如何加载本地bert-base-chinese模型进行序列标注
• 基于 Hugging Face Transformers 实现中文实体识别
• 使用 FastAPI 构建轻量级推理服务
• 将模型能力封装为生产可用的 API 接口

2. 环境准备与模型加载

2.1 镜像环境说明

本镜像已预装以下核心组件：

• Python 3.8+
• PyTorch 1.13+
• Transformers 4.25+
• FastAPI + Uvicorn（用于API服务）

模型文件位于/root/bert-base-chinese目录下，包含以下关键文件：

/root/bert-base-chinese/ ├── config.json # 模型结构配置 ├── pytorch_model.bin # 模型权重 ├── vocab.txt # 中文词汇表

2.2 安装额外依赖

虽然基础环境已就绪，但我们需要安装fastapi和uvicorn来构建 Web 服务：

pip install fastapi uvicorn[standard] requests

2.3 加载模型与分词器

我们使用 Hugging Face 的AutoModelForTokenClassification和AutoTokenizer来加载模型。由于原始bert-base-chinese是通用预训练模型，并未直接支持 NER 任务，因此需要先加载主干模型，再在其上添加分类头并进行微调或使用提示学习方式推断。

但在本教程中，为快速验证服务能力，我们采用一种基于掩码语言模型（MLM）的完形填空式 NER 推理方法，利用模型对[MASK]的预测能力识别实体。

from transformers import AutoTokenizer, AutoModelForMaskedLM import torch # 加载分词器和MLM模型 model_path = "/root/bert-base-chinese" tokenizer = AutoTokenizer.from_pretrained(model_path) model = AutoModelForMaskedLM.from_pretrained(model_path) print("✅ 模型与分词器加载完成")

3. 中文NER任务设计与实现

3.1 NER任务背景

命名实体识别旨在从文本中抽取出特定类别的实体，如人名（PER）、地名（LOC）、组织机构名（ORG）等。传统做法是训练一个序列标注模型（如 BERT-BiLSTM-CRF），但需大量标注数据。

在缺乏微调条件时，我们可以借助bert-base-chinese的 MLM 能力，通过构造“完形填空”问题间接实现粗粒度实体识别。

3.2 基于Prompt的实体识别思路

核心思想：将待检测的词语替换为[MASK]，观察模型是否能准确还原该词。若模型置信度高，则说明该词符合上下文语义模式，可能是合法实体。

例如：

原句：张伟在北京工作。
改造后：[MASK]在北京工作。
若模型输出“张伟”的概率很高，则可认为这是一个可能的人名。

3.3 实体候选生成与打分

以下代码实现对输入句子中所有长度为2~4的子串进行遮蔽预测测试，评估其作为实体的可能性。

def get_entity_candidates(text, tokenizer, model): """ 基于MLM打分机制提取潜在实体 """ inputs = tokenizer(text, return_tensors="pt") logits = model(**inputs).logits predictions = torch.softmax(logits, dim=-1) candidates = [] for i in range(1, len(tokenizer.tokenize(text)) + 1): # 获取第i个位置的top-k预测token top_k_tokens = torch.topk(predictions[0, i], k=5) decoded_tokens = [tokenizer.decode([idx]) for idx in top_k_tokens.indices] original_token = tokenizer.decode(inputs["input_ids"][0][i].unsqueeze(0)) # 如果真实token出现在top-5中，记录其概率 if original_token in decoded_tokens: score = top_k_tokens.values[decoded_tokens.index(original_token)].item() word = original_token.strip() # 过滤掉标点和单字（可选） if len(word) > 1 and word.isalnum(): candidates.append({ "word": word, "position": i, "score": round(score, 4), "type": "PER" if is_person_name(word) else "LOC" if is_location(word) else "ORG" }) return candidates def is_person_name(word): # 简单规则：常见姓氏 + 名字模式（实际应用应使用知识库） surnames = {"王", "李", "张", "刘", "陈", "杨", "赵", "黄", "周", "吴"} return len(word) >= 2 and word[0] in surnames def is_location(word): # 简单判断是否为地名（以“市”、“省”、“县”结尾） return any(word.endswith(x) for x in ["市", "省", "区", "县", "村", "镇"])

注意：上述实体类型判断仅为示例规则，实际项目建议结合外部词典或微调专用 NER 模型提升精度。

4. 构建RESTful API服务

4.1 使用FastAPI定义接口

接下来我们将上述逻辑封装为 HTTP 接口，接收 JSON 请求并返回实体识别结果。

创建文件ner_api.py：

from fastapi import FastAPI from pydantic import BaseModel from typing import List, Dict import json app = FastAPI(title="Chinese NER Service (BERT-based)", description="基于 bert-base-chinese 的中文实体识别API") class TextRequest(BaseModel): text: str class EntityResponse(BaseModel): word: str position: int score: float type: str @app.post("/ner", response_model=List[EntityResponse]) async def extract_entities(request: TextRequest): text = request.text if not text.strip(): return [] candidates = get_entity_candidates(text, tokenizer, model) return candidates @app.get("/") async def root(): return {"message": "Welcome to Chinese NER API", "model": "bert-base-chinese", "endpoint": "/ner"}

4.2 启动API服务

在终端执行以下命令启动服务：

uvicorn ner_api:app --host 0.0.0.0 --port 8000 --reload

服务成功启动后，访问http://<your-server-ip>:8000可查看交互式文档（Swagger UI）。

4.3 调用示例

请求示例（curl）：

curl -X POST "http://localhost:8000/ner" \ -H "Content-Type: application/json" \ -d '{"text": "张伟在上海华为公司工作，他昨天去了北京"}'

返回示例：

[ { "word": "张伟", "position": 1, "score": 0.9876, "type": "PER" }, { "word": "上海", "position": 3, "score": 0.9912, "type": "LOC" }, { "word": "华为", "position": 4, "score": 0.9734, "type": "ORG" }, { "word": "北京", "position": 9, "score": 0.9888, "type": "LOC" } ]

5. 性能优化与工程建议

5.1 缓存机制

对于频繁出现的短句或固定表达，可引入缓存减少重复计算：

from functools import lru_cache @lru_cache(maxsize=1000) def cached_ner_result(text): return get_entity_candidates(text, tokenizer, model)

5.2 批处理支持

若需处理批量文本，可扩展接口支持列表输入：

@app.post("/ner/batch") async def batch_extract(request: Dict[str, List[str]]): texts = request.get("texts", []) results = [get_entity_candidates(t, tokenizer, model) for t in texts] return {"results": results}

5.3 GPU加速

若服务器配备 GPU，确保 PyTorch 正确识别 CUDA 设备：

device = torch.device("cuda" if torch.cuda.is_available() else "cpu") model.to(device) # 在推理时移动输入张量 inputs = tokenizer(text, return_tensors="pt").to(device)

可通过nvidia-smi查看显存占用情况，合理控制并发请求量。

5.4 安全与限流

生产环境中建议增加：

• 请求频率限制（如使用slowapi）
• 输入长度校验
• HTTPS 加密传输
• 认证 Token 验证

6. 总结

6.1 技术价值总结

本文围绕bert-base-chinese预训练模型，展示了如何将其从静态推理工具升级为动态服务系统。我们通过以下步骤实现了中文 NER 功能的服务化：

1. 理解模型能力边界：利用 MLM 头进行完形填空式实体推测
2. 实现轻量级实体抽取逻辑：结合上下文打分与简单规则分类
3. 封装为 REST API：使用 FastAPI 快速构建高性能 Web 接口
4. 提供完整调用链路：从本地脚本到网络服务的工程闭环

尽管该方案未使用专门微调的 NER 模型，但在低资源场景下仍具备实用价值，尤其适用于冷启动阶段的原型验证。

6.2 最佳实践建议

1. 优先考虑微调专用模型：若拥有标注数据，推荐使用bert-base-chinese微调BertForTokenClassification，效果更优。
2. 结合词典增强识别：引入《现代汉语词典》或领域专有名词库提升召回率。
3. 监控与日志记录：记录请求日志以便分析误识别案例。
4. 容器化部署：将服务打包为 Docker 镜像，便于迁移与集群管理。

6.3 下一步学习路径

• 学习使用datasets库加载中文 NER 数据集（如 MSRA NER）
• 掌握TrainerAPI 对模型进行微调
• 探索更先进的模型如 RoBERTa-wwm-ext 或 ChatGLM-6B 在 NER 上的应用

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。