FastDeploy/examples/text/ernie-3.0

ERNIE 3.0 模型部署

模型详细说明

• PaddleNLP ERNIE 3.0模型说明

支持的模型列表

模型	结构	语言
ERNIE 3.0-Base	12-layers, 768-hidden, 12-heads	中文
ERNIE 3.0-Medium	6-layers, 768-hidden, 12-heads	中文
ERNIE 3.0-Mini	6-layers, 384-hidden, 12-heads	中文
ERNIE 3.0-Micro	4-layers, 384-hidden, 12-heads	中文
ERNIE 3.0-Nano	4-layers, 312-hidden, 12-heads	中文

支持的NLP任务列表

任务 Task	是否支持
文本分类	✅
序列标注	❌

导出部署模型

在部署前，需要先将训练好的ERNIE模型导出成部署模型，导出步骤可参考文档导出模型.

下载微调模型

分类任务

为了方便开发者的测试，下面提供了在文本分类AFQMC数据集上微调的ERNIE 3.0-Medium模型，开发者可直接下载体验。

• ERNIE 3.0 Medium AFQMC

详细部署文档

• Python部署
• C++部署
• Serving部署