weixin_47295044
2022-08-15 16:25
采纳率: 0%
浏览 592

paddlepaddle NLP模型部署问题

paddlepaddle NLP 模型部署的时候。运行客户端:
/transformer_web_client.py
请求发过去,服务端报错:KeyError: 'save_infer_model/scale_0.tmp_1'

1.按照paddleNLP-example-machine_translation-transfer 中的示例,先训练出来了模型,如下2个文件
2.执行export_model.py,将这个模型转换成infer_model
生成如下3个文件:
3.执行export_serving_model.py 将模型转换成server和client两个文件夹:
server:
4.运行服务端:
运行transformer_web_server.py,成功:
5.运行客户端:
/transformer_web_client.py
请求发过去,服务端报错:KeyError: 'save_infer_model/scale_0.tmp_1'

运行结果及报错内容
  • Running analysis (ir graph build pass]
  • Running analysis [ir graph cLean pass]
  • Running analysis (ir analysis pass]
  • Running analysis [ir parans sync among devices passi
  • Running analysis (adjust cudnn workspace size pass]
  • Running analysis [inference op replace pass]
  • Running analysis [memory optimize pass]
  • Running analysis [ir graph to program pass]
我的解答思路和尝试过的方法

因为对paddlepaddle和机器学习不是很了解,所以遇到了很多问题。希望找人咨询。

我想要达到的结果

有没有人付费帮忙解决这个问题?

13条回答 默认 最新

相关推荐 更多相似问题