想问下机器学习PAI，如何本地用triton部署 pai-tf训练的模型？-[阿里云_云淘科技]

匿名 • 2023年12月18日上午8:06 • 阿里云

想问下机器学习PAI，如何本地用triton部署 pai-tf训练的模型？

以下为热心网友提供的参考意见

首先，您可以使用PAI-TF训练模型，并导出为SaveModel通用模型格式。然后，为了在本地使用Triton部署这个模型，您需要首先安装Triton Inference Server。接下来，通过Triton的API接口，将刚才导出的模型上传到Triton服务器中。最后，使用Triton客户端工具进行模型推理，这一步可以验证您的模型是否成功部署并能正确工作。

以下为热心网友提供的参考意见

本地部署用trition提供的镜像把savedmodel拉起来就可以的，此回答整理自钉群“机器学习PAI交流群(答疑@值班)”

本文来自投稿，不代表新手站长_郑州云淘科技有限公司立场，如若转载，请注明出处：https://www.cnzhanzhang.com/11512.html