Tensorflow serving with docker

XianxinMao XianxinMao 墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年,写一次发全网 我也要 + 加入社区

本次教程的目的是带领大家看下如何用 Docker 部署深度学习模型的

第一步我们需要 pull 一个 docker image

sudo docker pull tensorflow/serving

如上图所示,执行 pull 之后,我们看到本地已经存在 tensorflow/serving:latest

接下来我们 clone 一个仓库

git clone https://github.com/tensorflow/serving

上图中的 saved_model_half_plus_two_cpu 就是我们想要部署的模型

然后我们可以直接运行以下命令实现部署

运行结果如下图所示,我们可以看到 Exporting HTTP/REST API at:localhost:8501,那么就代表着部署成功了

接下来我们可以进行预测,返回的结果也能对的上

 

...全文

相关推荐

评论 1
收藏 已收藏
分享
返回顶部