TensorFlow Serving
时间: 2024-01-12 07:55:09 浏览: 78
tensorflow serving
TensorFlow Serving 是 Google 开源的一个用于部署机器学习模型的高性能推理服务器系统。它可以让你轻松地将 TensorFlow 训练好的模型部署到生产环境中,以实时进行预测和推理。通过 TensorFlow Serving,你可以使用标准的 REST API 或 gRPC 接口与模型进行交互,并支持模型版本控制、模型热更新、灰度发布等功能,从而满足实时预测的需求。它是一个非常重要的工具,特别适用于构建大规模、高性能的机器学习服务。
阅读全文