tensorflow serving

TensorFlow Serving是一种用于部署机器学习模型的系统，它支持基于TensorFlow训练的模型，可以在生产环境中提供高性能的模型服务。TensorFlow Serving可以在分布式环境中运行，支持多种部署架构，包括本地部署、Docker部署和Kubernetes部署。它还支持多种模型转换和优化技术，使得模型的部署和使用更加高效和灵活。TensorFlow Serving还提供了RESTful API和gRPC API，方便客户端对模型进行访问和使用。