VMware中国团队利用KFServing提升联邦学习模型部署效率

在云计算与人工智能/机器学习（AI/ML）领域，VMware中国研发团队由两位关键成员——Fangchi Wang和Henry Zhang驱动，他们在这个技术研讨会上分享了如何利用KFServing加速联邦学习模型部署的经验。Fangchi Wang作为资深软件工程师，专注于云计算、虚拟化技术，以及云原生应用程序和基础设施的开发，他同时也是FATE/KubeFATE项目的贡献者和维护者，这是一系列由VMware主导的云原生联邦学习开源项目。 KubeFATE是Linux基金会支持的项目，旨在提供云原生环境下的联邦学习解决方案，解决企业级数据分散、数据安全共享和数据标注不足等问题。其中，小样本量和碎片化的数据是联邦学习面临的主要挑战之一，企业通常需要处理来自多个部门或机构的数据，但这些数据可能被隔离，安全性是另一个需要考虑的重要因素。 Henry Zhang作为Technical Director，拥有丰富的云原生实践经验，他是Harbor（云原生制品仓库，中国首个CNCF毕业项目，国内市场份额达到47%）的创建者和维护者。此外，他还参与了Contour（云原生ingress，CNCF孵化项目）、BuildPacks（云原生应用打包，CNCF孵化项目）、Antrea（云原生网络安全，Kubernetes的CNI项目，CNCF沙箱项目）以及Velero（Kubernetes云原生备份和恢复开源项目）等其他重要开源项目。 在AI/ML的三大支柱——算法、计算能力与数据中，计算能力的提升和云平台的强大支持对于实现联邦学习至关重要。通过KFServing，VMware提供了一种高效的方式来部署和管理这些复杂的模型，使得企业能够更轻松地整合各自的数据资源，构建分布式学习环境，从而推动AI/ML在各行业的应用和发展。 会议还探讨了超过80%的企业面临的联邦学习挑战，如如何在保证数据安全性和隐私的前提下进行协作，以及如何处理缺乏标签的、分割的数据集。整体而言，此次演讲强调了VMware在云原生技术领域的专业实力，以及其在促进AI/ML特别是联邦学习在企业中的广泛应用中的核心角色。