随着中国人工智能市场的持续高速增长,尤其是边缘计算占比逐年提升,云边端一体化的异构AI计算成为业界关注的焦点。这种新型计算模式旨在应对边缘场景中的诸多挑战,如设备部署与运维管理的复杂性、生态隔离导致的应用迁移困难、隐私安全的保护问题以及应用开发部署的敏捷性不足。
首先,边缘计算面临的挑战主要包括:
1. 设备独立部署与运维难题:在街头巷尾的街边柜等分散环境中,设备部署条件恶劣,运维管理难度大。
2. 芯片多样性和生态隔离:AI芯片市场百花齐放,但不同厂商间的指令集和软件栈互不兼容,使得应用跨平台迁移变得困难且开发周期较长。
3. 隐私与安全:在处理大量敏感数据如人脸和车牌信息时,如何在性能和隐私保护之间找到平衡是一大挑战。边缘计算的防护能力通常局限于静态加密,动态runtime保护缺失,且存在数据泄露和合规风险。
4. 应用开发与部署效率:边缘计算与云端的协同不足,导致开发体验欠佳,易形成功能孤岛,缺乏弹性扩展能力,无法满足现代业务快速迭代的需求。
针对这些挑战,云边端一体化的异构AI计算平台应运而生。例如,阿里巴巴云智能推出了N9100一体机,提供了一站式边缘计算解决方案。其中,异构AI编译技术(如HALO)和异构硬件解耦规范(ODLA)发挥了关键作用,它们允许针对不同类型的硬件进行高效编译和资源管理,同时ODLA.CV/Pipeline自动生成能力简化了AI应用的部署流程。
在硬件平台上,各种异构架构被广泛采用,包括CISC(复杂指令集)、如Intel、AMD和NVIDIA的芯片,以及针对特定场景设计的专用AI芯片,如高通AISDK、NXP的eIQ CoreML等。这些平台不仅提供了强大的计算能力,还通过标准化接口(如VitisAI、CANNC等)促进了生态的互联互通。
为了克服应用开发部署的问题,云/应用市场的DevOps模式被尝试在边缘计算中引入,但目前仍面临诸如边缘侧与云端协同不足、功能孤岛和弹性服务缺乏等问题。未来,新技术如5G、物联网(IoT)的进一步普及有望推动云边端一体化的异构AI计算平台进一步优化,以更好地满足各行业的实际需求,如电力、交通和安防等领域。
云边端一体化的异构AI计算是解决边缘计算挑战的关键路径,它涉及到硬件平台的多样化、编译工具的优化、生态系统的统一以及DevOps模式的延伸。通过持续的技术创新和市场实践,这一领域有望为AI在边缘的广泛应用打开新的可能。