![](https://csdnimg.cn/release/download_crawler_static/88576090/bgb.jpg)
2120
英
特
尔
中
国
医
疗
健
康
行
业
AI
实
战
手
册
英
特
尔
中
国
医
疗
健
康
行
业
AI
实
战
手
册
实
战
篇
实
战
篇
西门子医疗利用英特尔® 深度学习加速
技术,推进诊疗中的 AI 应用
■
背景与挑战
过去,医生往往需要凭借经验来对 MRI 影像进行判读,不仅
费时费力,且错误率较高,在解释图像时也容易受到主观因素
的影响,导致漏诊和误诊。
随着 AI 技术的发展,西门子医疗正在开展一系列创新医疗 AI
应用研究,并将成果纳入实际应用。但要将这些 AI 能力真正
应用到医疗实践中,还面临着一系列的挑战。
首先,AI 应用对临床诊疗带来延迟。AI 应用需要与各类检查
仪器生成的数据保持同步,并保证 AI 推理具备高吞吐、低延
迟的特性,才能让基于 AI 的医疗系统服务更多患者。其次,
AI 应用应当尽可能与临床诊疗流程进行融合,以便节省时间,
并提高测量和诊断之间的一致性和准确性。
为此,西门子医疗与英特尔一起,基于通用处理器平台来开
展针对 MRI 影像的判读和测量,实施高效的 AI 推理工作。双
方不仅利用深度学习的方法对来自 MRI 的影像进行了 AI 判
读研究,同时基于第二代英特尔® 至强® 可扩展处理器以及
OpenVINO™ 工具套件等,进行了优化工作,使推理速度大
幅提升,为临床医学诊疗提供了强有力的支撑。
图 2-1-13 西门子医疗与英特尔一起构建面向 MRI 的 AI 分析能力
心脏 MRI
检查
四个腔室的量化
AI 系统
■
方案简介及实施效果
在本案例中,西门子医疗与英特尔一起合作,优化了基于第二
代英特尔® 至强® 可扩展处理器构建的医疗检测和量化模型。
该 AI 模型基于 Dense U-Net,可对检测对象进行语义分割。
AI 模型的输入是检测对象的 MRI 图像的堆叠,输出则是检测
对象的不同区域以及结构,其中每个结构都会被颜色编码。这
样可以将原先需要人工识别标注的过程智能化,从而加快影像
判读速度,其整体工作流程见图 2-1-13 所示。
第二代英特尔® 至强® 可扩展处理器为该 AI 模型的推理提供了
高效、灵活和可扩展的平台,特别是经与 OpenVINO™ 工具套
件的紧密结合,有效地加速了针对视觉应用的深度学习推理,
提高了诊疗过程中至关重要的诊断与决策的速度和准确性。同
时,处理器集成的英特尔® 深度学习加速技术,具有全新的矢
量神经网络指令(VNNI),能够进一步加速深度学习中的各种
计算密集型操作,让图像分类、图像分割、目标检测等 AI 应用
在英特尔® 处理器平台上推理效率变得更高。英特尔® 深度学习
加速技术对 INT8 良好的支持能力,使其可以将 FP32 训练模
型转化为 INT8,在保持准确性的同时大幅提升推理速度。
在本案例中,深度神经网络(例如 Dense U-Net)经过训
练后被用以识别检测对象区域,神经网络的权值通常采用
浮点数值(FP32)来表示,因此模型通常情况下会通过
FP32 精度来进行训练和推理。但 INT8 同样可以在损失很
小的准确率(通常 <0.5%,本案例中可达到 <0.001%)情
况下来提升推理速度
12
。
12
该数 据援引自 Journal of the American College of Cardiology, 2017.
通过英特尔® 深度学习加速技术和 OpenVINO™ 工具套件提
供的 FP32 到 INT8 的转换工具,英特尔帮助西门子医疗实现
了在保持准确率的情况下,以更高的速度来进行推理运算的能
力。图 2-1-14 显示了使用 INT8 模型前后输出的图像,可以直
观地看到,两者的精度基本一致。
从推理速度来看,该方案在基于第二代英特尔® 至强® 可扩展
处理器、英特尔® 深度学习加速技术以及 OpenVINO™ 工具
套件进行优化后,面向 MRI 的 AI 分析能力得以大幅增强。
一方面,MRI 影像的处理速度获得了显著增强,达到了 200
FPS(帧每秒),为相关 MRI 在临床上的近实时应用开辟了
可能;另一方面,优化后的解决方案,在量化和执行模型时,
在几乎没有降低精度的情况下,性能可以提升到未优化方案的
5.5 倍
13
。
图 2-1-14 使用 INT8 模型前后的输出精度对比
GE 医疗利用英特尔技术与产品,优化深度
学习模型,提升 CT 图像推理性能
■
背景
CT 检查是现代医学中最常用的检查手段之一。其通过 X 射线
束对人体层面进行扫描,并得到相关部位的断面或立体图像,
从而发现人体的病变情况。CT 检查虽然有着极为重要的临床
意义,但 CT 切片图像的检查在传统上往往依赖经验丰富的医
生进行人工读片,不仅效率较低,且受医生主观性的影响也会
带来误诊、漏诊。
现在,通用电气医疗集团(以下简称 “GE 医疗”)正利用深度
学习的方法,对 CT 切片图像进行分类和标记,这更便于医生
寻找到微小病灶,并将其用于研究或临床比较。在 2018 年的
医学成像光学会议(SPIE)上,GE 医疗发表了一篇关于基于
AI 的结构分类器的论文,其 CT 成像专家使用 Python 语言、
TensorFlow 框架以及 Keras 库构建并训练了新的 AI 模型。通
过与英特尔开展的深入技术合作,双方正利用英特尔® 至强®
处理器、英特尔® 深度学习部署工具(Intel® Deep Learning
Deployment Toolkit, 英特尔 ® DLDT)等产品与技术,来优化
其面向 CT 推理的解决方案。
■
方案与成效
方案中引入了英特尔 ® DLDT 来优化深度学习模型,并在英特尔 ®
至强 ® 平台上展现出更好的推理性能。
英特尔® DLDT 是 OpenVINO™ 工具套件中,专门用于深
度学习模型的推理加速部件。通过该工具,训练收敛的模型
可以在多种英特尔® 平台上获得更高的数据处理能力,以及
更低的数据处理延时。其可以对多种主流深度学习开源框架
训练好的模型进行转换和优化,生成独立于深度学习框架的
bin 文件和 xml 文件。其中 bin 文件用于存放深度学习模型
的权重,以二进制形式存储,而 xml 文件则描述深度学习模
型的网络结构,二者结合起来共同解析模型。这使得模型的
表征文件不依赖于任何深度学习框架,可以更方便地进行部
署。同时,在生成这两个文件的过程中,还会对模型进行常
量折叠、Batch 层融合、水平方向层融合、无效节点消除等
模型优化操作。
13
该数据所使用的测试配置为:处理器:双路英特尔® 至强® 铂金 8280 处理器,2.70GHz;核 心 /线程:28/56; HT:ON;Turbo:ON;
内存:192GB DDR4 2933;硬 盘 :英 特 尔 ® 固态盘SC2KG48;BIOS:SE5C620.86B.02.01.0008.031920191559;操作系统:CentOS Linux
7.6.1810;Linux内核:4.19.5-1.el7.elrepo.x86_64;gcc版本:4.8.5;OpenVINO™ 工具套件:2019 R1;工 作 负 载 :Dense U-Net。
ONNX output
Input
IE int8 output