QuantumNAT：量子噪声感知优化和归一化训练框架

1E-04E-040.00E+2.03004.84QuantumNAT：量子噪声-A波形训练，噪声注入、量化和归一化1王汉瑞，2顾佳琪，3丁永山，4李子瑞，5弗雷德里克·T。Chong，2David Z.潘，1宋汉1麻省理工学院2奥斯汀税务大学，3耶鲁大学，4上海交通大学，5芝加哥大学https://qmlsys.mit.edu摘要参数化量子电路（PQC）在近期量子硬件上有望实现量子优势然而，由于大的量子噪声（误差），PQC模型的性能在实际量子器件上有严重的下降以量子神经网络（QNN）为例，比较了MNIST-4类神经网络在IBMQ-Yorktown上的无噪声仿真和有噪声仿真结果之间的精度差距1E-038E-046E-044E-042E-040E+00无噪声仿真IBMQ-Yorktown Lima Santiago准确度严重下降，因为1.01E-03quan1tumerrorsonrealdevices0.70.40.1的比例超过60%。现有的噪音缓解方法一般没有利用PQC的独特特性;另一方面1-量子比特门错误率MNIST-4MNIST-4+QuantumNAT另一方面，现有的PQC工作没有考虑噪音的影响。为此，我们提出了QuantumNAT，一个PQC特定的框架，在训练和推理阶段进行噪声感知优化，以提高鲁棒性。我们实验观察到量子噪声对PQC测量结果的影响是无噪声结果与缩放和移位因子的线性映射受此启发，我们提出了测量后归一化来减轻无噪声和有噪声sce-narios之间的特征分布差异此外，为了提高对噪声的鲁棒性，我们提出了噪声注入的训练过程中插入量子错误门PQC根据现实的量子硬件噪声模型最后引入测量后量化，将测量结果离散化，达到去噪的效果。使用6个量子设备对8个分类任务进行的广泛实验表明，QuantumNAT将准确率提高了43%，并在实际量子计算机上实现了超过94%的2类，80%的4类PQC的构建和噪声感知培训代码可在TorchQuantum库中获得。1引言量子计算（QC）是一种新的计算模式，在各个领域都可以比经典计算模式快指数参数化量子电路（PQC）是一种含有可训练权值的电路，有望在现有器件中实现量子优势。 在各种PQC中，量子神经网络（QNN）是一种流行的算法，其中构造并训练参数化量子门的网络以在量子计算机上嵌入数据并执行某些ML任务，类似于经典神经网络的训练和推理。目前，我们正处于有噪声的中间尺度量子（NISQ）阶段，量子运算的错误率高达10−2到10−3，远高于CPU/GPU（10−6 FIT）。不幸的是，量子误差对PQC产生了不利影响本作品采用知识共享署名国际4.0许可协议进行许可DAC©2022版权归所有者/作者所有ACM ISBN978-1-4503-9142-9/22/07。https://doi.org/10.1145/3489517.3530400图 1 ： 左 ： 当 前 量 子 硬 件 的 错 误 率 （ 约 10−3 ） 比 经 典CPU/GPU大得多。右：由于误差，PQC（QNN）模型遭受严重的准确性下降。不同的设备有不同的误差幅度，导致不同的精度。这些激发了QuantumNAT，一种硬件特定的噪声感知PQC训练方法，以提高鲁棒性和准确性。精度 图1显示了在不同硬件上使用QNN进行分类任务的单量子比特门错误率和测量精度。 三个关键的观察结果是：（1）量子错误率（10 −3）比经典CMOS器件的错误率（每109器件小时10−6故障）大得多。（2）与无噪声模拟相比，真实硬件上的准确性显著降低（高达64%）（3）由于不同的门错误率，同一个QNN在不同的硬件上具有不同的精度IBMQ-Yorktown的错误率是IBMQ-Santiago的五倍，错误越多，准确度越低研究人员提出了噪音缓解技术[16，21]以减少噪音的影响。然而，它们都是一般的方法，没有考虑到PQC的独特性，只能应用于PQC的推理阶段。另一方面，现有的PQC工作[3，8]没有考虑噪声影响。本文提出了一个PQC特定的噪声抑制框架QuantumNAT，它在训练和推理阶段优化了PQC的鲁棒性，提高了PQC参数的内在鲁棒性，并提高了真实量子机器的准确性。QuantumNAT包括一个三级流水线。第一步，测量后归一化跨数据样本对每个量子比特（qubit）上的测量结果进行归一化，从而去除量子误差引起的分布偏移。此外，我们通过执行错误门插入将噪声注入到PQC训练过程中。误差门类型和概率是从QC供应商提供的硬件特定的现实量子噪声模型获得的在训练过程中，我们迭代地对误差门进行采样，将它们插入到PQC中，并更新权重。最后，进一步提出了测量后量化，以降低每个量子比特的测量结果的精度，并达到去噪的效果。在本文中，我们主要使用QNN作为基准，但这些技术也可以应用于其他PQC。QuantumNAT的贡献如下：减轻噪声影响的系统管道：测量后归一化噪声注入和测量后量化。0.870.140.730.770.800.230.620.5640.310.6错误率精度·2×[客户端]--≤∈ []--（）+（）+ ∈ [−]归一化结果为yi=（yi−E[]）/Var（）。对于噪声推理，数字1数字2数字3第4位编码类图2：量子神经网络架构。QNN有多个块，每个块都有一个编码器将经典值编码到量子域，具有可训练权重的量子层，以及获得经典值的测量层在6个量子设备上的8个ML任务的5个不同设计空间上进行的广泛实验表明，QuantumNAT可以将2类、4类和10类分类任务的准确率提高高达42%、43%和23%，并在真实量子硬件上对2类、4类和10类分类的准确率分别PQC的构造和噪声感知培训代码可在TorchQuantum库中获得。它是一个方便的基础架构，可以从QC提供商（如IBMQ）查询噪声模型，提取噪声信息，在CPU/GPU上执行训练，并最终部署在真实的QC上。2背景和相关工作QML和QNN。量子机器学习探索在量子设备上执行ML任务。在QML上实现量子优势的途径通常由量子电路生成和估计高度复杂的内核的能力提供，否则用传统计算机计算将是难以处理的他们已被证明有潜在的速度超过经典的同行在各种任务，包括度量学习，数据分析，和PRIN-UNR组件分析。 量子神经网络是一种QML模型，它使用具有可训练参数的变分量子电路来完成输入数据的特征编码，然后执行复值线性变换。QNN的各种理论公式已经被提出，如量子玻尔兹曼机[1]和量子分类器[3，17，18，20]等。因为误差形成了量子领域的瓶颈。研究人员开发了各种错误缓解技术[21]。外推方法[16]在不同的错误率下对量子电路进行多次测量，然后在没有噪声的情况下外推理想的测量结果。[11]使用带噪声模拟器的RL训练PQC QuantumNAT从根本上不同于现有的方法：（i）先前的工作仅关注推理中的低级数值校正; QuantumNAT在训练和推理两者中都包含更多的优化自由度。它提高了PQC参数的内在鲁棒性和统计保真度。（ii）PQC具有良好的内置误差容限，这促使QuantumNAT的测量后量化在保持准确性的（iii）QuantumNAT具有小的开销（2%），而其它方法引入高测量、电路复杂性成本等。在第4节中，我们证明了现有的外推方法与QuantumNAT正交。经典神经网络的量化和噪声注入提高NN效率，已经探索了大量的工作来削减NN权重和激活中的冗余位表示[4，19]。虽然低精度量化限制了模型容量，但它可以提高泛化能力和鲁棒性[12]。一个直观的解释是级联误差累积此外，通过使参数空间稀疏化，量化降低了NN复杂性，作为减轻潜在过拟合问题的正则化机制。类似地，将噪声注入神经网络训练被证明有助于获得平滑的损失景观以获得更好的泛化[14]。3噪音感知PQC培训在这项工作中，我们使用QNN作为基准PQC图2显示了QNN架构。输入是经典数据，如图像像素，输出是分类结果。 QNN由多个块组成。 每个都有三个组件：编码器使用旋转门（如RY）将经典值编码为量子态;可训练的量子层包含参数化的门，可以训练这些门来执行某些ML任务;测量部分测量每个量子位并获得经典值。一个块的测量结果被传递到下一个块。对于图2中的MNIST-4示例，第一编码器将下采样的4个像素的像素4 成像为16个旋转门的旋转角θ最后一个块的测量结果通过Softmax输出分类概率。QuantumNAT概述如图3所示。3.1测量后标准化量子噪声引起的测量结果偏移。通过大量的实验，我们发现量子噪声对输入X的QNN的测量结果y应用线性变换。这可以用公式表示为 =yyX βX，其中（1）y1，1是与输入无关的常数缩放因子，（2）βX是与输入相关的移位。 通过分析噪声分布，我们观察到测量结果的变化通常可以通过在输入批次之间进行适当的测量后归一化来补偿。当应用于小批量输入数据x=X1，. . .，Xm.对于小噪声，y接近于1，并且对于所有i m，βi接近于0。因此，噪声测量结果的分布经历由y1的恒定缩放和由每个βi的小偏移。 在小批量条件下，当α = β1，. . 、.、βm的方差很小，分布移动了其均值β=E。由于依赖于输入的偏移可以近似为它们的平均值，即， ƒ yiyyiβ，我们的归一化方法可以有效地补偿这种噪声。测量后标准化。基于以上分析，我们提出了测量后归一化来抵消分布缩放和移位。对于每个量子比特，我们收集一批输入的测量结果，计算它们的平均值和标准值， 然后使每个量子比特在整个批次中的分布以零为中心并且具有单位方差。这在训练和推理期间都要执行。在训练过程中，对一批测量，结果：={y1，. . . ，ym}，像素作为旋转编码器可训练量子层测量角度层层一个街区Softmax··该量化通过值箝位来校正误差，从而避免3E×E| )EE（（yyi+β）−（yE[]+β））/[客户端]y2Var（）=yi.每个量子位都有一个2 ×例如，IBMQ- Santiago的量子位0具有读出误差矩阵[[0.984，0.016]，[0.022，0.978]]22N（错误rr(1) 测量后标准化无噪声N.(2) 真实QC支持的噪声注入灵敏稳健(3) 测量后量化量子误差信息丢失嘈杂匹配误差Margin进样真实QC噪声到N.保证金培训通过量化图3：QuantumNAT概述。(1)测量后归一化匹配无噪声模拟和真实QC之间的测量结果分布。(2)基于真实的噪声模型，噪声注入将量子误差门插入到训练过程中，以增加类别之间的分类裕度（3）测量结果进一步量化去噪。无噪声仿真真实设备基线与测量后标准化在单量子位门中，错误门被插入在原始门之后对于双量子位门，错误门被插入在一个或两个量子位上的门之后例如，IBMQ-Yorktown 设 备 上 量 子 位 1上 的 SX 门如 {X ： 0.00096 ， Y ：0.00096，Z：0.00096，无：0.99712}。当采样“无”时不同量子位或不同硬件上的相同门将具有高达10的概率差异。如图5所示，在训练期间，对于每个QNN门，我们测量结果分发批次每个测量结果测量结果分发批次每个测量结果基于的样本误差门，并将其插入到原始门之后对于每个训练步骤，对一组新的误差门进行实际上，QNN被编译到量子硬件的基门集合 X、CNOT、RZ、CNOT和ID）。我们还将通过一个常数来缩放概率分布3块模型的第二块输出，IBMQ-Quito图4：测量后归一化减少了无噪声模拟和噪声结果之间的差异，从而提高了信噪比（SNR）。我们将err校正为，或者，Var（，yi）=（ V（yi）−E[V（）]）/，Var（V（））=噪声因子T，并在采样期间按T缩放X、Y、Z概率T因子探讨了适当的噪声注入和训练稳定性之间的权衡典型的T值在[0.5，1.5]的范围内门插入开销通常小于2%。读出噪声注入。从量子位获得经典值被称为读出/测量，这也是容易出错的。实际噪声模型提供了以下形式的统计读出误差×图4比较了MNIST-4的4个量子位（蓝色）的无噪声测量结果分布与它们的噪声对应物（黄色）定性地，我们可以清楚地观察到测量后归一化减少了两个分布之间的失配。定量地，我们采用信噪比，SNR=λA~2/λA~ −A~2，这意味着将0测量为0的概率是0.984，而将0测量为1的概率是0.016。我们通过改变测量结果来模拟训练过程中的读出误差效应例如，最初P（0）= 0。3，P（1）= 0。7，则噪声注入版本将是PJ（0）=0的情况。3× 0。984+ 0。7× 0。022= 0。31，PJ（1）= 0。7×0。978+ 0。3× 0。016= 0。69.相对矩阵距离（RMD）的倒数，作为度量。的每个量子位和每个单独测量结果上的SNR明显提高。 虽然类似，但它与批次归一化[7]不同，因为测试批次使用自己的统计数据而不是来自训练的统计数据，并且没有可训练的仿射参数。3.2量子噪声注入尽管上述标准化减轻了误差影响，但我们仍然可以观察到每个单独测量结果的微小差异，这降低了准确性。因此，为了使QNN模型对这些误差具有鲁棒性，我们提出了对训练过程进行噪声注入。量子误差门插入。 如第2节所介绍的，不同的量子误差可以通过泡利旋转近似为泡利误差。泡利误差的影响是将泡利X、Y和Z门随机插入具有概率分布的模型。如何计算不属于这项工作的范围但幸运的是，我们可以直接从IBMQ等量子硬件制造商提供的现实器件噪声模型中获得噪声模型指定每个量子位上不同门的概率E为直接扰动。 除了门插入，我们还试验了直接扰动测量结果或旋转角度作为噪声源。 对于结果扰动，使用来自验证集的基准样本，我们获得无噪声和有噪声测量结果之间的误差E“分布，并计算平均μErr和std σErr。在训练过程中，我们直接加入噪音具有高斯分布的μ，σ2与归一化的测量结果。类似地，对于角摄动，将高斯噪声添加到QNN中的所有旋转门的角度，使旋转角高斯噪声对测量结果的影响类似于真实的QC噪声。我们在第4节中证明了门插入法比直接扰动法更好3.3测量后量化最后，我们提出了测量后量化的正常化的结果，以进一步去噪的测量结果。我们首先将结果裁剪为pmin，pmaX，其中p是预定义的阈值，然后执行均匀量化。量化值稍后被传递到下一个块的编码器。图6显示了一个真实的量子位小量子位4无噪声的量子编译电路量子误差门示例（示例1）示例量子误差门读出（示例2）错误QC支持的噪声模型错误类型−2×××××××||−（）下一页||×--图5：通过误差门插入的噪声注入。X、Y、Z是采样的泡利误差门。R是注入的读出误差。栅极插入的概率从真实的器件噪声模型。量化前误差MSE=0.235，SNR=4.256量化后的误差MSE=0.167，SNR=6.455-2-1012编码. 对于可训练的量子层，除了表2之外，我们使用如图2中交错的U3和CU3层。 对于测量，我们在Pauli-Z基上测量期望值，并从每个量子比特获得值[-1，1]。 测量结果经过测量后归一化和量化，并用作下一个块的编码器中的RY门的旋转角度。在最后一个块之后，对于两个分类，我们分别对量子比特0和1，2和3的测量结果求和，并使用Softmax来获得概率。了4图6：左：测量后量化前后的误差图。大多数错误是可以纠正的。右：5级量化桶，带有二次惩罚损失。来自IBMQ-Santiago上的Fashion-4的示例，具有五个量化级别并且pmin=2，pmaX= 2。左/中矩阵示出了量化之前/之后的无噪声和有噪声结果之间的误差映射大多数错误可以被纠正回零，被量化到一个错误的质心几个例外，ceptions。 MSE从0.235降低到0.167，SNR从4.256增加到6.455。我们还将损失项yQy2添加到训练损失中，如右侧所示，以鼓励结果接近量化质心，从而提高容错性并减少量化到错误质心的机会除了提高鲁棒性之外，量化还降低了旋转门的控制复杂度4实验4.1实验设置数据集。我们对8个分类任务进行了实验，包括MNIST [10] 10类，4类（0，1，2，3）。和2级（3，6）;元音4级（hid，hId，had，hOd）;时尚[22] 10级，4级（t-shirt/top，trouser，pullover，dress）和2级（dress，shirt），以及CIFAR [9] 2级（frog，ship）。MNIST、Fashion和CIFAR使用95%的图像由于有限的真实QC资源，我们使用前300张“测试”分割图像元音-4数据集（990个样本）被分离为训练：验证：测试= 6：1：3，并使用整个测试集进行测试MNIST和时尚图像的中心裁剪为24 24;然后下采样为4 4 2类和4类，6 6 10类; CIFAR图像转换为灰度，中心裁剪为28 28，下采样为4 4。所有下采样均采用平均合并进行。对于元音-4，我们进行特征主成分分析（PCA），并采取10个最重要的维度。QNN模型 2类和4类的QNN模型使用4个量子比特; 10类使用10个。第一个量子块的编码器嵌入图像和元音特征。对于4 × 4图像，我们使用4个量子比特和4层，每层分别具有4个RY，4个RX，4个RZ和4个RY门总共有16个门将16个经典值编码为旋转角度。为6 6个图像，10个量子位和4个层与10个RY，10个RX，10个RZ一起使用，每层分别有6个RY门10个元音特征，使用4个量子位和3个层，每个层上有4个RY，4个RX和2个RZ门，和10类，Softmax直接应用于测量结果。量子硬件和编译器配置。.我们通过Qiskit [6] API使用IBMQ量子计算机我们研究了6个设备，量子位数从5到15，量子体积从8到32。我们还使用Qiskit进行编译。所有实验的优化水平均设置为2所有实验运行8192次注射。我们使用的噪声模型是由IBMQ团队更新的现成模型4.2主要结果QNN结果。 我们用四种不同的QNN架构在5个量子设备上运行的8个任务上进行实验，以证明量子NAT的有效性。 对于每个基准测试，我们使用噪声因子T= 0进行实验。1、0. 五一一5和{3，4，5，6}中的量化级别，并在验证集上选择具有最低损失的16个组合中的一个，并在测试集上进行测试。归一化和量化不应用于最后一个块的测量结果，因为它们直接用于分类。 如表1所示，QuantumNATconsideration在26个基准测试中达到了最高的精度。雅典的第平均而言，归一化、噪声注入和量化分别将准确度提高了10%、9%和3%。更大的模型不一定具有更高的精度。例如，雅典然而，由于较大的模型引入了更多的误差，实际精度较低。不同设计空间的性能 在表2中，我们在不同的QNN设计空间上评估了QuantumNAT。具体地，“ZZ+RY”[13]空间的一个块中的可训练量子层包含具有环连接的一层ZZ门和一个RY层。空间有五层：RRH、RX、RY、RZ和CZ。‘两层：ZX和XX。CNOT、RY、T、SWAP、RZ、H、SWAP、U1和CU3。我们进行实验MNIST-4和Fashion-2上的2台设备。在16个设置中的13个设置中，QuantumNAT实现了更好的精度。因此，QuantumNAT是一种与QNN模型大小和设计空间无关的通用技术可扩展性。 当经典模拟不可行时，我们可以使用参数移位等技术将噪声注入训练移动到真实QC [2]。在这种情况下，训练成本与量子比特数成线性比例。测量后归一化和量化也是线性可缩放的，因为它们是在Prob5×圣地亚哥××表1：QuantumNAT始终达到最高的准确度-表5：测量后标准。提高acc.叶老活泼，平均好22%量子QNN2块4块设备模型×2层×8层×2层×4层模型方法MNIST-4 Fash.- 4誓言4 MNIST-2 Fash.-2Cifar-2↓→Acc.SNRAcc.SNRAcc.SNRAcc.SNR2B 12L圣地亚哥2B×2L基线0.30 0.32 0.28 0.84 0.780.51+标准后。0.41 0.61 0.29+浇口插入件。 0.61 0.70 0.440.93+标准后。0.57 0.60 0.380.86基线0.616.150.521.790.576.960.624.20+标准0.66 15.69 0.79 四点八五0.70 十一点三十六分 0.68六点五五基线0.586.640.351.430.603.980.291.732.980.7412.260.72 四点五四2.140.639.520.553.543.470.7414.070.69 六点零九分约克城+门插入。0.58 0.60 0.45+定量后0.62 0.65 0.44基线0.28 0.26 0.20 0.46 0.52 0.50在批次维度上进行了标准化对于2B 6L贝伦+标准后。0.52 0.57 0.33+浇口插入件。 0.52 0.600.37在“标准化”的情况下，我们使用外推法来估计无噪声测量结果的标准偏差我们首先训练QNN模型+定量后0.580.620.410.88收敛，然后重复3层到6，9，12层，3B×10L基线0.29 0.36 0.21 0.54 0.460.49+标准后。0.46 0.37 0.51 0.510.50获得测量结果的四个标准差然后我们模型方法MNIST-10 Fash.- 10平均值-所有基线0.110.090.42与无噪声相同，然后应用建议的测量后范数。结果表明，外推法可以进一步提高2B 2L梅尔博+标准后。0.08 0.12 0.52+浇口插入件。 0.25 0.24 0.61因此，QNN精度是正交的。+定量后0.34 0.31 0.644.3消融研究表2：不同设计空间的精度。MNIST-4时尚-2约克镇圣地亚哥约克镇 圣地亚哥‘+QuantumNAT0.340.60 0.830.86‘+QuantumNAT0.570.610.610.700.880.920.890.91‘+QuantumNAT0.290.380.510.640.520.520.610.89‘+QuantumNAT0.280.330.250.210.480.530.500.52表3：可扩展的噪声感知训练。机器波哥大圣地亚哥利马无噪音0. 74 0. 97 0. 87QuantumNAT 0.79 0.99 0.90表4：与现有噪声缓解措施兼容方法MNIST-4 Fashion-4标准化仅0.78 0.81标准化+外推0.81 0.83测量结果。用真实QC获得的相干信号是自然噪声感知的，因为它们直接受量子噪声影响为了证明实用性，我们训练了一个2类任务，其中两个数字作为输入特征[8]（表3）。 QNN具有2个块;每个块具有2个RY和一个CNOT门。无噪声基线在经典部分上训练模型并在真实QC上测试在QuantumNAT中，我们使用参数偏移和测试来训练模型，两者都是在真实的QC上。我们的表现始终优于噪声感知基线。与现有噪音缓解措施的兼容性。QuantumNAT与现有的噪声缓解方法（如外推法）正交。它可以与测量后归一化相结合（表4）。QNN模型有2个块，每个块有三个U3+CU3层。对于“仅归一化”，3层块的测量结果测量后正常化消融。表5比较了在MNIST-4上测量后归一化前后的准确度和信噪比（SNR）。我们研究了4种不同的QNN架构，并在3种设备上进行了评估 归一化可以显著且一致地增加SNR。不同噪声注入方法的消融。图7比较了不同的噪声注入方法。从误差基准测试中获得扰动的高斯噪声统计。左侧显示没有量化的精度不同的噪声系数结果表明，门插入和测量结果扰动具有相似的精度，均优于旋转角扰动。一个可能的解释是旋转角度扰动没有考虑非旋转门，如X和SX。右侧进一步研究了前两种方法我们设置噪声因子���= 0。5，并改变量化水平。在3种不同的器件和QNN模型上，门插入平均优于扰动11%。 其原因是：直接加在测量结果上的扰动很容易被量化消除，因此噪声注入很难起作用。噪声因子与测量后量化电平分析。我们在IBMQ-Athens上的Fashion-4上使用不同的噪声因子和量化级别可视化QNN精度轮廓，如图8所示。因子0.2和5水平的准确度最高水平方向上，精度先上升后下降。这是因为太少的量化级别会损害QNN模型的容量;太多的级别不能带来足够的去噪效果。在垂直方向上，精度也会上升，然后下降。原因：噪声太小时，噪声注入效果弱，无法提高模型的鲁棒性;而噪声太大，训练过程不稳定，影响精度。QNN提取特征的可视化MNIST-2分类结果由两者中哪个特征更大来确定：特征1是量子位0和1的测量结果之和;特征2是量子位2和3的测量结果。我们将从贝伦实验中获得的两个特征可视化在2-D平面中，如图8所示。蓝色虚线是分类边界。圆圈/星形是数字“3”和“6”的样本。所有基线点（黄色）都挤在一起基多设计空间+定量后0.680.750.480.940.880.59+标准0.6613.92 0.71基线0.430.560.250.680.700.52雅典基线0.598.91+标准0.6420.270.78雅典+门插入。------线性外推它们以获得无噪声STD。我们将+定量后0.560.640.410.870.640.53测量结果的3层块，使他们的标准，60.9090.7090.7测量结果扰动门插入0.680.500.60.50.610. 408.500.490.620.530.580.520. 四○三点四一0.470.620.510.610.410.450.430.560.450.540.430.300.1080% 40% 80% 120% 160%200%0.40.30.234 5 630.370.35450.22630.364 5 6噪声因子量化水平IBMQ-Yorktown（2Block！2层）IBMQ-Belem（2Block！6层）IBMQ-Quito（3块！10层）平均图7：不同噪声注入方法的消融。左：在没有量化的情况下，门插入和测量扰动的性能相似，都优于旋转角度扰动。右：在量子化的情况下，门插入更好，因为量子化可以消除扰动效应。101100十比一10-22 3 4 50.800.780.750.700.600.500.400.3006对任意的、现实的量子噪声的鲁棒性我们预计这种强大的PQC是有用的，在探索实际的QC应用。确认我们感谢NSF CAREER Award #1943349、MIT-IBM Watson AI Lab、Baidu Fellowship、Qualcomm Innovation Fellowship和IBMQuantum。引用[1] Mohammad H Amin，Evgeny Andriyash，Jason Rolfe，BohdanKulchytskyy，and Roger Melko.2018年量子玻尔兹曼机。物理评论X8，2（2018）。量化级别特征尺寸1[2] 加文·E·克鲁克斯2019年。参数化量子门的实现图8：左：量化电平和噪声因子的精度曲线右：功能可视化。10.750.50.25参数移动规则和门分解。arXiv预印本1905.13311（2019）。[3] 爱德华·法希和哈特穆特·奈文2018.在近期处理器上使用量子神经网络进行分类。arXiv预印本arXiv：1802.06002（2018）。[4] Song Han，Huizi Mao，and William J Dally.2015年。深度压缩：通过剪枝、训练量化和霍夫曼编码来压缩深度神经网络。arXiv预印本arXiv：1510.00149（2015）。[5] Maxwell Henderson，Samriddhi Shakya，Shashindra Pradhan，and TristanCook.2020.量子演化神经网络：用量子电路驱动图像识别。量子机器智能2，1（2020），1[6] IBM. [n. d.]。IBM Quantum。（[n. d.]）。https://quantum-computing.ibm.com/[7] 谢尔盖·约菲和克里斯蒂安·塞格迪。2015年。批量归一化：通过减少内部协变量偏移来加速深度网络训练在ICML。PMLR，448[8] 姜伟文，熊金俊，施一宇2021年神经网络协同设计框架MNIST-4圣地亚哥元音-4圣地亚哥MNIST-2约克镇时尚-2约克镇平均网络和量子电路的量子优势。Nature communications12，1（2021），1图9：单独或联合应用噪声注入和量化的一起，并且所有数字使用正态化（绿色），分布显著扩展，并且大多数最后，经过噪声注入（红色）后，两个类别之间的裕度进一步扩大，样本距离分类边界更远，从而变得更加鲁棒。精度增益的细分 图9显示了仅应用噪声注入、仅应用量化以及两者的性能。单独使用两种技术都可以将准确率提高9%。将两种技术相结合可提供更好的性能，精度增益为17%。 这表明在QuantumNAT中协同应用三种技术的好处。5结论PQC是一个很有前途的候选人，以证明实际的量子优势超过经典的方法。这种优势的实现依赖于：（1）发现新的特征嵌入，对经典数据进行非线性编码，以及（2）克服量子噪声的影响。这项工作侧重于后者，并表明具有测量后归一化，噪声注入和测量后量化的噪声感知训练管道可以提高PQC[9] Alex Krizhevsky Vinod Nair和Geoffrey Hinton[n. d.]。CIFAR-10（加拿大高级研究所）。（[n. d.]）。[10] Y.勒昆湖，加-地博图湾，巴西-地Bengio和P.Haffner的研究。1998.应用于文档识别的基于一致性的学习。Proc. IEEE86，11（1998），2278[11] Zhiding Liang，Zhepeng Wang，Junhuan Yang，Lei Yang，Yiyu Shi，andWeiwen Jiang.2021年量子比特上的噪声可以在量子神经网络中学习关于QuantumFlow的案例研究。在环发会议。IEEE，1[12] 纪林、闯乾、宋涵。2019年。防御性量化：当效率满足鲁棒性时。arXiv预印本arXiv：1904.08444（2019）。[13] Seth Lloyd，Maria Schuld，Aroosa Ijaz，Josh Izaac和Nathan Killoran。2020.机器学习的量子嵌入arXiv预印本2001.03622（2020）。[14] K. 松冈一九 九二年反向传 播学习中的输入 噪声注入 IEEE Transactions onSystems，Man，and Cybernetics22，3（1992），436[15] Jarrod R McClean，Sergio Boixo，Vadim N Smelyanskiy，Ryan Babbush，andHartmutNeven. 2018. 量 子 神 经 网 络 训 练 中 的 贫 瘠 高 原 。 NatureCommunications9，1（2018），1[16] Kristan Temme，Sergey Bravyi和Jay M Gambetta。2017年。用于短深度量子电路的误差减轻物理评论快报119，18（2017），180509。[17] Hanrui Wang，Yongshan Ding，Jiaqi Gu，Yujun Lin，David Z Pan，Frederic TChong，and Song Han.2022年。QuantumNAS：噪声自适应搜索强大的量子电路。HPCA（2022年）。[18] 王汉瑞，李紫瑞，顾佳琪，等. 2022. QOC：Quantum On-Chip Training withParameter Shift and Gradient Pruning（量子片上训练）发援会（2022年）。[19] 王汉瑞，张哲凯，宋涵。2021年Spatten：高效的稀疏atten- tion架构与级联令牌和头部修剪。在HPCA。IEEE，97[20] 王哲鹏，梁志定，周尚林，等.2021年 通过混合量子神经元设计探索量子神经结构。在环发会议。美国电气与电子工程师学会。[21] Robert Wille，Lukas Burgholzer，and Alwin Zulehner.2019年。使用最少数量的SWAP和H操作将在DAC。IEEE，1[22] 韩萧、卡希夫·拉苏尔、罗兰·沃勒。2017年。Fashion-mnist：一个用于机器学习算法基准测试的新型图像数据集arXiv 1708.07747（2017）。数字数字分类边界基线+测量后+噪声归一化注入#水平=5噪声系数=0.2精度=0.8规范Norm + Noise InjectionNorm + Quant标准+噪声注入+定量0.680.920.93毫米0.72混合噪声量化漫游精度0.740.640.570.480.410.430.440.340.290.660.66Imp0.850.83Co0.82测量精度测量精度噪声系数（对数标度）特征尺寸20.800.790.790.780.800.780.780.70.70.57浇口插入测量0.74nnt结局摄动0.510.47旋转角度勒佩尔图尔巴离子关于IBMQ-SaNo quantiza（2Block恩蒂亚戈艾尔斯）0.160.250.1