本報(bào)北京12月3日電（記者鄧暉） 隨著發(fā)展量子計(jì)算和人工智能成為世界各國的重要戰(zhàn)略，兩者交匯而生的量子人工智能更是發(fā)展迅速。但由于神經(jīng)網(wǎng)絡(luò)容易受到對(duì)抗擾動(dòng)的影響，量子人工智能技術(shù)的安全性成為研究熱點(diǎn)。

近日，清華大學(xué)交叉信息研究院鄧東靈研究組與浙江大學(xué)物理學(xué)院王浩華、宋超研究組等合作，在超導(dǎo)系統(tǒng)中首次實(shí)驗(yàn)實(shí)現(xiàn)了量子對(duì)抗機(jī)器學(xué)習(xí)。相關(guān)成果“通過可編程超導(dǎo)量子比特實(shí)現(xiàn)量子對(duì)抗學(xué)習(xí)的實(shí)驗(yàn)演示”以封面論文形式發(fā)表在《自然·計(jì)算科學(xué)》，并獲得了該期刊的專欄評(píng)論。

(資料圖片僅供參考)

對(duì)抗機(jī)器學(xué)習(xí)的早期研究可以追溯到垃圾郵件過濾問題，涉及垃圾郵件的發(fā)送方與抵制方之間的博弈。一般來說，當(dāng)用戶的郵箱地址被外界得知后，一些惡意方可能為了商業(yè)利益向這個(gè)郵箱發(fā)送廣告郵件、電腦病毒等。為了抵御這種行為，人們開發(fā)了郵件過濾器來區(qū)分正常郵件與惡意郵件并對(duì)后者加以阻擋。而惡意郵件的發(fā)送者為了躲過郵件過濾器的檢測(cè)，便會(huì)采取一系列的手段，如修改惡意郵件中的特征詞匯、增加正常詞匯等。

隨著深度學(xué)習(xí)的發(fā)展，深度學(xué)習(xí)模型在人臉識(shí)別、自動(dòng)駕駛、醫(yī)療診斷等領(lǐng)域得到了廣泛的應(yīng)用。然而，人們發(fā)現(xiàn)深度學(xué)習(xí)模型同樣也存在著被對(duì)抗樣本攻擊的威脅。

“比如，在一輛自動(dòng)駕駛汽車上，如果前方的一個(gè)停車告示牌被貼上一層精心設(shè)計(jì)的對(duì)抗擾動(dòng)薄膜，被汽車的識(shí)別程序判斷為常速行駛，便可能引發(fā)安全事故。在機(jī)器學(xué)習(xí)輔助醫(yī)療診斷中，如果核磁共振的圖片被惡意添加了微小擾動(dòng)，也可能引發(fā)醫(yī)療事故?！毖芯咳藛T表示，如果這類攻擊沒有得到解決而且被惡意利用，可能導(dǎo)致嚴(yán)重的安全隱患。

最近兩年，量子對(duì)抗機(jī)器學(xué)習(xí)的概念被提出并受到了廣泛關(guān)注。然而，在當(dāng)前中等規(guī)模帶噪聲量子設(shè)備上演示量子學(xué)習(xí)模型面對(duì)對(duì)抗攻擊的脆弱性和防御手段還面臨諸多挑戰(zhàn)。

本研究中，研究團(tuán)隊(duì)用10個(gè)可編程超導(dǎo)量子比特陣列進(jìn)行量子對(duì)抗學(xué)習(xí)的首次實(shí)驗(yàn)演示。在這項(xiàng)工作中，通過優(yōu)化器件制造和控制工藝，他們將這些量子比特的平均壽命提高到150微秒，同時(shí)單量子比特門和雙量子比特門平均保真度分別大于99.94%和99.4%。這使其能夠成功地實(shí)現(xiàn)具有不同結(jié)構(gòu)的大規(guī)模量子分類器，量子線路深度達(dá)到60，并且可訓(xùn)練的變分參數(shù)數(shù)量超過250。

團(tuán)隊(duì)采用了核磁共振等圖像作為訓(xùn)練數(shù)據(jù)。經(jīng)過訓(xùn)練，這些分類器可以在這些數(shù)據(jù)集上實(shí)現(xiàn)當(dāng)前量子分類器所能達(dá)到的最先進(jìn)的性能，測(cè)試準(zhǔn)確率高達(dá)99%。進(jìn)一步的實(shí)驗(yàn)證明，通過對(duì)抗訓(xùn)練，量子分類器抵抗干擾的能力將增強(qiáng)，對(duì)相同攻擊策略產(chǎn)生的對(duì)抗擾動(dòng)實(shí)現(xiàn)免疫。

團(tuán)隊(duì)成員表示，他們的結(jié)果不僅揭示了量子學(xué)習(xí)系統(tǒng)在對(duì)抗場(chǎng)景中的脆弱性，而且證明了防御策略在實(shí)踐中應(yīng)對(duì)對(duì)抗攻擊的有效性，從而為實(shí)現(xiàn)可信賴的量子人工智能做出了重要的實(shí)驗(yàn)嘗試。

【來源：光明日?qǐng)?bào)】

聲明：轉(zhuǎn)載此文是出于傳遞更多信息之目的。若有來源標(biāo)注錯(cuò)誤或侵犯了您的合法權(quán)益，請(qǐng)作者持權(quán)屬證明與本網(wǎng)聯(lián)系，我們將及時(shí)更正、刪除，謝謝。 郵箱地址：newmedia@xxcb.cn

關(guān)鍵詞： 機(jī)器學(xué)習(xí) 人工智能 垃圾郵件 核磁共振