国产精品久久精品牛牛影视-国产精品久久精品视-国产精品久久九九-国产精品久久久-国产精品久久久99

來(lái)源：nature

芯片采購(gòu)網(wǎng)專(zhuān)注于整合國(guó)內(nèi)外授權(quán)IC代理商現(xiàn)貨資源，芯片庫(kù)存實(shí)時(shí)查詢(xún)，行業(yè)價(jià)格合理，采購(gòu)方便IC芯片，國(guó)內(nèi)專(zhuān)業(yè)芯片采購(gòu)平臺(tái)。

編譯:張大筆茹、小七

假設(shè)一輛自動(dòng)駕駛汽車(chē)在看到停車(chē)標(biāo)志時(shí)沒(méi)有減速，而是加速到繁忙的十字路口，導(dǎo)致交通事故。事故報(bào)告顯示，停車(chē)標(biāo)志的表面粘有四個(gè)小矩形標(biāo)志。這表明一些小的干擾可以愚弄車(chē)載人工智能（AI），誤讀停止一詞為限速45。

此類(lèi)事件尚未發(fā)生，但人為干擾可能會(huì)影響AI這是非常現(xiàn)實(shí)的。研究人員已經(jīng)展示了如何通過(guò)粘貼紙作弊AI系統(tǒng)誤讀停車(chē)標(biāo)志，或通過(guò)在眼鏡或帽子上粘貼印刷圖案來(lái)欺騙人臉識(shí)別系統(tǒng)，或通過(guò)在音頻中插入白噪聲來(lái)產(chǎn)生錯(cuò)誤的判斷。

這只是一些攻擊AI領(lǐng)先的模式識(shí)別技術(shù)-深度神經(jīng)網(wǎng)絡(luò)（DNN）的小示例。事實(shí)證明，這些方法在正確分類(lèi)各種輸入(包括圖像、語(yǔ)音和相關(guān)消費(fèi)者偏好的數(shù)據(jù))方面非常成功。從自動(dòng)電話(huà)系統(tǒng)到流媒體服務(wù)Netflix這些都是日常生活的一部分。人類(lèi)難以察覺(jué)的輸入微小變化會(huì)混淆周?chē)�最好的神�?jīng)網(wǎng)絡(luò)。

加利福尼亞大學(xué)伯克利計(jì)算機(jī)科學(xué)博士生Dan Hendrycks說(shuō)在這種不完美的技術(shù)中，這些問(wèn)題比特殊的怪癖更麻煩。和許多科學(xué)家一樣，他一開(kāi)始也認(rèn)為這是DNN內(nèi)在缺陷:任務(wù)可以在訓(xùn)練領(lǐng)域出色完成，但一旦進(jìn)入陌生領(lǐng)域，由于各種原因會(huì)失敗。

這可能會(huì)導(dǎo)致嚴(yán)重的問(wèn)題。從實(shí)驗(yàn)室到現(xiàn)實(shí)世界，從自動(dòng)駕駛汽車(chē)到犯罪測(cè)量和疾病診斷，越來(lái)越多的深度學(xué)習(xí)系統(tǒng)。然而，今年的一份研究報(bào)告稱(chēng)，惡意添加到醫(yī)學(xué)掃描中的圖像可能會(huì)使DNN誤診癌癥。另一方面，黑客可以利用這些弱點(diǎn)在網(wǎng)上黑掉一個(gè)AI運(yùn)行自己的代碼。

在尋找問(wèn)題根源的過(guò)程中，研究人員發(fā)現(xiàn)了許多問(wèn)題DNN失敗的原因。位于加州山景城的加州Google的AI工程師Franois Chollet認(rèn)為，“DNN沒(méi)有解決內(nèi)在缺陷的辦法。為了克服這些缺陷，研究人員需要開(kāi)發(fā)額外的功能來(lái)增強(qiáng)模式匹配DNN，例如，使AI能夠自己探索世界，自己寫(xiě)代碼，保留記憶。一些專(zhuān)家認(rèn)為，這將是未來(lái)十年AI研究方向。

現(xiàn)實(shí)檢驗(yàn)

谷歌于2011年開(kāi)發(fā)Torex代理一個(gè)可以識(shí)別YouTube視頻中的貓系統(tǒng)很快就出現(xiàn)了一波基于它的系統(tǒng)DNN分類(lèi)系統(tǒng)。加州舊金山Uber AI Labs懷俄明大學(xué)拉拉米分校的高級(jí)研究經(jīng)理杰夫·克勞恩（Jeff Clune）說(shuō)，不知就里的人都在說(shuō)，哇，這太神奇了，電腦終于能理解世界了。

但只有AI研究人員知道DNN事實(shí)上，我不了解這個(gè)世界。它們只是由許多數(shù)字神經(jīng)元組成的松散模型，分布在許多上下相互連接的各層網(wǎng)絡(luò)中。

其思想是，原始輸入到底部的特征（如圖像中的像素）會(huì)觸發(fā)一些神經(jīng)元，然后根據(jù)簡(jiǎn)單的數(shù)學(xué)規(guī)則將信號(hào)傳輸?shù)缴弦粚拥纳窠?jīng)元，每次調(diào)整神經(jīng)元的連接模式并進(jìn)行訓(xùn)練DNN該網(wǎng)絡(luò)涉及將其暴露在大量的例子中，以便最終提供所需的答案。例如，即使是DNN我以前從未見(jiàn)過(guò)這張照片，我總能把獅子的照片輸出給獅子。

2013年，Google研究員Christian Szegedy與同事一起發(fā)布了一份名為神經(jīng)網(wǎng)絡(luò)的有趣特征的預(yù)印本，這是對(duì)神經(jīng)網(wǎng)絡(luò)實(shí)際應(yīng)用的第一次檢驗(yàn)。以獅子的圖像為例，即使改變了一些像素，比如在圖像中添加圖書(shū)館背景，DNN它可以確認(rèn)它看到了不同的內(nèi)容，但然可以識(shí)別圖中的獅子。小組稱(chēng)篡改圖像為對(duì)抗樣本。