国产精品久久精品牛牛影视-国产精品久久精品视-国产精品久久九九-国产精品久久久-国产精品久久久99

為了讓AI特別是在自動(dòng)駕駛汽車中，加速器在最短延遲內(nèi)達(dá)到最佳精度，TFLOP然而，一些專家認(rèn)為，這種野蠻的處理方法已經(jīng)成為許多所謂大腦芯片的關(guān)鍵指針。……

芯片采購(gòu)網(wǎng)專注于整合國(guó)內(nèi)外授權(quán)IC代理商現(xiàn)貨資源，芯片庫(kù)存實(shí)時(shí)查詢，行業(yè)價(jià)格合理，采購(gòu)方便IC芯片，國(guó)內(nèi)專業(yè)芯片采購(gòu)平臺(tái)。

人工智能(AI)特別是在自動(dòng)駕駛汽車中，加速器在最短延遲內(nèi)達(dá)到最佳精度(AV)中，TFLOP(兆次浮點(diǎn)運(yùn)算)已成為許多所謂大腦芯片的關(guān)鍵指針。比賽的選手包括Nvidia的Xavier、Mobileye的EyeQ5、特斯拉(Tesla)全自動(dòng)駕駛(FSD)以及計(jì)算機(jī)芯片NXP-Kalray芯片。

然而，一些專家認(rèn)為，這種野蠻的療是不可持續(xù)的。在EE Times在獨(dú)家專訪中，DeepScale執(zhí)行長(zhǎng)ForrestIandola提出其不可持續(xù)的原因是因?yàn)锳I硬件設(shè)計(jì)師持有的許多常見(jiàn)假設(shè)已經(jīng)過(guò)時(shí)。隨著AI應(yīng)用越來(lái)越多，AI供應(yīng)商積累更多的經(jīng)驗(yàn)，導(dǎo)致不同的經(jīng)驗(yàn)AI任務(wù)開(kāi)始需要不同的技術(shù)方法。假如是這樣，AI使用者購(gòu)買AI技術(shù)方式會(huì)改變，供應(yīng)商也會(huì)做出回應(yīng)。

DeepScale執(zhí)行長(zhǎng)ForrestIandola

Iandola這意味著搜索神經(jīng)網(wǎng)絡(luò)架構(gòu)(NAS)例如，其快速發(fā)展不僅加快了對(duì)深度神經(jīng)網(wǎng)絡(luò)的優(yōu)化(DNN)搜索過(guò)程，降低成本。他認(rèn)為，有一種方法可以在目標(biāo)任務(wù)和目標(biāo)操作平臺(tái)上建立最低延遲和最高精度DNN，而不是依靠更大的芯片來(lái)處理所有的事情AI任務(wù)。

Iandola設(shè)想未來(lái)AI芯片或傳感器系統(tǒng)(如計(jì)算機(jī)視覺(jué)、雷達(dá)或光達(dá))供應(yīng)商不僅提供硬件，還提供自己的高速高效DNN——為應(yīng)用而設(shè)計(jì)DNN架構(gòu)。任何供應(yīng)商都將匹配他們需要的不同操作平臺(tái)DNN，假如真的是這樣，那么AI比賽中的所有賭注都將失敗。

需要明確的是，芯片公司和傳感器供應(yīng)商都沒(méi)有提出上述前景。很少有人在特定的硬件上有針對(duì)性地運(yùn)行AI任務(wù)的可能性。

Iandola及其DeepScale最近團(tuán)隊(duì)設(shè)計(jì)了一系列DNN模型被稱為SqueezeNAS”。在最近的一份報(bào)告中，他們聲稱在目標(biāo)平臺(tái)上搜索延遲，SqueezeNAS能夠建立更快、更準(zhǔn)確的模型。這份報(bào)告被推翻了AI小區(qū)先前對(duì)NAS、乘積累加(MAC)運(yùn)算和將ImageNet精度應(yīng)用于目標(biāo)任務(wù)中的一些假設(shè)。

DeepScale于2015年由Iandola和KurtKeutzer教授共同成立，是位于加州山景城的一家新公司，致力于發(fā)展微型DNN。兩位聯(lián)合創(chuàng)始人曾在加州大學(xué)柏克萊大學(xué)分校工作，DeepScale因其快速高效DNN研究在科學(xué)界備受推崇。

手工設(shè)計(jì)(Manual designs)

要真正理解機(jī)器學(xué)習(xí)在計(jì)算機(jī)視覺(jué)方面的最新進(jìn)展，需要了解其發(fā)展歷史。

還記得AlexNet2012年，網(wǎng)絡(luò)結(jié)構(gòu)模型獲勝ImageNet圖像分類競(jìng)賽嗎？這為研究人員專注于競(jìng)爭(zhēng)打開(kāi)了大門ImageNet在計(jì)算機(jī)視覺(jué)任務(wù)中找到最高精度的研究DNN，競(jìng)爭(zhēng)。

基于強(qiáng)化學(xué)習(xí)和超級(jí)網(wǎng)絡(luò)的基礎(chǔ)NAS比較(數(shù)據(jù)源:DeepScale)

過(guò)時(shí)的假設(shè)

機(jī)器學(xué)習(xí)的簡(jiǎn)短歷史向我們展示了神經(jīng)結(jié)構(gòu)搜索的出現(xiàn)如何為計(jì)算機(jī)視覺(jué)研究奠定基礎(chǔ)。但在這個(gè)過(guò)程中，它也反駁了研究小組的一些早期假設(shè)，Iandola指出。

那么，需要糾正哪些假設(shè)呢？

Iandola稱，大多數(shù)AI系統(tǒng)設(shè)計(jì)師認(rèn)為，ImageNet分類中最精確的神經(jīng)網(wǎng)絡(luò)可以為目標(biāo)任務(wù)提供最精確的骨干網(wǎng)絡(luò)。但計(jì)算機(jī)視覺(jué)包括許多AI任務(wù)-從目標(biāo)檢測(cè)、分割和3D從空間到目標(biāo)跟蹤、距離估計(jì)和自由空間。并非所有任務(wù)都是平等的。Iandola強(qiáng)調(diào)。

ImageNet目標(biāo)任務(wù)的準(zhǔn)確性與目標(biāo)任務(wù)的準(zhǔn)確性關(guān)系不大。這不能保證。

來(lái)看由Iandola團(tuán)隊(duì)創(chuàng)建的SqueezeNet。Iandola這是一個(gè)小的神經(jīng)網(wǎng)絡(luò)，它的解釋ImageNet分類精度明顯低于VGG，但在識(shí)別一組圖像中類似斑塊的任務(wù)時(shí)，它比VGG更準(zhǔn)確。

當(dāng)分類任務(wù)達(dá)到極限時(shí)，Iandola是時(shí)候?yàn)椴煌�的任�?wù)設(shè)計(jì)不同的神經(jīng)網(wǎng)絡(luò)了。

另一個(gè)常見(jiàn)的假設(shè)是Raltron代理在目標(biāo)運(yùn)算平臺(tái)上減少M(fèi)AC然而，最近的研究表明，減少了MAC與減少延遲沒(méi)有太大關(guān)系。MAC神經(jīng)網(wǎng)絡(luò)并不總能實(shí)現(xiàn)較低的延遲，Iandola指出。

在Iandola的SqueezeNAS在報(bào)告中，他堅(jiān)持認(rèn)為不僅僅是不同的AI任務(wù)需要不同DNN。為目標(biāo)運(yùn)算平臺(tái)(如CPU、GPU或TPU選擇合適的版本)DNN也很重要。

例如，他引用了優(yōu)化不同智能手機(jī)網(wǎng)絡(luò)的方法FBNet作者的話。他們發(fā)現(xiàn)了DNN在iPhonex它在三星運(yùn)行得很快，但在三星運(yùn)行得很快Galaxy S八上執(zhí)行得很慢。報(bào)告中，Iandola即使MAC數(shù)量保持不變，不同的卷積維數(shù)會(huì)根據(jù)處理器和核心來(lái)決定更快或更慢的運(yùn)行。

對(duì)自動(dòng)駕駛的影響

今天，DeepScale與包括在內(nèi)的多家汽車供應(yīng)商建立了合作關(guān)系Visteon、Hella Aglaia Mobile Vision GmbH其他未透露姓名的公司。DeepScale一直在開(kāi)發(fā)微型DNN，該公司聲稱，在保證最先進(jìn)性能的同時(shí)，它們需要更少的計(jì)算。

在SqueezNas的報(bào)告中，Iandola他向同事解釋說(shuō)，他的團(tuán)隊(duì)使用超級(jí)網(wǎng)絡(luò)NAS用于語(yǔ)義分割的設(shè)計(jì)DNN，用于識(shí)別道路、車道、車輛和其他物體的準(zhǔn)確形狀。NAS系統(tǒng)配置優(yōu)化Cityscapes語(yǔ)義分割數(shù)據(jù)集精度高，在小型車輛級(jí)運(yùn)算平臺(tái)上實(shí)現(xiàn)低延遲。

隨著SqueezNAS的發(fā)展，DeepScale對(duì)自己的定位是：優(yōu)化DNN、AI硬件和特定AI任務(wù)之間的協(xié)同關(guān)系成為先驅(qū)。

隨著AI芯片即將席卷市場(chǎng)，Iandola認(rèn)為系統(tǒng)設(shè)計(jì)師必須明智地選擇加速器。他們應(yīng)該準(zhǔn)確地考慮硬件應(yīng)該執(zhí)行AI以及硬件加速器應(yīng)在哪種神經(jīng)網(wǎng)絡(luò)上運(yùn)行。

將使用安全攝像頭、自動(dòng)駕駛汽車和智能手機(jī)AI芯片。考慮到每個(gè)系統(tǒng)所需的速度、準(zhǔn)確性、延遲和應(yīng)用程序，確定合適的硬件和NAS它變得至關(guān)重要。

Iandola表示，對(duì)于OEM對(duì)于汽車制造商來(lái)說(shuō)，要將測(cè)試版的自動(dòng)駕駛汽車轉(zhuǎn)化為商業(yè)產(chǎn)品，必須提取存儲(chǔ)在自動(dòng)駕駛汽車后行李箱中的刀鋒服務(wù)器。Iandola預(yù)計(jì)汽車制造商可能會(huì)要求硬件芯片公司提供適合硬件平臺(tái)的優(yōu)化DNN。

對(duì)于Nvidia這樣的公司可能不是問(wèn)題，因?yàn)樗麲PU它得到了大型軟件生態(tài)系統(tǒng)的支持。然而，其他大多數(shù)AI硬件供應(yīng)商會(huì)嚇出一身冷汗。

此外，隨著一系列新的傳感器-攝像頭、光達(dá)和雷達(dá)的設(shè)計(jì)，汽車OEM例如，不同類型的神經(jīng)網(wǎng)絡(luò)可能會(huì)面臨一些殘酷的現(xiàn)實(shí)。另一個(gè)例子是，不同品牌設(shè)計(jì)的光達(dá)使用不同的光達(dá)AI硬件。Iandola今天，無(wú)論是傳感器供應(yīng)商還是傳感器供應(yīng)商AI處理器公司沒(méi)有為其硬件提供優(yōu)化推薦的神經(jīng)網(wǎng)絡(luò)。”

Iandola表示，OEM汽車廠和一級(jí)零部件供應(yīng)商將開(kāi)始要求優(yōu)化DNN，匹配特定硬件和AI任務(wù)，這將是不可避免的。我們相信使用NAS在目標(biāo)運(yùn)算平臺(tái)上優(yōu)化低延遲變得越來(lái)越重要。

以超級(jí)網(wǎng)絡(luò)為基礎(chǔ)NAS出現(xiàn)，NAS成本一直在下降。因此，是時(shí)候讓硬件供應(yīng)商開(kāi)始尋找自己的優(yōu)化了DNN。當(dāng)被問(wèn)及DeepScale通過(guò)合作、授權(quán)或AI開(kāi)發(fā)和優(yōu)化硬件公司DNN填補(bǔ)這個(gè)缺口時(shí)，Iandola我們還沒(méi)有真正考慮過(guò)這個(gè)問(wèn)題。