內(nèi)容由半導(dǎo)體行業(yè)觀察（：icbank）感謝自公眾號(hào)歪睿老哥，謝謝。

1：AI芯片分類(lèi)

市場(chǎng)上很多AI芯片，令人眼花繚亂。

根據(jù)其應(yīng)用范圍，大體上可以分為幾類(lèi)

終端AI芯片：終端AI芯片要求功耗低，算力需求也相對(duì)較低，主要是AI推理得應(yīng)用。終端AI芯片以各種帶AI模塊得MCU來(lái)呈現(xiàn)，專(zhuān)注于某一類(lèi)應(yīng)用，例如，智能音箱里面得AI芯片，可以用于語(yǔ)音識(shí)別。智能門(mén)鎖得AI芯片，可以人臉識(shí)別等等

云端AI芯片：云端AI芯片則是數(shù)據(jù)中心，用于云端AI加速，不但可以推理也可以做訓(xùn)練。例如NVLA得GPGPU卡，谷歌得TPU等等。云端AI芯片性能比較強(qiáng)，面積也非常大，例如A100據(jù)說(shuō)在7nm下有826mm2，性能也比較強(qiáng)悍！

除此之外，還有邊緣AI芯片。

那么邊緣AI芯片是做什么來(lái)用得。

提到邊緣計(jì)算，有一個(gè)非常有名得“章魚(yú)論”。

章魚(yú)這種生物比較奇怪，章魚(yú)有8條腿，但是章魚(yú)得某些決策不是都要放到大腦中來(lái)計(jì)算，而是在腿中就進(jìn)行計(jì)算。

這個(gè)章魚(yú)腿相比于章魚(yú)大腦（云端），就是邊緣端！

這個(gè)比喻非常有趣，以至于經(jīng)常被邊緣計(jì)算得場(chǎng)景來(lái)引用。

例如，自動(dòng)駕駛或者ADAS （智能駕駛幫助系統(tǒng)），需要在本地就把整個(gè)決策及設(shè)計(jì)完成。

有很多在需要大數(shù)據(jù)量計(jì)算但是實(shí)時(shí)性比較高，不需要繞一圈到云中心來(lái)計(jì)算得場(chǎng)景

例如智能駕駛，智能工廠，與安防結(jié)合交通管理等等。

相對(duì)于終端AI芯片很多消費(fèi)級(jí)得場(chǎng)景，邊緣AI芯片更多得是工業(yè)領(lǐng)域得應(yīng)用。

邊緣AI基本上將應(yīng)用局限在某個(gè)范圍內(nèi)，可以是一輛汽車(chē)，一列火車(chē)，一個(gè)工廠，一個(gè)商店。

在這個(gè)范圍內(nèi)，有一些實(shí)時(shí)得AI決策及處理需求需要被滿足。

相應(yīng)得我們會(huì)把AI賦能稱(chēng)之為，自動(dòng)駕駛，智能制造，智慧零售等等。

其核心目得主要強(qiáng)調(diào)在數(shù)據(jù)側(cè)來(lái)解決問(wèn)題。

這就是邊緣AI芯片存在得需求。

2：邊緣AI芯片特征

那么邊緣AI芯片都有什么特征？

1：算力強(qiáng)：邊緣AI得算力要比終端要算力更強(qiáng)，通常都是獨(dú)立解決問(wèn)題。但是性能要比小區(qū)得人臉識(shí)別或者智能音箱這種語(yǔ)音識(shí)別得基于某種應(yīng)用得端側(cè)AI芯片得處理能力要強(qiáng)1-2個(gè)數(shù)量級(jí)。

2：外設(shè)豐富：邊緣AI基本上強(qiáng)調(diào)信息得可獲得性，例如多路攝像頭得輸入得需求，對(duì)于類(lèi)似MIPI得接口得數(shù)量會(huì)有很大得需求，例如可以同時(shí)支持多路攝像頭等視頻音頻得輸入。

3：可編程性：邊緣AI芯片通常用面向工業(yè)用戶，需要AI賦能用戶，換言之：AI要和用戶應(yīng)用場(chǎng)景相結(jié)合，通常根據(jù)不同工業(yè)用戶不同得場(chǎng)景需要進(jìn)行編程，用于適配不同得模型和場(chǎng)景。也不局限于某種應(yīng)用。

一個(gè)良好得可編程得架構(gòu)是解決問(wèn)題得關(guān)鍵。邊緣AI芯片不是直接給工業(yè)客戶用，而是要根據(jù)工業(yè)客戶得需求進(jìn)行客戶需求AI賦能，這個(gè)是邊緣AI芯片核心特征。

3：邊緣AI芯片架構(gòu)

舉個(gè)例子，邊緣AI計(jì)算平臺(tái)，JESTON 應(yīng)該算是一個(gè)。

其最新一代發(fā)布得是JESTON AGX Orin 。

JETSON作為英偉達(dá)邊緣得AI計(jì)算平臺(tái)，其名氣沒(méi)有英偉達(dá)得GPGPU大。

但是，JESTON同時(shí)繼承了Ampere得架構(gòu)得GPGPU和 ARM Cortex-A78，在邊緣側(cè)AI芯片中，既可以做推理也可以做訓(xùn)練。

作為一個(gè)邊緣AI產(chǎn)品，其有200Tops得處理性能（INT8）。

我們以JESTON AGX Orin為例，探索下其芯片內(nèi)部架構(gòu)是怎樣得。

這個(gè)芯片得計(jì)算部分主要是三大件：CPU，GPU，DSA（NVDLA+PVA）

CPU：

JESTON其內(nèi)部有3組4核得A78，頻率可以到2Ghz。也就是說(shuō)，這個(gè)芯片內(nèi)部有12核得A78得處理器，不同于手機(jī)得處理器，3個(gè)cluster得A78是對(duì)稱(chēng)得，不是手機(jī)處理器得大小核設(shè)計(jì)，其主要是面向計(jì)算服務(wù)，而不是手機(jī)應(yīng)用中不同負(fù)載得低功耗。在一些標(biāo)量得運(yùn)算中，多核A78得計(jì)算能力也是非常強(qiáng)悍。

GPU：

GPU是英偉達(dá)最新得安培架構(gòu)，擁有2048個(gè)CUDA核，以及64個(gè)Tensor內(nèi)核。這些都可以可編程得。安培架構(gòu)是最新一代得GPGPU架構(gòu)，前面幾代分別是：Kepler，Maxwell，Pascal， Volta等。最新一代得安培架構(gòu)升級(jí)了tensor core。用了安培GPU以后，與其他邊緣AI芯片不同得是，可以支持推理和訓(xùn)練。

最重要得是，這個(gè)AI芯片可以用cuda來(lái)編程了，而可編程性則是邊緣AI芯片得核心需求了。

DSA：

作為AI加速單元，JESTON本身也有另外還有2個(gè)NVDLA 得硬核，以及VISION加速器 PVA；

NVDLA主要用于推理。內(nèi)核核心還是一個(gè)大得矩陣卷積運(yùn)算。

其中NVDLA已經(jīng)開(kāi)源，有興趣得小伙伴可以在GITHUB上下載并運(yùn)行這些源碼。詳見(jiàn)：nvdla· GitHub

這個(gè)可以可看到工業(yè)界得實(shí)際在用得成果開(kāi)源，也對(duì)業(yè)界有很大得促進(jìn)作用。

PVA用了VPU得架構(gòu)，使用VLIW得架構(gòu)，VLIW是超長(zhǎng)指令字結(jié)構(gòu)，其并行度比較好，VIEW架構(gòu)設(shè)計(jì)簡(jiǎn)化了硬件結(jié)構(gòu)，其二，VLIW得大位寬執(zhí)行并不會(huì)以犧牲性能和頻率為代價(jià)。但是同時(shí)將問(wèn)題交給了軟件來(lái)運(yùn)行。

IO資源：

除了計(jì)算資源，IO資源也比較豐富，畢竟邊緣AI側(cè)，就需要得豐富得輸入，支持6個(gè)攝像頭以及16組通道得MIPI接口。

如果邊緣AI芯片選一個(gè)重要得接口，那肯定是MIPI了，畢竟，邊緣AI芯片，除了算力之外，還缺少不了得就是MIPI接口。

MIPI就是邊緣AI芯片得眼睛，（用于連接攝像頭）。畢竟和人不同，需要很多雙眼睛，畢竟邊緣AI芯片需要“眼觀六路，耳聽(tīng)八方”。

只有大腦，沒(méi)有耳朵和眼睛，邊緣AI芯片是不能工作得。

同樣還有USB接口，也可以支持一些USB攝像頭。

同樣可以支持PCIe。RC和EP都支持，也就是說(shuō)，可以同時(shí)作為加速卡插在別得主機(jī)上，也可以作為主設(shè)備插別得加速卡。

同時(shí)在網(wǎng)絡(luò)方面，支持4路10G口，可以實(shí)現(xiàn)高速互聯(lián)，如果有需要可以實(shí)現(xiàn)高速網(wǎng)絡(luò)傳輸，或者幾個(gè)JESTON AGX得互聯(lián)。

下圖就是 JESTON AGX Orin 得詳細(xì)參數(shù)，拿走不謝！

根據(jù)這些參數(shù)，芯片面積小不了，我覺(jué)得這顆芯片可能是7nm得制程。才能在面積和功耗上比較平衡一下。

其典型功耗大約在15W，30W，45W幾個(gè)不同得量級(jí)上。

4：邊緣AI芯片作用

舉個(gè)例子，現(xiàn)在疫情下，很多場(chǎng)所都有人流得限制（本場(chǎng)所限流100人！）。

小到一個(gè)商店，大到一個(gè)街區(qū)。適時(shí)獲取人流就是一個(gè)典型得任務(wù)。

通過(guò)人像識(shí)別，獲取一個(gè)區(qū)域內(nèi)得人流得密度，實(shí)時(shí)決定對(duì)區(qū)域內(nèi)人流進(jìn)行管控。

如果是終端得AI得MCU，很難有很大得算力，也不同時(shí)接受多路視頻得輸入。

那邊緣端AI芯片就有了用武之地。

作為一個(gè)方案商，不但要有一個(gè)非常強(qiáng)勁得AI引擎，其次要有很多得視頻輸入源。

最后要通過(guò)一個(gè)非常強(qiáng)悍得AI框架（SDK）將這些硬件運(yùn)行起來(lái)。

也就是說(shuō)邊緣AI需要根據(jù)用戶對(duì)于AI得需求二次開(kāi)發(fā)。

剛才提到，邊緣AI其中一個(gè)重要得特征就是，根據(jù)工業(yè)場(chǎng)景進(jìn)行AI+場(chǎng)景得再開(kāi)發(fā)。

很多AI芯片紙面性能很強(qiáng)，但是如何將這些算力轉(zhuǎn)換成用戶感知得提升，這個(gè)里面就有很多內(nèi)功可做。

因此工業(yè)用戶需要得是一個(gè)開(kāi)放AI平臺(tái)，而不是一個(gè)只有算力得芯片，更重要得是要根據(jù)用戶需求進(jìn)行AI業(yè)務(wù)開(kāi)發(fā)。

有句古話“干活不由東，累死也無(wú)功”。

只有硬件，沒(méi)有軟件，或者軟件不好用，就好比武功只有一身招式，沒(méi)有內(nèi)功心法一樣。

AI芯片算力雖強(qiáng)，沒(méi)有軟件（SDK）也發(fā)揮不出來(lái)。

軟硬兼修是永遠(yuǎn)不過(guò)時(shí)得選擇。

如何將AI算力轉(zhuǎn)換成用戶生產(chǎn)力。

在這個(gè)方面，Jeston AGX Orin提供了jetpack 5.0，支持了cuda11和最新版本得cuDNN和tensorRT。

通過(guò)這些軟件工作，特別是CUDA，這些利于用戶開(kāi)發(fā)得工具將JESTON平臺(tái)上強(qiáng)悍得算力和豐富IO結(jié)合起來(lái)。

最終完成邊緣計(jì)算賦予AI芯片得“使命任務(wù)”。

最終用戶得到得是：用戶定義得AI芯片。

或者說(shuō)是需求定義得AI芯片。

這才是邊緣AI芯片得本質(zhì)！

*免責(zé)聲明：感謝由來(lái)自互聯(lián)網(wǎng)。文章內(nèi)容系個(gè)人觀點(diǎn)，半導(dǎo)體行業(yè)觀察感謝僅為了傳達(dá)一種不同得觀點(diǎn)，不代表半導(dǎo)體行業(yè)觀察對(duì)該觀點(diǎn)贊同或支持，如果有任何異議，歡迎聯(lián)系半導(dǎo)體行業(yè)觀察。

今天是《半導(dǎo)體行業(yè)觀察》為您分享得第2914內(nèi)容，歡迎。

晶圓｜集成電路｜設(shè)備｜汽車(chē)芯片｜存儲(chǔ)｜臺(tái)積電｜AI｜封裝