新一代智能處理器架構MLUarch03

寒武紀AI加速卡可適配國產(chǎn)平臺寒武紀堅持自研智能芯片架構和指令集。新一代智能處理器架構MLUarch03,擁有新一代張量運算單元,新增FP32,FP16,BF16運算類型;片上通訊帶寬是上一代MLUarch02的2倍、片上共享緩存容量最高是MLUarch02的275倍;內(nèi)置專用模塊大幅提升各類卷積效率，減少算子執(zhí)行時間;推出全新MLUv03指令集，更完備，更高效且向前兼容。

MLU370-S4加速卡支持PCle Gen4,功耗僅為75W,在2U標準服務器機箱里可支持高達8卡的高密度部署。

寒武紀AI加速卡可適配國產(chǎn)平臺可廣泛支持視覺、語音、自然語言處理等高度多樣化的人工智能應用，幫助AI推理平臺實現(xiàn)超高密度。

同時，寒武紀全新升級了Cambricon Neuware 軟件棧,新增推理加速引擎MagicMind，實現(xiàn)訓推一體，大幅提升了開發(fā)部署的效率，降低用戶的學習成本、開發(fā)成本和運營成本。

先進chiplet技術

370采用chiplet(芯粒)技術,在一顆芯片中封裝2顆AI計算芯粒(MLU-Die),每一個MLU-Die具備獨立的AI計算單元、內(nèi)存、10以及MLU-Fabric控制和接口，通過MLU-Fabric保證兩個MLU-Die間的高速通訊，可以通過不同MLU-Die組合規(guī)格多樣化的產(chǎn)品，為用戶提供適用不同場景的高性價比AI芯片。

新一代智能處理器架構MLUarch03

寒武紀堅持自研智能芯片架構和指令集。新一代智能處理器架構MLUarch03,擁有新一代張量運算單元,新增FP32,FP16,BF16運算類型;片上通訊帶寬是上一代MLUarch02的2倍、片上共享緩存容量最高是MLUarch02的275倍;內(nèi)置專用模塊大幅提升各類卷積效率，減少算子執(zhí)行時間;推出全新MLUv03指令集，更完備，更高效且向前兼容。

媒體性能，支持8K解碼

思元370升級了視頻圖像編解碼單元，可提供更高效的視頻處理能力和更優(yōu)的編碼質(zhì)量，支持更復雜、更繁重、低延時要求的計算機視覺任務。解碼方面，思元370集成了強大的媒體性能,可支持132路1080p視頻解碼或10路8K視頻解碼。編碼方面，全新編碼器通過靈活的碼率優(yōu)化(RDO) 控制、多參考、二次編碼等特性組合,在相同圖像質(zhì)量(全高清視頻PSNR)的情況下比上一代產(chǎn)品節(jié)省42%帶寬，有效降低帶寬成本。

全新推理加速引擎MagicMind

MagicMind是寒武紀全新打造的推理加速引擎,也是業(yè)界基于MLIR圖編譯技術達到商業(yè)化部署能力的推理引擎。MagicMind支持跨框架的模型解析、自動后端代碼生成及優(yōu)化，用MLU、GPU、CPU訓練好的算法模型，借助MagicMind,用戶僅需投入極少的開發(fā)成本，即可將推理業(yè)務部署到寒武紀全系列產(chǎn)品上，并獲得頗具競爭力的性能。