基于SRAM的方法可加速AI推理
來源: 日期:2020-09-16 10:35:47
泰克公司的工程師勾勒出了一種新穎的深度學(xué)習(xí)加速器。專用單元定義了一個
SRAM,該單元可以處理矩陣乘法,量化,存儲以及推理處理器所需的其他工作。
在Spice仿真中,當使用8位整數(shù)數(shù)學(xué)識別手寫數(shù)字時,該設(shè)計可提供100兆次操作/秒/瓦(TOPS / W)。它的計算密度可以擊敗Google的TPU一個數(shù)量級。
該設(shè)計是使用內(nèi)存中計算方法的加速器產(chǎn)品線中最新的一種。設(shè)計使用40納米NOR閃存單元的深度學(xué)習(xí)處理器,其目標是為監(jiān)視攝像機等設(shè)備使用低功耗芯片。
設(shè)計時使用了很少的模擬電路,因此可以擴展到精細的工藝節(jié)點。它可能成為低功耗處理器中引擎(從邊緣到云)的引擎。
獨特的方式操縱SRAM單元以處理深度學(xué)習(xí)任務(wù)
這個設(shè)計使用戶可以為從權(quán)重到神經(jīng)網(wǎng)絡(luò)層甚至單個神經(jīng)元的所有內(nèi)容創(chuàng)建自定義參數(shù)。這種靈活性可以使將來設(shè)計用于訓(xùn)練處理器的設(shè)計成為可能。但是尚無用于對該設(shè)計進行編程的軟件堆棧,可能會在以后解決或留給將來的客戶使用。
關(guān)鍵詞:SRAM