99精品在线观看-99精品在线免费观看-99精品在线视频观看-99精品这里只有精品高清视频-99九九精品国产高清自在线

近幾年，隨著人工智能、深度學(xué)習(xí)的迅速發(fā)展，類腦計(jì)算逐漸成為學(xué)術(shù)界、產(chǎn)業(yè)界的另一個(gè)研究熱點(diǎn)。早在1943年，心里學(xué)家提出人工神經(jīng)元數(shù)學(xué)模型以來，人工智能就一直依賴著數(shù)據(jù)計(jì)算、神經(jīng)科學(xué)的發(fā)展，對非二進(jìn)制數(shù)的類腦計(jì)算的突破，將對類腦計(jì)算的構(gòu)造起到?jīng)Q定性作用。

今天，深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)是一種生物學(xué)簡化的模型，具有數(shù)學(xué)可解釋性，硬件架構(gòu)（馮諾依曼架構(gòu)）可實(shí)現(xiàn)性。而硬件實(shí)現(xiàn)受限于布爾邏輯（二進(jìn)制數(shù)）和馮氏架構(gòu)代來的物理瓶頸，使得當(dāng)前的AI計(jì)算芯片與腦計(jì)算存在著巨大差異。盡管深度學(xué)習(xí)在一些固定任務(wù)上超越人類，但數(shù)百億神經(jīng)元由樹突和軸突連接成的大腦在完成學(xué)習(xí)、認(rèn)知、推理、抽象等多種復(fù)雜智慧功能時(shí)，還是當(dāng)前人工智能的平臺(tái)所無法企及的。

脈沖神經(jīng)網(wǎng)絡(luò)（Spiking Neural Network，SNN）由W.Maass在1997年首次提出，其底層用脈沖函數(shù)模仿生物點(diǎn)信號(hào)作為神經(jīng)元之間的信息傳遞方式。SNN的優(yōu)點(diǎn)是具有更多的生物解釋性，一方面可以作為計(jì)算神經(jīng)學(xué)對生物腦現(xiàn)象模擬的基礎(chǔ)工具；另一方面，由于其信息用脈沖傳遞的特點(diǎn)，而非人工神經(jīng)網(wǎng)絡(luò)的二進(jìn)制數(shù)，其結(jié)構(gòu)也容易在FPGA、ASIC等芯片上實(shí)現(xiàn)。但是，離散的脈沖函數(shù)不可導(dǎo)，因此脈沖信號(hào)不能直接應(yīng)用反向傳播的梯度法進(jìn)行訓(xùn)練，是其難以構(gòu)造復(fù)雜網(wǎng)絡(luò)而應(yīng)用受限的主要因素。

2、研究成果

眾所周知，二進(jìn)制邏輯（布爾代數(shù)）中，通常用0和1表示兩個(gè)變量值中的一個(gè)。二進(jìn)制邏輯是目前數(shù)據(jù)計(jì)算、信息傳輸?shù)幕A(chǔ)。在計(jì)算N*N維的矩陣乘法時(shí)，每計(jì)算一個(gè)矢量元素將需要N^2個(gè)加法和乘法！為了減小二進(jìn)制計(jì)算的硬件資源消耗，一種有別于布爾邏輯的概率（邏輯）計(jì)算（Stochastic Computing，SC，或Stochastic Logic）在1969年由B. Gaines 提出【1】。

概率計(jì)算機(jī)中，算術(shù)運(yùn)算是借助于表示數(shù)據(jù)的邏輯電平的隨機(jī)和不相關(guān)性來執(zhí)行的，并且由其“高電平”所占的概率來決定。也就是所發(fā)生的“高電平”脈沖的頻率表示其概率值。即遵循古典概型伯努利所證實(shí)的“當(dāng)試驗(yàn)次數(shù)愈來愈大時(shí)，頻率接近概率”。概率計(jì)算已經(jīng)在圖像處理、通信、神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)中被使用【2】。

北京航空航天大學(xué)類腦芯片教授李洪革談到：“盡管概率計(jì)算比二進(jìn)制計(jì)算存在硬件消耗上的巨大優(yōu)勢，但其基于脈沖頻率表示概率數(shù)值的本質(zhì)帶來了較大的計(jì)算時(shí)延的問題。”基于此，本團(tuán)隊(duì)提出了混合概率邏輯計(jì)算取代原始單比特流概率計(jì)算的思想。在2022年伊始，該思想被國際電路與系統(tǒng)頂會(huì)ISCAS和IEEE 權(quán)威期刊TVLSI等多位國際專家所認(rèn)可并全文接收。其中，一位評審專家甚至給出評語是”the paper is nice and should be relevant and can even be influential.”

3、 研究亮點(diǎn)

提出了基于概率邏輯計(jì)算與二進(jìn)制邏輯的混合邏輯計(jì)算機(jī)制；

構(gòu)造了混合邏輯計(jì)算機(jī)制的各計(jì)算電路模塊，如圖1、圖2

討論了基于混合邏輯計(jì)算的誤差分析和容錯(cuò)機(jī)制，如圖3、4

構(gòu)建了混合邏輯流的多核類腦計(jì)算網(wǎng)絡(luò)加速器芯片，如圖5、6.

4、結(jié)論展望

北航類腦計(jì)算芯片團(tuán)隊(duì)提出了一種新的數(shù)字計(jì)算（有別于二進(jìn)制、概率計(jì)算）——混合邏輯SC。該方法利用多位流的期望值來取代傳統(tǒng)概率計(jì)算。與傳統(tǒng)的單比特流相比，混合邏輯計(jì)算突破了傳統(tǒng)SC長時(shí)延的制約，實(shí)現(xiàn)了低時(shí)延和低面積。實(shí)驗(yàn)證明了混合邏輯計(jì)算規(guī)則的合理性，使用該方法乘法器延遲降低了1/2m，且達(dá)到零錯(cuò)誤計(jì)算。對于8-bit輸入數(shù)據(jù)，混合邏輯作為乘法器的面積效率是經(jīng)典SC方法的11.3倍。

憑借該技術(shù)方案，團(tuán)隊(duì)榮獲全國研究生創(chuàng)芯大賽一等獎(jiǎng)，陳宇昊博士補(bǔ)充到。最后，李洪革教授談到，該提案解決了傳統(tǒng)概率計(jì)算大時(shí)延問題，在未來的類腦計(jì)算、人工智能、深度學(xué)習(xí)和信息處理等邊緣計(jì)算產(chǎn)業(yè)將會(huì)產(chǎn)生影響力的（influential）發(fā)展契機(jī)。

參考文獻(xiàn)

B. R. Gaines, “Stochastic computing systems,” in Advances in Information Systems Science, J. T. Tou, Ed. New York, NY, USA: Springer, 1969, pp. 37-172.

Hongge Li, Y. Hayakawa, S. Sato, K. Nakajima, “Hardware Implementation of an Inverse Function Delayed Neural Network using Stochastic Logic,” IEICE Trans. Inf. Syst., vol.E89, pp.2572-2578, 2006.

H. Sim , J. Lee, “A new stochastic computing multiplier with application to deep convolutional neural networks,”in Proc. 54th Annu. Design Automat. Conf. (DAC), p. 29, 2017.

D. JENSON, M. RIEDEL. “A deterministic approach to stochastic computation”. ACM International Conference on Computer-Aided Design (ICCAD), 2016:1-8.

YuHao Chen，HongGe Li，“Novel Stochastic Computing using Amplitude and Frequency Pulse Encoding“ ISCAS 2022.

Yuhao Chen，Hongge Li，“Stochastic Computing using Amplitude and Frequency Encoding“ IEEE TVLSI 2022，accepted。

Y Chen, Y. Song, Y. Zhu, Y. Gao, H. Li. “Hardware Architecture of Stochastic Neural Network”. Journal of Frontiers of Computer Science and Technology, 2021: 1-12.

團(tuán)隊(duì)成員簡介

李洪革 北京航空航天大學(xué)教授、博士生導(dǎo)師

IEEE\IEICE\SID\CCF\電子學(xué)會(huì)高級會(huì)員；國家多個(gè)部委專家；CCF集成電路設(shè)計(jì)專委會(huì)委員、密碼芯片專委會(huì)委員等，申請國家專利30余項(xiàng)，其中獲發(fā)明專利授權(quán)18項(xiàng)。發(fā)表論文近百篇，他引300余次，70余篇被SCI、EI和ISTP三大索引收錄，第十屆人工智能大會(huì)等特邀報(bào)告近10次。承擔(dān)科技部、自然基金委等國家項(xiàng)目十余項(xiàng)。出版專著教材4部，獲省部級科技進(jìn)步、發(fā)明獎(jiǎng)三項(xiàng)。

研究領(lǐng)域：集成電路芯片設(shè)計(jì)與智能計(jì)算等

陳宇昊 福建泉州, 博士研究生在讀

主要研究方向?yàn)?a href="http://www.xebio.com.cn/ai" target="_blank" class="keylink">人工智能、類腦計(jì)算和芯片設(shè)計(jì)等。設(shè)計(jì)實(shí)現(xiàn)了混合概率邏輯FPGA硬件計(jì)算系統(tǒng)，完成了類腦計(jì)算FPGA原型機(jī)。獲得第四屆全國研究生創(chuàng)芯大賽一等獎(jiǎng)。

（其他參與人員：祝亞楠、高云飛、宋印杰、郭曉宇等）