完美世界有声小说全集,欢乐颂第一季免费阅读,国际完美世界下载

中科院計(jì)算所率先提出全球首款圖神經(jīng)網(wǎng)絡(luò)加速芯片設(shè)計(jì)

2020-12-17 15:31:12 中科曙光/sugoncn

點(diǎn)擊關(guān)注->創(chuàng)芯網(wǎng)公眾號(hào)，后臺(tái)告知EETOP論壇用戶名，獎(jiǎng)勵(lì)200信元

近日，《中國(guó)計(jì)算機(jī)學(xué)會(huì)通訊》（CCCF）刊發(fā)了中科院計(jì)算所特別研究助理嚴(yán)明玉博士、研究員范東睿以及研究員葉笑春共同撰寫(xiě)的綜述文章《圖神經(jīng)網(wǎng)絡(luò)加速芯片：人工智能“認(rèn)知智能”階段起飛的推進(jìn)劑》。文章披露，為更好地支持認(rèn)知智能的發(fā)展，該團(tuán)隊(duì)提出了國(guó)際首款圖神經(jīng)網(wǎng)絡(luò)加速芯片設(shè)計(jì) HyGCN。目前，介紹該芯片設(shè)計(jì)的相關(guān)論文已先后在計(jì)算機(jī)體系結(jié)構(gòu)國(guó)際頂級(jí)會(huì)議MICRO和HPCA上發(fā)表。

“HyGCN，寓意向圖神經(jīng)網(wǎng)絡(luò)的加速說(shuō)‘Hi’。”嚴(yán)明玉介紹道，圖神經(jīng)網(wǎng)絡(luò)將深度學(xué)習(xí)算法和圖計(jì)算算法相融合，取長(zhǎng)補(bǔ)短，能達(dá)到更優(yōu)的認(rèn)知與問(wèn)題處理等能力，在搜索、推薦、風(fēng)險(xiǎn)控制等重要領(lǐng)域有著廣泛應(yīng)用。現(xiàn)有的處理器芯片在執(zhí)行圖神經(jīng)網(wǎng)絡(luò)的計(jì)算中效率低下，其團(tuán)隊(duì)前瞻性地展開(kāi)面向圖神經(jīng)網(wǎng)絡(luò)的加速芯片設(shè)計(jì)，為解決這一難題提供了可行方案。

讓機(jī)器“能理解、會(huì)思考”

圖神經(jīng)網(wǎng)絡(luò)被認(rèn)為是推動(dòng)認(rèn)知智能發(fā)展強(qiáng)有力的推理方法，有望解決深度學(xué)習(xí)無(wú)法處理的關(guān)系推理、可解釋性等一系列問(wèn)題，讓機(jī)器“能理解、會(huì)思考”。2019年后，圖神經(jīng)網(wǎng)絡(luò)逐漸成為各人工智能頂級(jí)會(huì)議的“熱詞”和研究熱點(diǎn)，眾多全球頂尖科技企業(yè)也已將圖神經(jīng)網(wǎng)絡(luò)部署于數(shù)據(jù)中心中。

“作為近年來(lái)新興的一種智能算法，圖神經(jīng)網(wǎng)絡(luò)不僅在學(xué)術(shù)界被高度重視，也已然成為近年來(lái)工業(yè)界非常重要的應(yīng)用之一。”嚴(yán)明玉介紹說(shuō)，圖神經(jīng)網(wǎng)絡(luò)能夠備受學(xué)術(shù)界和工業(yè)界的青睞，歸功于其強(qiáng)大的數(shù)據(jù)和知識(shí)理解能力，以及關(guān)系推理能力。

由于圖神經(jīng)網(wǎng)絡(luò)在圖數(shù)據(jù)處理方面的特殊性，傳統(tǒng)用于加速神經(jīng)網(wǎng)絡(luò)的芯片難以直接對(duì)圖神經(jīng)網(wǎng)絡(luò)的執(zhí)行提供高效計(jì)算支撐。嚴(yán)明玉解釋?zhuān)詧D數(shù)據(jù)為輸入，融合了深度學(xué)習(xí)算法和圖計(jì)算算法的圖神經(jīng)網(wǎng)絡(luò)具有與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)不一樣的執(zhí)行行為，即“混合執(zhí)行行為”。具體而言，規(guī)則執(zhí)行行為和不規(guī)則執(zhí)行行為共存于圖神經(jīng)網(wǎng)絡(luò)中。“混合執(zhí)行行為”對(duì)現(xiàn)有的處理器結(jié)構(gòu)帶來(lái)了巨大的挑戰(zhàn)，比如，GPU在應(yīng)對(duì)不規(guī)則執(zhí)行行為時(shí)極為低效。

認(rèn)知智能起飛的“推進(jìn)劑”

“為了應(yīng)對(duì)圖神經(jīng)網(wǎng)絡(luò)的混合執(zhí)行行為，我們?cè)O(shè)計(jì)了新的處理器結(jié)構(gòu)，以更高效地加速圖神經(jīng)網(wǎng)絡(luò)的執(zhí)行。”嚴(yán)明玉介紹說(shuō)，HyGCN 芯片基于混合結(jié)構(gòu)設(shè)計(jì)思想，分別為圖神經(jīng)網(wǎng)絡(luò)的兩個(gè)主要執(zhí)行階段——圖遍歷階段和神經(jīng)網(wǎng)絡(luò)變換階段設(shè)計(jì)相應(yīng)的加速引擎，并流水兩個(gè)引擎的執(zhí)行。

研究團(tuán)隊(duì)的實(shí)踐證明，HyGCN芯片設(shè)計(jì)，能夠有效應(yīng)對(duì)圖神經(jīng)網(wǎng)絡(luò)圖遍歷階段的不規(guī)則性，并能利用神經(jīng)網(wǎng)絡(luò)變換階段的規(guī)則性提高執(zhí)行效率。

“圖神經(jīng)網(wǎng)絡(luò)加速芯片有望成為AI‘認(rèn)知智能’階段起飛的推進(jìn)劑。我們基于12nm工藝，對(duì)HyGCN的芯片設(shè)計(jì)的核心部件在主流的圖神經(jīng)網(wǎng)絡(luò)模型和圖測(cè)試數(shù)據(jù)集上進(jìn)行了初步的評(píng)估。”嚴(yán)明玉介紹說(shuō)，相對(duì)于運(yùn)行在Intel至強(qiáng)服務(wù)器CPU和英偉達(dá)V100 GPU的先進(jìn)圖神經(jīng)網(wǎng)絡(luò)軟件框架，HyGCN分別取得了數(shù)萬(wàn)倍和60余倍的能效提升。

在“無(wú)人區(qū)”加快布局

近年來(lái)，中科院計(jì)算所圍繞云計(jì)算、芯片、互聯(lián)網(wǎng)、人工智能等前沿IT領(lǐng)域開(kāi)展研創(chuàng)產(chǎn)協(xié)同創(chuàng)新，完善我國(guó)在端、網(wǎng)、云的計(jì)算基礎(chǔ)設(shè)施布局，并鼓勵(lì)通過(guò)技術(shù)轉(zhuǎn)移體現(xiàn)科研人員和科技成果的價(jià)值。

從感知智能到認(rèn)知智能，對(duì)人工智能技術(shù)的探索正挺向縱深。以中科院計(jì)算所為代表的中科院科研機(jī)構(gòu)積極作為，大力推動(dòng)科技創(chuàng)新，特別在以5G、人工智能、大數(shù)據(jù)等為代表的智能科技的發(fā)展方面，堅(jiān)持面向世界科技前沿、面向國(guó)民經(jīng)濟(jì)主戰(zhàn)場(chǎng)，不斷向科學(xué)技術(shù)廣度和深度進(jìn)軍，加快解決制約科技創(chuàng)新發(fā)展的關(guān)鍵問(wèn)題。

“圖神經(jīng)網(wǎng)絡(luò)加速芯片目前在國(guó)際上還是‘無(wú)人區(qū)’，研究成果發(fā)表后得到了業(yè)界認(rèn)可。”嚴(yán)明玉表示，目前中科院計(jì)算所正加快對(duì)HyGCN科技成果進(jìn)行孵化，提升關(guān)鍵核心技術(shù)能力，推動(dòng)各行各業(yè)從信息化向智慧化升級(jí)。

應(yīng)用空間巨大

圖神經(jīng)網(wǎng)絡(luò)的潛在應(yīng)用非常多。嚴(yán)明玉舉例，在日常交通預(yù)測(cè)、網(wǎng)約車(chē)調(diào)度、金融詐騙偵查、運(yùn)動(dòng)檢測(cè)等場(chǎng)景，在助力科研的知識(shí)推理、EDA工程、化學(xué)研究、宇宙發(fā)現(xiàn)等領(lǐng)域，以及在知識(shí)圖譜、視覺(jué)推理、自然語(yǔ)言處理中的多跳推理等學(xué)科發(fā)展方向上，都有極大應(yīng)用空間。

在工業(yè)界，圖神經(jīng)網(wǎng)絡(luò)也已經(jīng)有了落地應(yīng)用。比如，谷歌地圖的ETA評(píng)估、圖片社交網(wǎng)站Pinterest的內(nèi)容推薦、阿里巴巴的風(fēng)控和推薦、騰訊等公司的視覺(jué)和風(fēng)控等業(yè)務(wù)中都有圖神經(jīng)網(wǎng)絡(luò)的影子。

由于圖神經(jīng)網(wǎng)絡(luò)具有推理能力，認(rèn)知智能還可以幫助機(jī)器跨越模態(tài)理解數(shù)據(jù)，學(xué)習(xí)到接近人腦認(rèn)知的一般表達(dá)，從而獲得類(lèi)似于人腦的多模感知能力，進(jìn)而有望帶來(lái)顛覆性的產(chǎn)業(yè)價(jià)值。

Allied Market Research 發(fā)布的機(jī)器學(xué)習(xí)芯片市場(chǎng)報(bào)告顯示，2022年機(jī)器學(xué)習(xí)芯片市場(chǎng)規(guī)模預(yù)計(jì)將達(dá)到 827.2 億美元。圖神經(jīng)網(wǎng)絡(luò)加速芯片有望在接下來(lái)3年內(nèi)與現(xiàn)有的神經(jīng)網(wǎng)絡(luò)芯片共生，甚至在5年后替換大部分的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)芯片，成為主流的機(jī)器學(xué)習(xí)芯片，可能將產(chǎn)生300億美元以上的市場(chǎng)規(guī)模。