天下高月小说,穿越小说完本,完美世界国际版下载

Nvidia 刷新對話式AI 訓練成果：一小時完成訓練，2毫秒做出推論

2019-08-14 13:03:00 科技新報

點擊關(guān)注->創(chuàng)芯網(wǎng)公眾號，后臺告知EETOP論壇用戶名，獎勵200信元

對話式AI 是不少科技大廠努力的方向，而零售業(yè)也高度期待的應(yīng)用，能夠快速的用人類習慣的口語對話方式回覆，不再只是冰冷的文字回覆。Nvidia 宣布目前最先進的AI 語音模型之一的BERT (Bidirectional Encoder Representations from Transformers)，能用不到一小時的時間訓練，AI 推論只要2 毫秒時間，對話式AI 可望能與人類有更即時的互動體驗。

BERT AI 語音模型為Google 提出的模型，已經(jīng)成為要追逐更短訓練時間，更快AI 推論的人采用的AI 語音模型。這次Nvidia 突破先前訓練時間的限制，成功推進至53 分鐘完成訓練，AI 推論則是2 毫秒時間，預(yù)計更有機會融入各項客戶與零售的應(yīng)用場景。

▲ 不少家業(yè)者開發(fā)新的對話式AI，想要實現(xiàn)更為貼近人類習慣的人機對話可能。

率先采納Nvidia 先進效能成果的業(yè)者包括Microsoft 與許多全球最具創(chuàng)新力的新創(chuàng)公司，透過Nvidia 平臺著手為其客戶開發(fā)能即時反應(yīng)的高度直覺化語言服務(wù)。微軟選擇在搜尋引擎Bing 采用Azure 云端平臺與Nvidia 的硬體執(zhí)行BERT AI 訓練，用口語方式處理各項語音搜尋結(jié)果。

雖然有限度的對話式AI 服務(wù)已存在多年，然而發(fā)展至今，包括聊天機器人、智慧個人助理與搜尋引擎等服務(wù)想要以人類理解力的水準運作仍極為困難，主要原因是無法即時部署超大規(guī)模的AI 模型。Nvidia 透過在其AI 平臺導(dǎo)入多項關(guān)鍵的優(yōu)化技術(shù)借以解決這項問題，不僅在AI 訓練與推論方面刷新速度紀錄，同時也建構(gòu)出至今最大的語言模型。

根據(jù)調(diào)研以及業(yè)者的預(yù)測，對話式AI 將在人類各個不同產(chǎn)業(yè)，如零售、金融、醫(yī)療、汽車、機器人和消費性網(wǎng)路市場帶來重大影響。

Nvidia 深度學習應(yīng)用研究部門副總裁Bryan Catanzaro 表示：「超大語言模型徹底顛覆自然語言AI。因為它解決許多極為困難的語意問題，往真正的對話式AI 邁進一步。Nvidia 的突破性成果除了加快這些模型，還讓組織建構(gòu)新型頂尖服務(wù)，以未曾想像的方式協(xié)助與滿足客戶。」

Nvidia 力助邁入新時代，藉由多項關(guān)鍵優(yōu)化微調(diào)其AI 平臺，創(chuàng)下三項新的自然語言理解效能紀錄：

最快訓練：采用內(nèi)建由1,472 個Nvidia V100 GPU 組成92 個Nvidia DGX-2HTM系統(tǒng)的Nvidia DGX SuperPOD，執(zhí)行全球最先進的AI 語言模型之一BERT 的大型版本，成功把BERT-Large 的訓練時間從先前的數(shù)日大幅縮短至僅53 分鐘。此外，Nvidia 也能透過僅一臺Nvidia DGX-2 系統(tǒng)在2.8 天內(nèi)就完成BERT-Large 的訓練，展現(xiàn)Nvidia GPU 在對話式AI 領(lǐng)域的擴充性。
最快推論：Nvidia 以Nvidia T4 GPU 運行Nvidia TensorRT，在BERT-Base SQuAD 資料集上僅用2.2 毫秒就完成推論，不僅遠低于許多即時應(yīng)用要求的10 毫秒的處理門檻，也大幅領(lǐng)先以高度優(yōu)化CPU 程式碼執(zhí)行的40 毫秒。
最大模型：針對開發(fā)者對于更大模型永無止境的需求，Nvidia Research 在Transformers 的基礎(chǔ)上著手建構(gòu)與訓練全球最大的語言模型，并導(dǎo)入BERT 采用的技術(shù)元件，以及許多其他自然語言的AI 模型。Nvidia 的客制化模型擁有83 億個參數(shù)，數(shù)量足足比BERT-Large 多出24 倍。

科技公司近年推出智慧音箱，無非是想要更為貼近使用者生活，各項服務(wù)能時時刻刻占據(jù)使用者生活，但要達成上述事項，必須要有夠快的語音辨識技術(shù)，能夠做到即時辨識與回應(yīng)，才像是一般人對話的感覺，才有機會運用在客服或是各種不同的零售場景。Nvidia 能在BERT 語音模型訓練取得突破，將有助于對話式AI 的普及。(來源：科技新報）

*免責聲明：本文由作者原創(chuàng)。文章內(nèi)容系作者個人觀點，轉(zhuǎn)載目的在于傳遞更多信息，并不代表EETOP贊同其觀點和對其真實性負責。如涉及作品內(nèi)容、版權(quán)和其它問題，請及時聯(lián)系我們，我們將在第一時間刪除！

關(guān)鍵詞： Nvidia AI