今天,英特爾發(fā)布了第二代神經(jīng)模擬芯片Loihi 2。
神經(jīng)模擬芯片是模擬生物神經(jīng)元的芯片。
與普通芯片不同,神經(jīng)模擬芯片的計(jì)算任務(wù)是由許多小單元來完成的,這些小單元通過類似于生物神經(jīng)的尖刺來相互通信,并通過尖刺來調(diào)整自己的行為。昨天,英特爾宣布推出第二代神經(jīng)模擬研究芯片Loihi2和用于開發(fā)神經(jīng)啟發(fā)式應(yīng)用的開源軟件框架Lava。
目前,英特爾已經(jīng)將該芯片應(yīng)用于機(jī)械臂,神經(jīng)模擬皮膚,機(jī)器嗅覺等場景。
2018年初,英特爾推出了首款采用14納米工藝的神經(jīng)模擬芯片Loihi。
英特爾表示,Loihi 2是對第一代的重大升級,也是英特爾第一個(gè)EUV工藝節(jié)點(diǎn)英特爾4制造的芯片,意思是相當(dāng)于4nm,但實(shí)際上是7nm工藝。
得益于新技術(shù),Loihi 2的面積比上一代縮小了一半,但仍包含100萬個(gè)神經(jīng)元,數(shù)量是上一代的8倍,處理速度是上一代的10倍。
Loihi 2共有128個(gè)神經(jīng)模擬核,每個(gè)核都有192KB的靈活內(nèi)存,每個(gè)神經(jīng)元根據(jù)模型最多可以分配4096個(gè)狀態(tài),而之前的限制只有24個(gè)。
與普通的CPU和GPU不同,神經(jīng)模擬沒有外部存儲(chǔ)器每個(gè)神經(jīng)元都有少量的記憶供自己使用主要功能是分配給不同神經(jīng)元輸入的權(quán)重,最近活動(dòng)的緩存以及峰值被發(fā)送到的所有其他神經(jīng)元的列表
Loihi 2可以根據(jù)其應(yīng)用選擇各種連接選項(xiàng),有點(diǎn)類似FPGA。。
除了硬件產(chǎn)品,英特爾還發(fā)布了Loihi芯片的軟件,這是一個(gè)名為Lava的新開發(fā)框架。
框架和相關(guān)庫是用Python編寫的,在GitHub上是開源的開發(fā)人員可以在不訪問硬件的情況下為Loihi開發(fā)程序
和神經(jīng)網(wǎng)絡(luò)有什么區(qū)別。
生物神經(jīng)元包含樹突和軸突。
Loihi芯片上的部分執(zhí)行單元充當(dāng)樹突,根據(jù)過去行為的權(quán)重處理來自通信網(wǎng)絡(luò)的輸入信號(hào)。
然后用數(shù)學(xué)公式確定活動(dòng)何時(shí)越過臨界閾值,超過臨界閾值時(shí)觸發(fā)自己的尖峰信號(hào)之后,執(zhí)行單元的軸突找出要與哪些其他執(zhí)行單元通信,并向每個(gè)執(zhí)行單元發(fā)送尖峰信號(hào)
為什么要研究這種類型的芯片神經(jīng)模擬計(jì)算的倡導(dǎo)者認(rèn)為,這種方法更接近模擬大腦功能的實(shí)際特征,如大腦傳輸信號(hào)的超高能效比
可是,研究深度學(xué)習(xí)的學(xué)者批評神經(jīng)形態(tài)學(xué)方法沒有取得實(shí)際效果,而像ResNet這樣的深度神經(jīng)網(wǎng)絡(luò)在計(jì)算機(jī)視覺領(lǐng)域取得了巨大的成功。
Yann LeCun在2019年的一次會(huì)議上反駁了神經(jīng)模擬計(jì)算方法。
雖然神經(jīng)模擬計(jì)算的研究普及程度遠(yuǎn)不及神經(jīng)網(wǎng)絡(luò),但神經(jīng)模擬芯片的優(yōu)勢在于其能效遠(yuǎn)高于傳統(tǒng)處理器。
2014年,IBM推出了TrueNorth芯片雖然其運(yùn)行頻率只有幾千赫,但其模擬的腦棘神經(jīng)網(wǎng)絡(luò)所需的計(jì)算資源僅為傳統(tǒng)處理器的0.0001%
英特爾神經(jīng)形態(tài)計(jì)算實(shí)驗(yàn)室主任邁克戴維斯表示,在某些特定工作負(fù)載下,Loihi的效率可能是傳統(tǒng)處理器的2000倍。
此外,神經(jīng)模擬計(jì)算還可以實(shí)現(xiàn)動(dòng)態(tài)學(xué)習(xí)行為。
神經(jīng)網(wǎng)絡(luò)非常擅長識(shí)別訓(xùn)練過的東西,但是對于識(shí)別沒有訓(xùn)練過的東西不夠靈活戴維斯已經(jīng)證明,神經(jīng)模擬計(jì)算學(xué)會(huì)在不損害先前訓(xùn)練能力的情況下,基于視頻輸入識(shí)別新手勢
戴維斯認(rèn)為,神經(jīng)模擬芯片在機(jī)器人領(lǐng)域有許多潛在的應(yīng)用當(dāng)移動(dòng)機(jī)器人發(fā)現(xiàn)自己面對一個(gè)新環(huán)境時(shí),它們必須有足夠的靈活性來識(shí)別和適應(yīng)新環(huán)境
參考鏈接:
。聲明:本網(wǎng)轉(zhuǎn)發(fā)此文章,旨在為讀者提供更多信息資訊,所涉內(nèi)容不構(gòu)成投資、消費(fèi)建議。文章事實(shí)如有疑問,請與有關(guān)方核實(shí),文章觀點(diǎn)非本網(wǎng)觀點(diǎn),僅供讀者參考。