【重磅】IEEE:IBM用大腦啟發芯片來測試深度學習

-回復 -瀏覽
樓主 2020-12-06 09:56:50
舉報 只看此人 收藏本貼 樓主


人工智能學家


作者:Jeremy Hsu 翻譯:張琦佳 審校:心

原文鏈接:http://spectrum.ieee.org/tech-talk/computing/hardware/ibms-braininspired-chip-tested-on-deep-learning


插圖:Shutterstock

深度學習軟件毫無疑問推動了人工智能的浪潮,這些軟件主要在標準計算機硬件上運行。一些科技巨頭,如谷歌和英特爾,利用他們豐富的資源創造深度學習專用的計算機芯片。但是IBM采用了一種更加不同尋常的方法:那就是把它的啟發自大腦的TrueNorth芯片作為深度學習的硬件平臺。

深度學習的強大能力依賴于卷積神經網絡算法,該網絡包含大量節點(也稱為神經元)層。這種神經網絡可以通過他們的“深度”結構過濾掉大量數據,進而能夠自動識別人臉或理解不同的語言。這種功能已經授權給谷歌、Facebook、亞馬遜和微軟的在線服務。

IBM不久前的一項研究顯示,深度學習算法可以在大腦啟發硬件上運行,而這種硬件可以支持不同類型的神經網絡。

IBM在2016年9月9日出版的《美國國家科學院院刊》上發表了一篇論文,論文中的研究工作由美國國防高級研究計劃局(DARPA)資助,數額近100萬美元。這項支持是該機構皮質處理器項目(Cortical Processor program)的一部分,旨在促進能識別復雜情況和適應環境變化的大腦啟發人工智能的研究。

Dharmendra Modha是IBM 研究中心Almaden大腦啟發計算項目首席科學家,他說,“這個研究具有里程碑式的意義,而且證實了一個顯而易見的概念:大腦啟發計算的運行效率會隨著深度學習效率的提升而提升,而這又為新一代芯片和算法提高工作效率和正確率鋪平了道路?!?/p>

2011年,IBM第一次對外具體公布TrueNorth和其芯片原型,而以卷積神經網絡為基礎發展起來的深度學習革命卻開始于2012年。由此可看出,剛開始并不是專門為了應用深度學習而設計TrueNorth,反而有了TrueNorth才促進了脈沖神經網絡去模仿真實生物大腦中的神經元連接構造。

脈沖神經網絡中的神經元并不是在每一次迭代傳播中都被激活(而在典型的多層感知機網絡中卻是),而是在它的膜電位達到某一個特定值后才被激活。這有效減少了圖形認知或語言處理的運行速度。

但深度學習專家卻覺得,同樣是用在機器學習上,至少和卷積神經網絡相比,脈沖神經網絡的效率并不夠高。Yann LeCun是Facebook 人工智能研究院理事、深度學習領域的先驅。他曾批評過IBM的 TrueNorth芯片,把它稱之為草包族科學。他說,IBM只是復制了機器的表象,卻沒有深入理解及其背后的原理。(見IEEE Spectrum之前對LeCun關于深度學習的采訪)

Zachary Chase Lipton是加州大學(位于圣地亞哥)人工智能團隊深度學習研究員。他說,TrueNorth可以促進實現神經形態計算,要知道,深層次模仿和理解生物大腦正是神經形態計算的功勞。通過對比不同學者們的觀點可以發現, 深度學習研究人員通常更關心的是如何使實踐結果應用到以人工智能為技術支撐的服務和產品上。他用下面的話解釋了一下區別:

還拿那個老套的鳥和飛機的比喻做例子。你可能覺得卷積神經科學研究鳥更多;而脈沖神經科學則更多關注空氣動力學,生物學可有可無。專有計算機硬件對機器學習的好處越來越明顯。因此,神經形態芯片并沒有讓人覺得很興奮的原因主要是,在深度學習中脈沖神經網絡并沒有那么流行。

為了使TrueNorth芯片能更好的應用機器學習,IBM必須研究出一種新的算法來幫助卷積神經網絡在神經形態計算機硬件上運行的更好。這種方法基于包含視覺和語音的八個數據集,實現了IBM所謂的“最高水準”的分類準確度。在最好的情況下,準確率在65%到97%之間。

當使用一個TrueNorth芯片時,它能在八分之一的數據集上超越準確度的當前最高水準。但是IBM研究員能在同時使用八個芯片的情況下提高硬件的精度,這使得TrueNorth能在其中三個數據集中匹敵或超越準確度的當前最高水準。

Modha說,在研究測試中TrueNorth可以給圖片數據分類,每秒速度1200-2600幀。處理器還能夠識別圖片模式,這些圖片是最多100個攝像頭以每秒24幀的速度拍攝的。

Lipton說,這是TrueNorth第一次涉足深度學習測試,這種結果讓人印象深刻,但是還是謹慎為好。他指出,畢竟視覺數據集在處理32×32像素的圖像時,還存在少量問題。

不過,這可影響不到IBM的Modha對TrueNorth深度學習測試的熱情。他和他的同事們希望芯片測試能在無限制的深度學習環境下進行。這需要他們在訓練神經網絡時逐步引進硬件限制,而不是從一開始就對其完全限制。

Modha還指出,TrueNorth的其中一個優勢是它的普適性,其他很多深度學習硬件都只能在卷積神經網絡上運行,但 TrueNorth 可以接受多種類型的人工智能網絡。

Modha說,“TrueNorth不僅可運行卷積神經網絡(雖然設計者一開始無意于此),支持多種包括反饋、橫向以及前饋的連接模式,還能應用多種其他的算法?!?/p>

Lipton說,像這樣的類生物芯片只有比其他深度學習硬件應用更出眾才能流行起來。同時他還建議到,IBM可以利用它的硬件公司,和Google、Intel一起為設計深度學習專用芯片而奮斗。

Lipton說,“我認為未來肯定會一些神經形態芯片制造商,他們會通過自己的硬件公司來加速芯片的發展以使整個行業 更集中于實踐性深度學習的應用,而不是純粹的生物模仿?!?/p>








2016年7月,人工智能學家AIE實驗室基于自身的研究成果和所擁有的頂級科學家資源,籌備建立未來科技學院 (Futurology?University)。

未來科技學院的使命和目標:將邀請國內和國際著名科學家、科技企業家講授人工智能、互聯網、腦科學、虛擬現實、機器人等領域的基本原理和未來發展趨勢。未來科技學院的目標是研究前沿科技未來發展趨勢,培養掌握未來科技動向的企業家和具有獨立創新精神的未來科學家。

開始激動人心的學習之旅:無論您是企業家,投資人,還是青年學子,科技愛好者,如果您希望把握科技未來發展趨勢,與世界著名科學家,科技企業家,風險投資家進行直接交流。歡迎您加入未來科技學院大家庭。


您可以掃描二維碼,進入未來科技學院臨時群,然后工作人員邀請您加入未來科技學院的免費學習群,開啟前沿科技未來趨勢的學習之旅。


未來科技學院對外公開邀請特聘專家


????未來科技學院是人工智能學家成立的前沿科技研究和傳播機構,目標是培養掌握未來科學規律的企業家和科學家。


?????為了促進前沿科技領域的專家傳播前沿思想、幫助專家用自己的知識和智慧產生經濟價值,未來科技學院決定對外公開邀請特聘專家加入未來科技學院專家團。如果您是互聯網、腦科學、人工智能、虛擬現實、生物基因、機器人、納米(不僅限于上述領域)等等前沿領域的博士,教授或資深行業專家,歡迎登記成為未來科技學院的特聘專家。

?

?成為未來科技學院的特邀專家,您將可以:


1、加入未來科技學院特聘專家群,與國內頂級的前沿科技領域科學家專家交流互動。


2、作為主講嘉賓參加未來科技學院舉辦的前沿科技講座或培訓,傳播您的成果和思想。


3、參與未來科技學院與企業、科研院所舉辦的前沿科技問題研討會,進行產學研交流。


4、優先使用人工智能學家開發的專家知識分享與科學眾包平臺-“專家威客”,自動成為平臺的認證專家,讓您的知識、智慧和成果通過互聯網產生經濟價值。



申請成為未來科技學院特聘專家請點擊"閱讀原文"進行登記







人工智能學家 ???Aitists


? ? ? ?人工智能學家是權威的前沿科技媒體和研究機構,2016年2月成立人工智能與互聯網進化實驗室(AIE Lab),重點研究互聯網,人工智能,腦科學,虛擬現實,機器人,移動互聯網等領域的未來發展趨勢和重大科學問題。



長按上方二維碼關注微信號 Aitists

投稿郵箱:post@aitists.com





我要推薦
轉發到
2019av手机天堂网免费_欧洲成在人线a免费视频_午夜私人成年影院 <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <文本链> <文本链> <文本链> <文本链> <文本链> <文本链>