一直以來,深度學(xué)習(xí)都是各大IT巨頭、科研院所研究的對象,幾年前IBM沃森超級計(jì)算機(jī)就曾經(jīng)給我們帶來了驚喜。如今,NVIDIA憑借其強(qiáng)大的GPU和軟件也開始深挖這一領(lǐng)域。看似是一個嶄新的領(lǐng)域,其實(shí)包括我國在內(nèi)的諸多高校和機(jī)構(gòu)早已在這方面投入了研發(fā)力量。據(jù)NVIDIA全球副總裁、PSG兼云計(jì)算業(yè)務(wù)中國區(qū)總經(jīng)理Ashok Pandey(潘迪)介紹,ImageNet競賽中香港中文大學(xué),取得了第二名的成績。另一方面,在國內(nèi),特別是在互聯(lián)網(wǎng)領(lǐng)域,機(jī)械學(xué)習(xí)的研究非常熱,在這個“熱”的背后,它有非常非常多從事機(jī)器學(xué)習(xí)相關(guān)領(lǐng)域研究的工程師和研究者,他們來自國內(nèi)不同的高校和科研機(jī)構(gòu)。這些非常年輕的工程師和研究者,也從另外一個側(cè)面反映出我們國內(nèi)在機(jī)械學(xué)習(xí),特別是在深度學(xué)習(xí)領(lǐng)域,跟世界先進(jìn)水平基本上是在一個層次,屬于一個競爭的層面。 ImageNet是一個大規(guī)模圖像處理的競賽,每年一屆。從2012年開始,第一次用到GPU,實(shí)際上這幾年中國一直都有參與。我們國內(nèi)有三家比較強(qiáng)的從事這方面的研究機(jī)構(gòu),包括香港中文大學(xué)、中科院自動化所,還有公安部的第三研究所。在做圖像圖形的識別方面,他們在中國國內(nèi)是非常權(quán)威的,在2014年的比賽中都拿到了很好的名次。公安部三所拿了兩個單項(xiàng)第二;自動化所,也拿到了一個第二名。他們與NYU、MIT等這樣的高校和谷歌、微軟等這樣的大型科研機(jī)構(gòu)算是同臺競爭,可以說明在技術(shù)水平方面,特別是對于GPU使用這方面,國內(nèi)的高校和科研機(jī)構(gòu)還是非常先進(jìn)的。 與開源社區(qū)合作,推動深度挖掘發(fā)展 談到深度學(xué)習(xí)與開源方面的合作,NVIDIA中國區(qū)技術(shù)經(jīng)理賴俊杰表示,對深度學(xué)習(xí)助力很大的一個因素就是開源的社區(qū),或者說開源的工具。開源的工具包括Cafee、Theano、Touch這些。NVIDIA在開源方面都有相應(yīng)的開發(fā)人員,會跟這些開源的社區(qū)以及主要的開發(fā)者保持密切聯(lián)系。會跟他們合作,一起研究如何讓這些開源的工具,能夠在NVIDIA平臺,在GPU上,獲得更好的性能。 目前來講NVIDIA現(xiàn)在在推DIGITS的第一個階段,主要做Caffe。包括國內(nèi)的騰訊、百度、阿里以及國外的一些用戶那里,發(fā)現(xiàn)在做深度學(xué)習(xí)的這些應(yīng)用程序的時(shí)候,相對來說比較多的用戶選擇了Caffe,所以NVIDIA在一開始就最先集成到Caffe的開源工具里面,包括DIGITS這個開源的深度學(xué)習(xí)的NVIDIA平臺,也是最先把Caffe集成了進(jìn)去。 NVIDIA會根據(jù)用戶需求推出相關(guān)產(chǎn)品 深挖大數(shù)據(jù)一直都是研發(fā)重點(diǎn),賴俊杰認(rèn)為,其實(shí)無論是無監(jiān)督還是有監(jiān)督學(xué)習(xí),它本質(zhì)上抽象來講,是一個數(shù)學(xué)模型舉證的運(yùn)算,就是一個數(shù)學(xué)計(jì)算。對于NVIDIA來講,旨在提供更好、更快的產(chǎn)品能做計(jì)算,F(xiàn)在在深度學(xué)習(xí)領(lǐng)域,也有一個發(fā)展局勢,一般我們都用單精度進(jìn)行,現(xiàn)在可能有的人要用半精度,甚至1/4精度,那么NVIDIA也在根據(jù)用戶的需求調(diào)整我們GPU的架構(gòu)。比如說Pascal,將會是第一款支持混合精度的GPU,也就是說支持FP16,F(xiàn)P32。這樣的話可能對于機(jī)器學(xué)習(xí)來講,性能提高更快。
..
|