一区二区三区日韩精品-日韩经典一区二区三区-五月激情综合丁香婷婷-欧美精品中文字幕专区

分享

2018深度學(xué)習(xí)十大趨勢(shì):元學(xué)習(xí)成新SGD,多數(shù)硬件創(chuàng)企將失敗

 長(zhǎng)沙7喜 2018-01-03

原作 Carlos E. Perez

李杉 編譯自 Intuition Machine博客

量子位 出品 | 公眾號(hào) QbitAI

2018深度學(xué)習(xí)十大趨勢(shì):元學(xué)習(xí)成新SGD,多數(shù)硬件創(chuàng)企將失敗

2018年,一切可能都會(huì)發(fā)生戲劇性的變化。

深度學(xué)習(xí)在2017年取得的那些不可思議的突破,將在2018年全面爆發(fā)。去年大量研究工作將轉(zhuǎn)移到日常的軟件應(yīng)用中。

跟去年一樣,我也將對(duì)2018年的深度學(xué)習(xí)發(fā)展方向展開預(yù)測(cè)。

1、多數(shù)深度學(xué)習(xí)硬件創(chuàng)業(yè)公司都將失敗

許多深度學(xué)習(xí)硬件創(chuàng)業(yè)公司將在2018年最終交付他們的芯片。這些都是半成品,因?yàn)樗麄儠?huì)忘記提供優(yōu)秀的軟件來(lái)支持這些新解決方案。這些公司的DNA都在于硬件。不幸的是,在深度學(xué)習(xí)領(lǐng)域,軟件同樣重要。這些創(chuàng)業(yè)公司大多不懂軟件,也不了解開發(fā)軟件的成本。這些公司可能會(huì)提供芯片,但卻沒有任何東西會(huì)在這些芯片上運(yùn)行。

采用收縮陣列解決方案是一種較易達(dá)成的目標(biāo),目前已經(jīng)被采用,所以我們不會(huì)像在2017年那樣看到很多10倍規(guī)模的性能升級(jí)。研究人員不僅會(huì)用這些Tensor Core進(jìn)行推理,還可以加快訓(xùn)練速度。

英特爾的解決方案將繼續(xù)推遲,可能會(huì)令人失望。記錄表明,英特爾無(wú)法在2017年年中發(fā)布這款產(chǎn)品,誰(shuí)也無(wú)法預(yù)測(cè)該公司何時(shí)能推出這款產(chǎn)品。如果為時(shí)已晚,那就只能變成一顆啞彈。

2018深度學(xué)習(xí)十大趨勢(shì):元學(xué)習(xí)成新SGD,多數(shù)硬件創(chuàng)企將失敗

谷歌將繼續(xù)憑借TPU的開發(fā)給世界帶來(lái)驚喜。谷歌或許會(huì)進(jìn)入硬件業(yè)務(wù),將其知識(shí)產(chǎn)權(quán)授權(quán)給其他半導(dǎo)體廠商。如果它繼續(xù)成為除了英偉達(dá)以外唯一一個(gè)真正的參與者,這種做法將很有意義。

2、元學(xué)習(xí)將成為新的SGD

2017年,元學(xué)習(xí)領(lǐng)域涌現(xiàn)出很多意義重大的研究。隨著研究界對(duì)元學(xué)習(xí)的理解整體得到提升,傳統(tǒng)的隨機(jī)梯度下降法(SGD)將被邊緣化,轉(zhuǎn)向更有效的方法,將更具爆發(fā)性和探索性的搜索方法結(jié)合起來(lái)。

無(wú)監(jiān)督學(xué)習(xí)的進(jìn)步將會(huì)逐步加快,但主要將受到元學(xué)習(xí)算法的推動(dòng)。

3、生成模型推動(dòng)新型建模

生成模型將具備更多的科學(xué)探索意義。目前的多數(shù)研究都是生成圖像和語(yǔ)音。然而,我們應(yīng)該看到這種方法融合到一些工具之中,用來(lái)為復(fù)雜的系統(tǒng)建模。其中一個(gè)領(lǐng)域是用深度學(xué)習(xí)建立經(jīng)濟(jì)模型。

4、通過(guò)自我對(duì)局來(lái)自動(dòng)化創(chuàng)建知識(shí)

能夠從頭自學(xué)的AlphaGo Zero和AlphaZero是一場(chǎng)巨大的飛躍。在我看來(lái),這跟深度學(xué)習(xí)的出現(xiàn)擁有同等程度的影響力。深度學(xué)習(xí)發(fā)現(xiàn)了通用函數(shù)近似器。而自學(xué)則發(fā)現(xiàn)了通用的知識(shí)創(chuàng)造。

預(yù)計(jì)自學(xué)式機(jī)器學(xué)習(xí)還將取得很多進(jìn)展。

5、有直覺的機(jī)器將填補(bǔ)語(yǔ)義鴻溝

這是我最大膽的一項(xiàng)預(yù)測(cè)。我們將填補(bǔ)有直覺的機(jī)器與理性機(jī)器之間的語(yǔ)義鴻溝。對(duì)偶過(guò)程理論(包括兩個(gè)認(rèn)知機(jī)器,一個(gè)沒有模型,另外一個(gè)有模型)將在我們開發(fā)新的人工智能的過(guò)程中成為更加流行的概念。人工直覺的概念不再是一個(gè)邊緣概念,而是會(huì)在2018年成為更為人普遍接受的理念。

2018深度學(xué)習(xí)十大趨勢(shì):元學(xué)習(xí)成新SGD,多數(shù)硬件創(chuàng)企將失敗

6、可解釋性無(wú)法實(shí)現(xiàn)——我們只能偽造

可解釋性有兩個(gè)問(wèn)題。較為人所知的問(wèn)題在于,解釋有很多規(guī)則,人類不可能全部掌握。第二個(gè)問(wèn)題不太為人所知,那就是機(jī)器會(huì)創(chuàng)造很多人類完全陌生且無(wú)法解釋的概念。我們已經(jīng)在AlphaGo Zero和AlphaZero的策略中看到這種現(xiàn)象。人類認(rèn)為這種舉動(dòng)超出常規(guī),但它們或許只是沒有能力理解這種行為背后的邏輯而已。

我認(rèn)為,這是個(gè)無(wú)法解決的問(wèn)題。相反,機(jī)器將很擅長(zhǎng)“偽造解釋”。簡(jiǎn)單來(lái)說(shuō),可解釋的機(jī)器的目標(biāo)是理解人類感到舒適的那些解釋,或者人類在直覺層面能夠理解的解釋。然而,在多數(shù)情況下,都無(wú)法對(duì)人類完全解釋清楚。

我們需要通過(guò)“偽造解釋”來(lái)提高深度學(xué)習(xí)的可解釋性。

7、深度學(xué)習(xí)研究信息將會(huì)大量減少

2017年,人們已經(jīng)很難跟上深度學(xué)習(xí)研究進(jìn)度。ICLR 2018大會(huì)上提交的論文約有4000篇。研究人員需要一天閱讀10篇論文才能跟上這次大會(huì)的進(jìn)度。

該問(wèn)題在這一領(lǐng)域還在惡化,因?yàn)槔碚摽蚣茉谶@一過(guò)程中都很管用。要在理論上取得進(jìn)步,就需要找到更先進(jìn)的數(shù)學(xué)方法,讓我們能夠更好地展開分析。這并不容易,原因在于多數(shù)深度學(xué)習(xí)研究人員都沒有合適的數(shù)學(xué)背景,無(wú)法理解這些系統(tǒng)的復(fù)雜性。深度學(xué)習(xí)需要研究人員擁有復(fù)雜的理論基礎(chǔ),但這種研究人員實(shí)際上卻很少。

由于論文數(shù)量太多,加之糟糕的理論層出不窮,導(dǎo)致我們陷入了如今這個(gè)令人不悅的狀態(tài)。

通用人工智能的通用路線圖也有所缺失。理論很薄弱,因此我們能做的就是創(chuàng)造一份路線圖,上面配有很多與人類認(rèn)知有關(guān)的里程碑。我們只有一個(gè)來(lái)自認(rèn)知心理學(xué)的純理論框架。這種情況很糟糕,因?yàn)檫@些領(lǐng)域的實(shí)踐證據(jù)很匱乏。

深度學(xué)習(xí)研究論文的數(shù)量可能在2018年增長(zhǎng)三四倍。

8、通過(guò)教學(xué)環(huán)境實(shí)現(xiàn)工業(yè)化

想要讓深度學(xué)習(xí)的發(fā)展更可預(yù)測(cè)、更易控制,就需要發(fā)展更加具體的教學(xué)環(huán)境。我之前有過(guò)詳細(xì)闡述。如果你想知道教學(xué)技術(shù)最為粗糙的表現(xiàn)形式,只需要看看深度學(xué)習(xí)網(wǎng)絡(luò)是如何訓(xùn)練的即可。我們都會(huì)在這一領(lǐng)域看到更多進(jìn)步。

預(yù)計(jì)將有更多公司披露他們的內(nèi)部基礎(chǔ)架構(gòu),從而揭示他們是如何大規(guī)模部署深度學(xué)習(xí)的。

2018深度學(xué)習(xí)十大趨勢(shì):元學(xué)習(xí)成新SGD,多數(shù)硬件創(chuàng)企將失敗

9、對(duì)話式認(rèn)知崛起

我們?cè)u(píng)估通用人工智能的方法過(guò)于陳舊。需要通過(guò)一種新的范式來(lái)解決現(xiàn)實(shí)世界的復(fù)雜動(dòng)態(tài)。我們未來(lái)一年應(yīng)該看到這一領(lǐng)域出現(xiàn)更多進(jìn)展。我將在3月1日和2日在阿姆斯特丹的Information Energy 2018大會(huì)上探討這種新的對(duì)話式認(rèn)知范式。

10、我們要求對(duì)人工智能的使用符合道德標(biāo)準(zhǔn)。

將有越來(lái)越多的人要求人工智能的使用遵守道德標(biāo)準(zhǔn)。人們目前越發(fā)意識(shí)到自動(dòng)化失控后產(chǎn)生的惡劣后果。Facebook、Twitter、谷歌、亞馬遜等平臺(tái)上使用的簡(jiǎn)單的自動(dòng)化技術(shù)都會(huì)產(chǎn)生意想不到的社會(huì)影響。

在部署那些能夠預(yù)測(cè)人類行為的機(jī)器時(shí),我們需要理解其中的倫理道德問(wèn)題。面部識(shí)別就是一項(xiàng)比較危險(xiǎn)的功能。能夠生成以假亂真的媒體資料的算法會(huì)成為大問(wèn)題。整個(gè)社會(huì)都應(yīng)該要求人工智能為社會(huì)的整體利益考慮,而不能加劇社會(huì)的不平等。

預(yù)計(jì)未來(lái)一年將看到更多關(guān)于人工智能倫理問(wèn)題的討論。然而,應(yīng)該不會(huì)有新的監(jiān)管措施出臺(tái)。政策制定者還需要再過(guò)幾年才能真正理解人工智能對(duì)社會(huì)的影響。我不認(rèn)為他們會(huì)停止斗爭(zhēng),解決社會(huì)面臨的真正問(wèn)題。美國(guó)人口受到很多安全問(wèn)題的影響,但我們并沒有看到新的立法來(lái)解決這些嚴(yán)重問(wèn)題。所以,不要奢望這些問(wèn)題一夜之間得到解決。

為影響做好準(zhǔn)備

2018年很重要,我們都應(yīng)該系好安全帶,迎接即將到來(lái)的重大影響。

2018深度學(xué)習(xí)十大趨勢(shì):元學(xué)習(xí)成新SGD,多數(shù)硬件創(chuàng)企將失敗

誠(chéng)摯招聘

量子位正在招募編輯/記者,工作地點(diǎn)在北京中關(guān)村。期待有才氣、有熱情的同學(xué)加入我們!相關(guān)細(xì)節(jié),請(qǐng)?jiān)诹孔游还娞?hào)(QbitAI)對(duì)話界面,回復(fù)“招聘”兩個(gè)字。

量子位 QbitAI · 頭條號(hào)簽約作者

?'?' ? 追蹤AI技術(shù)和產(chǎn)品新動(dòng)態(tài)

    本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間,所有內(nèi)容均由用戶發(fā)布,不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購(gòu)買等信息,謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請(qǐng)點(diǎn)擊一鍵舉報(bào)。
    轉(zhuǎn)藏 分享 獻(xiàn)花(0

    0條評(píng)論

    發(fā)表

    請(qǐng)遵守用戶 評(píng)論公約

    類似文章 更多

    国产女性精品一区二区三区| 亚洲国产一级片在线观看| 日本一区二区三区久久娇喘| 亚洲av日韩一区二区三区四区 | 中文字幕日韩无套内射| 好吊色欧美一区二区三区顽频| 国产麻豆成人精品区在线观看| 久久精品中文扫妇内射| 99秋霞在线观看视频| 免费啪视频免费欧美亚洲| 98精品永久免费视频| 尹人大香蕉一级片免费看| 中文字幕亚洲精品人妻| 国产成人精品一区二区三区| 日韩人妻免费视频一专区| 九九热精品视频免费在线播放| 国产一区二区精品丝袜| 99久久精品视频一区二区| 日韩欧美91在线视频| 国产偷拍盗摄一区二区| 日本加勒比在线播放一区| 人妻偷人精品一区二区三区不卡| 樱井知香黑人一区二区| 日韩精品综合免费视频| 中文字幕在线五月婷婷| 青青久久亚洲婷婷中文网| 欧美日本亚欧在线观看| 国产欧美一区二区色综合| 精品熟女少妇一区二区三区| 欧洲偷拍视频中文字幕| 99福利一区二区视频| 不卡一区二区高清视频| 国产国产精品精品在线| 国产精品久久香蕉国产线| 午夜精品一区二区av| 久草视频在线视频在线观看| 国产精品成人一区二区三区夜夜夜 | 欧美一区二区三区在线播放| 久久偷拍视频免费观看| 欧美精品在线播放一区二区| 91麻豆精品欧美视频|