|
選自 Analyticsvidhya 機(jī)器之心編譯 幾年之前，深度學(xué)習(xí)還是機(jī)器學(xué)習(xí)里面一個(gè)不太受人關(guān)注的領(lǐng)域。隨著神經(jīng)網(wǎng)絡(luò)和大數(shù)據(jù)的出現(xiàn)，很多復(fù)雜任務(wù)的實(shí)現(xiàn)已經(jīng)成為可能。 2009 年時(shí)，深度學(xué)習(xí)還是一個(gè)新興領(lǐng)域，只有少數(shù)人認(rèn)為這是一個(gè)值得研究的領(lǐng)域。但很快，這個(gè)領(lǐng)域就得到了很大的發(fā)展，目前已經(jīng)被應(yīng)用到很多的領(lǐng)域當(dāng)中，例如：語(yǔ)音識(shí)別、圖像識(shí)別、在一個(gè)數(shù)據(jù)集當(dāng)中尋找模式、照片中的事物分類、字符文本生成、自動(dòng)駕駛汽車等等。因此，了解深度學(xué)習(xí)及其概念是非常重要的。 為了能夠讓你用一種更簡(jiǎn)單的方式學(xué)習(xí)深度學(xué)習(xí)，Analytics Vidhya 網(wǎng)站發(fā)表了一篇文章梳理了一些 2016 年關(guān)于深度學(xué)習(xí)的視頻、教材和課程。其中包括深度學(xué)習(xí)暑期班、峰會(huì)和會(huì)議等的一些講座和教材。希望你能夠從中受益。（注：這篇文章中的視頻都在 YouTube 上，你也許需要專門的工具才能查看。） 目標(biāo)讀者 不管是深度學(xué)些方面初學(xué)者、中等水平的學(xué)者還是專家，你都可以找到適合您觀看的視頻。 這篇文章也會(huì)根據(jù)讀者的學(xué)習(xí)程度對(duì)學(xué)習(xí)材料進(jìn)行分別羅列。如果你是一名初學(xué)者或者是中等水平的學(xué)者，建議你可以從第一部分開始。如果你想掌握完全掌握深度學(xué)習(xí)，那這篇文章就是你首先要閱讀的不二之選。在開始對(duì)深度學(xué)習(xí)的探索之前，你首先要制作一個(gè)日程表。我相信在幾周后，至少你可以建立你在深度學(xué)習(xí)中的第一個(gè)模型。對(duì)于深度學(xué)習(xí)方面的專家來說，深度學(xué)習(xí)的高級(jí)教程部分有很多精彩的視頻可以幫助你加強(qiáng)現(xiàn)有的知識(shí)。你也可以看看 5 分鐘的初學(xué)者視頻來鞏固基礎(chǔ)知識(shí)。 對(duì)于所有深度學(xué)習(xí)/數(shù)據(jù)科學(xué)方面的愛好者，你們一定會(huì)喜歡深度學(xué)習(xí)的應(yīng)用和其他部分對(duì)例子的介紹。其中包括谷歌 DeepMind 的一些視頻，你可以從中學(xué)習(xí)如何使用深度學(xué)習(xí)繪畫，并且深度學(xué)習(xí)是如何讓自動(dòng)駕駛汽車成為現(xiàn)實(shí)的。 另外還有一小部分是關(guān)于強(qiáng)化學(xué)習(xí)的。 1.深度學(xué)習(xí)初學(xué)者教程
2.深度學(xué)習(xí)高級(jí)
3.深度學(xué)習(xí)的應(yīng)用
4.強(qiáng)化學(xué)習(xí)
深度學(xué)習(xí)初學(xué)者教程 1.深度學(xué)習(xí)簡(jiǎn)化版
如果復(fù)雜的專業(yè)術(shù)語(yǔ)讓你在學(xué)習(xí)深度學(xué)習(xí)時(shí)感到困難重重，那么這個(gè)教程就是給你的福利。這是深度學(xué)習(xí)及其基本概念的一個(gè)簡(jiǎn)化版教程。在這個(gè)教程里你將會(huì)了解到神經(jīng)網(wǎng)絡(luò)、深度網(wǎng)絡(luò)、深度信念網(wǎng)絡(luò)（DBN）和卷積神經(jīng)網(wǎng)絡(luò)。H2O.ai 和這個(gè)教程將會(huì)讓你對(duì)深度學(xué)習(xí)有基本的理解。同時(shí)你也會(huì)了解到不同的模型，以及在不同情況下該選擇何種模型和選擇這種模型的理由。之后你將會(huì)學(xué)到深度學(xué)習(xí)在不同使用情形下的實(shí)際操作經(jīng)驗(yàn)，包括支持構(gòu)建你自己深度網(wǎng)絡(luò)的平臺(tái)、深度學(xué)習(xí)可以調(diào)用的庫(kù)。這個(gè)簡(jiǎn)化教程里沒有任何數(shù)學(xué)計(jì)算或者編程相關(guān)的內(nèi)容，是為初學(xué)者了解深度學(xué)習(xí)基本思想而制作的。 2.2016 斯坦福灣區(qū)深度學(xué)習(xí)學(xué)校 Day 1
正如吳恩達(dá)（Andrew Ng）無比精確的描述，深度學(xué)習(xí)正在改變業(yè)界的發(fā)展布局，同時(shí)大量有意思的深度學(xué)習(xí)應(yīng)用正涌現(xiàn)出來。這個(gè)視頻是 2016 灣區(qū)深度學(xué)習(xí)學(xué)校第一天的內(nèi)容展示。視頻覆蓋到的內(nèi)容有： 1）Hugo Larochelle 講授前饋神經(jīng)網(wǎng)絡(luò)介紹（Introduction on Feedforward Neural Network）；2）Andrej Karpathy 講授用于計(jì)算機(jī)視覺的深度學(xué)習(xí)（Deep Learning for Computer Vision）；3）Richard Socher 講授用于自然語(yǔ)言處理（NLP）的深度學(xué)習(xí)（Deep Learning for NLP）；4）Sherry Moore 講授 TensorFlow 教程（TensorFlow Tutorial）；5）Ruslan Salakhutdinov 講授深度無監(jiān)督學(xué)習(xí)基礎(chǔ)（Foundations of Deep Unsupervised Learning）；6）吳恩達(dá)講授深度學(xué)習(xí)應(yīng)用基本要點(diǎn)（Nuts and Bolts of Applying Deep Learning）。這些深度學(xué)習(xí)方面的專家都會(huì)以一個(gè)易于理解的方式講解深度學(xué)習(xí)潛在的概念原理，讓你對(duì)深度學(xué)習(xí)有基礎(chǔ)理解。同時(shí)他們也會(huì)分享各自講授主題相關(guān)的應(yīng)用實(shí)例。 3.2016 斯坦福灣區(qū)深度學(xué)習(xí)學(xué)校 Day 2
這是灣區(qū)深度學(xué)習(xí)學(xué)校的第二天講授內(nèi)容視頻。視頻覆蓋到的內(nèi)容有：1）John Schulman 講授深度強(qiáng)化學(xué)習(xí)基礎(chǔ)（Foundation of Deep Reinforcement Learning）；2）Pascal Lamblin 講授 Theano 介紹：一個(gè)供模型構(gòu)建和訓(xùn)練使用的極速 Python 庫(kù)（Introduction to Theano: A Fast Python library for Modelling & Training）；3）Adam Coates 和 Vinay Rao 講授語(yǔ)音識(shí)別和深度學(xué)習(xí)（Speech Recognition and Deep Learning）；4）Alex Wiltschko 講授 Torch 和 Autograd 下的機(jī)器學(xué)習(xí)（Machine Learning with Torch & Autograd）；5）Quoc Le 講授深度學(xué)習(xí)實(shí)現(xiàn) Seq2Seq（Sequence to Sequence by Deep Learning）；5）Yoshua Bengio 講授深度學(xué)習(xí)的基礎(chǔ)和挑戰(zhàn)（Foundation and Challenges of Deep Learning）。這些深度學(xué)習(xí)的應(yīng)用者都是經(jīng)常被檢索到的深度學(xué)習(xí)應(yīng)用專家，他們同時(shí)也為大型公司服務(wù)，如：谷歌大腦、Twitter 等。 4. 教程：深度學(xué)習(xí)
在這個(gè)深度學(xué)習(xí)的視頻教程里，Yoshua Bengio 和 Yann LeCun 講解了近年來深度學(xué)習(xí)所取得的重大突破。在這個(gè)領(lǐng)域深耕 30 年之后，Yoshua 和 Yann 帶來深度學(xué)習(xí)如何掀起機(jī)器學(xué)習(xí)和人工智能領(lǐng)域變革浪潮的深度解讀。在本視頻教程里，你將會(huì)學(xué)到深度學(xué)習(xí)是如何實(shí)現(xiàn)多層計(jì)算模型對(duì)數(shù)據(jù)表征的學(xué)習(xí)。這些方法大幅提升了語(yǔ)音識(shí)別、視覺對(duì)象識(shí)別、目標(biāo)檢測(cè)以及基因?qū)W等領(lǐng)域的相關(guān)研究。這個(gè)教程將會(huì)覆蓋到深度學(xué)習(xí)基礎(chǔ)，并討論深度學(xué)習(xí)的不同應(yīng)用和目前遇到的挑戰(zhàn)。 5. 使用神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)及 TensorFlow 介紹
如果你一直在想知道神經(jīng)網(wǎng)絡(luò)是如何工作的，為什么最近它有這么多的關(guān)注。本教程將介紹神經(jīng)網(wǎng)絡(luò)，你將了解神經(jīng)網(wǎng)絡(luò)如何能夠創(chuàng)建具有巨大數(shù)據(jù)集的強(qiáng)大模型。并理解神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)以及每個(gè)輸入層如何組合在一起以生成輸出。這只是完整教程中的第一個(gè)視頻，第二部分是 TensorFlow 基礎(chǔ)。如果需要了解怎樣建立神經(jīng)網(wǎng)絡(luò)模型，請(qǐng)繼續(xù)學(xué)習(xí)第三部分。 6. 機(jī)器學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)
研究人工神經(jīng)網(wǎng)絡(luò)的主要思想是理解神經(jīng)元的并行計(jì)算方式及其自適應(yīng)連接。本課程將由多倫多大學(xué)教授 Geoffrey Hinton 講授，你將學(xué)習(xí)到神經(jīng)網(wǎng)絡(luò)和機(jī)器學(xué)習(xí)將如何帶來技術(shù)革命。本課程包括感知器、反向傳播、卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)、梯度下降和超參數(shù)貝葉斯優(yōu)化等主題。這是深度學(xué)習(xí)最好的課程之一，如果你是深度學(xué)習(xí)愛好者，那就一定不能錯(cuò)過它。 7.TensorFlow 入門
現(xiàn)如今最流行的機(jī)器學(xué)習(xí)框架之一就是 TensorFlow，雖然它主要用于進(jìn)行機(jī)器學(xué)習(xí)和深度神經(jīng)網(wǎng)絡(luò)研究，但由于其多功能性，TensorFlow 也可用于各種應(yīng)用。在這個(gè)有趣的 TensorFlow 教程中，您將學(xué)習(xí)在 Python 中用不到 40 行代碼進(jìn)行構(gòu)建手寫數(shù)字圖像的分類器。您還將學(xué)習(xí)如何在 TensorFlow 中生成音樂，什么是 Tensorboard，怎樣構(gòu)建一個(gè)神經(jīng)網(wǎng)絡(luò)還有使用 TensorFlow 相比其他深度學(xué)習(xí)庫(kù)的利弊。這個(gè)關(guān)于 TensorFlow 的簡(jiǎn)短教程是深度學(xué)習(xí)新手必須要了解的。 8. 神經(jīng)網(wǎng)絡(luò)
人工神經(jīng)網(wǎng)絡(luò)能夠?qū)W習(xí)，而且它們需要訓(xùn)練。基本上需要 3 步來構(gòu)建機(jī)器學(xué)習(xí)模型，即構(gòu)建、訓(xùn)練、測(cè)試。一旦模型構(gòu)建起來，它就可以在模式識(shí)別上訓(xùn)練得越來越好。在這些短短 5 分鐘視頻里，你將學(xué)習(xí)建立神經(jīng)網(wǎng)絡(luò)、自動(dòng)編碼器和循環(huán)神經(jīng)網(wǎng)絡(luò)，每段視頻的代碼也可在 YouTube 上的描述中找到。 9. 改變所有事物的神經(jīng)網(wǎng)絡(luò)
卷積神經(jīng)網(wǎng)絡(luò)是深度神經(jīng)網(wǎng)絡(luò)和核卷積（kernel convolution）的結(jié)合。這個(gè)視頻解釋了卷積神經(jīng)網(wǎng)絡(luò)是如何為精確圖像分類帶來巨大改變的。如果你是深度學(xué)習(xí)愛好者，但對(duì)神經(jīng)網(wǎng)絡(luò)了解甚少，不妨看看這個(gè)視頻。它向你展示了深度學(xué)習(xí)是如何用來估計(jì)房?jī)r(jià)的。 10.TensorFlow 廣度&深度學(xué)習(xí)——機(jī)器學(xué)習(xí)
廣度和深度學(xué)習(xí)（wide and deep learning）結(jié)合了用于訓(xùn)練廣度線性模型和深度神經(jīng)網(wǎng)絡(luò)的記憶（memorization）和歸納（generalization）。在這個(gè)視頻中，你可以了解到在 TensorFlow 當(dāng)中對(duì)這種簡(jiǎn)單易用的 API 的應(yīng)用。它們?cè)诖笠?guī)模的回歸分析和分類中所涉及到的稀疏輸入問題當(dāng)中非常實(shí)用，例如推薦系統(tǒng)、搜索和排名問題。通過這個(gè) 視頻來探索廣度和深度學(xué)習(xí)的可能性吧。 11. 深度學(xué)習(xí)簡(jiǎn)介
這個(gè)視頻對(duì)深度學(xué)習(xí)進(jìn)行了數(shù)學(xué)解釋。它將帶你了解機(jī)器是如何找到不同變量的分組并做出具體決策的。如果你是一個(gè)數(shù)學(xué)愛好者，你將會(huì)學(xué)到如何調(diào)整模型參數(shù)。視頻簡(jiǎn)單地解釋了神經(jīng)網(wǎng)絡(luò)對(duì)不同輸入內(nèi)容的反應(yīng)。 12. 深度學(xué)習(xí)揭秘
這是一個(gè)深度學(xué)習(xí)的初級(jí)教程。其中，你將了解深度學(xué)習(xí)是如何幫助機(jī)器識(shí)別特征的。同時(shí)，視頻用簡(jiǎn)單的語(yǔ)言解釋了神經(jīng)網(wǎng)絡(luò)。首先，視頻介紹了神經(jīng)元的工作方式，隨后進(jìn)一步解釋神經(jīng)元之間的交流方式。隨后是深度學(xué)習(xí)在現(xiàn)實(shí)世界中的應(yīng)用。 深度學(xué)習(xí)-高級(jí) 1.2016 年蒙特利爾深度學(xué)習(xí)暑期班
蒙特利爾深度學(xué)習(xí)暑期班出現(xiàn)了很多來自不同年齡段的專家與從業(yè)人員。該教程是要教人們對(duì)深度學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)有基礎(chǔ)的理解。里面有 Yoshua Bengio 教授循環(huán)神經(jīng)網(wǎng)絡(luò)，Surya Ganguli 教授理論神經(jīng)科學(xué)與深度學(xué)習(xí)理論，Sumit Chopra 教授 reasoning summit 和 attention，Jeff Dean 講解 TensorFlow 大規(guī)模機(jī)器學(xué)習(xí)，Ruslan Salakhutdinov 講解學(xué)習(xí)深度生成式模型，Ryan Olson 講解深度學(xué)習(xí)的 GPU 編程，還有其他很多的講演。想要了解更多內(nèi)容可參考機(jī)器之心之前發(fā)表的文章： YoshuaBengio深度學(xué)習(xí)暑期班學(xué)習(xí)總結(jié)(附觀看地址) 2. 深度學(xué)習(xí)教程——高級(jí)
在過去幾年中，圖像分類、分割、物體檢測(cè)的技術(shù)因深度學(xué)習(xí)有了極大的進(jìn)展。該教程會(huì)帶你了解深度學(xué)習(xí)的進(jìn)展，主要集中于使用 Theano 和 Lasagne 的計(jì)算機(jī)視覺與圖像處理。此外，演講者也討論了一些重要的技巧，比如用更少的訓(xùn)練數(shù)據(jù)進(jìn)行審核等。為了理解視頻中的概念，需要一定的代數(shù)、微積分與機(jī)器學(xué)習(xí)基礎(chǔ)。 3. 深度學(xué)習(xí)實(shí)踐-語(yǔ)音識(shí)別與其他
吳恩達(dá)的地位無需再多做介紹了，大家都知道他對(duì)深度學(xué)習(xí)的貢獻(xiàn)。他是世界上首先認(rèn)識(shí)到深度學(xué)習(xí)潛力的幾個(gè)人之一。在這個(gè)與吳恩達(dá)的一對(duì)一對(duì)話中，他分享了在深度學(xué)習(xí)上研究的經(jīng)驗(yàn)、深度學(xué)習(xí)所到來的科技進(jìn)展。他提到大數(shù)據(jù)的進(jìn)展正在顛覆如今的產(chǎn)業(yè)。觀看此視頻可以了解更多關(guān)于深度學(xué)習(xí)與數(shù)據(jù)科學(xué)的未來。 深度學(xué)習(xí)的應(yīng)用 1. 詳解谷歌 DeepMind
AlphaGo 擊敗圍棋前世界冠軍李世乭是一個(gè)歷史時(shí)刻。每當(dāng)機(jī)器超越人類的時(shí)候，就會(huì)引發(fā)一輪新的社會(huì)進(jìn)步。谷歌 DeepMind 宣稱自己將下一代人工智能和目標(biāo)帶到研發(fā)這樣的系統(tǒng)活動(dòng)中：聰明到可以自主采取行動(dòng)。這個(gè)視頻解釋了 DeepMind 的起源，以及它能為人工智能領(lǐng)域帶來的什么樣的變革。 2. 自動(dòng)駕駛汽車和深度學(xué)習(xí) GPU-英偉達(dá)
英偉達(dá) CEO 黃仁勛分享了深度學(xué)習(xí)與研究如何改變自動(dòng)駕駛汽車的面貌，如何讓其成真的故事。他開局引介了世界上第一個(gè)由英偉達(dá)設(shè)計(jì)的、用于自動(dòng)駕駛汽車的人工智能超級(jí)計(jì)算機(jī)。還解釋了深度神經(jīng)網(wǎng)絡(luò)和大數(shù)據(jù)如何被用于解決 GPU 的問題。深度學(xué)習(xí)和人工智能如何變不可能為可能？這個(gè)視頻會(huì)讓你腦洞大開。 3. 九個(gè)超酷的深度學(xué)習(xí)應(yīng)用
想知道深度學(xué)習(xí)和機(jī)器學(xué)習(xí)在現(xiàn)實(shí)生活中有哪些有趣應(yīng)用？這個(gè)視頻會(huì)給你答案。你會(huì)看到一些讓你腦洞大開的應(yīng)用，比如，不同化學(xué)結(jié)構(gòu)的毒性檢測(cè)，大型圖像有絲分裂檢測(cè)，序列生成，計(jì)算機(jī)程序自己怎么玩游戲等等。 4. 深度學(xué)習(xí)程序?qū)W繪畫
人工智能神經(jīng)網(wǎng)絡(luò)受到了人類大腦的啟發(fā)，旨在研究神經(jīng)元之間的連接。在這個(gè)視頻中，我們會(huì)看到幾個(gè)深度學(xué)習(xí)應(yīng)用。但是，神經(jīng)網(wǎng)絡(luò)的藝術(shù)創(chuàng)作是深度學(xué)習(xí)最神奇的應(yīng)用形式。在這個(gè)視頻里，你將學(xué)到如何使用深度學(xué)習(xí)繪畫，或使用人工神經(jīng)網(wǎng)絡(luò)對(duì)世界名畫進(jìn)行再創(chuàng)作。用戶要做的就是輸入一張照片，再提供一張目標(biāo)圖片供系統(tǒng)學(xué)習(xí)（其藝術(shù)風(fēng)格）。 強(qiáng)化學(xué)習(xí) 1. 簡(jiǎn)介強(qiáng)化學(xué)習(xí)函數(shù)逼近-教程
強(qiáng)化學(xué)習(xí)是由機(jī)器學(xué)習(xí)研究社區(qū)開發(fā)出的用來做最佳序列決策的技術(shù)。該教程提供了對(duì)底層形式問題（馬爾科夫決策過程）及其核心解決方法的透徹理解，后者包括動(dòng)態(tài)編程、蒙特卡洛方法和時(shí)序差分學(xué)習(xí)。該視頻注重這些方法如何與參數(shù)逼近（parametric approximation）結(jié)合從而找到因過大而難以解決問題的好的逼近解決方案。演講者也會(huì)帶你了解函數(shù)逼近、eligibility traces 和 off-policy 學(xué)習(xí)的最新進(jìn)展。 2. 深度強(qiáng)化地形學(xué)習(xí)
本視頻描述了深度學(xué)習(xí)與強(qiáng)化學(xué)習(xí)的結(jié)合，這種結(jié)合被認(rèn)為有助于解決許多極端困難的任務(wù)。谷歌 DeepMind 使用深度學(xué)習(xí)建立了一個(gè)能夠玩 Atari 游戲的系統(tǒng)，其表現(xiàn)超過了人類。視頻展示了一個(gè)有趣的應(yīng)用就是使用深度強(qiáng)化學(xué)習(xí)教會(huì)處在某些地帶中的動(dòng)物繪制周圍環(huán)境，避免障礙。 結(jié)語(yǔ) 這就是 2016 年的人工智能視頻盤點(diǎn)，我們收集了一系列關(guān)于深度學(xué)習(xí)與強(qiáng)化學(xué)習(xí)的視頻。根據(jù)年份、瀏覽量與關(guān)聯(lián)度挑選出最后名單。目前在網(wǎng)絡(luò)上有著豐富的內(nèi)容資源，而我們提供的是其中最引人關(guān)注的一部分。相信這個(gè)列表中肯定會(huì)有適合你的內(nèi)容。 |
|
|
