深度學習框架如同智能時代的“發(fā)電機”,讓人工智能技術更快速地普及到各行各業(yè),推動融合創(chuàng)新,成為智能時代最重要的基礎設施。PaddlePaddle作為目前國內(nèi)唯一功能完備的深度學習框架,經(jīng)過2018年的快速成長,初具模型領先、性能優(yōu)越、易學易用的技術特色,以及工業(yè)場景下的領先優(yōu)勢。下面我們來盤點一下PaddlePaddle 2018年的成長之路。 一、 核心發(fā)布 1、 Paddle Fluid 1.0發(fā)布 —— 核心框架走向成熟 § 7月4日 Paddle Fluid V0.14.0 發(fā)布——提供從數(shù)據(jù)預處理到模型部署在內(nèi)的深度學習全流程的底層能力支持。官方首次開源CV/NLP/語音/強化學習等10個業(yè)界領先的模型。 § 10月12日 Paddle Fluid V1.0穩(wěn)定版本發(fā)布——提供更穩(wěn)定、向后兼容的API。易用性大幅提升。提供 Mac OS 下的多種安裝方式,新增對Python3.5的支持。并開源8個CV、NLP 方向主流模型。 § 11月1日Paddle Fluid V1.1發(fā)布——支持千億規(guī)模稀疏參數(shù)大規(guī)模多機異步訓練。移動端預測新增Mali GPU、Adreno GPU、FPGA等硬件支持。開源5個推薦領域模型,大幅優(yōu)化CV、NLP模型的訓練速度和顯存占用。 § 12月8日 Paddle Fluid V1.2發(fā)布——CPU多機異步訓練升級包括worker異步并發(fā)和IO、通信優(yōu)化在內(nèi)多項功能,整體吞吐大幅提升。支持python3.6及以上全版本。模型庫新增圖像分類任任務的預訓練模型、語言模型任務新增基于cudnn的LSTM實現(xiàn)、分布式word2vec模型。 2、 PaddlePaddle Suite - 技術全面領先的深度學習全功能套件 PaddlePaddle3.0升級為全面的深度學習開發(fā)套件,在核心框架基礎上,開放VisualDL、PARL、AutoDL、EasyDL、AI Studio等一整套的深度學習工具組件和服務平臺,滿足不同層次的深度學習開發(fā)者的開發(fā)需求。具備強大支持工業(yè)級應用的能力,已經(jīng)被中國企業(yè)廣泛使用,并擁有活躍的開發(fā)者社區(qū)生態(tài)。 二、 三大技術特色 1、深耕工業(yè)場景,打造官方支持模型最多的深度學習框架 基于百度多年的工業(yè)應用經(jīng)驗,以及百度生態(tài)伙伴的人工智能解決方案實踐,PaddlePaddle為企業(yè)提供44個經(jīng)過工業(yè)場景驗證的官方模型,涵蓋視覺、NLP、語音和推薦等AI核心技術領域,成為官方支持模型最多的深度學習框架。 基于PaddlePaddle開源多個百度國際競賽獲獎模型: § PyramidBox模型 2018年3月在世界最權威的人臉檢測公開評測集 WIDER FACE的三項評測子集Easy、Medium和Hard中均獲得世界第一。 § 基于Faster R-CNN的多模型,在Google AI Open Images-Object Detection Track 比賽中,從全球450多支參賽隊伍中脫穎而出,獲得世界第一。 § PaddlePaddle強化學習框架PARL獲得NeurIPS 2018的強化學習賽事AI for Prosthetics Challenge競賽冠軍。 2、 源于業(yè)務實踐,輸出業(yè)界最強的超大規(guī)模并行深度學習能力 基于百度海量規(guī)模的業(yè)務場景實踐,PaddlePaddle同時支持稠密參數(shù)和稀疏參數(shù)場景的超大規(guī)模深度學習并行訓練,支持千億規(guī)模參數(shù)、數(shù)百個幾點的高效并行訓練,提供最為領先的深度學習并行技術。 3、追求極致性能,推出移動端高速推理引擎 Paddle Mobile提供深度學習落地嵌入式移動端平臺的能力。針對ARM CPU、IOS GPU、Mali GPU、Adreno GPU、FPGA、樹莓派、RK339等多個硬件平臺優(yōu)化,性能高、體積小的優(yōu)勢。服務于包括手機百度、簡單搜索在內(nèi)的多款APP。在手機端實現(xiàn)單幀多目標檢測耗時60ms以內(nèi),主要物體檢測準確率和召回率均在95%以上。 三、 完善的服務平臺和配套組件 1、基于PaddlePaddle的深度強化學習框架PARL發(fā)布,奪冠NeurIPS 2018 PARL深度強化學習框架,具有高可擴展性、可復現(xiàn)性和可復用性,強大的大規(guī)模并行化和稀疏特征的支持能力。覆蓋DQN、DDQN、Dueling DQN、DDPG、PPO等主流強化學習算法。支持百億級別數(shù)據(jù)或特征的訓練,基于PARL可同時通過8塊GPU拉動近20000個CPU節(jié)點運算。在NeurIPS 2018賽事中將需要近5個小時迭代一輪的PPO算法加速到不到1分鐘,相對單機運算加速比高達幾百倍。 2、讓深度學習來設計深度學習,AutoDL2.0設計的網(wǎng)絡超過人類專家 AutoDL 2018年正式發(fā)布V1.0、V2.0,包含網(wǎng)絡結構自動化設計、遷移小數(shù)據(jù)建模、適配邊緣計算三個部分,能夠自動進行深度學習網(wǎng)絡的設計、遷移、以及適配,批量化生產(chǎn)模型。在CIFAR 10數(shù)據(jù)集,Auto DL 2.0設計的圖像分類網(wǎng)絡正確率達到 98%,效果全面超過人類專家。 3、EasyDL零基礎深度學習定制化訓練和服務平臺 EasyDL為零算法基礎的開發(fā)者提供高精度AI模型定制服務。只需少量數(shù)據(jù)即可得到優(yōu)質業(yè)務模型,快速驗證應用場景。2018年,EasyDL從V3.0迭代升級至V5.0,逐步開放并完善定制圖像識別、聲音分類識別、文本分類識別等能力,累計超過2萬個模型在零售、工業(yè)、醫(yī)療、安防等多個行業(yè)中落地應用。 4、AI Studio:一站式深度學習開發(fā)實訓平臺 作為集合了AI教程、代碼環(huán)境、算法算力和數(shù)據(jù)集的一站式實訓平臺,匯聚頂尖深度學習開發(fā)者,快速幫助用戶掌握深度學習開發(fā)技能。底層預裝PaddlePaddle框架及VisualDL等深度學習組件,大大提高開發(fā)者學習與開發(fā)的便捷性,混合調度CPU和GPU的資源,提升訓練速度。AI Studio共正式發(fā)布V1.0、V1.1、V1.2三個版本,主要有項目、數(shù)據(jù)集、比賽、GPU集群訓練和模型在線預測功能。 四、 黃埔學院 –革新者來 百度聯(lián)合國家深度學習技術及應用國家工程實驗室共同打造“黃埔學院”,我們秉承”服務于行業(yè),服務于人才”的標準,項目組通過幾個月的招募與篩選,日日夜夜的評估與努力,最終選出業(yè)內(nèi)35位深度學習專家,共同見證黃埔學院第一期開學典禮——首席AI架構師的課堂?!航?jīng)世致用,融會貫通,黃埔學院,革新者來』,這十六個字正代表了黃埔學院的治學理念以及愿景。我們希望技術不停留在實驗室,不停留在研究院,而是能真正的走出去,為這個世界、這個時代創(chuàng)造實實在在的價值。 五、2019,未來可期 2019年,PaddlePaddle將繼續(xù)以優(yōu)化開發(fā)者體驗、節(jié)約開發(fā)者時間為己任,鞏固技術領先優(yōu)勢,深入企業(yè)場景,在應用落地的各個環(huán)節(jié)提供更便捷、更安全、更高效的深度學習技術服務。 § 繼續(xù)降低深度學習技術的應用門檻,將超大規(guī)模并行深度學習、強化學習等業(yè)界領先的技術打造為人人可用的通用深度學習。 § 大力發(fā)展企業(yè)生態(tài),通過應用場景深度對接,為企業(yè)提供快速咨詢通道、企業(yè)內(nèi)部培訓、專項技術優(yōu)化、聯(lián)合開發(fā)支持的全方位服務。 § 持續(xù)擴大教育生態(tài),通過百度產(chǎn)學合作協(xié)同育人項目、TechDay公開課、深度學習實戰(zhàn)課、黃埔學院等行業(yè)頂級的技術交流活動,為開發(fā)者提供從深度學習入門到企業(yè)應用的一站式服務。 更多了解:http://www.github.com/paddlepaddle/paddle |
|
來自: flyk0tcfb46p9f > 《AI》