- 服務熱線：0951-5952677
01
2018.04
英偉達董方亮：為AI而生的GPU
來源：本站發布日期：2018-04-04瀏覽次數：
懂方亮：英偉達自動駕駛業務中國區負責人，目前負責AI 和自動駕駛方面的工作，并且在 GPU 的研發、設計上也有多年的經驗。
北大對 GPU 的貢獻
北大的天之驕子應該感到很自豪，因為GPU 的發展有一個很重要的技術叫 Pixel Shader（像素著色器），像素著色器是決定了今天能夠做gaming、video 等很多呈現在大家面前功能的技術之一。核心的發明人是北大本科 87 級物理系的一位同學，所以北大人應該非常驕傲。北大對 GPU 的技術發展起到了很關鍵的作用。
董方亮從四個角度表述了GPU與AI的前世今生
對 GPU 進行一個簡單介紹
英偉達是一家以 GPU技術為核心的公司，從成立那天起就做 GPU，到今天也在做 GPU。公司從一個視覺計算的公司轉變到今天 AI 計算的公司，這一轉變當然有時代的原因：1）現在產生大量數據，其中有很多的語音、圖像數據；2）在人工智能方面，我們的一些基礎研究有了長足的發展，同時在基于DNN（深度神經網絡）架構上也有不錯的發展，與現在 CPU 的計算模式不同。
將 GPU與 deep learning 相聯系
為什么 GPU非常合適于今天的AI的計算，也就是 deep learning？
從 GPU 計算年譜可以看到，英偉達在 06年的時候做了一個CUDA（computing unifieddevice architecture）,核心意思是，GPU 是一個多核的計算體。我們如果能用一套架構把計算核完整、方便地調動起來，就形成了并行計算的基礎。CUDA 包含了從底層到應用層完整的 SDK，公司之前就已經做了并行計算的充分準備。從 06年到現在，英偉達每一代產品，都原生地支持 CUDA。年譜中有另一個重要的時間點——2012年，當時 AlexNet 用 GPU 做了一個9 層的 DNN 架構來做圖像識別，取得了很好的效果。2012年可以認為是 GPU 應用于 deep learning 的爆發元年。隨著時間的發展，DNN 不斷演進。在各類 framework 不斷演進的今天，GPU 與 deep learning緊緊地被綁在了一起。
如今，摩爾定律是否能夠適應如今嶄新的計算架構？摩爾定律是以藍線表示，有一個難以突破的平臺期。主要難點之一在于，線程做的比較小會有很大的挑戰。但是deep learning 還在不斷發展，因此需要全新的架構支持，并且需要沿著比摩爾定律更高的計算量趨勢發展，才能匹配全新的計算模式，才能在 AI 時代體現良好的計算能力。
預計到 2025年，GPU 有很大的需求量。GPU 時代興起的原因在于，GPU 提供了與之前 general purpose computing 不同的模式。GPU 在支撐全新架構的前提下，能夠支撐現有的計算力。
對 CPU 與 GPU 做一個簡單的比較。GPU 與 CPU 的特點不同，GPU是一個簡單的多核處理器，再結合CUDA之后，很有利于做并行運算。這是GPU的簡單架構，當然也有很多有特色的東西，包括多個streaming multiprocessor，即流的多處理器，上面會包int F16,F32,F64的處理核。因此，GPU很適合做并行運算。
Deep learning 是并行運算很好的應用場景。這是一個簡單的神經網絡。可以與大家簡單分享一下我們為何這么設計 deep learning 的網絡。最早，是對于人腦假說性的理論模擬。70 年代，兩位德國的生物學家解剖貓的大腦時，認為神經元是一層一層的，神經元之間有反射弧，他們假說當電流通過神經元之間的反射弧時，是一個激活的狀態。他們提出了一套理論。之后，在DNN 架構出來之后，用 DNN 做具有特征的數據識別，有良好的效果。前層的 layer 是后層的淺層表現，因此帶有 pattern 的語音、圖像數據能夠分類。在深度神經網絡中，每一個節點都可以被模擬成計算核。GPU承擔了每一個深度神經網絡節點的計算，這也是 GPU 符合 DNN架構的原因。因此，GPU是線下訓練的唯一選擇。
Deep learning 其實包括兩部分，第一部分是線下的訓練，在云端或者加載GPU 的服務器端做訓練；另一部分是做線上的推理。在線下訓練，之后將訓練好的模型放到線上去做推理，這是目前 deep learning 較為普適的模式。
Deep learning 的模式較為適合三類數據，computer vision 數據，語音數據，自然語言處理數據。這張PPT展現從 GPU 到 SDK 到 framework 到上層的應用。GPU帶來的 deep learning 創造了全新的計算時代，也給初創公司帶來很多機會。
探討當今時代的 AI，以及今后的AI會朝什么方向發展
AI的機會很多，在單一技術和組合式產品中，都有良好的市場。從初創公司中看 deep learning 中有哪些機會：1）健康醫療，比如皮膚癌的研究在用 deep learning 做；2）零售，主要解決商品選擇和支付問題。Focal 公司解決如何讓傳統零售業爆發活力的方案，核心技術是對物體的識別。客戶進入實體店后，有類似于pad 的裝置，用手推車進行購物，當挑選完商品后，不用結賬，自動識別。
同時，當商品從貨架取下后，系統會自動補貨。這個公司主要面向零售業的細分市場；3）金融。美國有一家投資公司，用了無人機和衛星圖片，天天在美國上空掃莊稼地，利用 DNN 網絡做圖片識別，看看某幾類莊稼的長勢如何，并在期貨交易所做對沖。可以通過歷史數據比對，看是欠收還是多收；4）安全；5）IoT，比如機器人、無人機公司。目前有陪伴機器人，服務機器人，用無人機撒農藥，這些都是針對特殊場景的很好的應用；6）無人駕駛，代表了 deep learning 技術與未來交通行業的結合；7）網絡安全。有些公司用 deep learning 做對于病毒、惡意模式的判斷，這些方案能夠實時升級，判斷新來的病毒屬于哪一類。
與大家分享一下一些 AI 的典型應用。第一個應用是在車里用語音與車進行交互；第二個應用是基于圖像的物體識別，能夠在圖片庫中找到心儀的物品。在數據庫領域，這種基于圖片的應用也很有意思。比如 SAP 在訓練 DNN中，將廣告中公司的圖標抓取出來，并給客戶一個報告，在這段視頻中，圖標出現多少次，出現在什么位置，并判斷投資和品牌曝光度是否合理。這一特性，給SAP帶來很好的客戶反饋；第三個應用是基于用戶行為作出判斷，比如喜歡什么類型的電影。
我們與祖母可能交流困難，如何應用 NLP 技術與她進行交流，增強人與人之間的溝通；第二張圖片與醫療相關；第三張圖片中是微軟的工程師，是一個天生的盲人，微軟現在有一種眼鏡能夠進行物體識別，這也是基于deep learning很好的應用。
第一張圖是我們在平安城市中抓取特征點；第二張圖是服務型機器人；第三張圖是在農業方面的應用。因此，在 AI月 deep learning 的時代，有很多領域大家可以嘗試去做。
這張圖想與大家分享一下英偉達在自動駕駛領域的應用。我們將自動駕駛變為AI 的任務，模擬人進行駕駛。當人駕駛時，人需要知道周圍環境，車的位置，并作出相應的駕駛策略，這也是AI的任務。1）感知：我們會用多樣的傳感器將周圍環境情況了解清楚；2）reasoning：判斷周圍環境是否安全；3）駕駛：依托于高精度地圖，高精度地圖能夠提供豐富的環境信息和精確的定位。
GTC 新產品解讀
第一個就是，英偉達在 GTC上宣布了新一代的 GPU，VOLTA100。我們每一代的GPU有一個科學家的名字，這一代的GPU 對我們來說，有幾方面的提高，第一是它有 210 億個晶體管，12納米線程，然后整個核心板的面積在815毫米平方，這是一個非常大的進步，整個架構上有一個非常大的進步。
這一代，我們的架構有一個很好的一個提升，我們會在這一代架構里面放入一個Tensor 核，它完成了以前矩陣式同步這種的矩陣式相乘，實現非常高速的運轉。這樣的結果會讓我們產生120Teraflops 的計算能力，這種計算能力無論針對 Training 端還是 Inference 端都是非常好的進步。這一代產品是英偉達最新在 GTC上發布的。
玖號科技有限公司版權所有 寧ICP備17000778號