今天細讀 MIT Technology Review 的 AI 2017 年預測，主要提到五點趨勢，摘錄如下： 增強式學習 2016 年是 Deep Reinforcement Learning 大放異彩的一年，從年初 AlphaGo 打敗李世石 (Lee Sedol) 到年底 Master 以全勝之姿擊敗各方好手，顯示人類在某些智能問題上，可藉由與機器合作達到更好的成果。許多研究單位釋出開源專案（Project Malmo, DeepMind Lab, Universe），以加速這方面研究進展。預期 2017 將會帶出更多令人興奮的研究結果。 生成對抗神經網路 2016 年底的 NIPS (Neural Information Processing Systems) 會議中，GAN (Generative Adversarial Networks)[1] 受到研究者們大量關注。由 Ian Goodfellow 在 2014 年提出雙模型框架，藉由此框架可以產生非常真實的虛擬資料，被許多學者視為是通往非監督式學習的一線曙光。2017 將可預見更多此方向的研究發表。 中國 AI 企業崛起 中國公司不再只是拷貝西方企業，而轉向累積自身機器學習、深度學習的技術深度。最著名例子就是百度建立的百度大腦部門，邀請到 Stanford 教授 Andrew Ng …
Tag Archives: deep learning
為公司聘請第一位CAO (Chief AI Officer)
前陣子拜讀 Andrew Ng 於 Harvard Business Review 發表 Hiring Your First Chief AI Officer 一文，建議花些時間品味，在這新一波工業革命浪潮，需要的新思維。節錄重點如下： 百年前，因電力誕生，改變無數產業；二十年前，網際網路誕生，帶來產業的革命；如今，歷史重演，AI (Deep Learning) 將扮演相同角色。 過去為了處理複雜電力問題，每間公司會聘請領域專家，進行總體規劃。網路時代亦是，可看見許多公司設置 CIO 進行 IT 設施規劃。事實上，許多 S&P 前 500 大希望在更早階段就建設 IT，先行者現今都佔有網路優勢。 對於那些正在產生巨大資料量的公司，建議現在開始佈局 AI，也就是深度學習，透過相關技術，巨量資料將可轉化成 Value。（CH：這正是透過數據建立 barrier 的機會） 佈局 AI，從設立獨立部門開始，有二個好處： 吸引 AI 人才，維持一定標準：比起在禮品部附設 AI，在獨立核心部門工作更讓人嚮往。 跨部門合作：部門專家將可進入不同 BU 協助 AI 技術導入。 AI 部門需要對的人來領導，以下是作者在 Google, Stanford, Baidu經驗談： 了解 AI 與資料工程：除了深度學習，在新 AI 時代，智慧由數據驅動，背後的大數據架構實務上相對重要。（CH：資料科學與資料工程的合作） …
深度學習計算晶片之戰
整理各家廠商的思維： Intel的思維是從CPU角度出發，在CPU加入多處理核心，科學計算不需經過主機板到GPU NVIDIA的思維是從GPU角度出發，科學計算專注在GPU上 Google的思維是從tensorflow角度出發，專門設計為tensorflow計算用的晶片 百度深度學習採用NV晶片，不過這也合理，現況(2016)跑Deep Learning除了NV cuda還沒聽說有其他選擇 未來可專注重點：Intel Xeon Phi系列與NV Tesla系列 英特爾為了追趕英偉達（NVIDIA）與谷歌在人工智慧晶片上的布局，決定在2017年公布代號Knights Mill的下一代Xeon Phi處理器家族，主攻深度學習與人工智慧應用市場。這晶片將採用10奈米製程製造，積極搶奪英偉達的市場。 英偉達發展深度學習應用已有多年時間。因此，現今百度在人工智慧與深度學習的晶片就是採用英偉達的技術。可是隨著英特爾即將投入人工智慧晶片，百度也現身在英特爾開發者論壇，並與英特爾進行合作。至於未來百度會用英偉達還是英特爾的深度學習與人工智慧晶片，就只能看情勢發展如何才做出定奪了！ 原來Xeon處理器家族是瞄準科學類應用，隨著新型號Xeon Phi將引入人工智慧運算任務的功能，將帶給深度學習正面的幫助。其實目前在語音識別、圖像識別，以及自動駕駛汽車等領域，深度學習技術正得到愈來愈多的應用。 以現今情況來看，英特爾當初讓Xeon處理器強攻數據中心伺服器，也獲得廣泛部署，甚至所有深度學習運算有關的任務也採用這一處理器。不過，隨著人工智慧的不斷前進，有些廠商也開始部署用於人工智慧任務的輔助處理器，而這些輔助處理器大多是來自於英偉達的繪圖處理器。 為了不讓英偉達的繪圖處理器成為未來人工智慧輔助處理器的核心，英特爾決定在標準Xeon處理器上增加更多處理核心來處理深度學習該有的一些指令級，因而Xeon Phi產品線就誕生了。 此外，Xeon Phi晶片能夠運行大部分數據分析軟體，同時無需用到可能導致分析速度放緩的外部處理器，這也是英特爾主打的關鍵優勢，畢竟，其搭配更多快閃記憶體，能夠比起繪圖處理器還要更高性能。 可是英偉達畢竟在深度學習應用已經開發很久，2016年4月5日，該公司公佈了最新款的專門用於人工智慧研究領域的Tesla P100圖形處理晶片，認為其最新晶元的處理速度仍會遠遠強於英特爾的技術，將為這款GPU的研發投入了20億美元。短時間之內，英特爾依舊會遇到挑戰，就如同英偉達在高階桌上型電腦依舊具備主導能力一樣。 這也是為什麼英特爾於2016年8月收購新創公司Nervana Systems。因為該公司專注於深度學習晶元和軟體，這對於Xeon Phi處理器有一定的幫助。 另外，谷歌也正在發展其人工智慧晶片Tensor Processing Unit，採用最適合谷歌深度學習的軟體TensorFlow。這也是英特爾未來必須面臨的挑戰。 原文來自科技產業資訊室 Source