格靈深瞳
廠商： 格靈深瞳
格靈深瞳成立于2013年4月，是一家同時具備計算機視覺和深度學習技術以及嵌入式硬件研發能力的人工智能公司，作為一家視頻大數據產品和方案提供商，在人和車的檢測、跟蹤與識別等技術堅持自主研發，主要關注的領域包括公共安全、智能交通、金融安防等，同時在無人駕駛、機器人和智能醫療方面也進行了深入的布局。
客戶案例
背景介紹
2016年，Alpha Go和人類圍棋大師的兩輪對決刷新了大眾對人工智能的認知，也讓人工智能成為輿論焦點。今年7月20日，國務院頒布《新一代人工智能發展規劃》，明確將人工智能作為未來國家重要的發展戰略。UCloud作為國內中立云計算公司，2017年初提出了“CBA”三位一體發展戰略，其中人工智能隨著云計算、大數據、深度學習等技術實現了快速發展。
客戶介紹
人工智能的五大核心技術包括計算機視覺、機器學習、自然語言處理、機器人和語音識別。格靈深瞳是一家同時具備計算機視覺、深度學習技術以及嵌入式硬件研發能力的人工智能公司，擁有三維視覺感知技術，幫助計算機理解人的行為軌跡，也是一家將人工智能應用于金融安防、智能交通等領域的公司。
項目背景及業務挑戰
經過多年技術積累和沉淀，格靈深瞳在金融安防、智能交通等行業累積大量了數據，通過深度學習技術，進一步將計算機視覺性能提高。接下來，格靈深瞳將開拓商場、超市等連鎖企業，為他們提供智能視頻監控解決方案，實現真正的商業化。
隨著業務拓展，格靈深瞳很需要GPU做在線服務的計算支持，部署客戶前端的智能攝像機會進行畫面抓拍，同時把畫面傳回云端，由云端的GPU集群來進行計算，并且可以快速將返回的結果提供給用戶。
UCloud解決方案
一直以來，UCloud都走在科技發展前沿。在人工智能興起之初，公司便積極與國內人工智能公司接觸，共同探討人工智能與云計算的結合點。因此，在與格靈深瞳接觸中，UCloud深入挖掘客戶痛點，運用強大技術實力和良好服務，成功拿下人工智能領域的標桿客戶。
通過與客戶一系列的接洽，UCloud總結出此類客戶以往的IT架構，并拿出了針對AI客戶的解決方案。
通過與客戶一系列的接洽，UCloud總結出此類客戶以往的IT架構，并拿出了針對AI客戶的解決方案。
格靈深瞳等傳統AI客戶的IT架構以自建機房為主
軟件架構：
- 需要維護多套深度學習框架，如：Tensorflow、Caffe；
- 很難進行框架層面優化以實現較好的訓練性能；
- 需要自己維護一套驅動倉庫，不同GPU卡對應不同的顯卡驅動；
- 訓練數據種類繁多，數據量較大，管理起來較復雜，包括熱數據備份和冷數據歸檔、存儲容量擴展性、IOPS和帶寬吞吐量等，都是復雜的工程性問題。
- 需要自己購買機柜、X86服務器、GPU顯卡、UPS電源、交換機、路由器，維護成本高；
- 需要維護一個X86服務器的備件庫，保證GPU服務器的較高的訓練效率；
- 服務器、GPU卡屬于固定資源，無法做到資源快速擴展，重新采購周期較長；
- 訓練數據的周期性迭代，使得硬件資源使用率存在高低峰值。
- 硬件資源購買需一次性投入大量資金；
- 電費開銷巨大，一般還需要涉及電路改造；
- 需要專業的硬件和操作系統運維工程師。
UCloud軟硬件并行，提供完善的解決方案
硬件資源：
UCloud提供NVIDIA Tesla系列GPU卡P40。P40是NVIDIA推出的專門用于深度學習訓練和推理的GPU卡，提供比CPU服務器快40倍的深度學習推理速度，采用NVIDIA新的PascalTM 架構和16納米制造工藝，具有3840個流處理器，核心主頻高達1303～1531MHz，24GB GPU顯存；高達12 TFLOPS單精度浮點運算和47TFLOPS整數運算能力（INT8）讓深度學習的速度飆升。UCloud提供單機4卡P40物理機：
UCloud提供基于P40云主機：
UCloud解決方案
格靈深瞳云端架構：
格靈深瞳原先自建的機房深度學習訓練平臺使用單機8卡（GTX 1080Ti）的GPU物理機。遷移到UCloud云上之后，選擇UCloud的單機4卡（P40）GPU物理機＋單機4卡（P40）GPU云主機，訓練數據三副本存放在UCloud提供的3臺萬兆網絡環境的SSD物理機上，最終實現資源層彈性伸縮和存儲層可靠性。
軟件架構（PaaS）：
UCloud最近剛發布了AI-Train在線訓練產品，解決包括代碼管理、運行環境維護、GPU管理維護、數據管理等模型訓練過程中的每個環節，提供一站式Paas解決方案。下一步，我們將了解格靈深瞳的軟件架構，為其解決模型訓練場景所帶來的一系列工程性難題。
客戶收益
通過使用UCloud的服務，幫助格靈深瞳解決硬件成本以及人力成本，大幅度降低了格靈深瞳的成本投入。
資金投入前后對比：
前：硬件資源購買需一次性投入大量資金。
后：UCloud所有產品都可以提供按需付費模式，不需要一次性付費，提高了客戶資金的利用率。
前：電費開銷巨大，一般還需要涉及電路改造。
后：UCloud所有GPU資源都不收取產品費用以外的任何費用。
前：需要專業硬件和操作系統運維工程師。
后：UCloud所有GPU產品有專業的團隊運營維護，發生硬件故障后，可以快速從備件庫更換新硬件，或者開啟新的GPU資源，刪除故障機器。
現在，格靈深瞳已經成為UCloud在人工智能領域的標桿客戶。在摸索探尋人工智能的道路上，我們發現“中立性”是人工智能公司對云計算廠商重要評估標準之一。此次UCloud成功將人工智能技術與云計算服務結合，從中帶來的經驗和可復制性，將為UCloud進軍人工智能領域打下堅實的基礎。
資金投入前后對比：
前：硬件資源購買需一次性投入大量資金。
后：UCloud所有產品都可以提供按需付費模式，不需要一次性付費，提高了客戶資金的利用率。
前：電費開銷巨大，一般還需要涉及電路改造。
后：UCloud所有GPU資源都不收取產品費用以外的任何費用。
前：需要專業硬件和操作系統運維工程師。
后：UCloud所有GPU產品有專業的團隊運營維護，發生硬件故障后，可以快速從備件庫更換新硬件，或者開啟新的GPU資源，刪除故障機器。
現在，格靈深瞳已經成為UCloud在人工智能領域的標桿客戶。在摸索探尋人工智能的道路上，我們發現“中立性”是人工智能公司對云計算廠商重要評估標準之一。此次UCloud成功將人工智能技術與云計算服務結合，從中帶來的經驗和可復制性，將為UCloud進軍人工智能領域打下堅實的基礎。
