背景介紹

2016年，Alpha Go和人類圍棋大師的兩輪對(duì)決刷新了大眾對(duì)人工智能的認(rèn)知，也讓人工智能成為輿論焦點(diǎn)。今年7月20日，國(guó)務(wù)院頒布《新一代人工智能發(fā)展規(guī)劃》，明確將人工智能作為未來(lái)國(guó)家重要的發(fā)展戰(zhàn)略。UCloud作為國(guó)內(nèi)中立云計(jì)算公司，2017年初提出了“CBA”三位一體發(fā)展戰(zhàn)略，其中人工智能隨著云計(jì)算、大數(shù)據(jù)、深度學(xué)習(xí)等技術(shù)實(shí)現(xiàn)了快速發(fā)展。

客戶介紹

項(xiàng)目背景及業(yè)務(wù)挑戰(zhàn)

經(jīng)過(guò)多年技術(shù)積累和沉淀，格靈深瞳在金融安防、智能交通等行業(yè)累積大量了數(shù)據(jù)，通過(guò)深度學(xué)習(xí)技術(shù)，進(jìn)一步將計(jì)算機(jī)視覺(jué)性能提高。接下來(lái)，格靈深瞳將開(kāi)拓商場(chǎng)、超市等連鎖企業(yè)，為他們提供智能視頻監(jiān)控解決方案，實(shí)現(xiàn)真正的商業(yè)化。

隨著業(yè)務(wù)拓展，格靈深瞳很需要GPU做在線服務(wù)的計(jì)算支持，部署客戶前端的智能攝像機(jī)會(huì)進(jìn)行畫面抓拍，同時(shí)把畫面?zhèn)骰卦贫?，由云端的GPU集群來(lái)進(jìn)行計(jì)算，并且可以快速將返回的結(jié)果提供給用戶。

UCloud解決方案

格靈深瞳等傳統(tǒng)AI客戶的IT架構(gòu)以自建機(jī)房為主

• 需要維護(hù)多套深度學(xué)習(xí)框架，如：Tensorflow、Caffe；
• 很難進(jìn)行框架層面優(yōu)化以實(shí)現(xiàn)較好的訓(xùn)練性能；
• 需要自己維護(hù)一套驅(qū)動(dòng)倉(cāng)庫(kù)，不同GPU卡對(duì)應(yīng)不同的顯卡驅(qū)動(dòng)；
• 訓(xùn)練數(shù)據(jù)種類繁多，數(shù)據(jù)量較大，管理起來(lái)較復(fù)雜，包括熱數(shù)據(jù)備份和冷數(shù)據(jù)歸檔、存儲(chǔ)容量擴(kuò)展性、IOPS和帶寬吞吐量等，都是復(fù)雜的工程性問(wèn)題。

• 需要自己購(gòu)買機(jī)柜、X86服務(wù)器、GPU顯卡、UPS電源、交換機(jī)、路由器，維護(hù)成本高；
• 需要維護(hù)一個(gè)X86服務(wù)器的備件庫(kù)，保證GPU服務(wù)器的較高的訓(xùn)練效率；
• 服務(wù)器、GPU卡屬于固定資源，無(wú)法做到資源快速擴(kuò)展，重新采購(gòu)周期較長(zhǎng)；
• 訓(xùn)練數(shù)據(jù)的周期性迭代，使得硬件資源使用率存在高低峰值。

• 硬件資源購(gòu)買需一次性投入大量資金；
• 電費(fèi)開(kāi)銷巨大，一般還需要涉及電路改造；
• 需要專業(yè)的硬件和操作系統(tǒng)運(yùn)維工程師。

UCloud軟硬件并行，提供完善的解決方案

硬件資源：

UCloud解決方案

格靈深瞳云端架構(gòu)：

格靈深瞳原先自建的機(jī)房深度學(xué)習(xí)訓(xùn)練平臺(tái)使用單機(jī)8卡（GTX 1080Ti）的GPU物理機(jī)。遷移到UCloud云上之后，選擇UCloud的單機(jī)4卡（P40）GPU物理機(jī)＋單機(jī)4卡（P40）GPU云主機(jī)，訓(xùn)練數(shù)據(jù)三副本存放在UCloud提供的3臺(tái)萬(wàn)兆網(wǎng)絡(luò)環(huán)境的SSD物理機(jī)上，最終實(shí)現(xiàn)資源層彈性伸縮和存儲(chǔ)層可靠性。

軟件架構(gòu)（PaaS）：

UCloud最近剛發(fā)布了AI-Train在線訓(xùn)練產(chǎn)品，解決包括代碼管理、運(yùn)行環(huán)境維護(hù)、GPU管理維護(hù)、數(shù)據(jù)管理等模型訓(xùn)練過(guò)程中的每個(gè)環(huán)節(jié)，提供一站式Paas解決方案。下一步，我們將了解格靈深瞳的軟件架構(gòu)，為其解決模型訓(xùn)練場(chǎng)景所帶來(lái)的一系列工程性難題。

客戶收益