摘要：阿里云推出的邊緣節(jié)點服務這個云產品，就是針對前面提到的目標場景，來應對客戶自建邊緣設施遇到的痛點和挑戰(zhàn)的。針對賽事直播業(yè)務場景的優(yōu)化阿里云團隊針對常規(guī)活動賽事電競直播這一業(yè)務場景，也做了很多技術優(yōu)化。

近日，英雄聯(lián)盟S8全球總決賽落下帷幕，中國戰(zhàn)隊IG零封FNC奪得冠軍。這場比賽引起了國內網友的超高關注度，也給直播平臺帶來了不小的技術挑戰(zhàn)?；⒀乐辈テ脚_結合阿里云邊緣節(jié)點技術方案，保障了總決賽當日7000萬在線用戶的低延時、穩(wěn)定流暢以及實時互動，為觀眾提供了流暢的體驗。

那么類似S8賽事這樣的大型活動直播的特點和技術挑戰(zhàn)是什么？為什么業(yè)務要下沉到邊緣？自建邊緣節(jié)點和與云服務廠商合作到底該如何選擇？邊緣節(jié)點服務（ENS）又是如何進行技術支撐？提供的針對性優(yōu)化方案有哪些？本文將為你一一揭曉。

互動直播場景，通常包括音視頻推流、轉碼、分發(fā)、播放等核心業(yè)務模塊，和彈幕、打賞禮物等互動業(yè)務邏輯，在體驗上有清晰度、播放流暢度、播放延時等方面的要求?；谏鲜鎏攸c分析，結合直播的體驗需求，賽事直播面臨的技術挑戰(zhàn)主要在以下幾個方面：

1、瞬時流量增長時的性能保證

賽事直播的直播流和觀看用戶比較集中，而且賽事的時間是計劃性的，在開賽時間的負載會有一個突發(fā)，對系統(tǒng)高并發(fā)壓力較大。同時，在競技比賽中的瞬時熱點事件時刻，會有更加迅猛的業(yè)務和流量壓力變化，比如比賽在一個意外情況下突然分出勝負，將會激發(fā)觀眾發(fā)送大量彈幕，當同房間所有觀眾同一時刻發(fā)送數(shù)據(jù)時，數(shù)據(jù)量會有一個爆炸式的增長，瞬時負載可想而知。

應對瞬時流量增長和高并發(fā)等壓力，通常從根本上有效解決的方法，一是預留足夠的資源水位，確保流量峰值時系統(tǒng)處理能力是滿足需求的，這就要求系統(tǒng)具備很好的資源彈性能力；二是通過流量調度系統(tǒng)，把負載分散到不同資源上并行處理，緩解單點壓力。

2、秒開/低延時/流暢度等核心體驗保障

直播的核心體驗指標直接決定了用戶的播放和觀看體驗，最常見的指標就是播放延時和播放流暢度，提升體驗指標的方法有很多，比如調度和網絡鏈路的質量優(yōu)化、協(xié)議優(yōu)化、P2P傳輸技術、播放器優(yōu)化等。

保障體驗指標的關鍵，還是在于內容分發(fā)速度和網絡傳輸質量等層面，直播中的分發(fā)環(huán)節(jié)就是依賴CDN系統(tǒng)的能力保證網絡分發(fā)的速度和質量，同時形成用戶就近訪問的效果，降低網絡時延，減少跨網或復雜網絡鏈路訪問帶來的不穩(wěn)定。其實除了直播流分發(fā)，直播場景中還可以將更多業(yè)務模塊放到邊緣完成，比如推流后的轉碼、彈幕的分發(fā)等，充分利用邊緣網絡和邊緣計算的優(yōu)勢，達到更好的體驗。

3、服務穩(wěn)定性

服務穩(wěn)定的重要性毋庸置疑，尤其在大型賽事直播中，穩(wěn)定性一旦出問題，影響會非常大。
服務的穩(wěn)定性首先取決于架構和方案的設計，針對系統(tǒng)風險點進行高可用設計，確保不出現(xiàn)單點故障對全鏈路的影響，核心模塊要有failover能力或降級方案。其次，穩(wěn)定性要重點做好監(jiān)控和運維，確保故障及時發(fā)現(xiàn)，并具備高效的問題定位和處置恢復能力。

實際上，在面臨了以上種種業(yè)務挑戰(zhàn)之后，越來越多的直播平臺已經在將業(yè)務下沉到邊緣，充分利用邊緣網絡和計算的優(yōu)勢，第一，可以降低網絡延時，為用戶提供更好的觀看體驗。第二，緩解了中心資源和單點資源的壓力，化解瞬時壓力，保障業(yè)務洪峰的平穩(wěn)度過。

就像上圖所說，自建基礎設施的過程中會面臨很多痛點和挑戰(zhàn)：

1、資產重，成本高

首先，自建基礎設施意味著從商務采購、服務器采購等供應鏈管理、到節(jié)點建設都要自己來做，會導致資產投入過重和成本過高等問題。

2、彈性能力差

其次，當應對一些突發(fā)業(yè)務需求的時候，由于新建節(jié)點交付的周期長，彈性能力比較差，而臨時業(yè)務高峰過后又會有很多的資源閑置。

3、運維難度大

另外，自建基礎設施還帶來運維的挑戰(zhàn)，首先需要將邊緣節(jié)點從建設、交付到運行的整個流程管理起來，其次要管理邊緣節(jié)點內物理服務器層面、操作系統(tǒng)層面、以及軟件應用層面的運維問題，出現(xiàn)問題時要有一組工具幫助遠程查看日志和問題排查定位，這些對運維的自動化和白屏化提出了很高的要求。

4、安全、可靠性考驗

最后一個挑戰(zhàn)是安全和可靠性方面，首先邊緣DC基礎環(huán)境的可靠性依賴第三方運營商的服務，需要應對各種復雜的情形，包括針對運營商網絡割接考慮應對策略等問題。針對邊緣節(jié)點中各種可能軟硬件故障，還要有及時發(fā)現(xiàn)和調度的能力，這些要求將直接體現(xiàn)到業(yè)務架構的設計開發(fā)中，挑戰(zhàn)和成本都很大。另外安全方面要著重考慮網絡流量安全、主機安全等不同層面的安全問題，每個層面的安全方案開發(fā)成本都很高，比如DDoS防護，當針對某個邊緣節(jié)點內IP的攻擊發(fā)生時，可能整個節(jié)點的網絡都出現(xiàn)不可用問題，而想要達到預期的防護效果，可能需要在每個邊緣節(jié)點都部署一套軟件加硬件的系統(tǒng)方案。

阿里云推出的邊緣節(jié)點服務（ENS）這個云產品，就是針對前面提到的目標場景，來應對客戶自建邊緣設施遇到的痛點和挑戰(zhàn)的。ENS將阿里云的公共云邊界進一步拓展到邊緣，與公共云一起完整支撐客戶“中心+邊緣”的復雜業(yè)務架構需求，真正將云的基礎設施能力做到下沉到用戶身邊。目前該服務已經在官網上線，同時在虎牙直播平臺S8賽事護航中，得了很好的場景應用和能力驗證。

我們回歸直播業(yè)務本身，它是一個非常依賴內容分發(fā)能力的業(yè)務場景，CDN系統(tǒng)能夠支持主播就近推流以及直播流的分發(fā)和就近訪問，確保整個流程的低時延，同時大大降低帶寬分發(fā)的成本。而ENS正是基于已有的CDN節(jié)點形成更豐富的計算、存儲、網絡、安全等能力，可以很方便地支撐客戶自有的CDN系統(tǒng)，以及在邊緣DC中運行的直播服務模塊。

1、更好的支撐資源彈性需求

前面提到應對業(yè)務流量突發(fā)以及瞬時流量增長最有效的方法是預留足夠的資源，實際上是資源彈性的需求。目前“中心-終端”架構的業(yè)務，已經可以通過使用阿里云的彈性計算服務輕松的具備這個能力；直播業(yè)務由于需要基于大量的CDN節(jié)點進行分發(fā)，其資源彈性需求有很大部分在邊緣，實際上是一個“中心-邊緣-終端”的架構。

ENS正是面向這種架構和場景需求設計的，依托ENS在全國各地區(qū)和運營商的完整覆蓋，以及節(jié)點豐富的計算和帶寬資源能力，能夠支撐大型賽事或活動的直播的資源彈性需求。ENS具備應用和鏡像下發(fā)能力，資源創(chuàng)建可以在1分鐘左右完成，極大提升資源擴縮容的效率。

2、完整開放的場景服務能力

ENS封裝了邊緣節(jié)點底層復雜的基礎設施和網絡環(huán)境，向客戶提供標準的計算、存儲、網絡、及安全能力，客戶不需關心底層設施和環(huán)境的各種差異，也不需關心底層運維問題。

在這些邊緣實例和算力資源上，可以將直播業(yè)務中適合放到邊緣的任何模塊進行下沉，指定好資源規(guī)格及帶寬用量即可。ENS提供了多種存儲方案，以及DDoS防護能力，能夠完整支撐直播及其他多種場景的基礎能力需求。

3、可靠的連續(xù)服務能力

ENS系統(tǒng)是基于阿里云飛天2.0 Apsara Edge架構設計開發(fā)，繼承了阿里云飛天系統(tǒng)多年的技術沉淀，結合阿里云全球領先的自動運維系統(tǒng)，形成可靠的連續(xù)服務能力。ENS實例和算力資源通過底層自動化遷移能力確保高可用，在節(jié)點網絡方面也具備完整覆蓋監(jiān)控能力，實時發(fā)現(xiàn)網絡抖動。ENS支持客戶級別的資源隔離，避免資源爭搶，這些都確保了直播邊緣業(yè)務模塊運行的穩(wěn)定性。

4、方便高效的運維支撐

ENS有完整易用的Web管理控制臺和OpenAPI，支持邊緣實例的遠程在線管理，支持CPU/存儲IO/網絡流量等各項運行指標的實時可視化監(jiān)控，以及數(shù)據(jù)的可視化統(tǒng)計分析，極大提升了監(jiān)控運維的能力和效率。

5、顯著降低中心帶寬成本

ENS除了能節(jié)省業(yè)務初始階段的資源建設、開發(fā)成本，和后期的運維、管理成本外，還可以節(jié)省中心到邊緣的帶寬成本，有數(shù)據(jù)統(tǒng)計，平均可節(jié)約30%的中心帶寬成本。

阿里云ENS團隊針對常規(guī)活動/賽事/電競直播這一業(yè)務場景，也做了很多技術優(yōu)化。同時，在大型賽事直播需求下，團隊也會啟動針對性的風險評估和護航規(guī)劃，在賽事初期就開始密切跟蹤直播平臺各項業(yè)務指標、性能指標以及穩(wěn)定性方面的表現(xiàn)，每場比賽都有專人進行值班護航，及時發(fā)現(xiàn)和解決直播中遇到的問題。

1、邊緣節(jié)點內彈幕服務丟包問題優(yōu)化

彈幕在直播平臺是非常常見的互動模式，從技術層面一般屬于多人在線聊天室的架構，每個在線用戶的發(fā)言均廣播給在線的所有其他用戶，因此在一些重要賽點，經常性的突發(fā)極高的瞬間流量，與其它常規(guī)業(yè)務流量模型差異較大。不同時間粒度的采樣帶寬曲線如下圖所示。

可以看到采樣粒度稍大時帶寬波動比較平滑，根本看不出任何問題，節(jié)點帶寬水位也很充足，但秒級的帶寬瞬時波動非常大，而且?guī)挿逯禃虻胶芨?，正是因為這種突發(fā)的極高瞬間帶寬，會打滿服務器網卡，單節(jié)點內多臺服務器疊加形成對交換機瞬間極大處理壓力，導致丟包。

針對以上問題，ENS通過網卡流量整形的方式，避免數(shù)據(jù)瞬間集中廣播。流量整形后經線上驗證效果良好，可以有效避免丟包情況的出現(xiàn)。

2、部分網絡傳輸業(yè)務實例丟包問題優(yōu)化

直播的效果是依賴網絡傳輸?shù)?，部分網絡傳輸業(yè)務的實例會發(fā)現(xiàn)丟包問題，針對這個問題，ENS也會進行一些優(yōu)化。首先進行排查，如交換機、實例本身有沒有異常，CPU負載高不高，丟包的嚴重程度與帶寬密切相關。然后，進一步對實例CPU多核負載進行分析，定位問題源頭所在。

比如部分核心負載過高，網卡中斷處理能力不足導致時延和丟包率上升的情況下，ENS可針對實例開啟RPS特性，從而保障實例的時延和丟包率的正常。在平時業(yè)務5倍壓力的情況下，ENS實例仍能保證性能和服務穩(wěn)定。

3、定制化監(jiān)控

針對直播的業(yè)務特點，以及活動/賽事/電競等大型活動期間核心關注點，阿里云邊緣計算團隊基于過往經驗，和客戶的溝通，進行了深入分析，將該業(yè)務場景下的數(shù)據(jù)進行可視化監(jiān)控。

ENS支持定制化開發(fā)，更貼近用戶業(yè)務需求的監(jiān)控報警能力，在網絡抖動、節(jié)點和實例實時服務能力等方面確保第一時間發(fā)現(xiàn)問題并通知客戶，與客戶的系統(tǒng)形成聯(lián)動，在最短的時間內響應并解決問題。在重大賽事的護航方面，根據(jù)比賽時間開發(fā)自動化排班值班系統(tǒng)，形成響應和處理的專項綠色通道，保障服務穩(wěn)定性。

除了直播場景，ENS在其他邊緣場景支撐上還有不少關鍵能力。

1、多種存儲方案支撐更豐富的場景需求

不同業(yè)務場景對實例塊存儲的需求差異比較大，體現(xiàn)在存儲容量、IO性能、存儲可靠性等不同方面，業(yè)務邏輯有狀態(tài)的場景可能需要確保數(shù)據(jù)不丟失或可恢復，像CDN等業(yè)務場景則需要海量存儲空間，并且IO讀性能足夠高。這些需求用統(tǒng)一一套存儲方案很難將各類需求支撐到極致，ENS設計開發(fā)了云盤、本地盤等多種存儲架構的方案，能夠支持各種存儲需求。從目前線上的反饋看，無論是IO性能、IO吞吐，還是存儲容量、存儲高可用等各方面都形成了穩(wěn)定的服務能力。

2. 邊緣節(jié)點安全能力

ENS邊緣節(jié)點還具備網絡流量安全防護能力，支持DDoS檢測和清洗，當針對某個邊緣節(jié)點內IP的攻擊發(fā)生時，能夠秒級實時檢測發(fā)現(xiàn)并自動進行流量清洗，同時結合IP黑洞能力為節(jié)點提供高可用的穩(wěn)定持續(xù)服務能力，控制風險范圍?？蛻暨€可以結合阿里云的云盾等其他安全產品一起使用，達到更好的整體安全防護效果。

邊緣節(jié)點可以支持全網廣覆蓋、本地化服務兩個類業(yè)務場景。

第一，在全網廣覆蓋這類場景中，主要以互聯(lián)網行業(yè)的線上業(yè)務為主，對服務的目標范圍一般是沒有太多區(qū)域限制的，邊緣節(jié)點也要做到全網足夠廣泛的覆蓋。比如CDN業(yè)務本身就是典型的邊緣計算場景，可以無縫地直接跑到ENS上，從而為整體成本、運維能力等方面帶來明顯的收益和提升?；又辈ズ蛯崟r音視頻通信，則是低時延的要求以及帶寬成本節(jié)省的訴求。探測監(jiān)控這類業(yè)務需求主要是希望在距離用戶最近的邊緣，匹配真實的業(yè)務和網絡環(huán)境，去探測一些業(yè)務邏輯的正確性、業(yè)務穩(wěn)定性以及核心業(yè)務的性能指標等。游戲加速和SD-WAN，這類場景本質是希望在邊緣節(jié)點上做邊緣軟網關或軟路由，通過網絡協(xié)議和網絡鏈路的優(yōu)化，完成加速和安全等目標，邊緣節(jié)點在其中起到的作用與實時通信是類似的。

第二大類的典型場景是本地化，關注的是十公里以內超低時延及大帶寬業(yè)務場景，要求延時在1ms以內來滿足業(yè)務需求。這類場景更多偏向傳統(tǒng)行業(yè)或者線下業(yè)務，具有區(qū)域性的特點。比如城市大腦這類場景中的視頻監(jiān)控上云，新零售場景中一些店鋪在視頻AI及監(jiān)控的自動化識別和售賣等環(huán)節(jié)的應用上云，本地行業(yè)的一些IT設施上云等，這些阿里云都在逐步形成成熟的案例。

目前，ENS服務已經在阿里云官網正式上線，支持直接在線申請開通、控制臺創(chuàng)建算力資源、進行業(yè)務部署和效果測試。同時，業(yè)務正式上線運營后，可直接通過控制臺管理、查看用量和動態(tài)監(jiān)控。

作為國內最大的云計算服務商，阿里云沉淀了一整套大型賽事直播護航實戰(zhàn)經驗及解決方案。全球范圍內擁有1500多個CDN節(jié)點和連接用戶最后10公里的大量邊緣節(jié)點，結合視頻云的實時媒體處理、智能審核、云導播、云剪輯、安全防護等解決方案，給予直播平臺能力與效率的全面提升。如今，超大規(guī)模的媒體處理平臺與CDN、ENS深度融合，更可以實現(xiàn)豐富計算能力、低時延、低成本的協(xié)同，使得在邊緣節(jié)點上可以直接完成視頻的分析和計算，為客戶創(chuàng)造更多價值。

閱讀原文

本文為云棲社區(qū)原創(chuàng)內容，未經允許不得轉載。