【2019天貓雙11】阿里巴巴集團首席技術官張建鋒:非任何雲能撐住天貓雙11

阿里巴巴集團首席技術官、阿里雲智能總裁張建鋒在天貓雙11的分享活動中,介紹阿里雲處理流量洪峰的成績。

阿里巴巴集團首席技術官、阿里雲智能總裁張建鋒在天貓雙11的分享活動中,介紹阿里雲處理流量洪峰的成績。

2019天貓雙11全球狂歡節(下稱天貓雙11)的商品成交額及物流訂單再次刷新世界紀錄,訂單創出新峰值,達到每秒54.4萬筆,單日數據處理量達到970PB,背後主要是阿里巴巴集團的核心系統100%全面上雲,撐住天貓雙11的世界級流量洪峰。

「不是任何一朵雲都能撐住這個流量。中國有兩朵雲,一朵是阿里雲,還有一朵叫『其他雲』。」在11月11日晚的天貓雙11分享活動上,阿里巴巴集團首席技術官張建鋒點出阿里雲的不一樣之處:「阿里雲不一樣,10年前我們從第一行代碼寫起,構建了中國唯一自研的雲操作系統『飛天』。」

值得注意是,阿里巴巴集團是全球首家將核心系統100%運行在公共雲上的大型互聯網公司。

張建鋒形容,阿里巴巴集團是一架高速飛行中的飛機,成功在過程中換上全新引擎,用公共雲來承載一個萬億規模的核心系統,阿里雲是第一個做到的,他稱:「很多雲廠商自己的業務系統,不在自己的雲上,今後阿里巴巴全部系統都在阿里雲上。」

以下為張建鋒所分享的核心觀點:

從去年開始,我們決定把整個阿里巴巴核心系統全部上雲,上雲還要加一個定語,是上「阿里雲」,並不是上任何一朵雲都能撐得住這個流量。在中國,我們經常說中國有兩朵雲,一朵叫做「阿里雲」,還有一朵叫做「其它雲」。

為甚麼講阿里雲跟其它雲不一樣?因為在中國只有阿里雲是完全從頭研發的一朵雲,從頭是從每一行代碼,從十年前開始寫,今年是阿里雲的第十年,所以我們的雲有一個特別的名字,叫做「飛天操作系統」,當初王堅博士(阿里巴巴集團技術委員會主席)創辦阿里雲的時候,對我們這個雲下面的調度系統,整個雲的基礎平台,取名叫做「飛天操作系統」。

我們的雲完全是中國自研的一朵雲,其它很多雲是從開源軟件改造過來的,這是非常大的不一樣。

第二個,今年天貓雙11,阿里巴巴仍然是一家在高速飛行中的飛機,我們成功的在這個過程中換上了全新的引擎。以前大家把非核心負載放在雲上,現在阿里巴巴最核心的系統放在了雲上。現在我們的雲把原來專用的技術變成公共雲,大家都可以來享受普惠服務。我們有最好的系統,你們也可以在上面跟我們一樣使用。

阿里巴巴集團核心系統100%上雲

阿里雲承載阿里巴巴自己100%的核心系統,這個是我們全球第一個做到的。很多雲廠商自己也有業務系統,但是他們的系統不在自己的雲上。我們以後所有阿里巴巴系統全部都在阿里雲的飛天操作系統上面。

大家一定會想,這是一個簡單的替換還是技術上非常大的一個進步、非常大的挑戰?我簡單說一下,我們有幾個方面做得非常好,它不是簡單的替換,上雲之後性能有了一個非常大的提高。

今天大家可能有感覺,我們前10分鐘,基本上消費者沒有感受到任何抖動,大家購物非常順暢。

第一、我們在核心虛擬機系統上,自研神龍架構,用自研的伺服器來做虛擬化。一般的伺服器隨著壓力增長,最終負載能力會慢慢下降,它不是線性的。我們神龍伺服器壓力越大,輸出也是非常線性的,這是非常難做到的。

第二、我們自研了雲原生的數據庫。今年有兩個數據庫,一個是自研的OceanBase,大家知道我們在TPC-C測試里面拿下了全球第一。第二是PolarDB,也廣泛用在今年雙11上,沒有任何問題,我們每秒峰值也是遠遠超越原來Oracle這樣傳統的數據庫。

第三、我們的計算與存儲做了分離,現在阿里巴巴存儲是有一個地方專門存數據。數據都是從遠端存取的,所以存儲可以很方便的擴容,因為它有一個專門的池。原來做不到。因為原來遠端存儲,訪問網絡速度就跟不上。

第四、之所以現在能夠做到在遠端存儲,能夠比本地讀寫磁盤更快,是因為我們做了RDMA(遠程直接內存訪問)網絡,這是全球第一個大規模做RDMA網絡的公司。

我們這四個方面都做了核心突破。

天貓雙11數據處理量創新高

今天,飛天操作系統能夠在十萬台級別以上的伺服器里做調度,天貓雙11有非常多的應用,但是它並不是說每一個時間點,所有應用負載都是一樣的。我們在零點把大部分計算機資源分配給交易等應用,過了一點之後,我們把數據分配給數據處理系統。數據處理今年創了一個新高,2017年當天處理了300PB的數據,2018年處理了600PB的數據,今年要處理970PB左右的數據。

大家可能沒有概念,一個PB到底有多少數據,我上次跟央視的人交流,央視拍了這麼多年電視新聞節目,幾十年下來它存了大概80PB的數據。天貓雙11一天,我們要處理970PB的數據,非常大的量,沒有一個先進的系統是撐不住的。

第二個是非常實時,大家看到了,今天在秒殺,在會場全部都是個性化、千人千面的,這里的數據不僅是大,而且是要做到非常實時。到目前為止,我們菜鳥物流系統已經產生了超過10億筆的物流單,這個數據還在很快的上漲,這些都需要依靠阿里雲背後大量的計算能力。

我們今年的數據,除了批處理之外,還有流處理,就是實時處理所有數據,就像你們看到的交易數據,每分鐘、每秒鐘都在變,它並不是從數據庫里面統計出來的,它是每生成一筆訂單,系統自動一層層把數據彙集上來。我們這個系統每秒能處理25億筆紀錄,這是流式的系統。

我們這麼多伺服器,要把它們全部管理起來,除了飛天系統之外,還要管理所有的消息流轉,所以我們自己開發了一個叫做MQ的消息系統,這也是全球目前最大的一個消息系統。

今天,從飛天系統、大數據處理平台到智能化應用,這些技術疊加起來打造了一個新的分布式的基於雲的平台,才使得阿里巴巴整個經濟體所有核心應用都能夠跑在上面。

最後,我們今年發佈了自研的芯片含光800。明年雙11,阿里巴巴大量人工智能應用都會跑在自研芯片上面。

今天從飛天雲操作系統到神龍伺服器、數據庫、交換機、交換機操作系統、RDMA網絡,全部是阿里自研的。我們今天已經積累了非常豐富、非常強的能力,從硬件、數據庫、雲計算操作系統,到上面的核心應用平台,四位一體,這是這次雙11跟往年最大不一樣的地方。

所有不可想像,終將化作尋常;我們相信「相信」,一切都是新的。11快樂!

天貓雙11 天貓雙11全城狂歡節 張建鋒 阿里雲 飛天雲操作系統