引言：

以前構(gòu)建應(yīng)用，需要買ECS實(shí)例，搭建開(kāi)源軟件體系然后維護(hù)它，流量大了擴(kuò)容，流量小了縮容，整個(gè)過(guò)程非常復(fù)雜繁瑣。用了Serverless服務(wù)以后，這些問(wèn)題都簡(jiǎn)化了，從半托管到全托管，所有服務(wù)API化，無(wú)限容量充分彈性，可以組裝使用，生產(chǎn)力大幅改變。同時(shí)推動(dòng)軟件研發(fā)模式升級(jí)，組裝式研發(fā)將成為主流。基于阿里云全面?Serverless?化的經(jīng)歷，阿里巴巴研究員、阿里云智能云原生應(yīng)用平臺(tái)總經(jīng)理丁宇（叔同）闡述了企業(yè)應(yīng)用架構(gòu)的演進(jìn)歷程，以及Serverless興起帶來(lái)的行業(yè)變化。

本文整理自QCon上海站2022?丁宇（叔同）的演講內(nèi)容。

過(guò)去十年，上云成為確定性的趨勢(shì)。

在上云階段，企業(yè)關(guān)注點(diǎn)在于如何實(shí)現(xiàn)平滑上云，因此云廠商將云托管（Cloud-Hosting）作為核心策略。云的主要形態(tài)是資源型服務(wù)，以虛擬機(jī)的形式為企業(yè)提供海量的算力。

對(duì)開(kāi)發(fā)者而言，虛擬機(jī)的功能和使用方式和?IDC?中的物理服務(wù)器沒(méi)有區(qū)別。原有的應(yīng)用、技術(shù)棧不需要改變就可以平滑上云。云托管的策略很好地滿足了企業(yè)在上云階段的核心訴求，因此取得了成功。

隨著越來(lái)越多的企業(yè)上云，甚至很多企業(yè)系統(tǒng)第一天就是在云上構(gòu)建，企業(yè)的核心關(guān)注點(diǎn)轉(zhuǎn)變?yōu)槿绾胃玫乩迷频哪芰?，將產(chǎn)品快速推向市場(chǎng)，從而實(shí)現(xiàn)業(yè)務(wù)成功。

這促使云在下一階段發(fā)展的主要目標(biāo)轉(zhuǎn)變?yōu)槔迷谱陨淼膬?yōu)勢(shì)，解決大規(guī)模復(fù)雜應(yīng)用的開(kāi)發(fā)和運(yùn)維挑戰(zhàn)。但是，如果算力的呈現(xiàn)形式仍然是服務(wù)器這樣的資源形態(tài)，它的使用門(mén)檻依然很高。算力和業(yè)務(wù)相隔太遠(yuǎn)，企業(yè)需要有一整套支撐應(yīng)用的基礎(chǔ)設(shè)施來(lái)用好算力。

如何讓算力像電力一樣的普及，云計(jì)算需要新的形態(tài)。

云服務(wù)的角色將發(fā)生巨大的變化，不再是單純的提供資源，而是要成為企業(yè)構(gòu)建應(yīng)用的新平臺(tái)，要幫助企業(yè)盡可能減小機(jī)器運(yùn)維等低價(jià)值重復(fù)工作，聚焦于業(yè)務(wù)的創(chuàng)新。

下一個(gè)十年，是云演進(jìn)自身能力，幫助企業(yè)用好云的階段，而云廠商的核心能力就是?Serverless?云服務(wù)。

為什么選擇Serverless

Serverless 服務(wù)是全托管的。

云廠商可以通過(guò)存儲(chǔ)計(jì)算分離，軟硬協(xié)同優(yōu)化等底層技術(shù)，大規(guī)模提高服務(wù)的資源效率和性能。以阿里云存儲(chǔ)服務(wù)為例，自2018年開(kāi)始大規(guī)模使用RDMA技術(shù)，自研了 Solar-RDMA協(xié)議，以及 HPCC 流控和端網(wǎng)融合技術(shù)。

通過(guò)網(wǎng)絡(luò)和存儲(chǔ)的協(xié)同設(shè)計(jì)，結(jié)合 FPGA 硬件加速壓縮算法等能力，實(shí)現(xiàn)了穩(wěn)定的微秒級(jí)的讀寫(xiě)性能。企業(yè)只需要調(diào)用服務(wù) API，就能使用云廠商在相關(guān)領(lǐng)域的專業(yè)能力，享受到技術(shù)紅利。

Serverless 服務(wù)具備自適應(yīng)彈性，讓企業(yè)的應(yīng)用更平穩(wěn)的應(yīng)對(duì)業(yè)務(wù)負(fù)載不可預(yù)測(cè)或者突然爆發(fā)的情況。

一個(gè)典型的業(yè)務(wù)系統(tǒng)可劃分為應(yīng)用層、接入層、資源層。資源型的云服務(wù)只提供了資源層面的彈性能力，企業(yè)還需要實(shí)現(xiàn)接入層和應(yīng)用層的彈性能力，才能做到業(yè)務(wù)的全鏈路彈性。

• 架構(gòu)設(shè)計(jì)階段，根據(jù)各個(gè)組件的依賴關(guān)系，制定彈性伸縮和限流降級(jí)方案。對(duì)于關(guān)系型數(shù)據(jù)庫(kù)等幾乎沒(méi)有彈性能力的服務(wù)，一般需要預(yù)測(cè)未來(lái)3年對(duì)數(shù)據(jù)庫(kù)的寫(xiě)入和讀取規(guī)模，進(jìn)行分庫(kù)分表。

• 資源規(guī)劃階段，權(quán)衡各個(gè)組件的擴(kuò)縮容難易度、伸縮速度、業(yè)務(wù)負(fù)載變化速度等因素，通過(guò)冗余資源實(shí)現(xiàn)相應(yīng)的彈性能力。接入層資源占比在整個(gè)系統(tǒng)不高，維持較高冗余資源成本不高，也比較容易擴(kuò)容。應(yīng)用層的資源規(guī)劃最具挑戰(zhàn)。應(yīng)用層是資源消耗大頭，一般不允許通過(guò)很高的冗余資源來(lái)扛住負(fù)載峰值，此外應(yīng)用層的擴(kuò)縮容牽扯上下游鏈路，復(fù)雜度很高。最后，應(yīng)用層不同服務(wù)的流量規(guī)模不同，需要梳理清楚，重點(diǎn)做好熱點(diǎn)鏈路的冗余資源規(guī)劃。

• 線上運(yùn)行階段，通過(guò)完整的可觀測(cè)能力，建立量化鏈路的流量，檢測(cè)熱點(diǎn)，進(jìn)行動(dòng)態(tài)擴(kuò)縮容，再量化熱點(diǎn)鏈路流量，再判斷是否進(jìn)行動(dòng)態(tài)擴(kuò)縮容的閉環(huán)。此外，完整、及時(shí)的監(jiān)控報(bào)警也是十分必要的，為不同組件設(shè)定不同的熱度閾值，檢測(cè)到熱度流量后，系統(tǒng)要及時(shí)的廣播給關(guān)聯(lián)組件的開(kāi)發(fā)、運(yùn)維人員，根據(jù)預(yù)定方案進(jìn)行處理。

可見(jiàn)，在資源層的彈性能力上構(gòu)建整個(gè)業(yè)務(wù)的彈性能力復(fù)雜度非常高。Serverless 服務(wù)的自適應(yīng)彈性目標(biāo)就是為了簡(jiǎn)化復(fù)雜度，幫助企業(yè)更容易實(shí)現(xiàn)業(yè)務(wù)彈性。

首先云廠商會(huì)將大量中間件、數(shù)據(jù)庫(kù)、大數(shù)據(jù)等 BaaS 化的服務(wù) Serverless 化。以數(shù)據(jù)庫(kù)為例，不但提供 NoSQL 等天然具備高彈性能力的數(shù)據(jù)庫(kù)服務(wù)，也將傳統(tǒng)的關(guān)系型數(shù)據(jù)庫(kù) Serverless 化。

其次， Serverless 計(jì)算服務(wù)通常具備百毫秒到秒級(jí)的實(shí)例啟動(dòng)速度，每秒鐘啟動(dòng)數(shù)千甚至上萬(wàn)實(shí)例，以及高度自動(dòng)化的彈性伸縮能力，配合 Serverless 化的 BaaS 服務(wù)，將實(shí)現(xiàn)全鏈路的業(yè)務(wù)彈性。

最后，Serverless 服務(wù)通常內(nèi)置了限流降級(jí)的能力，讓企業(yè)資源可控，更容易應(yīng)對(duì)系統(tǒng)雪崩的問(wèn)題。

如何高效的利用好資源，是企業(yè)面臨的一個(gè)普遍的難題。業(yè)界數(shù)據(jù)中心的統(tǒng)計(jì)數(shù)據(jù)表明，企業(yè)整體平均資源利用率是不高的，一般小于15%。要提高資源利用率，企業(yè)一般面臨以下挑戰(zhàn)：

• 各個(gè)業(yè)務(wù)部門(mén)資源使用相互獨(dú)立，沒(méi)有資源并池，沒(méi)有統(tǒng)一調(diào)度。

• 出于對(duì)性能、負(fù)載峰值以及業(yè)務(wù)未來(lái)發(fā)展保障等因素的考慮，業(yè)務(wù)部門(mén)一般傾向于多申請(qǐng)資源，通常是實(shí)際使用資源的3-5倍。

• 非核心應(yīng)用碎片化的資源消耗導(dǎo)致了大量資源浪費(fèi)。大量非核心應(yīng)用為了滿足高可用的要求，至少需要2-3臺(tái)機(jī)器，而這些應(yīng)用很多時(shí)候是長(zhǎng)尾、低頻調(diào)用的，甚至業(yè)務(wù)下線但服務(wù)器忘了釋放，造成資源浪費(fèi)。在阿里巴巴集團(tuán)，非核心應(yīng)用消耗的資源甚至超過(guò)了核心應(yīng)用。

• 不同性質(zhì)的應(yīng)用沒(méi)有共享資源，沒(méi)有削峰填谷，集群整體資源利用率不高。

容器化是提高資源利用率的有效手段，但實(shí)施的復(fù)雜度較高。阿里巴巴集團(tuán)通過(guò)全站容器化，統(tǒng)一調(diào)度和離在線混部來(lái)提升資源的整體利用率，涉及到容器性能的優(yōu)化、租戶隔離、底層服務(wù)器算力歸一化、定制的資源統(tǒng)一調(diào)度和離在線混部等等。

Serverless 的目標(biāo)讓企業(yè)用更簡(jiǎn)單的方式提高資源利用率，降低成本。

以函數(shù)計(jì)算為例，企業(yè)不需要為閑置資源付費(fèi)，而是根據(jù)實(shí)際使用的資源付費(fèi)。這意味著大量測(cè)試、預(yù)發(fā)甚至生產(chǎn)環(huán)境，大量非核心應(yīng)用碎片化資源的使用場(chǎng)景，使用 Serverless 后資源利用率會(huì)非常高。

如果從性能角度考慮，需要預(yù)留一些資源，函數(shù)計(jì)算的閑置資源費(fèi)用也比服務(wù)器更低。函數(shù)計(jì)算內(nèi)置了多 AZ 容災(zāi)能力，企業(yè)不需要為容災(zāi)準(zhǔn)備冗余資源。函數(shù)計(jì)算支持百毫秒級(jí)別的彈性伸縮速度和豐富的伸縮規(guī)則，企業(yè)不需要為峰值負(fù)載預(yù)留資源。

當(dāng)云服務(wù)演進(jìn)為 Serverless 形態(tài)后，企業(yè)的使用門(mén)檻大大降低，Serverless 將讓算力像電力一樣普及。

Serverless 引領(lǐng)下一代應(yīng)用架構(gòu)

驅(qū)動(dòng)研發(fā)模式升級(jí)

應(yīng)用架構(gòu)和研發(fā)模式的演變主要是由企業(yè)的業(yè)務(wù)發(fā)展訴求推動(dòng)的。企業(yè)總是期望能夠更敏捷的應(yīng)對(duì)業(yè)務(wù)規(guī)模和復(fù)雜度的增長(zhǎng)，更快的將產(chǎn)品推向市場(chǎng)，加快業(yè)務(wù)創(chuàng)新的速度，這就要求技術(shù)能支持大規(guī)模、復(fù)雜軟件的快速迭代。

傳統(tǒng)的企業(yè)級(jí)應(yīng)用架構(gòu)，通常是單體的，所有模塊都耦合在一起，同時(shí)發(fā)布。這種單體架構(gòu)應(yīng)用在一開(kāi)始是易于管理的，但隨著業(yè)務(wù)發(fā)展，會(huì)帶來(lái)巨大的復(fù)雜度。這種強(qiáng)耦合的架構(gòu)帶來(lái)開(kāi)發(fā)、測(cè)試和運(yùn)維過(guò)程中大量的沖突，拖慢了整個(gè)迭代速度。

例如整個(gè)應(yīng)用的開(kāi)發(fā)要求所有模塊采用統(tǒng)一的語(yǔ)言和框架技術(shù)棧，如果一個(gè)基礎(chǔ)庫(kù)被多個(gè)模塊共享，其中一個(gè)模塊想要升級(jí)到新版本，則需要說(shuō)服所有人同時(shí)升級(jí)，即便其他人并不需要新版本。所有模塊的發(fā)布節(jié)奏被強(qiáng)行拉齊，一個(gè)模塊的問(wèn)題會(huì)影響整個(gè)應(yīng)用的發(fā)布。

想要快速修復(fù)某個(gè)模塊的線上問(wèn)題也變得非常困難，因?yàn)檫@需要和其他模塊正在進(jìn)行中的變更合并，解決沖突，重新發(fā)布整個(gè)應(yīng)用，運(yùn)行所有測(cè)試，才能重新發(fā)布上線。單體應(yīng)用架構(gòu)已經(jīng)不能滿足軟件研發(fā)效率的要求，被以微服務(wù)為主要特征的互聯(lián)網(wǎng)分布式架構(gòu)取代。

采用微服務(wù)架構(gòu)后，應(yīng)用程序由獨(dú)立的服務(wù)組成。這些服務(wù)是松耦合的，通過(guò) API 調(diào)用、事件觸發(fā)或者數(shù)據(jù)流的方式交互。每個(gè)服務(wù)都完成一個(gè)特定的功能，獨(dú)立開(kāi)發(fā)、運(yùn)行和發(fā)布。

微服務(wù)解決了單體架構(gòu)的研發(fā)效率瓶頸，但是對(duì)應(yīng)用的基礎(chǔ)設(shè)施提出了非常高的要求。

例如，為了確保獨(dú)立開(kāi)發(fā)的微服務(wù)能夠按預(yù)期協(xié)調(diào)配合，需要進(jìn)行詳盡的集成和端對(duì)端測(cè)試。測(cè)試環(huán)境中的應(yīng)用部署次數(shù)通常是生產(chǎn)環(huán)境的10倍。如果應(yīng)用基礎(chǔ)設(shè)施不能快速提供獨(dú)立的測(cè)試環(huán)境，那么大量的測(cè)試時(shí)間將消耗在環(huán)境穩(wěn)定性問(wèn)題的解決上。

根據(jù)阿里巴巴集團(tuán)的研發(fā)統(tǒng)計(jì)數(shù)據(jù)，1人日的研發(fā)，通常對(duì)應(yīng)5-7人日的測(cè)試。測(cè)試環(huán)境已經(jīng)成為阿里巴巴集團(tuán)研發(fā)提效的最大痛點(diǎn)。

微服務(wù)的松耦合，也對(duì)數(shù)據(jù)庫(kù)使用、狀態(tài)管理、問(wèn)題診斷、應(yīng)用交付流水線帶來(lái)了很大的挑戰(zhàn)。關(guān)于微服務(wù)的復(fù)雜度以及解決方案，業(yè)界已經(jīng)有非常多的討論，這里不再贅述。

以微服務(wù)為核心的互聯(lián)網(wǎng)分布式架構(gòu)，實(shí)施的復(fù)雜度較高，必須有很好的工具、平臺(tái)的支撐，這是業(yè)界的共識(shí)。

除了微服務(wù)架構(gòu)，企業(yè)也廣泛使用反應(yīng)式架構(gòu)、事件驅(qū)動(dòng)架構(gòu)等模式，這些架構(gòu)都帶來(lái)了松耦合、敏捷開(kāi)發(fā)等好處，但相應(yīng)的落地復(fù)雜度也變高了。

事實(shí)上，業(yè)界在應(yīng)用的構(gòu)建、編排、運(yùn)行、BaaS 服務(wù)、基礎(chǔ)設(shè)施管理等每一方面，都提供了豐富的產(chǎn)品和解決方案，建立了龐大的生態(tài)。但企業(yè)要整合這些軟件/服務(wù)，讓它們彈性、穩(wěn)定、相互集成良好，加速應(yīng)用開(kāi)發(fā)迭代，這絕非易事。

而在用好云的階段，云的使命就是要消除這種復(fù)雜度，帶來(lái)大規(guī)模復(fù)雜軟件開(kāi)發(fā)質(zhì)的突破，助力企業(yè)打破技術(shù)鴻溝。

每一個(gè) Serverless 服務(wù)都是廠商領(lǐng)域能力的輸出，通過(guò)服務(wù) API 透出功能，承諾可靠性、彈性、性能等能力指標(biāo)，因此他們是高質(zhì)量的應(yīng)用構(gòu)建塊（building blocks）。

例如阿里云對(duì)象存儲(chǔ)（OSS）服務(wù)，承載著 EB 級(jí)的海量數(shù)據(jù)，承諾11個(gè)9的數(shù)據(jù)可靠性，99.95%的可用性，以及多樣化的數(shù)據(jù)分級(jí)存儲(chǔ)和處理能力。

阿里云消息隊(duì)列 RocketMQ歷經(jīng)雙十一萬(wàn)億級(jí)消息洪峰的錘煉，承諾10個(gè)9的數(shù)據(jù)可靠性，99.95%的可用性。這些云服務(wù)和企業(yè)基于開(kāi)源軟件自建的系統(tǒng)相比，在彈性、可靠性等方面有明顯的優(yōu)勢(shì)。

不只是云廠商，大量的開(kāi)源商業(yè)產(chǎn)品也采用了 Serverless 模式，包括 Confluent Cloud、MongoDB Atlas、Snowflake、Databricks 等。

隨著廠商在存儲(chǔ)、計(jì)算、中間件、大數(shù)據(jù)等領(lǐng)域推出越來(lái)越多的 Serverless 服務(wù)，并且這些服務(wù)通過(guò)事件驅(qū)動(dòng)等方式緊密集成，云逐漸變成了應(yīng)用構(gòu)建和運(yùn)行的超級(jí)平臺(tái)，應(yīng)用的研發(fā)模式也升級(jí)為組裝式研發(fā)。

Serverless 讓云成為應(yīng)用構(gòu)建的最佳平臺(tái)

隨著阿里云提供越來(lái)越全面的Serverless產(chǎn)品以后，很多云產(chǎn)品都變成模塊化、API化、服務(wù)化，它可以進(jìn)行組裝，通過(guò)拖拉拽的方式就能夠構(gòu)建應(yīng)用。

在Serverless架構(gòu)下，研發(fā)方式升級(jí)為組裝式研發(fā)，可以做到流程編排、事件驅(qū)動(dòng)，甚至可以做成可視化，這就徹底顛覆了原有的軟件研發(fā)方式，大幅提升研發(fā)效率，靈活應(yīng)對(duì)業(yè)務(wù)挑戰(zhàn)。根據(jù)權(quán)威機(jī)構(gòu)調(diào)研統(tǒng)計(jì)，組裝式研發(fā)相比傳統(tǒng)模式，可為研發(fā)提效 50%以上。

從新興的互聯(lián)網(wǎng)創(chuàng)業(yè)公司，到傳統(tǒng)企業(yè)構(gòu)建大型軟件，都可以使用Serverless架構(gòu)和組裝式研發(fā)。

以高德為例，高德的業(yè)務(wù)投放平臺(tái)基于用戶信息、畫(huà)像信息、以及地理位置信息，在高德地圖主圖、導(dǎo)航行前行后等頁(yè)面，以卡片、氣泡等相關(guān)各種方式，透出了下游業(yè)務(wù)，并精準(zhǔn)推薦給用戶。投放業(yè)務(wù)和用戶生活場(chǎng)景緊密相關(guān)，功能多變；推薦的下游業(yè)務(wù)品類快速增長(zhǎng)，投放的業(yè)務(wù)策略多變；而且整個(gè)業(yè)務(wù)和用戶出行緊密相關(guān)，有明顯的峰谷屬性。

隨著業(yè)務(wù)的增長(zhǎng)，投放平臺(tái)原有的架構(gòu)面臨一些明顯的痛點(diǎn)：

1. 重企業(yè)端?？ㄆ幚?、導(dǎo)航規(guī)劃、頁(yè)面展示等邏輯都放在 Web 或者移動(dòng)設(shè)備上，導(dǎo)致企業(yè)端發(fā)版緩慢、代碼臃腫。

2. 業(yè)務(wù)功能緊耦合，跟不上業(yè)務(wù)迭代要求。投放策略多變，每次發(fā)布影響面大。

3. 負(fù)載有明顯的峰谷，常駐實(shí)例，資源利用率低。

Serverless 架構(gòu)能很好地解決上述痛點(diǎn)。首先為企業(yè)端瘦身，將端上的邏輯大量的移到 BFF 層（Backends for frontend）。

由于 Serverless 計(jì)算零運(yùn)維，只需要開(kāi)發(fā)業(yè)務(wù)邏輯，完全由企業(yè)端人員發(fā)布，避免了團(tuán)隊(duì)協(xié)作問(wèn)題。借助平臺(tái)內(nèi)置的應(yīng)用平滑發(fā)布的能力，企業(yè)端的人員可以快速迭代，安心發(fā)布。

投放策略等后端服務(wù)也解耦為函數(shù)的形式，包括規(guī)則過(guò)濾函數(shù)、疲勞提醒函數(shù)、內(nèi)容組裝函數(shù)等等。這些函數(shù)作為獨(dú)立的后端服務(wù)開(kāi)發(fā)迭代，每次發(fā)布影響面不大，控制了爆炸半徑。

通過(guò)仔細(xì)梳理熱點(diǎn)邏輯以及上下游依賴，實(shí)現(xiàn)了全鏈路彈性以及接口級(jí)流控能力。彈性伸縮不但快速，而且安全，資源用量和負(fù)載峰谷匹配，效率高。

目前基于 Serverless 架構(gòu)的高德業(yè)務(wù)投放平臺(tái)已經(jīng)承載了 100% 的生產(chǎn)流量，業(yè)務(wù)規(guī)模達(dá)到百萬(wàn) QPS，功能交付從原來(lái)的數(shù)天降低到數(shù)小時(shí)，整體成本降低了 38%。

Serverless 奇點(diǎn)已來(lái)

云計(jì)算的探索者認(rèn)為，云計(jì)算的下一個(gè)十年默認(rèn)的計(jì)算范式就是Serverless 。

2021年DataDog發(fā)布Serverless研究報(bào)告，數(shù)據(jù)表明，從云原生初創(chuàng)公司到大型企業(yè)都在關(guān)注Serverless，Serverless生態(tài)已經(jīng)超越了FaaS，包含數(shù)十種服務(wù)，可以幫助開(kāi)發(fā)人員構(gòu)建更快、更動(dòng)態(tài)的應(yīng)用程序。

從2012年提出 Serverless 到今年2022年剛好十年，Serverless已經(jīng)成為今天IT開(kāi)發(fā)的主流，也是云服務(wù)器商提供能力的主流。

我們相信，Serverless 奇點(diǎn)己來(lái)，所謂奇點(diǎn)，是由平穩(wěn)發(fā)展轉(zhuǎn)向高速發(fā)展的轉(zhuǎn)折點(diǎn)，預(yù)示著行業(yè)落地將開(kāi)始全面爆發(fā)。而我們也將成為見(jiàn)證這個(gè)變化的一代技術(shù)人。