作者 | 阿里云 Serverless 高级开发工程师 萧起
### 听说你也做过这样的技术选型
小王是一名程序员，公司的应用是跑在自建机房的服务器上，所有的底层服务和运维都需要自己亲自下手来做，每次升级、机器扩容都带来比较大的运维压力，同时为了能及时扩容堆了不少闲置的机器，机器成本一直比较高。最近公司新开发了两个应用系统，小王在做技术选型，打算拥抱云计算，把新应用部署在云上，设计一套高弹性、低成本、运维简单，能轻松应对业务突发流量上涨的架构方案，让自己可以把更多精力投入到业务开发中，减轻自己的运维负担。

这两个应用有几个共同的特点：

- 两个应用都属于在线应用，对调用延迟、服务稳定性有比较高的要求
- 应用流量随业务变化比较大，而且很难提前预估业务量会上涨多少，对弹性有比较高的要求。
- 有明显的业务低峰期，低峰期调用量比较低，预计低峰期主要集中于晚上。
- 应用启动时间长：一个是 Java SpringBoot 的订单系统，一个是基于大规格镜像的 AI 图片识别系统，启动时间将近1分钟。

小王的需求总结起来有三个：

- 一是希望在运维上省事省心，交付 jar 包或者镜像后，只需简单的配置应用就能运行起来，不用专门花费精力搞运维、监控、告警。
- 二是弹性能力要好，业务流量上涨时，可以自动地及时扩容，流量下降后，再自动缩容。
- 三是通过使用云计算，提高资源利用率，在成本上更有优势。

下面就拆开看小王是如何一步一步进行技术选型的。
### 服务高度集成，免运维，高弹性
在做技术选型时，小王考虑过三种技术架构：SLB+云服务器+弹性伸缩的传统架构、K8s 架构、函数计算 （FC ）架构。
![image.png](https://intranetproxy.alipay.com/skylark/lark/0/2022/png/47589/1650532309571-10b8e372-b2d3-4405-be7d-9b31f0092a74.png#clientId=u9d88d81f-1b86-4&crop=0&crop=0&crop=1&crop=1&from=paste&height=808&id=u54a501e1&margin=%5Bobject%20Object%5D&name=image.png&originHeight=808&originWidth=2319&originalType=binary&ratio=1&rotation=0&showTitle=false&size=376267&status=done&style=none&taskId=u4a14769b-d366-4c04-b8de-7432a9e7c11&title=&width=2319)
传统架构需要自己搞 SLB 负载均衡；配置弹性伸缩服务，不断调试找到合适的伸缩策略；还要自己采集日志来创建告警和监控大盘。这一套下来运维和部署成本其实不是很低，有没有更省事的方案呢？

小王进一步调研了 K8s 架构，k8s 的 Services 与 Ingress 规则可以管理到应用层的访问，这样就不用自己搞SLB负载均衡了，同时使用HPA来根据应用水位来水平伸缩。这样看似很不错，但真正测试时发现，HPA的伸缩是分钟级别的，缩容慢一点倒是问题不大，但流量上涨快的时候，扩容总是延后几分钟，会导致部分请求延时增高或失败，影响了服务可用性。如果把扩容的指标阈值调低些，倒是能够解决这个问题，但同时降低了资源利用率，成本上涨了不少。另外还需要自己搞日志采集、告警和监控大盘，运维成本也有不少。而且小王之前没有接触过k8s，k8s繁多的各种概念理解起来着实也有不少的成本。

基于FC的架构能够很好的解决上面几个问题。首先，FC 支持预留模式和基于实例指标的自动伸缩能力，这种模式下能够做到更灵敏和快速的扩缩容能力，并保证在扩缩容期间请求延时保持平稳；其次，FC高 度集成了众多开箱即用的功能，体验丝滑又省心，如：提供http触发器，省去对接网关、SLB的工作；控制台提供完整的可观测能力，轻松查看请求、实例状态和运行日志。最后，FC只需要为调用和调用时使用的活跃资源付费，无调用时不产生费用，能够充分提高资源利用率，减低成本。

下面我们来具体介绍下预留模式的使用，以及如何通过闲置计费来降低预留的使用成本。
### 预留模式，完美解决冷启动
FC支持按量和预留两种使用模式，按量模式是通过请求自动触发实例的创建和扩缩容，在调用量增加时创建实例，在请求减少后销毁实例。按量模式充分提高了资源利用率，但对于小王这种启动时间比较长的应用，按量模式创建实例时会有明显的冷启动现象。为了解决这种冷启动问题，FC提供了预留的使用模式。用户配置预留后，FC会创建指定数量的预留实例常驻于系统中，直到用户更新预留配置将其释放。当有请求时，会优先调度上预留实例上，预留实例用满后，新请求会触发按量实例的创建。同时为了使预留实例量更好地贴合业务曲线，还提供了预留定时伸缩和按指标伸缩能力，来提高预留实例的利用率。点击[这里](https://help.aliyun.com/document_detail/185038.html#section-cra-c7p-wbo)查看更多详情。

通过这样的方式，即解决了应用冷启动时间长的问题，又保证了预留实例维持在比较高的利用率水平。即使偶尔有比较大的流量波动，也可以临时扩容出按量实例来响应请求，尽量保证流量快速上涨情况下服务的质量。
![image.png](https://intranetproxy.alipay.com/skylark/lark/0/2022/png/47589/1650307871695-095fc418-4385-46ad-934d-3e8277776e0c.png#clientId=ub61ac748-ce06-4&crop=0&crop=0&crop=1&crop=1&from=paste&height=324&id=u24808135&margin=%5Bobject%20Object%5D&name=image.png&originHeight=648&originWidth=1152&originalType=binary&ratio=1&rotation=0&showTitle=false&size=129163&status=done&style=none&taskId=u64152dba-9bd3-4a6a-952e-e7a49385c76&title=&width=576)
### 闲置计费，降本大杀器
在真实的使用场景中，为了保证应用请求的低延时，即使在没有请求时，也要保持一定数量的预留实例，这就造成了成本的上升。有没有办法既做到低延时，又做到低成本呢？函数计算为了帮助用户降低这种场景下的使用成本，推出了预留实例的闲置计费功能，下面我们来具体了解下这个功能。
#### 闲置计费
根据预留实例是否在处理请求，我们将实例区分为闲置、活跃两种状态，并为两种状态分别设置了计费单价。活跃计费单价与原有的资源使用单价保持一致，闲置计费单价是活跃计费单价的20%，开启闲置计费后能够帮助您节省大量的成本。
![image.png](https://intranetproxy.alipay.com/skylark/lark/0/2022/png/47589/1650305909383-0b8ed913-fa2a-4341-9563-a979a87ffa80.png#clientId=ub61ac748-ce06-4&crop=0&crop=0&crop=1&crop=1&from=paste&height=127&id=afOoz&margin=%5Bobject%20Object%5D&name=image.png&originHeight=396&originWidth=1514&originalType=binary&ratio=1&rotation=0&showTitle=false&size=107432&status=done&style=none&taskId=udb71fa40-9821-4e78-8c8c-5795e886c0c&title=&width=487)
默认情况下，闲置计费功能处于关闭状态，此时预留模式的实例无论是否正在处理请求，FC都会为其分配CPU，并让实例始终处于活跃状态，以保证实例在无请求时依然可以正常运行后台任务。开启闲置计费功能后，当预留模式的实例无请求时，FC会将实例上的CPU冻结，使该实例进入闲置状态。
![image.png](https://intranetproxy.alipay.com/skylark/lark/0/2022/png/47589/1650533693655-98c3e369-9638-44c6-9876-21b5762db863.png#clientId=u9d88d81f-1b86-4&crop=0&crop=0&crop=1&crop=1&from=paste&height=436&id=IorQc&margin=%5Bobject%20Object%5D&name=image.png&originHeight=436&originWidth=1439&originalType=binary&ratio=1&rotation=0&showTitle=false&size=83006&status=done&style=none&taskId=ud29a8bef-8e8d-4dc6-a19d-2d976bb4968&title=&width=1439)

通过增加闲置计费，对于预留实例也做到了只为真正使用的CPU资源付费。当预留实例处于闲置时，只需支付20%的费用，就能应对实例冷启动的问题。这将帮助用户明显降低预留实例的使用成本，同时用户也可以更少的关心预留实例的利用率问题，放心大胆的使用预留实例。![image.png](https://intranetproxy.alipay.com/skylark/lark/0/2022/png/47589/1650282268392-016fa54c-89e0-4d4c-8b96-29183f6ba5b5.png#clientId=u75d051e3-9b53-4&crop=0&crop=0&crop=1&crop=1&from=paste&height=439&id=DG6Dp&margin=%5Bobject%20Object%5D&name=image.png&originHeight=800&originWidth=1158&originalType=binary&ratio=1&rotation=0&showTitle=false&size=208829&status=done&style=none&taskId=uc3ed9aa2-9a7e-45d5-a392-3033a87750a&title=&width=635)
我们以上图为例，假设预留实例的利用率为60%，原有的使用成本为1。使用闲置计费后费用为60% * 1 + 40% * 20% *1 = 0.68，能够带来32%的费用下降。

#### 配置方式
可以通过控制台和SDK两种方式进行预留实例和闲置计费的配置。

登录函数计算控制台，在**首页->弹性管理**页面选择**创建规则**，即可进行『闲置计费』的配置。同时可以使用SDK进行配置，支持Java、Go、Node.js等多种语言，详情可以参考[API在线调试](https://next.api.aliyun.com/api/FC-Open/2021-04-06/PutProvisionConfig?sdkStyle=dara¶ms={%22alwaysAllocateCPU%22:true}&tab=DEMO&lang=GO)。
![image.png](https://intranetproxy.alipay.com/skylark/lark/0/2022/png/47589/1650857061323-45db4200-41ee-40c2-a018-76c7a0b8a85a.png#clientId=u19fa5cec-c538-4&crop=0&crop=0&crop=1&crop=1&from=paste&height=719&id=u63daebfd&margin=%5Bobject%20Object%5D&name=image.png&originHeight=719&originWidth=1642&originalType=binary&ratio=1&rotation=0&showTitle=false&size=310848&status=done&style=none&taskId=ud2f0037c-d876-409e-a422-c86cc22c0b5&title=&width=1642)
开启闲置计费后，可以在**费用中心-账单详情-明细账单**中查到弹性实例和性能实例的闲置资源使用费用（计费账单一般延时3~6小时产出）。
![image.png](https://intranetproxy.alipay.com/skylark/lark/0/2022/png/47589/1649411601973-9e4f6374-3572-4e3d-9e04-6980ef2149b6.png#clientId=uf88cfeec-f6f3-4&crop=0&crop=0&crop=1&crop=1&from=paste&height=254&id=u90911330&margin=%5Bobject%20Object%5D&name=image.png&originHeight=254&originWidth=2000&originalType=binary&ratio=1&rotation=0&showTitle=false&size=224369&status=done&style=none&taskId=u41282257-3636-4369-a8d2-923ec95b84c&title=&width=2000)

### 结语
函数计算（FC）一直致力于为用户提供高弹性、免运维、低成本的全托管计算服务。本次闲置计费功能的发布，能够帮助用户进一步降低使用预留实例的成本，让用户只为真实使用的预留资源付费。函数计算会逐步释放更多serverless 的技术红利，在性能、成本、体验上不断为用户提供更极致的表现。

文档链接:
_弹性管理：_[_https://help.aliyun.com/document_detail/185038.html_](https://help.aliyun.com/document_detail/185038.html)
_计费概述：_[_https://help.aliyun.com/document_detail/54301.html_](https://help.aliyun.com/document_detail/54301.html)

ITPub博客

闲置计费 | Serverless 冷启动与成本间的最优解

最新文章