近日，阿里云函数计算产品团队撰写的关于 Serverless 调度的创新性论文，被云计算领域 ACM SoCC 国际会议长文录用。

![image.png](https://intranetproxy.alipay.com/skylark/lark/0/2022/png/29608/1666752503752-bbbc3886-474d-44a7-9c8c-bd89a9b20250.png#clientId=uc427990a-a646-4&crop=0&crop=0&crop=1&crop=1&from=paste&height=839&id=u5b547f13&margin=%5Bobject%20Object%5D&name=image.png&originHeight=923&originWidth=1046&originalType=binary&ratio=1&rotation=0&showTitle=false&size=678821&status=done&style=none&taskId=u89342d6e-2109-41b7-bea2-b69b9d05993&title=&width=950.9090702986919)

去年阿里云函数计算团队首个提出在 FaaS 场景下的去中心化快速镜像分发技术，团队所作论文被计算机系统领域的顶级会议 USENIX ATC’21 录用，入选中国计算机协会（CCF）推荐 A 类国际会议列表；今年阿里云函数计算不断突破：发布基于函数画像的调度算法论文并被国际云计算的首要会议 ACM SoCC 录用，真正做到能够保证提升函数资源利用率的同时，达到性能高稳定性。

ACM Symposium on Cloud Computing（以下简称 SoCC）是由美国计算机协会主办、聚焦云计算技术的一项学术会议，是云计算的首要会议。它汇集了对云计算感兴趣的研究人员、开发人员、用户和实践者，是唯一由 SIGMOD（数据管理特别兴趣组）和 SIGOPS（操作系统特别兴趣组）联合主办的会议, 这个会议在近些年蓬勃发展，旨在聚集数据库和计算机系统两大领域的学者，共同推进云计算技术在工业界的研究与发展。

此次被录用的论文为《Owl: Performance-Aware Scheduling for Resource-Efficient Function-as-a-Service Cloud》。

此论文灵感诞生于阿里云 Serverless 产品函数计算，函数计算是阿里云的函数即服务(Function-As-A-Service)产品。阿里云函数计算是事件驱动的全托管计算服务。通过函数计算，您无需管理服务器等基础设施，只需编写代码并上传。函数计算会为您准备好计算资源，以弹性、可靠的方式运行您的代码，并提供日志查询、性能监控、报警等功能。现阶段已经覆盖了**事件驱动、音视频处理、游戏、物联网、新零售、AI **等实际业务场景，并服务于阿里云、高德、支付宝、淘宝、CBU 等多个业务或项目中。
![image.png](https://intranetproxy.alipay.com/skylark/lark/0/2022/png/29608/1666753184601-78dfda84-60da-4bdb-b8cd-a76de8ea2b1b.png#clientId=uc427990a-a646-4&crop=0&crop=0&crop=1&crop=1&from=paste&height=246&id=uc3e08420&margin=%5Bobject%20Object%5D&name=image.png&originHeight=271&originWidth=535&originalType=binary&ratio=1&rotation=0&showTitle=false&size=102453&status=done&style=none&taskId=udaa60275-bd51-427d-b636-64305874e8a&title=&width=486.36362582198865)
上图是一个经典的 FaaS 调度系统的架构，调度器负载将不同的函数实例调度到集群中的节点上运行。由于 FaaS 产品函数数量多、函数粒度小、执行时间短的特点，节点的资源利用率较低。简单地将更多的实例调度到同一个节点上虽然能够一定程度地提升资源利用率，但是也带来了资源争抢和性能下降。

**论文针对这个问题创新地提出了基于函数画像的调度算法，在提高资源利用率的同时达到了较好的性能稳定性：**

1. 对于高频调用的函数，调度器会识别不同函数实例在同一个节点共置时的性能表现，以此指导函数实例的调度；

2. 对于低频调用的函数，调度器会统计其执行过程中的实际资源消耗，以此来指导函数实例的调度，同时调度器会监控函数的执行延时，当出现延时上升时通过隔离的手段进行缓解；

3. 调度器还针对闲置的实例进行迁移，将它们从利用率低的节点迁移到利用率高的节点以释放闲置节点。

![image.png](https://intranetproxy.alipay.com/skylark/lark/0/2022/png/29608/1666754515242-8ca9e512-0893-445c-b72e-2ed6a7368ded.png#clientId=uc427990a-a646-4&crop=0&crop=0&crop=1&crop=1&from=paste&height=357&id=ub8f037f7&margin=%5Bobject%20Object%5D&name=image.png&originHeight=393&originWidth=563&originalType=binary&ratio=1&rotation=0&showTitle=false&size=152664&status=done&style=none&taskId=ufc2407a1-0203-4ae1-a1d9-f6451c0e09f&title=&width=511.8181707248217)
为了评估算法的效果，论文根据生产环境典型的函数负载，抽象了 10 个函数，它们覆盖了不同的编程语言、资源消耗、执行时长、外部依赖。列表如下：

![image.png](https://intranetproxy.alipay.com/skylark/lark/0/2022/png/29608/1666755793415-299ca149-14fc-483c-88d6-6139b5567540.png#clientId=uc427990a-a646-4&crop=0&crop=0&crop=1&crop=1&from=paste&height=285&id=u34f1610c&margin=%5Bobject%20Object%5D&name=image.png&originHeight=313&originWidth=831&originalType=binary&ratio=1&rotation=0&showTitle=false&size=173362&status=done&style=none&taskId=uf4045144-6905-436d-b3d9-298ca28c8da&title=&width=755.4545290805095)

实验结果表明，在 100 个节点规模下，OWL 调度算法能够**节省 43.8%** **的资源**，同时**函数执行延时没有明显的增加：**

![image.png](https://intranetproxy.alipay.com/skylark/lark/0/2022/png/29608/1666755980521-d649b368-3d64-480f-ad41-f38dec1ae67e.png#clientId=uc427990a-a646-4&crop=0&crop=0&crop=1&crop=1&from=paste&height=424&id=u796d8278&margin=%5Bobject%20Object%5D&name=image.png&originHeight=466&originWidth=1115&originalType=binary&ratio=1&rotation=0&showTitle=false&size=345062&status=done&style=none&taskId=uccabe16d-d06c-4094-9693-687f02e93a3&title=&width=1013.6363416663876)

**调度延时也没有明显增加：**

![image.png](https://intranetproxy.alipay.com/skylark/lark/0/2022/png/29608/1666756073109-cc63da38-1b6e-4204-b3b2-a5585523028c.png#clientId=uc427990a-a646-4&crop=0&crop=0&crop=1&crop=1&from=paste&height=257&id=ud2d9b48f&margin=%5Bobject%20Object%5D&name=image.png&originHeight=283&originWidth=577&originalType=binary&ratio=1&rotation=0&showTitle=false&size=107081&status=done&style=none&taskId=ufe6f67cb-e517-4fca-8b31-b8010531811&title=&width=524.5454431762382)

目前 OWL 的函数画像能力也已经应用在函数计算线上环境，并取得了不错的效果。此次论文入选 ACM SoCC，是阿里云在 Serverless 调度领域的又一次创新。

**_附论文信息_**
录用论文题目：
Owl: Performance-Aware Scheduling for Resource-Efficient Function-as-a-Service Cloud

作者：田黄石，李苏毅，王骜，王威，吴天龙，杨皓然

论文概述：在云计算中，FaaS 是一种非常流行的产品形态，主流的云产商都提供了对应的平台。作为平台构建者我们观察到大部分的函数实例的 CPU 和内存利用率都不高，造成集群节点的利用率也不高。一个简单的做法是在节点上超额放置更多的函数实例，但是这可能会带来资源争抢和性能下降。另外，函数的外部依赖也可能导致函数的性能下降。在本文中，我们设计了 OWL 调度系统来解决这些问题，达到高资源利用率和性能稳定性。对于低频调用的函数，调度器会统计其执行过程中的实际资源消耗，以此来指导函数实例的调度，同时调度器会监控函数的执行延时，当出现延时上升时通过隔离的手段进行缓解；对于高频调用的函数，调度器会识别不同函数实例在同一个节点共置时的性能表现，以此指导函数实例的调度。同时调度器还针对闲置的实例进行迁移，将它们从利用率低的节点迁移到利用率高的节点以释放闲置节点。我们实现了 OWL 原型系统并根据生产环境的负载构造了一组测试集。实验结果表明，OWL 调度系统能够减少 43.8% 的资源消耗并有效缓解性能下降。

ITPub博客

又一创新！阿里云 Serverless 调度论文被云计算顶会 ACM SoCC 收录

最新文章