![](https://intranetproxy.alipay.com/skylark/lark/0/2021/webp/22456429/1640338834798-cf3586a0-73a5-4cb9-b5cc-558da46568fc.webp#clientId=u5519fa7e-3d71-4&crop=0&crop=0&crop=1&crop=1&from=paste&id=ub5bb9052&margin=%5Bobject%20Object%5D&originHeight=274&originWidth=800&originalType=url&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=u674f671f-7ed6-446c-8e38-260f26c701c&title=)
作者 | 元毅（阿里云容器平台高级开发工程师）

**微信搜索关注 Serverless 公众号，后台回复 深圳 可获取本文 PPT**

# 导读**

Kubernetes 作为当今云原生业界标准，具备良好的生态以及跨云厂商能力。Kubernetes 很好的抽象了 IaaS 资源交付标准，使得云资源交付变的更简单，与此同时越来越多的用户期望能够聚焦于业务自身，做到面向应用交付，Serverless 理念也因此而生。

那么如何通过原生 Kubernetes 提供 Serverless 能力？如何借力丰富的云原生社区生态？本文给大家介绍一下我们在 Serverless Kubernetes 上的落地实践。本文将从以下 3 个方面展开介绍：

- 为什么要做Serverless Kubernetes
- 如何实现Serverless Kubernetes
- Serverless Kubernetes 落地实践
# Serverless Kubernetes 初衷**

### 1、 Kubernetes
****

众所周知，Kubernetes 是一款开源容器化编排系统，用户使用 Kubernetes 可以做到降低运维成本、提高运维效率，并且提供标准化 API，某种意义就是避免被云厂商绑定，进而形成了以 Kubernetes 为核心的云原生生态。可以说 Kubernetes 已然成为了云原生业界事实标准。

![](https://intranetproxy.alipay.com/skylark/lark/0/2021/webp/22456429/1640338834829-f4090db5-76ab-4baa-95eb-1d90b5ad2ded.webp#clientId=u5519fa7e-3d71-4&crop=0&crop=0&crop=1&crop=1&from=paste&height=381&id=u0039c58c&margin=%5Bobject%20Object%5D&originHeight=750&originWidth=1080&originalType=url&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=u939f671d-7664-4632-a0e7-12770aa5bf2&title=&width=549)
### 2、Serverless 与 Kubernetes

那么我们回到 Serverless 上面来，**Serverless 的核心理念在于让开发者更聚焦业务逻辑，减少对基础设施的关注。**那么我们如何在云原生业界标准之上做 Serverless，Kubernetes 是否也能做到更专注于应用业务逻辑。

![](https://intranetproxy.alipay.com/skylark/lark/0/2021/webp/22456429/1640338835146-95e81a75-9260-45e4-b004-47e23241a951.webp#clientId=u5519fa7e-3d71-4&crop=0&crop=0&crop=1&crop=1&from=paste&id=uf65f94da&margin=%5Bobject%20Object%5D&originHeight=503&originWidth=1080&originalType=url&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=uf74595aa-667a-4112-9088-34c56688903&title=)
### ![](https://intranetproxy.alipay.com/skylark/lark/0/2021/webp/22456429/1640338834812-1818a064-8573-4c2c-89bd-8c3e95c13096.webp#clientId=u5519fa7e-3d71-4&crop=0&crop=0&crop=1&crop=1&from=paste&id=u58b39278&margin=%5Bobject%20Object%5D&originHeight=503&originWidth=1080&originalType=url&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=u7ef4d5e7-18df-4cdb-94fc-a96652036ff&title=) 3、Kubernetes 做 Serverless 的优势

在看一下 Kubernetes 做 Serverless 有什么优势前，我们先来看一下 Kubernetes 特性包括哪些：

- 容器化
- 统一 IaaS 资源交付
- CI/CD 持续集成部署
- 跨云厂商
- 丰富的生态
- 面向应用管理

对应于 Serverless 来说：

- 事件驱动：Kubernetes 支持 job 类型、并围绕 Kubernetes 提供丰富的事件源
- 按需使用：Kubernetes 本身支持 hpa 弹性能力
- 免运维、高可用：Kubernetes 可以通过容器化、统一资源交付很好的支持。

结合这些来看 Kubernetes 实现 serverless，具备天然优势。

![](https://intranetproxy.alipay.com/skylark/lark/0/2021/webp/22456429/1640338835378-f7848203-6271-41d8-acf0-ddeb37865d13.webp#clientId=u5519fa7e-3d71-4&crop=0&crop=0&crop=1&crop=1&from=paste&id=u60529509&margin=%5Bobject%20Object%5D&originHeight=539&originWidth=1080&originalType=url&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=u32a5b114-f6ac-47b0-a613-4d96d857a59&title=)

# 如何实现 Serverless Kubernetes**

在 Kubernetes 上实现 Serverless 主要做到一下两点：

- 向下如何让用户减少对基础设施的关注；
- 向上如何更聚焦业务应用。

![](https://intranetproxy.alipay.com/skylark/lark/0/2021/webp/22456429/1640338835233-7afb17e2-7e8a-44bd-b08f-8f102651ecdb.webp#clientId=u5519fa7e-3d71-4&crop=0&crop=0&crop=1&crop=1&from=paste&id=ua1ba02e2&margin=%5Bobject%20Object%5D&originHeight=432&originWidth=1080&originalType=url&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=u4dab2301-fe9f-4009-baf0-6ef9371e09c&title=)

这里我们通过 Serverless Framework ，聚焦业务应用，进一步抽象 Kubernetes 资源，提供按需使用自动弹性的能力。通过 IaaS 资源免运维，减少对基础设施的关注，做到节点免运维。

那么 IaaS 资源免运维，我们又是如何做的呢？

### 1、减少对基础设置的关注：IaaS 免运维

原生的 Kubernetes 节点资源需要用户自行维护，为了降低用户维护节点成本，我们提供了托管节点池，帮助用户维护节点的生命周期，但用户还是需要对托管节点池策略进行维护，更近一步在 Serverless Kubernetes 中通过虚拟节点结合弹性容器实例 ECI，让用户彻底摆脱对 IaaS 的运维。

![](https://intranetproxy.alipay.com/skylark/lark/0/2021/webp/22456429/1640338835612-4eddb17f-22b8-4ebf-bfbf-1f61ed9e24b0.webp#clientId=u5519fa7e-3d71-4&crop=0&crop=0&crop=1&crop=1&from=paste&id=u332a9777&margin=%5Bobject%20Object%5D&originHeight=320&originWidth=1080&originalType=url&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=u2dbeb54b-c2fb-4353-8346-76a141858ab&title=)

Serverless Kubernetes IaaS 资源免运维包括：

- 基于容器，安全隔离、高移植
- 无服务器管理：无需容量规划，对服务器免运维
- 弹性扩容：秒级扩容，无限容器
- 按需付费，更高资源利用率

![](https://intranetproxy.alipay.com/skylark/lark/0/2021/webp/22456429/1640338835333-9a4da4e1-1ef0-4631-8e23-484430e903ef.webp#clientId=u5519fa7e-3d71-4&crop=0&crop=0&crop=1&crop=1&from=paste&id=ucb1c1d6b&margin=%5Bobject%20Object%5D&originHeight=377&originWidth=1080&originalType=url&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=ua486166c-1871-4a8f-81b8-d8d4f16ddd7&title=)

向下我们通过虚拟节点结合 ECI 实现了 IaaS 资源免运维，那么向上如何聚焦业务逻辑呢？其实就是以应用为核心。

### 2、聚焦业务逻辑：以应用为核心

围绕应用来看，无非我们要解这些问题：

- 应用部署
- 灰度发布
- 流量管理
- 自动弹性
- 可观测性以及应用的多版本管理

那么有开箱即用的方案去解吗？答案是 Knative。

![](https://intranetproxy.alipay.com/skylark/lark/0/2021/webp/22456429/1640338835594-0e73761f-4aa6-4041-b09a-5edab045a12c.webp#clientId=u5519fa7e-3d71-4&crop=0&crop=0&crop=1&crop=1&from=paste&id=u5aafd372&margin=%5Bobject%20Object%5D&originHeight=505&originWidth=1080&originalType=url&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=ub9819477-73dd-47b5-8789-f4733d919d8&title=)
###

### 3、Knative 是什么

Knative 是基于 Kubernetes 之上提供的一款开源 Serverless 应用框架，帮助用户部署和管理现代化的 Serverless 工作负载，打造企业级 Serverless 平台。

Knative 具备如下优势：

- 在几秒钟内建立可扩展、安全、无状态的服务。
- 具有更高级别 Kubernetes 应用抽象的 API。
- 可插拔组件，让您可以使用自己的日志记录和监控、网络和服务网格。
- 在 Kubernetes 运行的任何地方都可以运行 Knative，无需担心供应商锁定。
- 开发者无缝体验，支持 GitOps、DockerOps、ManualOps 等。
- 支持常用工具和框架，例如 Django、Ruby on Rails、Spring 等。

Knative 主要包括 2 大核心模块：Serving 和 Eventing

Serving 提供了 Service 应用模型，支持基于流量的灰度发布、版本管理、缩容到 0 以及自动弹性。

Eventing 提供事件驱动能力。支持丰富的事件源，以及用于事件流转、过滤的 Broker/Trigger 模型。

![](https://intranetproxy.alipay.com/skylark/lark/0/2021/webp/22456429/1640338835663-791f6e3a-00e6-46ad-99c9-12439211383f.webp#clientId=u5519fa7e-3d71-4&crop=0&crop=0&crop=1&crop=1&from=paste&id=u11202263&margin=%5Bobject%20Object%5D&originHeight=472&originWidth=1080&originalType=url&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=u052e05e8-77b3-4844-a24b-17027f7e1b3&title=)
### 4、为什么是 Knative

那么我们为什么选择 Knative 呢？
![](https://intranetproxy.alipay.com/skylark/lark/0/2021/webp/22456429/1640338835730-0a0956a1-1082-47da-9c83-87a4a6ef402f.webp#clientId=u5519fa7e-3d71-4&crop=0&crop=0&crop=1&crop=1&from=paste&id=ubad91eba&margin=%5Bobject%20Object%5D&originHeight=551&originWidth=1080&originalType=url&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=u0e837e20-d673-43e2-b529-083c9ec4c03&title=)
根据 CNCF 2020 中国云原生调查报告，Knative 已经成为 Kubernetes 上最广泛安装的无服务器。

另外 Knative 社区近期也发起了一项统计：当前哪些云厂商或企业在提供或者使用 Knative。我们可以看到，几乎所有的大厂都支持或者集成 Knative, 如阿里云、谷歌云、IBM、Red Hat 等，并且大部分都提供了生产级别能力（Production），这些迹象表明越来越多的用户拥抱 Knative。

此外近期 Knative 已申请成为 CNCF 孵化项目，这无疑让 Knative 开发者为之兴奋。
### 
5、Knative 落地挑战、应对与效果

从开源到产品化落地，必然会面对一些挑战。Knative 产品化落地主要面对如下挑战：

- 管控组件多，运维复杂
- 0 到 1 冷启动问题
- 流量请求 1 对 1 分发

那么我们如何来应对呢？

我们提供组件托管，帮助用户节省资源及运维成本；当请求为 0 时，缩容到低规格保留实例，实现请求 0 到 1 免冷启动，做到成本可控；提供自研事件网关，做到流量的精准控制。

![](https://intranetproxy.alipay.com/skylark/lark/0/2021/webp/22456429/1640338835748-7535b5e8-8173-44a6-9966-1ba8efb47de4.webp#clientId=u5519fa7e-3d71-4&crop=0&crop=0&crop=1&crop=1&from=paste&height=449&id=u20c32740&margin=%5Bobject%20Object%5D&originHeight=876&originWidth=1080&originalType=url&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=u5eb4cf2f-77fc-4f7b-8fdc-91bf1ef83ce&title=&width=554)
# Serverless Kubernetes 落地实践
****

### 1、落地方案

结合上述介绍，向上通过 Serverless Framewok Knative 更聚焦业务应用，向下通过虚拟节点减少对基础设施的关注。这就是我们Serverless Kubernetes 落地方案：围绕 Kubernetes api, 下线集成云产品的能力，包括消息事件、弹性容器实例以及日志监控等。向上通过 Knative 围绕应用为核心，提供事件驱动、自动弹性等能力等。

![](https://intranetproxy.alipay.com/skylark/lark/0/2021/webp/22456429/1640338836015-c7abdf54-5bfe-44dc-9a1d-ae475aefa1d3.webp#clientId=u5519fa7e-3d71-4&crop=0&crop=0&crop=1&crop=1&from=paste&id=u5d2b1c55&margin=%5Bobject%20Object%5D&originHeight=674&originWidth=1080&originalType=url&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=u5722c07f-4be2-4aeb-8e4a-8c3ed7cd936&title=)

### 2、典型应用场景

最后我们来看一下目前有哪些落地场景，典型的应用场景及行业领域如图：

![](https://intranetproxy.alipay.com/skylark/lark/0/2021/webp/22456429/1640338836016-c870c3f7-0ad0-4e7c-b20a-f685671c2eaa.webp#clientId=u5519fa7e-3d71-4&crop=0&crop=0&crop=1&crop=1&from=paste&id=u5b26a6dd&margin=%5Bobject%20Object%5D&originHeight=500&originWidth=1080&originalType=url&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=ub133cfa7-160d-4661-a33a-2cad6a99109&title=)

### 3、落地实践：异构资源，按需使用

**(1) 客户痛点**

用户希望通过 Serverless 技术按需使用资源，节省资源使用成本，简化运维部署 。另外有 GPU 的业务诉求。希望使用容器化的 Serverless ，支持使用 GPU 资源，同时简化应用运维部署（尽可能少的操作 Kubernetes deployment/svc/ingress/hpa等资源），IaaS 资源免运维。

**(2) 解决方案**

使用 Knative + ASK 作为 Serverless 架构。数据采集之后，通过服务网关访问数据处理服务，数据处理服务根据请求量按需自动扩缩容。
![](https://intranetproxy.alipay.com/skylark/lark/0/2021/webp/22456429/1640338836051-be66e68a-4d82-4128-a4b3-707fbb837257.webp#clientId=u5519fa7e-3d71-4&crop=0&crop=0&crop=1&crop=1&from=paste&id=ufe2d4e39&margin=%5Bobject%20Object%5D&originHeight=452&originWidth=1068&originalType=url&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=u7b2c8227-949f-46be-87ac-dbf987af1dd&title=)

### 4、落地实践：事件驱动，精准分发

某客户直播系统支持用户在线互动。消息数据的处理主要有以下技术挑战：

- 业务弹性波动，消息并发高。
- 互动实时响应，低延迟。

客户选择阿里云的 Knative 服务进行数据的弹性处理。应用实例数随着业务波峰波谷实时扩容和缩容，真正做到了按需使用，实时弹性的云计算能力。整个过程完全自动化，极大的减少了业务开发人员在基础设施上的心智负担。

![](https://intranetproxy.alipay.com/skylark/lark/0/2021/webp/22456429/1640338836131-7b5421f4-8c83-436b-81ec-ec5913ae1745.webp#clientId=u5519fa7e-3d71-4&crop=0&crop=0&crop=1&crop=1&from=paste&id=u712407f0&margin=%5Bobject%20Object%5D&originHeight=343&originWidth=1080&originalType=url&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=u53007f98-3d51-4649-bf99-2b4bc947f29&title=)
# 总结
****

我们回顾一下本文介绍的主要内容：

首先介绍了为什么在 Kubernetes 提供 Serverless：

- Kubernetes 已成为云原生业界标准
- 面向标准 Kubernetes API 进行 Serverless 编程

然后我们如何实现 Serverless  Kubernetes：

- IaaS 节点免运维
- Serverless Framework (Knative)

最后介绍了 2 个落地实践场景：

- 异构资源，按需使用
- 事件驱动，精准分发

一句话：Serverless Kubernetes 基于 Kubernetes 之上，提供按需使用、节点免运维的 Serverless 能力，让开发者真正实现通过 Kubernetes 标准化 API 进行 Serverless 应用编程，值得关注。

ITPub博客

阿里云 Serverless Kubernetes 的落地实践分享

最新文章