
如果使用ECS来部署服务,则可能大部分时间ECS的资源没有得到充分利用,造成成本浪费,尤其对于像GPU之类成本较高的资源就更加了。这个时候,我们可以考虑使用云集群的混搭模式来节约成本。
业务场景
假设有一个这样的业务场景,包括如下特点及要求:
整个系统包括业务服务与两层视觉服务
各层服务之间调用需做负载均衡
每天的业务量主要集中在上午几个小时
平时业务量较低时仍要保证服务可用
尽可能降低成本,尤其是GPU服务器成本(GPU贵啊)
k8s云集群混搭模式

其中的虚拟节点基于ECI支持多种功能,如GPU容器实例、大规格容器实例等,增强了Kubernetes集群的弹性,使集群不局限于ECS节点的资源,做到弹性无限扩容。
部署方案
结合前面的业务场景,我们可以采用k8s的混合集群服务来部署我们的项目,如下图

实现步骤:
创建Kubernetes托管版集群
加入已有ECS节点
添加一个虚拟节点,通过添加应用 ack-virtual-node 来实现
分别创建无状态的业务Deployment、AI-1 Deployment、AI-2 Deployment(对应三层服务)
分别在业务Deployment上创建公网SLB,AI-1 Deployment、AI-2 Deployment上创建内网SLB
分别在各Deployment上根据CPU或内存使用阈值配置弹性水平伸缩HPA
根据需要可以在某个或某些Deployment上配置定时伸缩,通过添加应用 ack-kubernetes-cronhpa-controller 来实现
因为水平伸缩一般需要一定时间,延迟可能会对业务造成影响,所以在业务负载比较规律的时候,可以通过定时伸缩(就是定时扩展到多少个容器,再定时收缩到多少个容器)来改善;目前定时伸缩配置的查看与更新只能通过kubectl命令行进行。
总结
文章转载自半路雨歌,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。





