暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

服务治理思路与算法

老李说架构之道 2021-07-21
177

目的

    用于对分布式系统中大量微服务进行有效管理;

手段

    消费端熔断

        定义:在调用服务时,在一些非关键路径服务发生服务质量的问题,尽可能的屏蔽。

        策略:

            异常比例、

            异常数

    服务端降级

        定义:服务整体负载超出预设上限阈值,或预计流量将超出预设上限,保证重要和基础服务正常运行;

        策略:

                服务层降级:拒绝部分服务、关闭部分服务
                数据层降级:写MQ、写缓存、异步刷屏

                柔性可用策略:自动打开

     量控制:

            监控应用流量的QPS或者线程并发数等指标,当达成指定的阈值时对流量进行控制,以避免瞬间被流量冲垮,从而保证系统的高可用。

        手段:并发线程数控制、QPS流量控制

        类型:单机流控、集群流控、网关流控

    算法:

        计数器固定窗口算法:使用计数器在周期内累计访问次数,当达到设置的阈值时,触发限流策略;

        计数器滑动窗口:解决固定窗口的临界问题;

        漏桶算法:以固定的速率设置释放请求;

        令牌桶算法:程序以r的速度向令牌桶增加令牌,直到令牌桶满,请求到达时向令牌桶请求令牌,如果获取到令牌则可以通过,否则触发限流策略;


对比:

文章转载自老李说架构之道,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论