腾讯云ES Serverless x TKE，分钟级低门槛实现一站式可观测容器日志分析

腾讯云大数据 2024-06-28

135

引言

作为云原生技术的爱好者，笔者活跃在各种开发者社群，这不，又让我发现了一个宝藏：腾讯云Elasticsearch Serverless服务，具备自动弹性、免运维的特性，丰富的产品能力，能分钟级实现容器服务的日志采集与可观测分析。当然，秉持着“不吃独食”的开源心态，为了让大家也能免费体验到这款开箱即用的产品，笔者连着请小编吃了一周的宵夜，最终领取到了免费体验卷➕资源包特惠1元购➕开发者课程(也有免费代金券，爱了！)等满满福利，具体领取方式可见文末相关链接。

云原生与容器

随着容器、Serverless、微服务等技术快速发展，云原生已逐步构建出繁荣的技术体系。如今云原生凭借降本增效、提高持续交付能力、易于开发等优势，正在不断激活应用构建范式，引起企业系统架构、生产方式、商业模式等发生变革，毋庸置疑，云原生已成为企业数字化转型的最短路径。

腾讯云容器服务（TKE）是基于原生 kubernetes 提供以容器为核心的、高度可扩展的高性能容器管理服务，本文将基于腾讯云ES Serverless服务，构建TKE容器服务日志分析体系，实现分钟级落地，帮助企业轻量化构建容器服务可观测分析的同时实现降本提效。

腾讯云ES Serverless介绍

笔者认真学习了腾讯云《ES Serverless 一站式日志分析从入门到精通》课程，简单而言，该产品的设计理念、产品能力与优势如下：

设计理念

让算力像自来水一样按需使用一直都是各大云厂商的目标，Serverless概念的设计思想提出，极大的影响了近几年云计算的发展。在云计算的发展初期，侧重的是能够快速平滑迁移上云，例如把IDC资源换成云服务器以及云硬盘等。而现在，客户的需求已经从上好云逐步到转变到用好云，即在释放运维与管理成本的同时，能够更加聚焦于业务，提高效率，实现降本增效。

为了帮助企业能够更好的聚焦于业务，ES Serverless服务在设计开发中始终坚持以下目标：

1） 索引即服务，无集群概念，可按需创建与使用索引。

2) 按需使用，按量付费，按照实际使用的计算与存储资源按量计费。

3) 不止索引，还是场景化的一站式解决方案，针对每个场景提供相应的开箱即用的能力，提升整体的的使用效率，当前已支持日志分析场景。

值得一提的是，在2023年3月29日召开的企业上云暨算云融合产业大会上，腾讯云ES Serverless服务被评为「信通院 “2022 可信算力服务 · 领航者计划” 优秀案例奖」。笔者认真学习了腾讯云《ES Serverless 一站式日志分析从入门到精通》课程，简单而言，该产品的设计理念、产品能力与优势如下：

图一

设计思路

从设计思路上，ES Serverless服务坚持以下几个点：

1、提升易用性，除了提供开箱即用的一站式场景解决方案外，还实现了集群免运维、索引免运维以及数据链路免运维。

2、降低成本，基于自研存算分离技术，实现自动伸缩，去除冗余成本，同时，完全按照使用量计费。

3、提升稳定性，集群、索引等由平台统一运维调优，避免因使用不当造成的故障。

4、完全兼容原生ES生态与API，实现无缝迁移。

为了帮助企业能够更好的聚焦于业务，ES Serverless服务在设计开发中始终坚持以下目标：

1) 索引即服务，无集群概念，可按需创建与使用索引。

2) 按需使用，按量付费，按照实际使用的计算与存储资源按量计费。

3) 不止索引，还是场景化的一站式解决方案，针对每个场景提供相应的开箱即用的能力，提升整体的的使用效率，当前已支持日志分析场景。

值得一提的是，在2023年3月29日召开的企业上云暨算云融合产业大会上，腾讯云ES Serverless服务被评为「信通院 “2022 可信算力服务 · 领航者计划” 优秀案例奖」。

产品能力

从产品架构上，面向日志场景，ES Serverless服务提供自动弹性、完全免运维的一站式日志分析解决方案，在使用时，用户仅需关注数据源以及检索分析等业务逻辑即可，中间的流量调度、链路调度以及资源调度全部由 ES Serverless服务完成，不需要再关注底层的数据链路、消息队列、集群运维以及索引配置等等，平台提供端到端的SLA保障。

除了支持原生的ES API写入方式之外，控制台已支持云服务器CVM、容器服务TKE、EMR、腾讯云数据仓库 TCHouse等云产品的一站式数据采集分析，同时也支持通过Logstash、Flink以及Kafka等将数据投递到ES Serverless服务的索引中。简单而言，只需3步，我们即可完成一站式日志分析场景的落地。

在索引管理方面，则提供了配置管理、指标监控、用户管理以及告警管理等能力，可方便我们快速完成数据应用。而在检索分析能力方面，除了支持原生的Kibana能力，ES Serverless服务也在控制台内嵌了Kibana的相关核心能力，无需外链访问，即可快速进行检索分析。

图二

产品优势

自动弹性：索引粒度的自动弹性伸缩，从容应对突发流量增长，在保证业务连续性的同时降低日志分析、可观测性等场景下业务波峰波谷导致的运维与管理成本高等问题。

完全免运维：内置分片自动调优、智能生命周期管理以及故障自愈等能力，用户可按需创建与使用索引，无需关心底层的资源配置、集群扩缩容和索引设置等问题，整个使用过程完全免运维。

灵活易用：提供端到端从数据接入、到数据管理、再到数据分析探索的一站式产品能力，极大降低业务上云门槛，可在分钟级实现业务落地。

极致成本：自研低成本、高性能、高可用的存算分离架构，根据实际访问与存储量计费，实现业务负载与资源动态匹配的按需付费，减少闲置资源导致的冗余成本支出，大幅降低成本。

开放集成：完全兼容Elastic Stack生态，保留用户原有使用习惯，实现无缝迁移，助力业务快速上云；同时，打通云上数据源（如云服务器CVM、容器服务TKE），降低数据接入门槛，实现分钟级业务落地。

稳定可靠：集群配置、读写性能由后台统一优化，减少由于使用不当带来的故障问题，提升稳定性，为业务保驾护航。

日志分析实践

日志采集

ES Serverless服务目前已在控制台提供了一站式的容器服务日志采集，只需简单的选择需采集的容器集群，设置相关采集参数，同时设置数据保存时长等，即可快速完成TKE日志接入。参考如下：

1）在ES Serverless控制台选择「容器服务TKE」：

图三

2）选择TKE集群，目前支持基于命名空间、Pod标签、容器名称或是主机路径进行日志筛选：

图四

3）如需对上报到的日志进行解析，可设置采集解析，当前已支持全文日志、JSON格式以及分隔符解析，如有更丰富的解析需求，也可自行编写Processors，实现自定义解析。此处我们选择「全文日志」：

图五

图六

4）设置索引名称以及数据存储时长，同时需设置时间字段，该字段指在实际数据中类型为date的字段，通过设置该字段，可有助于提升查询效率。

图七

通过以上简单几步，我们即可快速将容器日志采集到ES Serverless的索引中，点击「确认创建」，等待约5-10秒即可。

图八

报表建设

ES Serverless目前已在控制台集成了日志检索、开发工具以及监控告警等能力，可帮助我们快速实现检索分析。作为二流“资深”ES使用者，笔者习惯使用Kibana进行分析，方便通过外链进行分享交流。

监控告警

为了在错误日志出现时能及时发现与处理，我们可先在控制台配置监控告警，例如，通过统计五分钟内来自/var/log/error.log路径的日志条数，快速识别异常，当超出阈值时，告警到我们的邮箱与企业微信。

图九

可观测分析

首先登录Kibana，我们找到Kibana的公网访问地址，为确保公网访问安全性，在访问前，需将我们的IP地址设置到公网访问策略中。

图十

点击Dashboard，我们可快速创建图表：

图十一

点击「Create visualization」：

图十二

Kibana的Lens功能非常易用跟强大，仅需将光标移动到左侧的字段，并拖拽到中间，即可生成图表，同时下方还提供了其他图表建议，方便我们快速进行分析。如下图，我们将「@timestamp」以及「pod.name」两个字段拖拽到了中间，Lens快速生成了柱状图，通过该图，我们可快速了解每个时间段每个Pod上报的日志数量。