本期听云大讲堂给大家分享的内容是观云平台数据采集方案,将主要围绕方案核心理念、业界现状及第三方指标采集的统一性原则三点进行展开。

 

 

 

观云数据治理的方案:核心理念

 

 

可观测性数据主要是由:指标(Metrics)、追踪(Trace)和日志(Logs)其他信号量组成的,数据治理的痛点在于,这些数据通常来自不同的源头,不同的协议和数据格式,最终被存入隔离的各个系统中。

 

这导致了严重的“数据孤岛”问题,使得运维和开发人员在故障排查和性能分析时,需要在多个看板间反复切换、进行人工的关联分析,这样的排查方式效率低下,且难以快速定位根因。

 

数据治理的核心目标,正是要打破这些数据孤岛,通过统一的平台、统一的规范对数据进行采集、加工和关联,让数据不再是离散的点,从而释放其真正的价值。

 

 

 

 

业界现状与观云方案的差异化

 

 

目前业界的通用做法是:先接入,后治理。也就是将各类数据接入后,通过丰富的仪表盘(Dashboard)进行可视化查看。观云采用的方案是 “采集即治理”。

从采集数据产生的源头开始,通过统一探针(UniAgents)在采集数据时直接将基础设施数据、APM的数据关联在一起,从而完成关键数据的关联。

这意味着,数据在上报之初就已经建立了内在的、准确的关联关系,而非在事后再进行匹配和处理,极大地提升了后续关联分析的效率和准确性。

 

为了实现数据集成,观云平台采集方案遵循两大核心原则:

· 协议统一(Unified Protocol)
以 OpenTelemetry (OTel) 作为数据采集和传输的绝对标准协议。OTel是CNCF旗下公认的可观测性事实标准。

· 语义统一(Unified Semantics)
描述相同业务属性的字段,在不同数据源中保持一致的名称和数据类型。这为了实现高质量关联分析的基础。

例如对于“主机IP”这一属性不同数据源有不同的名称,host.ip、host.address、instance_ip。

观云采集器会在数据采集阶段即进行标准化处理,将所有来源的该属性统一映射为 host.ip。在后续进行故障排查和分析的时候,系统都能毫无歧义地进行精准关联、检索、分析。

 

 

 

 

强大的数据生态接入能力

 

 

听云系统支持广泛的默认数据源:Zabbix、Prometheus、阿里云、华为云等其他云厂商,并且可以通调用 API 和配置 SQL 查询数据库的方式获取数据。
更多内容敬请关注【听云大讲堂】技术篇,下一期我们将为大家带来基于可观测性的应用安全态势管理平台的内容分享~

推荐阅读

  • 众所周知,随着物联网的兴起和5G技术的不断普及,互联网应用的需求将会进一步增加,对于网络性能的要求也会不断变高。因此,网络性能监控​便逐渐走进了我们的视野,成为了许多家庭及企业的重要考虑因素,而网络性能监控系统价格也成为了大众关心的对象。

    2023-11-28

  • api调用监控指的是对系统中的api接口进行实时监控和管理,以保障系统的稳定性、安全性和可靠性。如今,api调用监控已成为各种应用和系统之间进行数据交换和信息共享的重要方式,具有多种明显的优势,其重要性也日益凸显。

    2024-01-03

  • 近年来,信息技术的快速发展已经深刻改变了企业运营和管理方式。随着数字化转型的不断推进,IT基础设施的稳定性和可靠性变得至关重要。在这个背景下,IT监控运维软件成为保障业务连续性的关键工具。

    2023-11-03

  • 在当今信息技术快速发展的时代,软件产品的开发和配置管理是各行业中不可或缺的重要环节。为了提高工作效率、确保软件质量和降低风险,许多企业纷纷引入软件产品配置管理系统(简称SPCMS)。本文将探讨它的定义、功能以及其在实际应用中的重要性。

    2024-01-22

  • 随着科技的不断进步和应用的不断扩展,智能告警系统正逐渐成为各行各业的重要工具。这是一种基于计算机技术和人工智能算法的安全监控系统,能够实时检测和分析可能存在的安全风险,并及时发出警报。这种系统不仅可以大大提升工作效率,还能减小事故和损失的可能性,因此在许多行业中得到广泛应用。

    2024-01-04