2025年7月22日,由中国信息通信研究院主办的第十二届可信云大会在北京召开。会上,国内首个《面向LLM应用的可观测性能力要求》标准正式发布。该标准由中国信通院联合业内29家头部单位共同制定,基调听云作为重要参编单位之一,全程参与了标准的设计、讨论与落地工作。

这一标准的发布,标志着国内在大模型可观测性领域迈出了从“实践分散”到“能力标准化”的关键一步。

 

 

 

 

构建生成式AI的可观测性基线
行业首个权威标准发布

 

 

随着生成式 AI 技术的加速应用,LLM(大语言模型)在智能对话、RAG 检索增强生成、Agent 智能体等场景中表现出巨大潜力。与此同时,围绕 LLM 应用部署的可观测性建设也面临前所未有的挑战:

 模型链路深、依赖复杂

 推理响应存在不确定性

 用户体验难以量化评估

 架构层次多样,监控颗粒度模糊

标准的发布,正是为了解决上述痛点,建立一套“可量化、可评估、可落地”的观测能力分级体系,指导企业在 AI 时代构建稳健的系统运行与质量保障能力。

 

 

 

 

 

基调听云参与标准制定
贡献平台经验与评估实践

 

 

 

作为长期深耕智能观测领域的技术提供方,基调听云凭借在链路追踪、性能评估、Token 分析、响应延迟追溯等方面的平台能力,积极参与本次标准制定全过程,并为多个关键指标体系的设计提供了实践支撑。

 

 

 

 

助力大模型可观测体系
走向标准化与工程落地

 

 

本次标准以数据为主线,提出了从数据采集、模型构建、存储治理到实际应用的四大模块化结构,并细化指标至基础设施层、中间件层、模型层、服务层和应用层。其目标不仅是“规范现有”,更是“引导未来”。

 

基调听云将持续与中国信通院等权威机构保持紧密合作,共同推动生成式AI应用的系统可视化、可解释化、可评估化,构建面向未来的大模型可观测基础能力。我们也将继续依托“观云智能可观测性平台”,打磨面向 AI 应用场景的链路观测、性能诊断与行为分析能力,助力企业更稳、更快、更可控地落地 AIGC 生产体系。

推荐阅读

  • 市场上有许多不同的管理系统可供选择,每个管理系统都有其独特的特点和优势。所以需要在众多的管理系统中找到满足自己需求的。

    2023-08-14

  • 问题也不容忽视,如网络故障、系统崩溃和数据泄露等,这些问题可能会让我们的数字生活变得一团糟。为了满足消费者的需求,基调听云公司研发了一款专门为普通消费者打造的it智能运维管理系统,旨在提供易用性、可靠性和用户友好性的IT解决方案。

    2023-10-27

  • API层监控,它主要是通过监控数据和微服务实例来进行一系列图标、面板分析和统计来进行实时监控的工具。本文将为您详细介绍API层监控的相关内容。

    2023-09-28

  • 压测也叫压力测试或性能测试,是软件开发周期中常见的环节。往往很多时候我们的压测方案都是有问题的,本文将具体阐述怎么做压测,以及如何正确的做压测。

    2022-03-08

  • 在当今数字化时代,应用性能监控已经成为企业成功的关键因素之一。随着越来越多的业务和服务转移到云端,确保应用程序的高可用性、高性能和高安全性变得尤为重要。

    2023-11-10