数智化时代,企业各业务领域的用数需求成为刚需,数据要素逐步成为企业经营管理的必备条件,从服务少数分析师团队向服务于各类业务人员转变。敏捷化、普惠化、智能化成为企业数据分析体系建设的重点方向。与此同时,大模型、Agent 架构和云原生算力的成熟,使得将自然语言提出的数据分析需求转化为可即时执行的数据问题成为可能。需求与技术的交汇催生出智能数据分析工具和系统,推动从静态数据到决策智能的范式跃迁。为推动智能数据分析技术的研发和落地,中国信通院围绕chatBI、数据分析智能体等前沿技术开展了系列标准制定、技术和产业研究以及产品测试工作,现已完成《数据分析智能体性能测试规范》并推进相关评测。
数据分析智能体(Data Agent)是专精于企业数据工作的智能体系统。数据分析智能体以“可对话的自主数据分析师”为技术定位,支持用户以自然语言提问获取数据,并提供数据解读、波动归因等洞察能力,帮助用户提炼高价值的业务洞察并生成可行动建议。通过将用户用自然语言提出的数据分析需求转化为可执行的数据问题,数据分析智能体能够在零散、庞杂、多来源的数据基础上,自主规划并执行包含数据整合、清洗、建模、推理、挖掘与验证在内的完整深度分析闭环过程,最终生成具备研究深度的分析成果;并将分析结果以最合适的形式(例如结构化的分析报告)有效地呈现给用户。
在数据分析智能体技术落地应用的过程中,计算分析的准确率、分析报告可读性、归因逻辑可解释性、业务建议可执行性、系统的稳定性等性能因素对用户的信任度和系统可用性的影响至关重要。为解决性能基准缺失引发的信任问题,中国信通院牵头联合30余家企业的50余位专家完成了《数据分析智能体性能测试规范》标准的编制工作。本项工作旨在建立科学合理的评价体系,全方位评价数据分析智能体的生产级可用性。短期内通过设定基准,牵引技术研发方向,同时为企业提供选型“标尺”,降低部署风险;长期来看,通过筑牢技术的信任底座,推动数据分析智能体从“单点工具”升级为“自主协作者”,激活企业智能决策市场。
<标准评测维度总览>
标准工作的参与企业有:火山引擎、国家管网智网数科、中国铁塔、中金公司、中国电信研究院、联通软研院、中国移动数智化部、中电云、腾讯、中金财富、浙江大华、中电信人工智能公司、联通数智、应急管理部大数据中心、宇信科技、辽宁联通产互公司、掌动智能、酷克数据、辽港集团、星环科技、亚信科技、中移杭研、中移互联网、中移苏研、荣耀终端、HashData、景联文科技、健交科技、数新智能、数智引航、璇枢链、中国数联等。
同时,为切实推动标准的落地。中国信通院同步开展了测试数据集和题目的收集工作,并配套有自动化评测工具以确保结果的客观和可重复。(工具研发由火山引擎提供技术支持)。
1. 底层数据集介绍
底层数据集来自开源数据重构,覆盖金融、交通、汽车、零售、房产、财务、云服务等多个领域。
2. 题目设计介绍
· 题目类别涵盖归因分析、趋势分析、数据查询、自由探索等真实业务的核心场景。
· 题目设计时考虑对业务术语和概念识别、异常输入处理、知识召回、指令遵从等能力的考察。
· 为了检验智能体在不同难度等级的数据任务下的业务能力和响应性能,按复杂度将题目拆解为简单、中等和困难三个等级。

<样例题目展示>

3. 测试工具介绍
为确保评测结果的客观性和可重复性,中国信通院联合火山引擎推进自动化评测方案的制定和落地。其中,评测工具的研发由火山引擎提供技术支持。
· 标准接口:提供标准化接口适配不同技术框架的智能体,导入多行业评测题集与结构化数据,为后续自动化评测奠定基础。
· 自动化评分引擎:参测智能体满足一定的输出内容结构和格式要求,即可基于自动化评分引擎,对智能体的输出进行多维度量化打分。
· 规则+AI评估+人工复核多重保障:针对复杂场景,引入AI评估对自由探索类任务进行智能评判。除易读性等需要专家评分的指标以外,对自动评分的结果提供人工复核保障,重点审查异常案例,纠正偏差。
· 多种评测模式:提供手动执行和自动执行两种适配流程,匹配不同的测试需求。
测试工具截图
基于该测试基准,中国信通院现正式启动数据分析智能体性能专项测试。通过测试,企业可以获得:
· 权威检验:获得权威第三方的检验证书和检验报告,作为产品能力证明的依据。
· 能力画像:在统一的基准下,为企业提供远超内部测试的全景式画像。企业能清晰看到产品在综合能力和各分项指标的真实表现。
· 指导优化:通过分项评分,精准识别自身的长处与短板;同时对标与先进产品和理想目标的量化差距,能帮助参测企业确认产品未来的优化方向。
· 塑造标准:作为早期参与者,深入理解甚至反馈测试标准。测试的维度对应于用户的实际需求痛点,通过参与标准和测试工作,参测企业也能更好地理解客户需求。
· 路线验证:在产品版本更迭后进行复测,通过分数对比可量化验证技术升级的有效性。
联系人:
刘渊
13051596298(同微信)
liuyuan3@caict.ac.cn

扫码报名本次大会

高质量数据集——应急、文旅、金融等领域应用场景
首批 | 火山引擎顺利完成中国信通院营销智能体能力专项评测!引领行业创新
中国通信标准化协会大数据技术标准推进委员会(CCSA TC601,简称:数标委/BDC),旨在凝聚产业链各个环节,识别和解决大数据发展面临的重大问题,开展大数据技术、数据资产管理、数据共享与流通、数据安全等共性基础标准研究,以标准推进工作为纽带,推动大数据与实体经济深度融合。欢迎加入我们的行列!
入会咨询:白老师 13520285502
baizhimeng@caict.ac.cn





