最近在一些企业推广AIOPS，小企业受限于AI基础设施薄弱，只能在有限场景开展应用，虽然资源受限，不过大多数都还是能跑起来的。反而在一些大企业中遇到了瓶颈。
大企业的AI算力基础设施确实是大投入，GPU资源是不愁的，AI中台也建的像模像样的，按理说应该是比较适合AI应用实施的。不过真的到现场之后，发现很多东西不像你想象的一样。
比如说甲用户是个大企业，不过AI中台和IT运维部门不是一家管的，IT部门调用大模型必须经过中台的业务管理部门审批。这是企业自家的流程，没啥大问题。问题出在可能你的平台所需的大模型资源不见得能匹配。甲用户是一家大企业，自然会搞出自己的“大模型”，搞出大模型之后，那么企业领导就会认为，既然花了大价钱训练出了自己更加优秀的大模型，那么企业的所有AI应用首先就必须用自家的模型。
实际上企业的大领导不知道的是，自己家所谓的“自研大模型”也不过是在国内的DEEPSEEK/QWEN/百川等开源模型上，找外面的一些搞模型微调的团队，加入了一些本企业的语料数据，微调出来的一个模型而已。这个模型在企业专业知识的问答上可能比开源大模型要强一点，而数学能力、推理能力等方面还可能被微调傻了。我们就遇到过一个基于DEEPSEEK-R1:32B微调的企业大模型，推理能力比开源版本要差数个档次。数据库运维不需要增强什么企业专业业务知识，而是需要强大的数学推理。遇到这种情况，真的羡慕那些搞不起微调，只能用开源模型的中小企业。
实际上在一个AIOPS系统中，可能需要多种能力的模型，MCP需要工具调用能力强的模型、Skills需要编程能力强的模型、诊断只需要推理能力强的模型。MCP使用Qwen3:14b就又快又准，但是在一些用户那里不一定找得到这个模型。Skills需要编程能力强的，GLM-4.7是很好的选择，不过GLM-4.7的推理能力还不如Qwen3:32b。所以在一个企业要部署AIOPS的时候，需要根据不同的功能需求去组织一个模型组合，从而达到最佳的效果。不过在大多数用户那里，你无法利用模型组合搞出算力要求最小，效果最好的系统，只能看着模型去调整和删减AI能力。
如果遇到这样的企业，还是能够磕磕绊绊地把系统搞上去的，还有一些企业AI中台垄断了智能体，不向外提供大模型的调用接口，所有接口都封装在他们的智能体框架里，你必须按照他们智能体的规范去开发的AI应用内，才能享受大模型调用的便利。于是你的智能体必须根据用户的智能体框架去改写。而改写的时候你会很恶心的发现，他们的框架都是为知识问答、智能客服这些对话服务设计的，根本就没考虑过AI运维这种对他们而言十分特殊的业务。
大企业的AI中台搞成这样，可能是因为企业的高层领导了解AI必然是未来业务的方向，但是他们并不清楚未来的企业AI应用是什么样的。还以为AI应用就像他们尝试的豆包一样，所以轻易就被一些搞AI平台集成和大模型微调的企业忽悠了，把自己的AI应用构架在一些根本不太懂未来企业AI应用场景的企业提供的框架里了。这些平台很快就会无法支撑企业AI应用，推倒重来也是早晚的事情。
