做AI应用的一些体会分享

白鳝的洞穴 2025-03-12

106

使用Deepseek去实现智能运维工作已经开展了一个多月了，中间也不断在接触新的LLM方面的技术，踩过不少坑，也有一些收获，今天给广大正在做这方面工作的朋友分享一下。

首先我们在准备用大模型做一些事情的时候要想清楚我们需要利用大模型做些什么事情？大模型能做的事情太多了，而且我们刚刚开始利用它做事情的时候，并没有想清楚我们的目标在哪里，亦或说我们定的目标太过于模糊，其执行路径是完全模糊的，于是我们开始启动项目，一路摸索着走下去，走到一半会发现我们的工作目标是不现实的或者说没有太多价值的。那样就会浪费大量的人力物力，包括时间。

其次是如果我们对AI相关的技术不了解，对整个平台中的各个组件不熟悉的情况下，建议还是先把一些基础组件搞清楚了，把一些基本概念搞清楚了，再去做相关的研发工作。AI应用开发与传统的应用开发不同，输出结果不是完全确定的，如果因为你对某项技术的基础原理都不太了解，那么你就像是在黑暗中走崎岖的山间小路，不仅容易崴脚，也更容易迷路。你至少需要在家里翻出一个手电筒再上路。磨刀不误砍柴工这句话十分重要，多花一段时间去学习相关的知识，最终会帮你节约很多时间。

第三是在开展工作之前理解你想做的事情十分重要，因为你需要根据你想要做的事情去分析采用哪种框架。AI领域新的技术和方法层出不穷，不同的框架都有大量的团队在使用，如果你去网上搜索，看到的大多数都是赞誉之词，到底哪个框架更适合你，你需要花点时间，根据自己的业务特点去选择。最好在启动之前把这些框架都自己测试一下，虽然这很费时间，不过和做到一半换框架，还是要节约不少时间。

第四是要学会合理的分配工作流，你做AI应用，并不是要让所有的工作都让AI去做，而是要以解决你所需要解决的问题为出发点去考虑整个应用架构。合理地划分功能，哪些用传统的方法实现，哪些用大模型来实现，这一点十分重要。有些工作负载原本使用传统的方法又快又好，为什么要换成大模型来做呢？为了AI而AI吗？最近我们在测试OpenManus，也想把MCP协议引入到我们的工作流中来，但是我们发现使用MCP去组织所有的工作流，成本太高了，而且效率也不是很高，而我们有些想用MCP去做的事情，其实都没那么复杂，通过传统的规则引擎是很容易做的，而且速度也是刚刚的，因此我们会重新审视MCP在我们的系统中的作用域。

AI的应用场景十分丰富，目前大量的TOC的应用场景已经在陆续落地，不过TOB领域的优秀应用还是集中在特定的场景中。在数据库运维领域，很多企业已经使用AI去做知识问答，做报告优化，做SQL优化等工作。大家都在积极尝试，我想一些好用的应用出现的时间也不会太长了，数据库运维领域的真正的AI元年也许就是今年了。

人工智能

文章转载自白鳝的洞穴，如果涉嫌侵权，请发送邮件至：contact@modb.pro进行举报，并提供相关证据，一经查实，墨天轮将立刻删除相关内容。

做AI应用的一些体会分享

评论