探索百次，不如实战一次

白鳝的洞穴 2025-05-16

133

今天上午去共享大厦和残友的兄弟们一起讨论AI产品落地的问题，从他们近期的一些工作情况看，实际上他们已经比很多搞AI的团队做得还要多了。首先是郑大哥给他们批了5-60万购买算力卡，完成了基础平台的搭建，RagFlow、Dify、Lanchain这些框架也都尝试过，行业特征的嵌入模型也都尝试过多个。通用大模型方面，从deepseek-r1到千问也试了很多。

按理说做了这些探索，应该对相关的应用落地方案比较有谱了才对。通过交流我发现大家越尝试心理越没底。这恐怕是很多做AI的团队遇到的普遍问题，刚开始的时候，粗浅尝试一下，发现大模型很强大，以前比较麻烦的问题在大模型的辅助下看似都能解决。找到一个测试场景测试下去就会发现好像总是差了一口气。随着测试越来越深入，会发现越来越多的问题涌现出来。换个框架，换个模型，解决了一些老问题，但是又出现了不少新问题。

实际上我刚开始的时候遇到的问题也是类似的，初期介入这个领域发现很有戏，实验做下去，发现哪都是坑。不断换方案，换框架，换模型，最后发现有些问题是永远也解决不了的。

犯这个毛病的最主要的问题是工作思路出了问题，总想依靠现有的框架，现有的模型去解决所有的问题，而不想通过“知识工程”这种繁琐的工作来解决所遇到的问题。今天我和残友的兄弟们交流的时候发现，目前他们主要在用的框架，无论是DIFY还是RagFlow，都是我们在用的。要想把AI的效果做出来，仅仅依靠开源的模型和框架是不够的，该下苦力的地方，还是必须花大代价去硬啃的。直接把大量的资料通过RagFlow输入知识库，哪怕你的各种嵌入参数调优得再好，效果也就那样了。但是如果你的数据预处理做到位了，那么RagFlow还是很能打的。换个框架，可能基础能力会更强一点，但是最终我们还是会觉得它不够用的。

这种情况下，与其不断尝试，不断失望，还不如就某个需求深入的做下去，遇到问题见招拆招，通过自己想出来的方法去优化调整，总是能找到解决方案的。一旦解决了这些问题，这些小技巧就是自己优于竞品的核心技术。

上午两个多小时的交流中，不仅残友的兄弟们坚定了方向和信心，连我的信心都增强了不少。在碰撞中，我也有有一些灵光突现，随后我也将在我们的工作中尝试一下。做相同事情的朋友们多交流碰撞一下，比自己一个人冥思苦想要好得多。等会儿又有两个同学过来聊聊AI方面的事情，我也十分期待，也许能碰撞出新的火花。

框架

文章转载自白鳝的洞穴，如果涉嫌侵权，请发送邮件至：contact@modb.pro进行举报，并提供相关证据，一经查实，墨天轮将立刻删除相关内容。

探索百次，不如实战一次

评论