Deepseek异构集群基于LAXCUS分布式操纵系统可否跑通？

LAXCUS分布式操作系统 2025-02-17

102

异构卡+集群模式，Deepseek怎样才能跑起来，可能大家对于这个问题有些不理解，Deepseek就是蒸馏模型，就是用来做私有化部署的，为什么要进行异构+集群部署呢，带着诸多疑问，我突击采访了正在敲代码的vock，躺床上敲代码的宇哥，熬了一宿敲代码的磊子和铭哥.

前言：2025年春节，ds横空出世。中美两国都在进行宏达的经济体制转型，美国在进行自我革命，没错，大家看的没错，美国现在就是在进行zhengfu层面的革命。我们也在进行经济转型，土地财政向股权财政过渡，科技和消费是今年的重头戏，代表科技的deepseek和代表消费的哪吒，相当层面上代表了某些方面的信心和决心，我们针对deepseek，更是关心laxcus的开发者，做了一个对deepseek延伸思考。采访如下。

我：来来来，看看上面的问题。

vock：（瞟了我一眼）集群的话，可以用并行处理的方法提高这个计算效率，这是最根本的。集群N台，达到N的平方的计算效率。

我：异构问题呢？

vock：异构其实也是一样，它主要是那个CPU跟GPU之间的这个协同，CPU呢，主要负责一个中心调度的工作，大脑的工作。GPU，说主要负责具体干活，大概是这么一个情况。如果完完全全靠CPU，它的计算能力是不足的，所以要那个GPU来加持。

我：宇哥，deepseek目前不能实现一个异构协同。不同的GPU或者GPU和CPU混合，无法实现协同运作？

宇哥：...........................(肯定的眼神看着我)

vock：再说ds的问题啊，就按照老刘之前说的那个，现在ds是不能实现这个异构的。就是说，我要么是一堆如英伟达的显卡来跑，要么什么CPU来跑。但是我这某台机子有CPU，或者某台机子没有GPU。但是我还是想通过这种并行的方式，或者提高计算效率方式，让他们一起工作。这个目前ds 做不到，而我们可以把这个事情给它实现了，就是后续要通过分我们这个分布式命令来完成这个工作，不管他有没有GPU或者有没有NPU，我们都可以让他协同起来。

我：现在ds全国都在接入，都是进行私有化部署，未来集群部署，甚至是异构+集群部署的模式会爆发吗？

铭哥：ds不等同于毁掉算力，所谓的算力平权其实是让AI走进寻常百姓家，更多的大规模的算力训练需求和海量的推理需求还未启动，现在只是引爆了，未来还有很远很长的路要走，所以以ds为代表的私有化部署仅仅是个爆点，后面大量的需求启动，高效利用现有资源和购买异构资源会是一个很巨大的市场，已有的资源不能浪费，未来的服务器也是多元化的，所以异构加集群一定会爆发的。

集群提高算力增效异构提升灵活盘活资源

我：目前我们LAXCUS实现ds异构加集群的方式具体是什么？之前积累的6.0的几百条分布式命令移植到7.0多少就能实现？还要多久？（这是开发者要我问的，不是我问的？）

vock：目前将6.0差不多400条分布式命令代码移植过来的话，主要是兴姐（大姐大）在做，大概移植20%--30%的量，主要是集群方向的，就可以让开发者通过分布式命令实现调度。是从技术理论、经验和成本上讲，我们LAXCUS 是可以做到的。

我：兴姐，LAXCUS6.0几百条分布式命令30%的移植工作量，有没有压力？（已经瑟瑟发抖中~~~~）

大姐大：嗯~~~你这个图配的不错~~~~

我：好好好~~ 磊子，你要出门买啥，等等我~~

磊子：

==========================================

最后几行，纯属杜撰。

商务合作股权洽谈，联系上面微信哦

文章转载自LAXCUS分布式操作系统，如果涉嫌侵权，请发送邮件至：contact@modb.pro进行举报，并提供相关证据，一经查实，墨天轮将立刻删除相关内容。

Deepseek异构集群基于LAXCUS分布式操纵系统可否跑通？

评论