nakroy

@astu 我们后面使用了一个叫 Pydio Cells 的开源 DMS ，https://github.com/pydio/cells ，支持使用 k8s helm 部署和管理，在线访问 office 使用的是开 OnlyOffice 的容器，然后 Pydio Cells 里面接入 OnlyOffice ，打开 office 文档的时候自动跳转到 OnlyOffice 的编辑界面。
这个开源 DMS 功能比较完善，UI 界面也比较现代化，是用 GO 语言写的，所以性能上比 nextcloud 强。但是因为是开源，所以开源不稳定偶尔出 bug 的情况也是不可避免的，这时候一般只能求助 Pydio Cells 的论坛了，版主回复还是挺积极的。

@mightybruce 好的兄弟，我去看看

@mightybruce 我现在有 4 台 910B 的机器做测试，不纠结分布式存储那直接用本地为每一个模型分片存储确实成本最低。因为训练场景不多，主要还是推理场景。但是华为的人推的方案就有提到搭配他们的存储产品，所以不知道和传统的分布式存储有啥区别

@mhycy 好的，了解了。那看来对于集群场景，使用专门的存储节点确实不是必须的

@mightybruce 所以实际模型权重一直保留在内存里，需要的时候直接加载到 GPU 上？这里的内存是指存储节点的内存，而不是计算节点的内存，例如 GPU 节点能直接读取存储节点内存上的模型参数加载到 GPU 上，而不是先加载到 GPU 节点的内存上，然后再从 GPU 节点的内存上再加载到 GPU 节点的 GPU 上？

@mightybruce IB 和 RDMA 技术有过了解，英伟达就有专门的配套用 IB 交换机的网络方案，但是一般的客户根本玩不起，而且我这里根本没说每次加载都从磁盘加载，而是考虑到 GPU 节点首次需要使用存储的模型权重或者数据集时可能的读写性能瓶颈，如果你一次全部把所有模型所有数据全加载到内存上一直用，也不用导出到磁盘作存储，那你无敌了

@sampeng 就是传统的分布式存储无法满足大模型场景的读写性能，应该有专门针对大模型场景 I/O 优化的硬件软件方案

@paopjian 因为很多情况下，机器可能需要加载多个模型而不只是一个模型，或者如果单个模型非常大，假设你要使用多个机器去加载，占用的存储空间还是很大的，每个节点都为每个模型备份一次，就显得比较繁琐。当然我这里还没讨论到千卡万卡规模的集群，我认为这种级别的集群也是使用分布式存储的，只是因为是商业方案不会公开这些架构细节

@paopjian 也就是直接把模型加载到存储节点的内存，然后让其他节点通过光纤直接读存储节点内存的数据？