sdd11

[UU 加速器] 13 周年庆！年度底价，快上车领 6.6 折券！ https://g.126.fm/02ASWIm

@lonely701 obsidian 自己不也可以编辑么

问题是设备商不一定能买 ac+吧

@Kaleidopink 确实是的

@inorobot 是用 VLLM 么？是 Tensor 并行还是 Pipeline 并行？

@piero66 你这个 P2P 的测速的 GPU 编号是不是和 topo 的编号不一致，测速的 0 1 2 3 号 GPU 到自己的带宽是 780G ，4 5 号 GPU 到自己的带宽是 530G ，530G 的这两个才是 2080ti 吧。这样就能解释 P2P 带宽了，就是只有 NVLINK 直连的才是 800G ，只要走 PCIE 就很慢。

2080ti 和 v100 之间并没有 nvlink 直连吧，是经过了 plx 的，为啥也能跑满 nvlink 得带宽呢

更新太频繁了，而且最近的更新把之前的 notes 功能去掉了，官方说是因为没什么人用，这就体现了小厂做的东西不可靠，不如在 Chrome 里面安装插件来实现他所宣传的那些小 feature 。

@matepi 实体 sff 有哪些