跳到正文
arXiv · cs.AI· Osayamen Jonathan Aimuyo, Swapnil Gandhi, Christos Kozyrakis·· 4 小时前

Purlin:将集合通信的编排与数据通路分离

Purlin: Separating Orchestration from the Datapath of Collectives

AI 导读

Purlin 是一个将集合通信的语义、编排与数据通路解耦的 scale-up 通信框架,通过 SNAC 编排协议与硬件相关的 Atom 数据通路实现复用。在 A100、H200、B200 上,七种集合通信的延迟最高提升 5.14x、带宽最高提升 4.50x。

来源:arXiv · cs.AI · arxiv.org