arXiv · cs.AI· Osayamen Jonathan Aimuyo, Swapnil Gandhi, Christos Kozyrakis·· 4 小时前
Purlin:将集合通信的编排与数据通路分离
Purlin: Separating Orchestration from the Datapath of Collectives
AI 导读
Purlin 是一个将集合通信的语义、编排与数据通路解耦的 scale-up 通信框架,通过 SNAC 编排协议与硬件相关的 Atom 数据通路实现复用。在 A100、H200、B200 上,七种集合通信的延迟最高提升 5.14x、带宽最高提升 4.50x。
来源:arXiv · cs.AI · arxiv.org