什么是纵向扩展？

在人工智能基础设施中，纵向扩展是指通过在同一台服务器、机架或纵向扩展域内连接更多GPU或其他加速器，从而在紧密耦合的系统内扩展计算性能。

纵向扩展架构旨在支持处理单元之间进行高带宽、低延迟的通信，这些处理单元之间需要频繁交换数据。

为什么纵向扩展很重要？

AI 训练工作负载需要处理器之间进行密集的通信和同步。 纵向扩展的互连能力有助于这些处理器高效协同工作，从而最大限度地提高加速器利用率并缩短训练时间。

然而，纵向扩展的容量最终受限于系统的物理限制及其互连技术。

关键考虑因素

• 超低延迟互连
• 高带宽互连
• 物理链路完整性
• 集群同步
• 加速器链路间性能一致性

了解更多

探索 测试解决方案，适用于数据中心内部的高速、高密度网络。