为什么网络对于人工智能基础设施至关重要？

eefishing

随着人工智能越来越深入地融入我们的日常生活，配套的基础设施必须不断发展，以满足不断激增的需求。虽然图形处理器（GPU）和数据中心设计常常备受关注，但网络同样是人工智能基础设施的关键支柱。如果没有强大的网络，最强大的计算资源也无法有效地协同工作。

本文将解释为什么网络对于人工智能基础设施至关重要，以及它如何大规模地支持人工智能。

人工智能对网络的需求具有独特性
人工智能工作负载本质上数据量巨大且对时间敏感。像 OpenAI 的 GPT-4 这样的单个人工智能模型是在数万个相互连接的 GPU 上进行训练的，这些 GPU 在一个集群中协同工作。这些组件必须持续且以极快的速度交换数据。例如，训练过程通常要求芯片每秒进行数百次通信，在每次迭代中同步参数和梯度。

这种繁重的通信负载意味着低延迟、高带宽的网络至关重要。系统中的任何延迟或数据包丢失都可能导致训练效率低下和计算资源闲置。

模型训练需要超高速的连接
大型语言模型（LLM）、图像生成模型或自动驾驶系统的训练涉及在大规模计算集群中分配计算任务。诸如英伟达（NVIDIA）的 NVLink、InfiniBand 以及 400 Gbps 或更高速度的以太网等技术就是专门为满足这些需求而设计的。

例如，由于其低延迟和高吞吐量的特性，InfiniBand 在人工智能集群中常常是首选，其最新版本的速度可达 800 Gbps。英伟达广受欢迎的人工智能超级计算解决方案 DGX SuperPOD 使用 InfiniBand 以最小的通信延迟连接多达数千个 GPU。这种基础设施对于实现数据并行和模型并行等技术至关重要，在这些技术中，神经网络或数据集的各个部分分布在不同的节点上。

推理同样依赖于网络
虽然训练过程资源密集，但推理 —— 即运行已训练模型以生成结果的过程 —— 同样需要快速且可靠的网络。在聊天机器人、欺诈检测和医疗诊断等人工智能应用中，每毫秒都至关重要。实时推理要求边缘设备、云实例和数据存储之间进行低延迟通信。

海量数据传输与同步
现代人工智能模型是在数 PB（拍字节）的数据上进行训练的，这些数据通常涵盖图像、音频、视频和文本。这些数据必须在存储设备和处理节点之间来回传输，有时甚至要跨越不同的地区或大洲。如果没有强大的网络基础设施，数据摄取、预处理、训练和检查点操作都会陷入停滞。

为了应对这一挑战，云服务提供商构建了专用的高速光纤网络，有时甚至覆盖全球。例如，谷歌的专用网络在全球拥有超过 100 个接入点，确保数据能够安全、快速地传输。同样，微软的 Azure 全球网络覆盖超过 18 万英里的光纤，通过低延迟路径连接其数据中心。

可扩展性和冗余性：不容许停机
随着人工智能工作负载的扩展，网络故障的风险也在增加。冗余、负载均衡和智能路由对于维持正常运行时间和性能至关重要。这正是软件定义网络（SDN）发挥作用的地方，它允许运营商根据实时需求动态地重新路由流量并优化带宽。

展望未来
人工智能革命正将网络基础设施推向极限，各公司也在通过下一代技术来应对。未来的网络将越来越依赖光互连、定制交换结构和由人工智能驱动的流量管理工具，以满足不断增长的需求。网络是将人工智能系统粘合在一起的关键，实现了可扩展、弹性和实时的性能。随着模型变得越来越庞大和复杂，对网络层的投资与对芯片和算力的投资同样重要。对于任何计划大规模采用人工智能的组织来说，理解并优化网络层并非可有可无 —— 而是至关重要。

阅读全文