<转载> NVIDIA 与 AWS 正合作推动设计全球最快的 GPU 驱动 AI 超级计算机 ! 计划代号:Project Ceiba
科技巨擘连手推进生成式AI发展 开创人工智能新时代
在生成式人工智能(Generative AI)的浪潮中,云端运算龙头AWS和芯片巨擘NVIDIA携手合作,推出一系列革命性的基础设施、软件和服务。这项策略联盟展现了两家科技巨擘的决心,要为机器学习的先驱者们提供所需的运算效能,共同推动生成式AI技术的创新发展。
首款结合超级芯片与超级丛集的AI超级计算机
AWS与NVIDIA的合作首先推出了首款结合NVIDIA Grace Hopper Superchip超级芯片与AWS UltraCluster扩充技术的AI超级计算机。这款超级计算机的核心是NVIDIA GH200 NVL32多节点平台,运用NVLink与NVSwitch技术连结了32个Grace Hopper Superchip超级芯片,组成一个强大的实例。
这个平台将以Amazon EC2实例的形式上线营运,链接AWS强大的网络(EFA)、先进的虚拟化(Nitro System)和超大规模丛集(UltraClusters)。这样的配置让共同客户能够扩充至数千颗GH200超级芯片的规模,提供极佳的运算效能,为生成式AI应用的发展奠定了坚实的基础。
NVIDIA DGX Cloud首次在AWS提供AI训练即服务
除了超级计算机之外,NVIDIA与AWS还将在AWS上推出NVIDIA DGX Cloud这项AI训练即服务(AI-training-as-a-service)方案。这个方案将是首个配置GH200 NVL32的DGX Cloud,为开发者提供单一实例中最多的共享内存。
运用AWS云端上的DGX Cloud,开发者能够加速含有超过1兆参数的尖端生成式AI与大型语言模型的训练。这无疑将大幅加快生成式AI的研发进程,为创新应用的落地带来更多动能。
连手设计全球最快的GPU驱动AI超级计算机
亚马逊总裁暨执行长 Andy Jassy 表示:「我们与 NVIDIA 的深度合作可以追溯到 13 年前,当时我们在 AWS 上推出了世界上第一个 GPU 云端实例。今天,我们在云端的任何地方提供最广泛的 GPU 解决方案,支持世界上技术最先进的加速工作负载。这就是为什么新的NVIDIA Blackwell GPU 将在 AWS 上运作得如此出色,也是 NVIDIA 选择 AWS 共同开发 Project Ceiba 的原因,该项目将 NVIDIA 的下一代 Grace Blackwell 超级芯片与 AWS Nitro System 先进的虚拟化技术和超高速 Elastic Fabric Adapter 网络结合,用于 NVIDIA 自己的 AI 研发。 透过 AWS 和 NVIDIA 工程师的共同努力,我们将继续共同创新,使 AWS 成为任何人在云端中运行 NVIDIA GPU 的最佳场域。」
在最新公开的Project Ceiba项目中,NVIDIA与AWS正合作推动设计全球最快的GPU驱动AI超级计算机。
这部开创先河的超级计算机配置了20,736颗NVIDIA Blackwell GPU,能处理414 exaflops等级的AI指令周期。这样的超级运算能力将推动NVIDIA进行全新生成式AI的创新,为未来的发展奠定坚实的基础。
全新Amazon EC2实例加速生成式AI工作负载
为了进一步加速生成式AI工作负载,AWS将推出三款全新的Amazon EC2实例:P5e、G6和G6e。其中,P5e实例配置了NVIDIA H200 Tensor Core GPU,专门瞄准大规模与尖端的生成式AI和HPC高效能运算工作负载。
而G6和G6e实例则分别配置了NVIDIA L4和L40S GPU,适用于AI微调、推论、绘图、影片等广泛的应用。特别值得一提的是,G6e实例特别适合开发3D工作流程、数字分身,以及其他使用NVIDIA Omniverse的生成式AI 3D应用。
AWS云端上运行的NVIDIA软件助力生成式AI发展
除了硬件基础设施之外,NVIDIA还发表了在AWS云端上运行的软件,以加速生成式AI的研发。其中,NVIDIA NeMo Retriever微服务提供了多项新工具,能够创造高精准度的聊天机器人,以及运用加速语意检索技术的归纳工具。
此外,在Amazon SageMaker服务上运行的BioNeMo计划,将在AWS托管的NVIDIA DGX Cloud上执行,让制药企业能够运用自己的数据简化与加速模型训练,藉此加快新药开发的进程。
AWS也正运用NVIDIA NeMo框架训练新一代的Amazon Titan大型语言模型,而Amazon Robotics则已开始运用NVIDIA Omniverse Isaac打造数字分身,在虚拟化环境中推动自主仓库的自动化、优化和规划,再将结果部署到真实环境中。
透过这些软件与服务的支持,生成式AI的发展将获得更大的动能,为各个领域带来更多创新应用。AWS与NVIDIA的策略合作无疑将成为推动生成式AI创新的重要力量,引领我们迈向全新的人工智能时代。
NVIDIA 创办人暨执行长黄仁勋表示:「生成式 AI 正改革各种云端作业的负载,为多元内容创作导入加速的运算动能。本着为每位客户提供高成效且最先进的生成式 AI的共同目标, NVIDIA 与 AWS 携手开发
转载: Cool3c