由Arm驱动的NVIDIAProjectDIGITS为数百万开发者带来高性能AI算力

 公司新闻     |      2025-01-15 08:07:46    |      小编

  当前,一个令人振奋的趋势是,人工智能 (AI) 应用和功能正在各种边缘侧设备上快速扩展和普及。随着 AI 的不断发展和进步,对于 AI 研究员、数据科学家、开发者和学生而言,获取高性能算力以开发或运行新的模型(如语言模型、视觉模型或多模态模型)变得至关重要。鉴于 AI 创新的步伐空前加快,行业需要确保开发者在云端及边缘侧均能获得高性能算力,从而直接获得更多的新功能。

  在今年的国际消费类电子产品展览会 (CES) 上,NVIDIA创始人兼首席执行官黄仁勋在主题演讲中发布了个人 AI 超级计算机 NVIDIA Project DIGITS,朝着 “随处可开发和部署 AI” 的愿景又迈近了重要一步。基于 Linux 系统的 Project DIGITS 搭载了 Arm CPU 核心,使每位 AI 开发者都能拥有一套高性能的 AI 桌面系统。

由Arm驱动的NVIDIAProjectDIGITS为数百万开发者带来高性能AI算力(图1)

  借助无处不在的 Arm 计算平台,新的 AI 模型和应用能更高效、更快速地在边缘侧运行。在消费级技术市场,不论是用于 Project DIGITS的先进 Arm CPU,或是集成在Arm 终端计算子系统 (CSS) 的一部分,Arm CPU 技术已成为市场中高性能边缘侧设备的核心驱动力。这些CPU技术经过精心优化,可在各种实际用例和工作负载中实现比较大的性能和效率。

  Arm 计算平台还兼具灵活性,可针对不同的 AI 应用场景使用不同的计算引擎。在 NVIDIA Project DIGITS 中,基于 Arm 架构的 NVIDIA Grace CPU 和 NVIDIA Blackwell GPU 互相协作,使开发者能够将这些组件用于各种工作负载。这种异构计算策略对于最大化 AI 性能,同时管理内存利用率和功耗至关重要。

  易倍体育官网登录入口 Emc易倍平台

  NVIDIA SoC 产品副总裁 Ashish Karandikar 表示:“我们与 Arm 在 GB10 超级芯片的合作上,巧妙地结合了 NVIDIA 的 AI 专业知识与 Arm 可扩展的计算平台,实现了出众的性能和能效,将推动下一代 AI 创新。随着 Project DIGITS的推出,每位 AI 开发者和研究员都将能拥有一台功能强大的超级计算机。”

  对于开发者而言,拥有一个完全集成的软硬件 AI 平台至关重要。ProjectDIGITS使用开源 Linux 操作系统,用户可以访问资源丰富的 NVIDIA AI 软件库,包括 NVIDIA NGC 目录和NVIDIA 开发者门户网站中提供的软件开发套件、编排工具、框架和 AI 模型,以加快生成式 AI 的工作流程。

  Arm 和 NVIDIA Grace Hopper 和 Grace Blackwell 在数据中心的合作,为数据中心和边缘侧设备环境提供一致的平台架构,使开发者能够无缝地使用同一套工具进行 AI 应用开发。此外,Arm 不断积极推动开源开发者社区的重要工作,旨在开发出适配的软件,加速AI 的全面部署。目前,全球已有超过2,000 万软件开发者在 Arm 计算平台上构建自己的应用程序,共同推动着一个快速创新、日益壮大的开源社区。

  易倍体育官网登录入口 Emc易倍平台

  Arm 作为当前和未来 AI 领域应用最广泛的计算平台,自然而然地成为了 Project DIGITS 中 GB10 超级芯片的理想平台。Project DIGITS是一个功能强大的个人计算机桌面平台,能够运行高达 200B 参数的 AI 大模型,让原本的不可能变为可能。这种对 AI 生态系统的广泛影响力,为全球数百万开发者带来了灵活、高性能且高能效的 AI 功能。通过与 NVIDIA 及 Arm 强大的软件生态系统紧密的合作,我们翘首以待下一代极具创新的 AI 应用的问世。

  特别提醒:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。