NVIDIA Project DIGITS新GB10超级芯片首次亮相,成为世界上最小的能够运行200B参数模型的人工智能超级计算机
2025年1月6日
英伟达今天发布了英伟达(R)Project DIGITS是一台个人人工智能超级计算机,为全球人工智能研究人员、数据科学家和学生提供了访问NVIDIA Grace Blackwell平台的能力。
Project DIGITS将于5月份从NVIDIA和top partners上市,起价3000美元。
Project DIGITS采用了新的NVIDIA GB10 Grace Blackwell super chip,为原型开发、微调和运行大型人工智能模型提供了千万亿次的人工智能计算性能。
借助Project DIGITS,用户可以使用自己的桌面系统开发和运行模型推理,然后在加速云或数据中心基础设施上无缝部署模型。
“人工智能将成为各行业各种应用的主流。NVIDIA创始人兼首席执行官黄仁勋表示:“Grace Blackwell Superchip面向数百万开发者。“将人工智能超级计算机放在每个数据科学家、人工智能研究人员和学生的桌子上,使他们能够参与并塑造人工智能时代。”
GB10超级芯片提供了高能效的千兆次浮点运算人工智能性能
GB10 Superchip是一款基于NVIDIA Grace Blackwell架构的片上系统(SoC ),在FP4精度下提供高达1 petaflop的AI性能。
GB10具有一个NVIDIA Blackwell GPU采用最新一代CUDA内核和第五代张量核,通过连接NVLink(R)-C2C芯片到芯片互连到高性能NVIDIA Grace CPU,包括20个采用Arm架构构建的高能效内核。基于Arm的SoC设计的市场领导者联发科技参与了GB10的设计,为其提供了同类最佳的能效、性能和连接性。
GB10超级芯片使Project DIGITS仅使用一个标准电源插座即可提供强大的性能。每个项目的数字功能128GB的统一,连贯的内存和高达4TB的NVMe存储。借助超级计算机,开发人员可以运行多达2000亿个参数的大型语言模型,以推动人工智能创新。此外,使用NVIDIA ConnectX(R)联网,两个项目数字人工智能超级计算机可以连接运行多达4050亿参数模型。
格蕾丝·布莱克威尔人工智能超级计算触手可及
借助Grace Blackwell架构,企业和研究人员可以在运行基于Linux的英伟达DGX操作系统的本地Project DIGITS系统上构建原型、调整和测试模型,然后将它们无缝部署到英伟达DGX云加速云实例或数据中心基础设施。
这使得开发人员可以在项目数字上构建人工智能原型,然后在云或数据中心基础设施上扩展,使用相同的Grace Blackwell架构和英伟达人工智能企业软件平台。
Project DIGITS用户可以访问大量英伟达人工智能软件库进行实验和原型开发,包括英伟达NGC目录和英伟达开发者门户中提供的软件开发套件、编排工具、框架和模型。开发人员可以使用英伟达尼莫框架,通过以下方式加速数据科学NVIDIA RAPIDS库,并运行PyTorch、Python和Jupyter notebooks等常见框架。
为了构建代理人工智能应用程序,用户还可以利用英伟达蓝图和英伟达NIM微服务,可通过NVIDIA开发者计划进行研究、开发和测试。当人工智能应用程序准备从实验环境转向生产环境时,英伟达人工智能企业许可证可以提供英伟达人工智能软件的企业级安全、支持和产品发布。
Project DIGITS将于5月份从NVIDIA和top partners上市,起价3000美元。
--
FROM 111.42.148.*