黄仁勋发全新GPU,专供大模型,微软谷歌Meta排队预定| GGView

发布时间：2023-05-31 11:28:32 所属栏目：产品来源：

导读：GGV有话说：

然而近期，知名演员黄仁勋在台北大学研究生毕业典礼上的精彩演讲在知名演员圈内频频被刷屏[是黄仁勋的主场—每年一次的台北 Computex大会——计算界大会上举行的国际性赛事。

他发

GGV有话说：

然而近期，知名演员黄仁勋在台北大学研究生毕业典礼上的精彩演讲在知名演员圈内频频被刷屏[是黄仁勋的主场—每年一次的台北 Computex大会——计算界大会上举行的国际性赛事。

他发布了全新的 GPU，瞄准下一代 AI 产品。外媒的评价是「强到荒谬」（ridiculous supercomputer）。

今天的GGView，就带大家一起了解这款专为大模型打造的全新GPU。

他展示了一段 demo，在一个 Cyberpunk 风格的酒馆里，玩家可以与 AI NPC 自由对话。

玩家说话时会有录音提示，NPC 可以很快地作出回应。据黄仁勋表示，只需要为 NPC 写好设定，不需要写脚本，就可以建立一个性格鲜明的 AI NPC。

ACE 是一个自定义 AI 模型的公程服务（foundry service）。NPC 通过自然语言交互，具有「智能化表现」，这能大大改善玩家的游戏体验。开发者可以使用 ACE for Games 来搭建、部署定制的语音、对话和动画 AI 模型，进行中间件、工具和游戏的开发。

ACE 整个套件包括三部分：

NeMo 工具，用于部署大模型并过滤不适当的对话；
Riva 语音转文字和文字转语音组件；
Omniverse Audio2Face，用于将语音转换为匹配的角色表情。

ACE 来源于英伟达和创业公司 Convai 的合作。

这是 Convai 公司的产品演示视频。

新超算主打一个大模型的「大」

黄仁勋带来了今天最重磅的发布会，新款超级 GPU DGX GH200。

这款超算针对 LLM推荐系统和数据分析工作复杂的模型开发，通过 NVLink 互连技术和 NVLink Switch System，让 256 个 GH200 超级芯片相连，作为一整个 GPU 运行。英伟达上一代系统通过 NVLink 只能连接 8 块芯片。

黄仁勋透露，目前 Google Cloud、Meta 和微软已经排队预定了 DGX GH200，用于生成AI 相关业务。英伟达还计划将新品设计作为蓝图提供给云服务和其他企业。

据英伟达官方透露，DGX GH200 将于今年年底上市。Grace Hopper 超级芯片已经全线投入生产。

同时，英伟达还在使用 DGX GH200 打造一台更大的超级计算机，NVIDIA Helios，将搭配 4 个 DGX GH200 系统，通过 NV 自家的 Quantum-2 InfiniBand 网络互连，就是说 1024 个 Grace Hopper 超级芯片，小学乘法。今年年底发售。

干销售还是那句老话：越买越赚

黄仁勋一如既往，现场干起了销售。他至少重复了 5 遍：「The more you buy, the more you save.」

对比 CPU。

1000 万美元的成本，960 个 CPU 的数据中心，11GWh 功率，能处理 1x LLM 的数据量。

用他们的 GPU 呢，还是 1000 万美金，48 个 GPU 的数据中心，3.2GWh 功耗，44x LLM 的处理效率。

如果你就要达到 11GWh 的功耗，那么花 3400 万美金，172 个 GPU 的服务器，可以处理 150x LLM。

黄氏销售的秘诀：小学乘法。

H100 也在台上。老黄摆出来一台 H100，说这是现在世界上最贵的计算机，20 万美元，第一个搭载 Transformer Engine 的计算机。

60 磅重（约 54 斤），他说他举得动，但考虑还要继续演讲，算了。

软硬一体服务到位

据黄仁勋透露，全球有 4 万家大公司和 15000 家初创公司使用 NV 的技术，仅去年一年，CUDA 软件的下载量就达到 2500 万次，有的选的都选了 NV。

Grace Hopper 利用 GenAI，可以将 2D 视频通话转换为 3D 视频，次时代视频通话体验。

英伟达与软银合作，在日本建立分布式数据中心网络。

专用于提高以太网 AI 云性能和效率的网络平台 NVIDIA Spectrum-X，相比传统以太网结构，AI 性能和电源效率提高 1.7 倍。

英伟达还与微软 Windows合作，在 PC 上开发适配 AI 的工具、框架和驱动程序，简化开发者开发和部署 AI 产品。当然是针对 RTX GPU 的 PC。

这是黄仁勋和英伟达的，不知道第多少次高光时刻，但它肯定不是最后一次。黄仁勋说，这是他人生中最重要的一次创业，也是他的最后一次创业。

（编辑：驾考网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!