登陆注册
22242

输出速度约是H100两倍!英伟达推出H200,明年二季度出货

锤子财富2023-11-14 09:20:050
H200是英伟达H100人工智能芯片的升级版,关键升级包括141GB的下一代HBM3内存,更多的内存有助于AI大模型实现推理功能。

芯片巨头英伟达在2023年全球超算大会(SC2023)上推出了一款最新的AI芯片H200,用于AI大模型的训练。

英伟达股价在新产品发布后上涨超过1%。今年以来,英伟达股价累计涨幅超过230%。

H200是英伟达H100人工智能芯片的升级版,与H100都是基于英伟达的Hopper架构。H200的关键升级包括141GB的下一代HBM3内存,更多的内存有助于AI大模型实现推理功能,可执行包括生成文本、图像或预测的任务。

Open AI的GPT-4大型语言模型是基于H100训练的。根据机构Raymond James的估计,H100芯片的价格在25000美元至40000美元。

英伟达称,H200将与H100兼容,这意味着已经使用先前模型进行训练的AI公司将无需更改其服务器系统或软件即可使用新版本。而基于Meta的Llama 2大模型的测试表明,H200的输出速度大约是H100的两倍。

H200预计将于2024年第二季度出货。AMD此前推出一款MI300X GPU,目标是与H100的下一代产品竞争。MI300X较其上一代产品拥有更多内存。

英伟达将基于其HGX系统提供四个H200 GPU或八个H200 GPU的完整服务器配置;此外,与H200同时发布的还有一款整合了H200 GPU与基于Arm的处理器适配的芯片GH200。

过去,英伟达通常两年更新一次芯片架构,最新的芯片架构是Hopper。不过上个月,英伟达对投资者表示,由于市场对其GPU需求旺盛,该公司将从每两年发布一次新架构转向每一年就发布一次新架构。 根据英伟达此前展示的一张幻灯片,可能将于2024年发布基于即将推出的全新Blackwell架构的B100芯片。

不过英伟达可能无法向中国市场推出高性能的H200芯片或是B100芯片。由于美国对高性能AI芯片的对华出口施加新的限制措施,包括英伟达的A800、H800和L40S这些功能最为强大的AI芯片都已禁止对华出口。

0000
评论列表
共(0)条