英伟达新版旗舰AI芯片售价炒到4万美金 “算力垄断”难被打破
GPT等大型语言模型带动的芯片需求飙升趋势依然没有平息的迹象。英伟达的最新版旗舰AI芯片H100近日在网上的售价已经被炒到4万多美金,反映了科技行业对训练和部署人工智能软件的需求仍未被满足。
受AI芯片需求的提振,英伟达今年以来股价累计涨幅超过83%,近一个月的涨幅就接近60%,成为美股科技巨头企业中表现最好的公司。
近日,第一财经记者搜索eBay时发现,代表着目前英伟达最尖端技术的AI旗舰芯片H100的售价在多个商铺超过了4万美金。截至上周五,eBay上至少有8个店铺挂牌销售了H100芯片。
业内人士向第一财经表示:“H100系列较上一代的A100系列芯片的售价确实要高出不少,但4万美金的价格是有明显的炒作成分了。”
A100的价格大约为1万美金,是目前AI应用的“主力芯片”;另据了解,此前一些零售商对H100的报价大约在3.6万元美金,近期的价格又有了显著上涨。一位内部人士称:“英伟达提供的H100用作人工智能训练的话,一般是8个GPU搭在一个NVLink板上一起卖。”
在算力需求激增的背景下,英伟达的GPU几乎成为了唯一的“硬通货”。马斯克近期也表示:“看起来身边所有的人都在买GPU。”马斯克自己也被曝向英伟达购买了数千个为人工智能提供算力支撑的GPU芯片,这一消息也推动英伟达股价上涨。
开发人员正在使用H100芯片构建更强大的大型语言模型(LLM)。训练AI模型,尤其是像GPT这样的大型模型,通常需要数百个高端的英伟达AI芯片协同工作。例如,为了打造ChatGPT,微软斥资数亿美元购买了数万颗英伟达A100芯片。
今年早些时候,英伟达还宣布推出新服务,允许一些企业以每月37000美元的价格租用搭载其人工智能芯片A100的超级计算机DGX。
英伟达表示,H100是第一款针对特定AI架构进行优化的芯片,该架构支撑着AI的众多最新进展(transformers)。 行业专家表示,要构建比目前可用的模型更大、数据需求量更大的模型,将需要更强大的芯片。
H100芯片于去年年初发布,在去年9月量产。与上一代A100芯片相比,H100包括了大量的技术更新和升级,所有设计均达到新的性能和效率水平。Hopper包含800亿个晶体管,它是使用定制的台积电N4(4纳米)工艺制造而成的。此前,A100的晶体管数量为540亿个。
目前,H100芯片未向中国市场供应,而是使用替代产品A800和H800,这也是目前大部分中国开发者在开发大型语言模型时使用的芯片。
上个月的英伟达GTC技术峰会上,黄仁勋接受第一财经记者采访时表示:“在中国,我们有特别定制的Ampere和Hopper芯片。但是,这些会通过中国云提供商,比如阿里巴巴、腾讯百度这些来提供落地的能力,我完全相信他们有能力去提供顶级的系统服务,对于中国初创公司一定会有机会来开发自己的大语言模型。”
为打破英伟达芯片的“算力垄断”,谷歌公司正在加速寻求新的自研方案。谷歌研究人员本月早些时候在一篇论文中公布了用于训练人工智能模型的超级计算机的技术细节,并宣称该系统比英伟达的超算系统更快且功耗更低。
谷歌还介绍了如何将4000多个自研的第四代TPU芯片连接成一台超级计算机,这些芯片通过协同来训练模型。谷歌还称,对于同等大小的系统,其TPU芯片比基于英伟达A100芯片的系统快1.7倍,能效高1.9倍。
谷歌没有将其TPU芯片与英伟达的H100进行比较,但暗示该公司正在开发下一代的TPU,将与H100竞争。
美联储如期按兵不动,金价刷历史新高,黄金概念股早盘表现活跃
机构称,短期内,金价或将小幅回调,维持高位震荡。3月21日,黄金概念股表现活跃,截至发稿,金贵银业涨超5%,盛达资源,山东黄金、老凤祥等跟涨。现货黄金持续拉升,涨超2200美元/盎司,再创历史新高。据美联储公布的最新利率决议显示,3月仍继续将联邦基金利率目标区间维持在5.25%-5.50%之间。这是自去年9月以来美联储连续第五次维持利率不变。锤子财富2024-03-21 23:52:560000涉嫌信披违规:人福医药实控人艾路明被立案,涉及两家上市公司
今年3月,上证所公开认定艾路明3年内不适合担任上市公司董事、监事和高级管理人员。8月7日晚间,人福医药(600079.SH)发布公告称,公司收到实控人艾路明通知,艾路明于2023年8月7日收到中国证监会《立案告知书》,因涉嫌信息披露违法违规,根据《中华人民共和国证券法》《中华人民共和国行政处罚法》等法律法规,中国证监会决定对其立案。0000第33届夏季奥运会上海市总结大会举行,陈吉宁龚正会见上海参赛人员代表
向大家致以热烈祝贺和诚挚慰问,向全市体育战线的同志们表示衷心感谢。第33届夏季奥运会上海市总结大会今天在上海展览中心举行。会前,市委书记陈吉宁,市委副书记、市长龚正会见了第33届夏季奥运会中国体育代表团上海参赛运动员、教练员、裁判员、保障人员代表,代表市委、市人大常委会、市政府、市政协,向大家致以热烈祝贺和诚挚慰问,向全市体育战线的同志们表示衷心感谢。市委副书记朱忠明参加会见。0000印度能否成为全球显示面板业的新一极? | 如数家珍
印度显示面板产业能否崛起,是否能打造出成本优势将是主要考量因素,未来还有待观察。中国台湾面板企业群创转让技术,日韩配套企业提供支持,印度首条第8.6代液晶(LCD)面板生产线将于今年年底动工,并在2026年量产。印度能否成为全球显示面板业的新一极?锤子财富2023-04-18 18:42:470000银保监会:优先加大对粮食和重要农产品生产的金融投入
优先加大对粮食和重要农产品生产的金融投入,重点支持三大主粮、大豆油料和“菜篮子”产品生产,积极服务新一轮千亿斤粮食产能提升行动,助力构建多元化食物供给体系。加强多方联动,探索金融支持高标准农田建设领域的有效模式。0000