英伟达新版旗舰AI芯片售价炒到4万美金 “算力垄断”难被打破
GPT等大型语言模型带动的芯片需求飙升趋势依然没有平息的迹象。英伟达的最新版旗舰AI芯片H100近日在网上的售价已经被炒到4万多美金,反映了科技行业对训练和部署人工智能软件的需求仍未被满足。
受AI芯片需求的提振,英伟达今年以来股价累计涨幅超过83%,近一个月的涨幅就接近60%,成为美股科技巨头企业中表现最好的公司。
近日,第一财经记者搜索eBay时发现,代表着目前英伟达最尖端技术的AI旗舰芯片H100的售价在多个商铺超过了4万美金。截至上周五,eBay上至少有8个店铺挂牌销售了H100芯片。
业内人士向第一财经表示:“H100系列较上一代的A100系列芯片的售价确实要高出不少,但4万美金的价格是有明显的炒作成分了。”
A100的价格大约为1万美金,是目前AI应用的“主力芯片”;另据了解,此前一些零售商对H100的报价大约在3.6万元美金,近期的价格又有了显著上涨。一位内部人士称:“英伟达提供的H100用作人工智能训练的话,一般是8个GPU搭在一个NVLink板上一起卖。”
在算力需求激增的背景下,英伟达的GPU几乎成为了唯一的“硬通货”。马斯克近期也表示:“看起来身边所有的人都在买GPU。”马斯克自己也被曝向英伟达购买了数千个为人工智能提供算力支撑的GPU芯片,这一消息也推动英伟达股价上涨。
开发人员正在使用H100芯片构建更强大的大型语言模型(LLM)。训练AI模型,尤其是像GPT这样的大型模型,通常需要数百个高端的英伟达AI芯片协同工作。例如,为了打造ChatGPT,微软斥资数亿美元购买了数万颗英伟达A100芯片。
今年早些时候,英伟达还宣布推出新服务,允许一些企业以每月37000美元的价格租用搭载其人工智能芯片A100的超级计算机DGX。
英伟达表示,H100是第一款针对特定AI架构进行优化的芯片,该架构支撑着AI的众多最新进展(transformers)。 行业专家表示,要构建比目前可用的模型更大、数据需求量更大的模型,将需要更强大的芯片。
H100芯片于去年年初发布,在去年9月量产。与上一代A100芯片相比,H100包括了大量的技术更新和升级,所有设计均达到新的性能和效率水平。Hopper包含800亿个晶体管,它是使用定制的台积电N4(4纳米)工艺制造而成的。此前,A100的晶体管数量为540亿个。
目前,H100芯片未向中国市场供应,而是使用替代产品A800和H800,这也是目前大部分中国开发者在开发大型语言模型时使用的芯片。
上个月的英伟达GTC技术峰会上,黄仁勋接受第一财经记者采访时表示:“在中国,我们有特别定制的Ampere和Hopper芯片。但是,这些会通过中国云提供商,比如阿里巴巴、腾讯百度这些来提供落地的能力,我完全相信他们有能力去提供顶级的系统服务,对于中国初创公司一定会有机会来开发自己的大语言模型。”
为打破英伟达芯片的“算力垄断”,谷歌公司正在加速寻求新的自研方案。谷歌研究人员本月早些时候在一篇论文中公布了用于训练人工智能模型的超级计算机的技术细节,并宣称该系统比英伟达的超算系统更快且功耗更低。
谷歌还介绍了如何将4000多个自研的第四代TPU芯片连接成一台超级计算机,这些芯片通过协同来训练模型。谷歌还称,对于同等大小的系统,其TPU芯片比基于英伟达A100芯片的系统快1.7倍,能效高1.9倍。
谷歌没有将其TPU芯片与英伟达的H100进行比较,但暗示该公司正在开发下一代的TPU,将与H100竞争。
深圳分区优化住房限购政策;重症医学医疗服务建设将加强丨明日主题前瞻
深圳分区优化住房限购政策;我国将加强重症医学医疗服务能力建设;中央财政支持开展城市更新示范。①深圳分区优化住房限购政策,更多去库存支持政策有望出台深圳市住房和建设局发布《关于进一步优化房地产政策的通知》,从分区优化住房限购政策、调整企事业单位购买商品住房政策、提升二手房交易便利化等方面进一步优化房地产政策。0000商务部组织开展汽车促消费活动;多家大行存款利率新一轮下调丨明日主题前瞻
商务部组织开展汽车促消费活动;多家大行存款利率新一轮下调;谷歌测试医疗聊天机器人。①商务部组织开展汽车促消费活动行业景气度有望逐步抬升0000凯德地产李绍强:市场调整期是锻炼新能力的好机会
在中国房地产行业步入周期底部并寻找新发展模式的特殊时期,阵痛和洗牌成为无法回避的残酷现实。行业下行周期,对从业企业的运营能力形成莫大考验,在此期间,无论央国企、外资还是民营房企,均承受着市场调整带来的巨大压力,但由于经营风格和公司治理水平的差异,各家企业的体感温度又各有不同。锤子财富2024-01-02 13:13:190000航空配餐公司纷纷“落地“,如何抢地面的生意|姗言两语
最近几年,尤其是疫情期间,越来越多的航司餐食公司开始把服务从空中延伸到地面,拓展飞机餐以外的商业机会。暑运期间,乘坐吉祥航空上海和南京出港的国际和国内航班的乘客会发现,小时候经常吃的上好佳鲜虾片被搬上了飞机,成为空乘发放的空中小食之一。0000政治局会议后多地出台房贷新政,调整了什么?落地情况如何?
尚无存量房贷利率调整方案出来。自7月24日政治局会议对房地产有了新提法之后,市场对各部门相继提到的楼市政策调整预期升温,包括存量房贷利率调整、进一步降低购买首套住房首付比例和贷款利率、“认房不用认贷”等。0001