英伟达H100涨到4.5万美元?已经有企业开始用它抵押融资
自去年年底ChatGPT问世以来,近半年多来,全球掀起了大模型热潮。对人工智能的巨大需求也暴露了全球用于开发和部署人工智能模型的芯片供应链的局限性。
作为可帮助运行人工智能训练和部署人工智能算法的关键硬件,GPU正在面临巨大的缺口。目前全球95%以上的大模型都使用英伟达的GPU芯片。
OpenAI首席执行官奥尔特曼(Sam Altman)近日公开表示:“我们的GPU非常短缺,使用ChatGPT的人越少越好,这样才能确保用户有足够的算力。”
第一财经记者从业内了解到,目前GPU价格仍在上涨,作为人工智能基础设施的“硬通货”,海外已经有创业企业开始利用GPU进行抵押融资。这种新兴的融资途径凸显了此类硬件在资本密集型人工智能“军备竞赛”中的价值。
GPT5需要5万张H100?
第一财经记者从多名从事大模型开发的业内人士方面了解到,目前人工智能芯片依然持续短缺。一些业内人士向记者表示,不仅是小企业,就连人工智能行业的头部领先平台也面临芯片紧缺的处境。他们预计,人工智能芯片短缺的现状至少在一年之内不会出现显著的改善。
此外,记者查询eBay网站发现,H100的售价已经高达4.5万美元,这较今年4月份4万美元的价格涨幅超过10%,而且货源较上半年也显著减少。
英伟达内部人士告诉第一财经记者,电商渠道的价格不受英伟达管控,“属私人在网上转售”。
“人工智能芯片全世界都缺,这与大模型在短时间内突然爆发有关。这种短缺预计短期内不会缓解。”一位从事医疗大模型开发的专业人士对记者表示。
另一位大模型开发者告诉记者:“目前个人感受是,GPU的紧张程度比2、3月份似乎要好一点,但是整体紧缺的态势没有发生根本变化。”
微软最近公布的财报凸显了人工智能芯片可能长期短缺的迹象。在微软的财报中,首次将GPU的可及性确定为投资风险因素。“我们将继续寻求扩大数据中心服务器算力的机会,这取决于土地、能源、网络供应以及GPU和其他组件的可及性。”微软财报写道。
达观数据董事长CEO陈运文对第一财经记者表示:“人工智能芯片可以用很缺来形容,虽然现在一些企业号称推出了英伟达人工智能芯片的替代品,但是产品的成熟度还有差距,而且生态也不够完善。”
近日有消息称,下一代GPT大模型GPT5需要5万张英伟达最高配置的H100芯片,全球市场对H100芯片的需求量达到43万张,英伟达的产能可能难以满足如此大的算力需求。
“这一数据有夸张之嫌,因为都是来源于猜测预估,而没有经过实际市场上的求证。”陈运文对记者说。
另一位人工智能领域资深专家也对记者表示:“这一数据略有夸张,有点博眼球的意思。”
研究机构Gartner芯片分析师盛陵海对记者表示:“目前GPU的缺口多大不好预估,需求是被炒起来的,越是缺,市场就越是要。”
企业发出“巨大的吸吮声”
受人工智能大模型需求推动,英伟达今年以来股价累计涨幅已超200%,目前市值冲破1.1万亿美元。根据投资者服务公司穆迪今年5月份发布的一份研究报告,英伟达在未来几个季度将实现“无与伦比”的收入增长,其数据中心业务的收入将超过竞争对手英特尔和AMD的总和。
“这些GPU的生产已达到产能极限,但需求的激增远远超出渠道的供货来源。”穆迪芯片行业高级副总裁拉杰·乔希(Raj Joshi)表示,“企业发出’巨大的吸吮声’,我认为行业还没有准备好应对这种需求的激增。”
一位英伟达方面人士对第一财经记者表示:“GPU缺货已经不是一两天了,我们一直在努力想方设法来满足市场的需求。”
在今年5月的财报电话会议上,英伟达表示,下半年GPU的供应量将会“大幅增加”,以满足人工智能芯片不断增长的需求。
英伟达最新一季财报将于8月23日公布。英伟达创始人CEO黄仁勋将出席8月8日在洛杉矶举行的行业大会Siggraph,并发表主题演讲。
由于GPU芯片的短缺,一些拥有英伟达GPU芯片独特渠道的人工智能初创公司已经开拓了新的融资途径。云服务提供商CoreWeave上周宣布,在一轮由Magnetar Capital和黑石集团(Blackstone)牵的债务融资中,以英伟达H100芯片为抵押筹集了23亿美元资金,这些资金将用于扩张人工智能的能力以及数据中心的建设。
这种不同寻常的债务融资方式凸显了此类硬件在资本密集型人工智能“军备竞赛”中的价值。CoreWeave目前的估值已经超过20亿美元。
英伟达真的“不可替代”吗?
为应对行业对于人工智能大模型的巨大需求,AMD公司已经宣布,预计将在年底前推出英伟达GPU的替代解决方案——MI300 AI芯片。AMD首席执行官苏姿丰(Lisa Su)在公司财报电话会议上表示:“客户对我们的人工智能解决方案表现出了浓厚的兴趣,我们已经取得了重大进展。”
但由于业内对于AMD的芯片是否能够真正替代英伟达的产品仍持怀疑态度,AMD财报公布后股价暴跌约6%。
“AMD的人工智能芯片值得期待,但是到底有多少客户会用现在还是未知数,而从行业角度来看,多一种选择总是好的。”一位芯片领域资深人士对记者说。
在全球范围内,其他新兴的人工智能芯片初创公司近期也宣布了不少融资消息。由芯片行业资深人士凯勒(Jim Keller)领导的加拿大初创公司Tenstorrent正在开发对标英伟达的人工智能芯片,该公司上周表示,从现代汽车集团和三星投资基金等公司方面筹集了1亿美元资金,估值达10亿美元。
凯勒曾为苹果、特斯拉和英特尔公司开发芯片,今年早些时候接任Tenstorrent公司首席执行官。Tenstorrent还寻求将其生产研发的人工智能芯片的知识产权和其他技术出售给客户。
人工智能初创公司d-Matrix创始人兼CEO谢思(Sid Sheth)认为,芯片的短缺可能还会迫使企业寻求其他创造性的方法来解决问题,比如开发能够提高芯片生产效率的新技术。
联想集团:上半财年收入同比下降20%
第二财政季度销售按季录得12%的增长,超出过去十年的平均增长率9%。11月16日,联想集团在港交所发布2023/24年财政年度中期业绩。联想集团第二财政季度销售按季录得12%的增长,超出过去十年的平均增长率9%,所有业务集团均展现良好的复苏趋势。上半财年收入同比下降20%,权益持有人应占溢利因而同比减少60%至4.26亿美元。锤子财富2023-11-16 13:28:210000上海市委常委会会议:把进博会办出成效、越办越好,努力当好新时代改革开放的开路先锋
以更加强烈的责任感使命感把进博会办出成效、越办越好,努力当好新时代改革开放的开路先锋。上海市委常委会今天(11月6日)下午举行会议,传达学习贯彻习近平总书记向第六届中国国际进口博览会致信精神、李强总理在第六届进博会暨虹桥国际经济论坛开幕式上的主旨演讲精神和中央金融工作会议精神。市委书记陈吉宁主持会议并讲话。0000商务部答一财:中国加入《数字经济伙伴关系协定》工作组第一次技术磋商已举行
“下一步,中方将继续就数字产品、数据治理、数字包容性等议题与成员方在工作组机制下继续开展磋商。”束珏婷说。近日,国务院办公厅印发了《关于推动外贸稳规模优结构的意见》(以下简称《意见》),提出推进贸易数字化。为参与贸易数字化国际规则的构建,去年8月,中国加入《数字经济伙伴关系协定》(DEPA)工作组正式成立,全面推进中国加入DEPA的谈判。锤子财富2023-04-27 18:11:170000国务院任免国家工作人员:免去郭树清的中国人民银行副行长职务
任命王志军为国务院副秘书长(分管国务院办公厅日常工作,正部长级),王永红为国务院副秘书长。免去郭树清的中国人民银行副行长职务。7月4日,国务院任免国家工作人员。任命王志军为国务院副秘书长(分管国务院办公厅日常工作,正部长级),王永红为国务院副秘书长;任命王宫成为国家烟草专卖局副局长;任命丁学东为全国社会保障基金理事会副理事长。0001