Meta首次公布AI芯片细节 功耗低于英伟达
为了更好地支持人工智能项目,科技巨头竞相在企业内部研发AI芯片。Facebook母公司Meta在5月18日首次宣布了其AI自研芯片项目,并分享了数据中心项目的新细节。

Meta并不像谷歌、微软等科技巨头从事销售云计算服务的业务,过去公司从未公开谈论其内部数据中心芯片项目。但Meta高管称,全球科技界都对此表现出兴趣,所以有必要与外界沟通。
Meta当天股价上涨近2%。今年以来,该公司累计涨幅已经翻番。
在一篇博客文章中,Meta公司表示,它早在2020年就设计了第一代芯片,作为Meta训练和推理加速器(MTIA)计划的一部分,主要用于提升广告投放和其他内容推荐模型的效率。
据Meta介绍,首个MTIA芯片将专注于AI推理。Meta软件工程师Joel Coburn表示,Meta最初考虑将GPU用于推理任务,但后来发现GPU并不不太适合推理工作。
“GPU在真实模型应用方面的效率仍然很低,而且部署起来成本高昂。”Coburn表示,“这就是我们需要MTIA的原因。”
研究机构Gartner分析师盛陵海对第一财经记者表示:“英伟达的GPU也可以用于推理,但是效能不一定合适,因为推理需要的算力区别很大,很多时候会浪费算力,就好像重型卡车不适合做保姆车。还是要根据具体应用场景,匹配相应的算力。”
市场认为,AI芯片最终将支持更高级的元宇宙相关任务,例如虚拟现实和增强现实,以及新兴的生成式人工智能领域。
今年2月,Meta发布了新的大型语言模型LLaMA之后,扎克伯格宣布公司正在创建一个专注于生成式AI研发的顶级团队。
目前Meta使用由16000个英伟达A100 GPU组成的超级计算机来训练LLaMA语言模型。公司称,最大的LLaMA语言模型LLaMA 65B包含650亿个参数。相比之下,谷歌最新发布的大型语言模型PaLM 2包含了3400亿个参数。
Meta去年开启大规模裁员,并转而加大对AI技术基础设施的投资建设。不过,它没有就MTIA新型芯片的部署时间表发表评论。
Meta承认,MTIA芯片在处理高复杂度AI模型时仍然面临挑战,但在处理中低复杂度模型时,比竞争对手的芯片更有效。
“MTIA芯片的功耗仅为25瓦,远低于英伟达等厂商的芯片功耗,并使用RISC-V的开源芯片架构。”Meta在博客中表示,“性能的改进将证明投资是合理的。”
另据博客文章介绍,该芯片处理器采用台积电7纳米工艺制造。不过公司没有进一步透露相关的细节。
Meta还介绍了一种称作“可规模化视频处理器”(MSVP)的芯片,可用于处理视频并传输,同时降低能源需求。公司称,每天需要处理40亿个视频的任务。
晚间公告丨9月25日这些公告有看头
9月25日晚间,沪深两市多家上市公司发布公告,以下是第一财经对一些重要公告的汇总,供投资者参考。【品大事】6天4板丰华股份:与华为没有业务往来不是华为的供应商0000社保系统切换,个人账户大幅减少?深圳社保:展示规则不同
现在新系统还存在一些问题,登录时可能会出现卡顿、不稳定,甚至连页面都进不去的情况,目前在修复中,修复时间大概需要两个工作日。深圳社保因系统切换,个人账户余额大幅减少的话题引发关注。根据人力资源社会保障部、广东省人力资源社会保障厅关于企业职工基本养老保险全国统筹信息系统的工作部署,深圳市社会保险信息系统定于2023年4月24日0时至5月8日9时停机,切换上线广东省集中式系统。锤子财富2023-05-10 11:36:340001国家统计局:7月份国民经济持续稳定恢复 经济恢复向好基础仍待加固
总的来看,7月份,国民经济持续恢复,高质量发展扎实推进。但也要看到,世界政治经济形势错综复杂,国内需求仍显不足,经济恢复向好基础仍待加固。0000政治局会议提出“先立后破”;来华签证费阶段性减免丨明日主题前瞻
政治局会议提出“先立后破”,消费或将成为“先立”的关键环节;来华签证费阶段性减免,国际航线有望持续修复;重庆推进跨境电商高质量发展。①政治局会议提出“先立后破”,消费或将成为“先立”的关键环节中共中央政治局12月8日召开会议,分析研究2024年经济工作。会议指出,明年要坚持稳中求进、以进促稳、先立后破,强化宏观政策逆周期和跨周期调节,继续实施积极的财政政策和稳健的货币政策。0000中国驻日本使馆发言人就部分日媒炒作中国核电站正常运行排水答记者问
中国核电站严格遵守国际通行标准,采用最佳可行技术处理、经严格监测达标后有组织排放,排放量远低于规定的控制值。3月13日,中国驻日本使馆发言人就部分日媒炒作中国核电站正常运行排水答记者问。问:近期,日本媒体报道称,2022年中国核电站正常运行排水氚含量达到福岛第一核电站“处理水”的最大年计划排放量9倍,请问发言人对此有何评论?0000