对标英伟达,英特尔在中国推出定制版AI加速芯片
英特尔正在深入人工智能腹地,中国则是其AI芯片的“主战场”之一。
7月11日,英特尔宣布正式面向中国市场推出第二代深度学习加速器——Habana Gaudi2,该产品可用于加速AI训练及推理,合作方名单上包括了浪潮信息、新华三、超聚变等中国的主要服务器厂商。
“在过去六个月,AI加速芯片因为大模型的关系忽然又再火了一把,接下来我们会有更多的资源投入,利用本土团队让这些中国定制版的产品能够加速落地。”英特尔公司执行副总裁、数据中心与人工智能事业部总经理Sandra Rivera对第一财经表示,未来会在合法合规的情况下推出更多针对中国市场的定制产品。
Habana Gaudi 2作为英特尔AI战略的关键产品之一,有望打破目前芯片市场的固有格局。
Habana Labs成立于2016年,主要研发方向为人工智能、深度学习计算等,创业初期就得到了英特尔的投资,而后在2019年12月以20亿美元被其正式收购。
根据英特尔官方信息,Habana的第二代加速器Gaudi2主要解决了大规模语言模型、生成式AI模型的强算力需求问题。从参数看,该芯片采用台积电7nm工艺制造,集成24个可编程的Tenor张量核心(TPC)、48MB SRAM缓存、21个10万兆内部互连以太网接口(ROCEv2 RDMA)、96GB HBM2E高带宽内存(总带宽2.4TB/s)、多媒体引擎等,支持PCIe 4.0 x16,最高功耗800W。
在性能上,根据机器学习与人工智能开放产业联盟MLCommons在六月底公布的AI性能基准测试MLPerf Training 3.0结果显示,Gaudi2是除了英伟达产品外,唯一能把MLPerf GPT 3.0模型跑起来的芯片。
在发布会上,英特尔更是毫不避讳将产品与英伟达的同类产品进行比较,官方展出的PPT显示,Gaudi2运行ResNet-50的每瓦性能约是英伟达A100的2倍,运行1760亿参数BLOOMZ模型的每瓦性能约达A100的1.6倍。
“英特尔正在降低人工智能的准入门槛,并强化客户在云端通过网络和智能边缘部署这一关键业务技术的能力,从而帮助构建中国人工智能的未来。”Sandra Rivera表示,虽然是定制版本,但是在性能上没有打折,网速和国际版相比从24个网口变成21个网口,但整个性能还是基本一致的。
“在4月份的时候,看到了各种人工智能带来的芯片需求,包括Gaudi在内,需求至少翻了两倍以上。”Sandra透露,英特尔在2025年将会把Gaudi的AI芯片跟GPU路线图合二为一,推出一个更整合的GPU产品,以构造可持续的软件生态。
伴随着大模型的火热,目前全球各大芯片公司都在积极进行AI芯片的布局。除了英伟达、英特尔等海外芯片厂商外,初创公司如Wave Computing、Groq、寒武纪、比特大陆等也加入了竞争的行列,陆续推出了针对AI的芯片和硬件系统。
在此前举行的世界人工智能大会(WAIC)上,包括昆仑芯、登临、瀚博、天数智芯、燧原、墨芯、沐曦在内的芯片厂商也展示了各自AI芯片的能力。据不完全统计,目前与大模型“沾边”的AI芯片厂商已经超过三十家。
在业内人士看来,以GPU、FPGA、ASIC为代表的AI芯片是目前可规模商用AI芯片的主要阵地,这类芯片主要基于传统芯片架构,对某类特定算法或者场景进行AI计算加速。此外,还有偏向于前沿技术的类脑芯片、可重构通用AI芯片等,但距离大规模商用还有较长距离。
壹快评丨防范地方债风险,重在构建长效机制
避免一边化债一边新增。10月30日至31日召开的中央金融工作会议,对地方债问题作出了新的部署。会议强调,建立防范化解地方债务风险长效机制,建立同高质量发展相适应的政府债务管理机制,优化中央和地方政府债务结构。与过去提法相比,这次对地方债问题的解决思路上升到了长效机制建设,这是根治之策。地方债问题异常复杂,如果没有一套长效机制,可能会出现一边化解债务风险,一边又新增债务风险的问题。0001影响近百亿美元出口!印度计划在WTO挑战欧盟碳关税
这两项法律和条例将影响印度对欧盟近100亿美元的出口。针对欧盟今年10月1日要启动过渡期的欧盟碳边界调整机制(CBAM),印度近期反击动作重重。CBAM即为俗称的“欧盟碳关税”。据外媒报道,印度政府和行业高层消息人士透露,印度计划就欧盟碳关税向世贸组织(WTO)提出申诉。锤子财富2023-05-22 18:18:240000大型国有能源集团原副总经理被查,子公司刚出安全事故
子公司矿难余震未止,母公司原副总经理又因涉嫌严重违纪违法被查据中央纪委国家监委网站4月3日消息,冀中能源集团有限责任公司(下称“冀中能源集团”)原副总经理董传彤涉嫌严重违纪违法,目前正接受河北省纪委监委纪律审查和监察调查。0000《罗刹海市》一曲封神,刀郎重出江湖被评既下沉又高雅
《罗刹海市》在全球网络播放量到达80亿次,成了2023年下半年最火的“神曲”。沉寂已久的刀郎,携新专辑《山歌廖哉》归来,以一首《罗刹海市》席卷社交网络。“以为刀郎已隐退,没想到十年磨一刀,手起刀落,一曲封神。”在QQ音乐,有一位网友这样评论。锤子财富2023-08-01 12:30:390000