自研只为自用,微软新出两款芯片要降低AI服务成本
当地时间11月15日,微软在西雅图举行的Ignite开发者大会上,推出两款定制芯片,以应对不断增加的大模型训练成本挑战,并试图降低提供AI服务的成本。
微软表示,新发布的芯片不会出售,仅供支持自己的产品,并作为微软云Azure云计算服务的一部分。亚马逊和谷歌等科技巨头也已经使用了自研芯片,并部分向客户提供。

微软最新推出的两款芯片分别为用于加速AI计算任务的Maia芯片,以及采用Arm CPU架构的Cobalt芯片。Maia芯片旨在运行大型语言模型。微软云和人工智能部门执行副总裁Scott Guthrie表示,希望通过优化这款AI芯片来提供更快、成本更低、质量更高的解决方案。
微软没有透露这些芯片相对于传统芯片具体有多少能力提升的技术细节。但微软Azure硬件系统和基础设施副总裁Rani Borkar表示,两款芯片均采用台积电5纳米制造技术制造。
此外,Maia芯片的构建方式与英伟达使用的网络连接技术也有所不同,Maia芯片与标准以太网电缆连接在一起。
不过微软推出自研AI芯片并不是希望取代英伟达等厂商。微软表示,明年将为Azure客户提供云服务,这些服务就是运行在英伟达和AMD的最新旗舰芯片上。微软正在AMD的最新旗舰芯片上测试OpenAI最先进的模型GPT-4。
研究公司Creative Strategies首席执行官本·巴贾林(Ben Bajarin)分析认为,通过推出AI芯片Maia,微软希望在云端销售人工智能服务,而更长远的目标是能够在PC电脑和手机上来处理这些人工智能服务。
微软推出的另一款芯片Cobalt则是用来回应亚马逊云AWS的竞争。微软表示,已经在测试使用Cobalt为Teams等消息应用提供支持。
AWS也将于本月下旬召开Reinvent开发者大会。AWS正在开发未来几代基于AWS设计的芯片。AWS方面除了使用基于英伟达H100 GPU芯片之外,还推出了基于AWS自研的机器学习推理芯片Amazon Inferentia 2以及AWS自研机器学习训练芯片Amazon Trainium。AWS方面还表示,OPPO、Airbnb等客户都在使用AWS的专用加速器来处理机器学习工作负载。
当地时间11月15日,微软在西雅图举行的Ignite开发者大会上,推出两款定制芯片,以应对不断增加的大模型训练成本挑战,并试图降低提供AI服务的成本。
微软表示,新发布的芯片不会出售,仅供支持自己的产品,并作为微软云Azure云计算服务的一部分。亚马逊和谷歌等科技巨头也已经使用了自研芯片,并部分向客户提供。
微软最新推出的两款芯片分别为用于加速AI计算任务的Maia芯片,以及采用Arm CPU架构的Cobalt芯片。Maia芯片旨在运行大型语言模型。微软云和人工智能部门执行副总裁Scott Guthrie表示,希望通过优化这款AI芯片来提供更快、成本更低、质量更高的解决方案。
微软没有透露这些芯片相对于传统芯片具体有多少能力提升的技术细节。但微软Azure硬件系统和基础设施副总裁Rani Borkar表示,两款芯片均采用台积电5纳米制造技术制造。
此外,Maia芯片的构建方式与英伟达使用的网络连接技术也有所不同,Maia芯片与标准以太网电缆连接在一起。
不过微软推出自研AI芯片并不是希望取代英伟达等厂商。微软表示,明年将为Azure客户提供云服务,这些服务就是运行在英伟达和AMD的最新旗舰芯片上。微软正在AMD的最新旗舰芯片上测试OpenAI最先进的模型GPT-4。
研究公司Creative Strategies首席执行官本·巴贾林(Ben Bajarin)分析认为,通过推出AI芯片Maia,微软希望在云端销售人工智能服务,而更长远的目标是能够在PC电脑和手机上来处理这些人工智能服务。
微软推出的另一款芯片Cobalt则是用来回应亚马逊云AWS的竞争。微软表示,已经在测试使用Cobalt为Teams等消息应用提供支持。
云服务厂商正在通过向客户提供更具成本优势的解决方案,占据更多市场。受人工智能需求的提振,微软云服务销售大增。
微软上个季度公布最新财报显示,在关键的云业务领域,微软云业务的销售额同比增长19%至243亿美元,成为该公司业务增长的最大驱动力,贡献了超过40%的收入。
目前在全球云服务市场,占据最大份额的是亚马逊云AWS,微软云Azure位居第二,谷歌排名第三。
AWS也将于本月下旬召开Reinvent开发者大会。AWS正在开发未来几代基于AWS设计的芯片。AWS方面除了使用基于英伟达H100 GPU芯片之外,还推出了基于AWS自研的机器学习推理芯片Amazon Inferentia 2以及AWS自研机器学习训练芯片Amazon Trainium。AWS方面还表示,OPPO、Airbnb等客户都在使用AWS的专用加速器来处理机器学习工作负载。
微信号长期没有使用会被回收?官方回应;工商银行已开始重新协商存量房贷利率?客服回应丨大公司动态
第一财经每日精选最热门大公司动态,点击「听新闻」,一键收听。【科技圈】供应链人士称iPhone15模型机供应链已要求提前备货供应链人士透露,苹果iPhone15系列新机发表倒数之际,相关模型机原本应在8月才会提供给周边制造商,目前已提前在近期放出,并要求供应链提前备货。(新浪财经)小米印度总裁:将着力开拓线下市场,招聘更多店员以重振销售0000跨界收购算力资产价格谈不拢,高新发展股价一月腰斩
建筑公司跨界半导体、算力审计后的财务数据,可能与已披露数据存在差异,交易价格也谈不拢,高新发展(000628.SZ)跨界收购算力资产面临终止。高新发展早前披露,由于交易价格未能谈拢,双方正就是否终止交易进行协商。其股价在4月18日应声跌停,截至当天收盘时,封单仍接近17万手,接近9亿资金等待撤离。而最近一个月来,其股价已经接近腰斩。锤子财富2024-04-19 09:17:550000公募基金前三季累亏逾2045亿,医药板块获增持、通信遭弃
赚钱不易,公募由盈转亏。随着公募基金三季报落下帷幕,基金产品的经营情况和投资路径等重要信息也浮出水面。Wind数据显示,公募基金继第二季度亏损近2200亿元之后,第三季度再亏3471.32亿元。截至今年三季度末,公募基金的基金利润由盈转亏,累计亏损超过2045亿元。锤子财富2023-10-30 20:12:070000又见分红还贷后想上市补流偿债,这样的IPO“割韭菜”还是合理?|IPO观察
需要考虑企业的具体情况。继福华化学之后,又有一家与之情况相类似的IPO申报企业引起了市场关注。和特能源(福建)股份有限公司(下称“和特能源”)的上市申请于今年9月28日受理,11月1日进入问询环节。招股书显示,在前些年,和特能源由于业务发展阶段对资金的需求量较大,但自身融资渠道较少,向银行等金融机构获取贷款又较为困难,公司实际控制人只好以自己的名义寻求民间借贷,再临时拆借给公司。0000铁路投资进入密集投产期,四季度还将开通10条铁路
铁路项目审批也在加快,今年以来,已经有多个项目可研获批。今年的铁路建设进入密集投产期,28日开通两条高铁,预计未来3个月还有10条铁路线路开通运营。9月28日,沪宁沿江高铁和福厦高铁开通运营,也是继贵南高铁、广汕高铁之后,今年开通的第三和第四条高铁。根据国铁集团年初计划,今年全国铁路预计投产新线3000公里以上,其中高铁2500公里。0000