自研只为自用,微软新出两款芯片要降低AI服务成本
当地时间11月15日,微软在西雅图举行的Ignite开发者大会上,推出两款定制芯片,以应对不断增加的大模型训练成本挑战,并试图降低提供AI服务的成本。
微软表示,新发布的芯片不会出售,仅供支持自己的产品,并作为微软云Azure云计算服务的一部分。亚马逊和谷歌等科技巨头也已经使用了自研芯片,并部分向客户提供。
微软最新推出的两款芯片分别为用于加速AI计算任务的Maia芯片,以及采用Arm CPU架构的Cobalt芯片。Maia芯片旨在运行大型语言模型。微软云和人工智能部门执行副总裁Scott Guthrie表示,希望通过优化这款AI芯片来提供更快、成本更低、质量更高的解决方案。
微软没有透露这些芯片相对于传统芯片具体有多少能力提升的技术细节。但微软Azure硬件系统和基础设施副总裁Rani Borkar表示,两款芯片均采用台积电5纳米制造技术制造。
此外,Maia芯片的构建方式与英伟达使用的网络连接技术也有所不同,Maia芯片与标准以太网电缆连接在一起。
不过微软推出自研AI芯片并不是希望取代英伟达等厂商。微软表示,明年将为Azure客户提供云服务,这些服务就是运行在英伟达和AMD的最新旗舰芯片上。微软正在AMD的最新旗舰芯片上测试OpenAI最先进的模型GPT-4。
研究公司Creative Strategies首席执行官本·巴贾林(Ben Bajarin)分析认为,通过推出AI芯片Maia,微软希望在云端销售人工智能服务,而更长远的目标是能够在PC电脑和手机上来处理这些人工智能服务。
微软推出的另一款芯片Cobalt则是用来回应亚马逊云AWS的竞争。微软表示,已经在测试使用Cobalt为Teams等消息应用提供支持。
AWS也将于本月下旬召开Reinvent开发者大会。AWS正在开发未来几代基于AWS设计的芯片。AWS方面除了使用基于英伟达H100 GPU芯片之外,还推出了基于AWS自研的机器学习推理芯片Amazon Inferentia 2以及AWS自研机器学习训练芯片Amazon Trainium。AWS方面还表示,OPPO、Airbnb等客户都在使用AWS的专用加速器来处理机器学习工作负载。
当地时间11月15日,微软在西雅图举行的Ignite开发者大会上,推出两款定制芯片,以应对不断增加的大模型训练成本挑战,并试图降低提供AI服务的成本。
微软表示,新发布的芯片不会出售,仅供支持自己的产品,并作为微软云Azure云计算服务的一部分。亚马逊和谷歌等科技巨头也已经使用了自研芯片,并部分向客户提供。
微软最新推出的两款芯片分别为用于加速AI计算任务的Maia芯片,以及采用Arm CPU架构的Cobalt芯片。Maia芯片旨在运行大型语言模型。微软云和人工智能部门执行副总裁Scott Guthrie表示,希望通过优化这款AI芯片来提供更快、成本更低、质量更高的解决方案。
微软没有透露这些芯片相对于传统芯片具体有多少能力提升的技术细节。但微软Azure硬件系统和基础设施副总裁Rani Borkar表示,两款芯片均采用台积电5纳米制造技术制造。
此外,Maia芯片的构建方式与英伟达使用的网络连接技术也有所不同,Maia芯片与标准以太网电缆连接在一起。
不过微软推出自研AI芯片并不是希望取代英伟达等厂商。微软表示,明年将为Azure客户提供云服务,这些服务就是运行在英伟达和AMD的最新旗舰芯片上。微软正在AMD的最新旗舰芯片上测试OpenAI最先进的模型GPT-4。
研究公司Creative Strategies首席执行官本·巴贾林(Ben Bajarin)分析认为,通过推出AI芯片Maia,微软希望在云端销售人工智能服务,而更长远的目标是能够在PC电脑和手机上来处理这些人工智能服务。
微软推出的另一款芯片Cobalt则是用来回应亚马逊云AWS的竞争。微软表示,已经在测试使用Cobalt为Teams等消息应用提供支持。
云服务厂商正在通过向客户提供更具成本优势的解决方案,占据更多市场。受人工智能需求的提振,微软云服务销售大增。
微软上个季度公布最新财报显示,在关键的云业务领域,微软云业务的销售额同比增长19%至243亿美元,成为该公司业务增长的最大驱动力,贡献了超过40%的收入。
目前在全球云服务市场,占据最大份额的是亚马逊云AWS,微软云Azure位居第二,谷歌排名第三。
AWS也将于本月下旬召开Reinvent开发者大会。AWS正在开发未来几代基于AWS设计的芯片。AWS方面除了使用基于英伟达H100 GPU芯片之外,还推出了基于AWS自研的机器学习推理芯片Amazon Inferentia 2以及AWS自研机器学习训练芯片Amazon Trainium。AWS方面还表示,OPPO、Airbnb等客户都在使用AWS的专用加速器来处理机器学习工作负载。
锁定面值退市的上市公司越来越多,“临时抱佛脚”自救还有效么?
“炒小”、“炒差”、“炒壳”等投机性行为往往是火中取栗。A股的退市公司还在增加。6月12日以来,包括*ST海投、*ST紫鑫在内的多家上市公司公告称,因连续20个交易日收盘价低于人民币1元,被交易所决定终止上市交易。截至发稿,2023年内已有18家A股上市公司触及“1元”红线,被锁定面值退市。0000腾讯第二季度营收增长8%,管理层回应游戏从部分安卓渠道下架
腾讯管理层认为,无论是出于监管原因还是商业原因,应用商店抽佣比例都将有变化或降低的趋势。8月14日,腾讯控股发布2024年第二季度财报。第二季度,腾讯收入1611.17亿元,同比增长8%,环比增长1%,经营利润(Non-IFRS)584.43亿元,同比增长27%,环比减少0.3%。上半年,腾讯收入3206.18亿元,同比增长7%,经营利润(Non-IFRS)1170.62亿元,同比增长29%。锤子财富2024-08-15 08:02:530000商务部新闻发言人就美商务部将部分中国实体列入出口管制“实体清单”答记者问
商务部新闻发言人表示,美方应立即纠正错误做法,停止对中国企业的无理打压。中方将采取一切必要措施,坚决维护中国企业的合法权益。有记者问:美东时间2023年10月6日,美国商务部以涉俄为由,宣布将部分中国实体列入出口管制“实体清单”,请问中方对此有何评论?0000证监会再释放强监管信号,严打IPO欺诈发行、从业人员违规炒股
全面加强金融监管全面加强金融监管、坚持监管"长牙带刺",证监会节前再释放强监管信号。2月9日,证监会通报称,近日对上海思尔芯技术股份有限公司(原名:上海国微思尔芯技术股份有限公司,下称思尔芯)申请科创板首发上市过程中欺诈发行违法行为作出行政处罚。该案系新《证券法》实施以来,发行人在提交申报材料后、未获注册前,证监会查办的首例欺诈发行案件。0000医院数据使用率仅3%!谷歌微软发力AI医疗
医院数据这个“金矿”尚未被好好地开发利用,未来的研究型医疗机构的核心竞争力之一,将是如何确保医疗数据的标准化、结构化和完整性。本周,谷歌和微软接连发布面向医疗保健机构的AI新工具,以实现医疗数据的标准化,并帮助医生缩短数据访问搜索流程。锤子财富2023-10-11 19:40:310000