大模型推高算力能耗,液冷是节能的好办法吗?
步入AIGC时代,算力需求愈发呈指数级增长,AIGC的大模型训练、实时交互等均需要海量算力的支撑。第一财经记者在第二届外滩大会期间了解到,向AI的新型数据中心基础设施建设对大算力的需求激增,但节能降耗问题依旧面临诸多挑战。
数据中心节能仍面“多重挑战”
以人工智能为代表的生成式大模型的繁荣将为智算中心的建设带来更快发展。而高算力往往也伴随着高能耗,据统计,2022年全国数据中心总耗电量约2700亿千瓦时,占全社会用电量的3.1%,超过两座三峡水电站年发电量。
浪潮信息服务器产品线总经理赵帅对记者表示,如今数据中心节能降碳面临“多重挑战”:从能耗构成看,数据中心总能耗包括IT设备能耗和制冷、配电等系统的能耗,其中,制冷系统用电量已与IT设备相当,占总用电量高达43%。因此,优化制冷系统成为数据中心提高能源效率的重要环节。
随着芯片功耗与服务器功耗持续上升,全球数据中心单机柜功率也快速增长,赵帅预计到2025年平均功率将达到25kW。高功耗芯片,高密度服务器及单机柜密度的演进,导致传统风冷制冷模式在换热性能及能耗优化方面逐步受限。
其次,算力供给的核心是IT设备,但就其容量而言,IT设备的利用率通常十分低。例如,服务器的利用率往往只有5%到15%,处理器为10%到20%,存储设备为20%到40%,网络设备的利用率为60%到80%。然而,当设备闲置时,其仍会消耗在最大利用率下消耗的大部分功率,一台标准服务器即使不工作也要消耗30%到40%的最大功率。如何最大程度减少IT设备空闲,让闲置的算力跑起来至关重要。
同时,赵帅强调,在提供每单位算力的同时减少能源消耗,提升能源转换效率也是实现数据中心绿色低碳发展的关键。
业界呼吁行业标准早日统一
建设绿色节能的算力中心,能够有效推动数字经济发展和节能减排协调统一。而服务器作为算力中心的三大基础设施之一,是构建算力中心的核心要素,整体功耗能占到总能耗的40%-50%。因此,服务器技术水平将直接影响到算力中心的绿色低碳程度。
不过记者从多位行业人士处了解到,目前,业界对于国家及地区宏观能效调控以及规模化算力中心的能效标准均有定义,但对于整机及部件尤其是使用环节的碳排放评测缺乏统一标准。因此,亟需推行绿色算力评测,引导服务器厂商采用绿色相关设计。据了解,当前服务器液冷行业尽管技术已经相对成熟,但是各家公司都有不同的解决方案。上游器件从IT设备开始,到冷却分配单元(CDU),再到液体冷却系统,每个环节都有各自的标准。
“以冷板为例,现在做冷板没有一个固定的标准,下游需求方只要求你能给我解决散热问题就行了,具体什么规格他们不管。还有快接头,每一家需求的快接头都是不一样的,这导致了一方面企业产品生产无法达到一个规模的条件,对于能耗的标准化测定也就难以达成,另一方面企业的生产成本自然就没有办法下降。”赵帅告诉记者。
据业内人士透露,当前,按照行业普遍的实践来看,使用数据中心使用液冷的方案要比使用风冷的方案多花费10%-20%的成本,企业需要花上约一年半到两年的时间才能收回投资成本。同时,标准的不一致意味着下游厂商在选择了某一个公司的解决方案后,就会与该公司深度绑定,多个解决方案之间不具备替换的互操作性,这对许多用户来说也是一个很大的挑战。
当前中国信息通信研究院已经开始联合行业头部企业,构建并发布“绿色算力评测体系”。“绿色算力评测体系”定义单位碳排放下算力指标,系将数字计算的低碳方案直接定位到服务器单元,并从数据中心基础单元出发,关注产品在使用周期内的算力碳排比,旨在达到服务器性能要求的前提下,满足低碳、绿色、PUE等要求,实现最小颗粒度的碳排放量化可视指标,将有效推动绿色节能服务器设计发展。当前,行业标准已经呼之欲出,不过国家标准尚不知何时出台。
国家统计局:PPI降幅有望进一步收窄
付凌晖在发布会上指出,PPI降幅收窄对改善企业生产经营,有望发挥积极作用。8月15日,国家统计局新闻发言人付凌晖在发布会上指出,从下阶段情况看,尽管外部输入性因素存在一定的不确定性,但是随着国内经济稳步恢复、产业结构调整持续优化、工业领域供求关系有望逐步改善,加之上年基数逐步走低,PPI降幅有望进一步收窄。PPI降幅收窄对改善企业生产经营,有望发挥积极作用。0000茅台深入一线启示:到市场中解问题,于历史里见答案
继茅台集团党委书记、董事长张德芹先后赴浙闽苏港等地调研市场、召开经销商座谈会,为经销商和团队注入信心之后,茅台集团党委副书记、总经理王莉近期又走进上海、浙江、江苏、北京等多个市场开展调研工作。锤子财富2024-07-08 19:13:580000中央经济工作会议鼓励健康消费 中外头部乳企正加速入场
乳企将新增长的可能性放在功能化、健康化转型方面。随着中央经济工作会议近日在北京举行,会议上提出大力发展健康消费等新增长点。第一财经记者了解到,今年以来,随着传统乳制品消费增长逐渐碰到增长天花板,以及国内消费者对健康的日益关注,乳制品健康化和功能化也成为头部乳企竞逐的新方向。记者注意到,在年末举行的多场行业论坛上,与会乳企和行业人士讨论最多的话题大多与产品多元化、健康化创新等有关。锤子财富2023-12-13 10:23:550001外交部:将产能等经贸问题泛政治化 不利于世界经济稳定发展
中方认为各方都应坚持公平竞争、开放合作的市场经济基本准则,根据世贸组织规则,妥善处理经贸合作中的矛盾分歧,共同维护全球产供链的稳定。4月9日,外交部发言人毛宁主持例行记者会。有记者问,据报道,美国财政部长耶伦在此次访华期间,称美政府将推动中方改变对美就业构成威胁的产业政策。发言人对此有何评论。0000ST华铁:实控人承诺尽短时间归还上市公司欠款
宣瑞国承诺,将通过各种方式全力积极筹措资金清偿欠款,协助公司引入资源,同时也仍将不遗余力地支持公司发展和管理层工作,保证公司规范运营,经营管理有序。5月8日,ST华铁晚间公告,公司收到实控人宣瑞国发来的函件,其承诺:本人、拉萨泰通及关联方将运用所有能力和资源,尽短时间归还上市公司欠款。0000