新闻资讯

九玩游戏中心官网最终成为制约AI发展的瓶颈-九游会体育-九游会欧洲杯-九玩游戏中心官网

发布日期:2024-11-28 02:46    点击次数:93

九玩游戏中心官网最终成为制约AI发展的瓶颈-九游会体育-九游会欧洲杯-九玩游戏中心官网

防走失九玩游戏中心官网,电梯直达安全岛报东说念主刘亚东A

源泉:常识分子

作家:戚译引 冯灏

无论是否支执东说念主工智能(AI)的发展,咱们皆难以残暴一个紧要的问题,那即是AI的能耗。有东说念主追究AI发展过快,对动力商场和环境、场面形成冲击;而有东说念主追究动力产业跳动太慢,最终成为制约AI发展的瓶颈。

凭证推敲,跟着AI的发展和普及,AI在能耗中的占比还将逐年晋升。AI研发企业也在动力供应方面进行了大笔投资,以期得志将来需求。10月14日,谷歌公司书记将购买核能初创公司Kairos Power建造的微型模块化反应堆分娩的电力[1]。此前在9月20日,微软公司书记与星座动力公司(Constellation Energy)达成条约,将重启三里岛核电站1号反应堆,并购买其将来20年内产出的电能[2]。OpenAI首席实行官山姆·奥特曼(Sam Altman)更是早早动手,在本年事首就大举投资核聚变。

但与此同期,新的趋势正在涌现。多位业界东说念主士告诉《常识分子》,不错通过多种表情裁汰AI的能耗,让动力讹诈愈加高效,包括软硬件工夫的晋升,以及宏不雅层面的建造布局优化。更紧要的是,AI跳动的标的不一定是更大、更强,一些小而好意思的模子正在悄然登场。

01

AI能耗评估难题

对于AI的耗电量,一篇广为流传的报说念称,ChatGPT 逐日耗电量或超 50 万千瓦时,特等于1.7万个好意思国度庭的能耗[3]。还有研究估算,在最厄运的场景下,将来谷歌AI的能耗将与像爱尔兰这么的国度特等[4]。然则另一方面,也有不雅点合计媒体和民众继承性关注估算论断较为夸张的研究,并将对AI能耗的担忧视为社会对新工夫惯有的反应[5]。

尽管面前对于AI能耗的连系大多基于估算数据,但咱们仍然不错就此进行一些定性连系。例如在算法层面,多位业界东说念主士暗示,就单次计较耗电量来说,AI在磨练阶段比推理阶段能耗更高。也即是说,大模子磨练过程中的超高能耗不会成为AI应用中的常态。

清华大学电子工程系主任、清华大学信息科学工夫学院副院长汪玉团队测试了不同算力芯片的单卡推理功耗,他告诉《常识分子》:“推理阶段的功耗基本在300W-500W,国产卡在150W-300W;比较之下,磨练阶段的功耗在400W-700W。将来推理功耗还有比较大的下跌空间,同等算力有望降到100W以下。”以开源大说话模子LLama3-405B为例,该模子有4050多亿参数,“使用近16000块英伟达H100 80GB版块GPU进行磨练,耗时长达54天完成,加上配套开辟总功耗接近20兆瓦,总能耗杰出20000兆千瓦时”。

简直磨练的能量浮滥要高于表面计较的论断。汪玉暗示,大模子磨练时候长,GPU等硬件难以幸免出现造作。在磨练过程中需要握住进行查验点的保存,出错后中断磨练并进行查验点的复原,这些操作均会形成难以推敲的颠倒能耗支出。“这个应该照旧很可不雅的”,汪玉说。

他提到,在大领域集群磨练中容错关系的能耗支出还黑白常大,比如Llama 3-405B在为期54天的磨练时期,共发生了466次任务中断(平均每3个小时发生一次中断),约78%的中断由硬件问题引起,容错和造作复原的时候占比约10%,骨子算力讹诈率只好38%左右。

不外,从应用场景上看,用户推理恳求的调用频率要高得多。也即是说,即使单次调用AI的耗电量很低,其总能耗也可能特等可不雅。南京大学高性能计较中心主任、高档工程师盛乐标告诉《常识分子》,AI系统运行阶段最主要的本钱即是电费,但是,“AI的骨子应用价值与推理操作的泛泛使用径直关系,只好在推理方面用得更多,AI的落地价值才更大。”

跟着工夫的完善,日常使用AI推理的单次能耗有望下跌。上海数珩信息科技首创东说念主、董事长张继生先容,为提高AI系统在特定场景中的性能、裁汰全体能耗,研发出了好多软硬件工夫,包括模子压缩、剪枝、量化、异构计较芯片等。

清华电子院动力电子中心主任兼清鹏智能首创东说念主李中阳重心关注算电协同关系工夫的研发与应用,如何匹配算力的用电特质与新动力的供电特质是这一工夫的中枢,而这恰巧又需要AI前沿工夫特等是大模子工夫的加执。李中阳暗示:“在宏不雅上,即使AI的能耗/计较量在执续裁汰,其实亦然挺费电的,因为计较量永恒在那处。”

总体上,对于AI算法能耗的连系主要基于模子体量、显卡功率、计较时长等参数进行估算,这使得连系尤为困难。研究AI伦理、政策的研究者们敕令改革这种不透明的近况。

卡内基梅隆大学东说念主工智能和数字政策中心高档研究员、AIethicist.org 首创东说念主梅尔·希科克(Merve Hickok)对《常识分子》指出,无法量化评估AI的能耗,就无法进行校正:“咫尺,各大科技公司皆对我方的动力浮滥有很好的了解,然则这些数据并莫得公开。在不少情况下,公司念念法困难这些信息的公开。”她建议,只好已矣信息透明,咱们才能细密各方的环境背负,并推动学术研究朝着愈加节能的标的发展。

02

数据中心能耗超乎念念象

连系AI能耗问题的困难不仅在于信息不透明,还因为它的规模难以界定。具体而言,AI形成的能耗远远不仅来自于算法和芯片,还包括与之配套的基础要道,其中最紧要的即是数据中心的能耗。

尽管数据中心不仅用于AI的运行,还运营加密货币等业务,但是伴跟着AI的爆发,AI在数据中心业务中的位置越来越紧要,数据中心的数目和领域也在快速增长。而无论是能耗的数目级,照旧背后种种的影响成分,数据中心的能耗问题皆要复杂许多。

数据中心的耗电量远远杰出一般东说念主的念念象。海外动力署(IEA)发布的一份敷陈傲气,2022年全球数据中心、比特币和AI浮滥的电能占全球用电量的2%,达到460 TWh[6]。基于面前增长趋势,IEA猜预见2026年,全球数据中心总能耗将达1000 TWh,增幅杰出一倍。

据统计,咫尺全球领有杰出8000座数据中心,其中约33%位于好意思国,16%位于欧洲,接近10%位于中国[6]。中国社会科学院工业经济研究所助理研究员张瑾告诉《常识分子》:“宇宙数据中心的耗电量加起来,与其他30个省份(撤退港澳台和西藏)一齐排序,大略排在10多名左右,杰出近一半的省份全年的电力浮滥量。”

何况,数据中心的数目和体量还在增长。张瑾说:“在我的研究区间之内,数据中心的发展是爆炸式的,不管是行业推敲,照旧股票商场的投资,寰球对它渊博抱有极大的关怀。”

IEA敷陈指出,在数据中心里面,冷却系统和事业器的能耗最高,各占数据中心能耗的40%。剩余20%的电能则用于动力供应系统、存储开辟和通信开辟[6]。其中,跟着数据中心领域扩大,芯片开辟功率提高,冷却系统的能耗日益引起关注。然则,裁汰数据中心电能浮滥的假想同期会形成耗水量的上涨,在另一个维度上对生态形成影响。

海外要领化组织可执续金融科技职责组内行、中国环境科学学会碳达峰碳中庸专委会委员陈钰什告诉《常识分子》,跟着数据中心领域越来越大,使用传统冷却系统的耗电本钱较高,因此,“大型数据中心逐步‘弃电用水’,通过冷水机或冷却塔来交换热量。这自然不错大幅裁汰耗电量,但却又因挥发等原因形成惊东说念主的耗水量。”

微软发布的公开敷陈傲气,微软在2022财年的耗水量为640万立方米,同比加多34%,这一趋势与AI的发展密切关系[7]。加州大学河边分校电气与计较机工程副教学任绍磊(Shaolei Ren)团队研究傲气, GPT-3每反应10~50个恳求,就要“喝掉”一瓶550 mL的水[8]。

而陈钰什指出:“由于追究开辟遇水发生腐蚀等芜乱,数据中心多使用淡水,仅有一小部分为非饮用水或可再生水。2022年,谷歌全球各地的数据中心共耗水52.2亿加仑(约1,976立方米),其中四分之三以上均为淡水。这种用水结构进一步加多了AI行业对全球水生态系统的影响。”

对于新栽植的数据中心,在假想上进行校正能够缓解这个问题。盛乐标指出,对于大领域数据中心,液冷工夫比风冷工夫愈加合算,而且将冷却水密封在轮回中不错减少淡水的浮滥。

03

动力行业如何招待挑战

从宏不雅角度上看,AI的环境影响不仅与耗电量关系,也与电能的源泉密不成分。发展愈加清洁低碳的动力,何况在基建层面进行狡计,也有助于让AI愈加环境友好。多位业界东说念主士提到,数据中心应当聚首发电厂,以已矣算电耦合,减少电能传输和存储过程中的损耗,这么的产业布局也成心于吸纳绿电。

“近几年,随东数西合计谋推动,数据中心布局呈现出由中心向相近、由东部向西部的发展流动趋势”,汪玉告诉《常识分子》。他指出,咫尺新疆有丰富的绿电资源,如光伏、风电。李中阳也合计:“对中国而言,最大的上风是领有顽强的电网和弥漫的动力供应才气,挑战是怎么样尽可能使用更多的新动力(发展东说念主工智能)。”

然则,在东西部发展不平衡的布景下,在西部建造数据中心也濒临着东说念主才枯竭、保养困难的问题。“东数西算最大的问题,是东部的数据或计较需求到不了西部,”盛乐标指出。AI计较常常需要多数的数据,要是计较需求离数据中心太远,数据的传输本钱就会相配高。因此,尽管贵州、内蒙等西部地区建造了不少数据中心,但它们的使用遵守还远远比不上东部的超算中心。

AI的强劲需求也对绿电的领路性建议了挑战。盛乐标指出,风电、水电和光伏容易受到季节影响,而核电看成领路且环保的动力选项,是将来数据中心选址的一个趋势,是以将来的趋势可能是在核电站左右建造数据中心。就在2024年3月,好意思国亚马逊公司花6.5亿好意思元购买了一座建在核电站左右的数据中心,该核电站可提供960兆瓦的电力。永久来看,可控核聚变工夫的蹂躏巧合是复旧AI大领域发展的环节。

04

节能减排,AI是助力照旧休止?

在场面议题越发要紧确当下,AI的发展与节能减排观点之间的矛盾显得越发厉害。有学者担忧,从短期看来,AI增长形成的硬件需求加多势必会加多能耗和碳排放。

“数字产业化和产业数字化,现阶段在整个这个词经济系统的碳排放中占比,骨子上相配高。尤其是,东说念主们自然合计新工夫产业是稳当绿色、低碳条件的,但其实它们的能耗少量也不低,生命周期排放亦然特等高的。”张瑾告诉《常识分子》。

她指出,总体上,学界咫尺意志到,数字化转型与碳排放之间呈现出倒U型关系。在数字化发展初期,多数的基础要道建造、落伍的配套要道及东说念主才,使得数字化节能减排的效应会被建造初期产生碳排放加多效应酬消;跟着基础要道逐步完善,数字化的工夫遵守效应显露,不错大幅晋升动力遵守和减排后果。“但最近咱们的研究发现,(数字化转型与碳排放之间)巧合是N型关系,即跟着数字化发展深度和广度执续推动,数据要素和算力成为驱动经济增长的环节要素时,其对电力的需求会呈现飞跃式的加多,届时会跳动一加多能耗和排放。”

也有不雅点合计,AI能够成为东说念主类应酬场面变化的给力助手,何况这方面的一些应用还是落地。“东说念主工智能不错提供创新的表情来监测、分析和减少咱们对环境的影响。”陈钰什告诉《常识分子》。

他例如说,西门子中国上海智能制造中心的AI数字化动力经管系统已矣了障翳整个这个词制造经过的推敲性保养,在提高动力遵守的同期幸免了非谋略停机带来的颠倒浮滥,单元产物能耗裁汰24%;东说念主工智能驱动的华为云盘古大模子、谷歌Flood Hub事业提供了更先进的风光预告,能够匡助东说念主们应酬不清闲天气。除此以外,AI还不错用于电网更动、毁掉物经管等领域。

然则,量化评估AI在不同工夫发展阶段对环境各个方面的影响十分复杂。郑州大学经管学院讲师李国昊指出:“咫尺使用经济计量形态得出的论断是东说念主工智能发展能够减少排放,但这个论断其实是存在疑问的,因为很难把AI影响碳排放的复杂机理说了了,也很难将影响旅途中其他侵犯成分剔除掉。因此,还要建树更密致的系统模子,来测算它的简直影响。”

除此以外,还可能存在反弹效应——本钱裁汰会带来工夫的普及,使总能耗晋升。例如,方丈用汽车的发动机燃油遵守提高后,驾车出行的本钱裁汰了,东说念主们就更倾向于驾车出行,形成总能耗加多。李国昊合计,东说念主工智能也可能遵从雷同的发展旅途:跟着东说念主工智能遵守提高、本钱裁汰,其部署量和总能耗也会提高。

不外,在东说念主工智能大喊大进确当下,连系其环境影响有时又显得不对时宜。李国昊暗示:“关注 AI的能耗自身,就像在经济发展初期去关注环境问题,自身即是不夤缘的事情。”

上海金司南金融研究院产物创新中心主任尹茂华挑剔,从可执续发展的角度来看,AI能耗问题“不是短期的热度,它是分娩力和分娩关系根人性变革的新工业创新”。她合计,中好意思的东说念主工智能工夫之间还有几代的差距,陪伴大模子的交易应用落地,动力的占用和挤压正在发生,但芯片工夫迭代也在同步降顽劣耗。东说念主工智能引颈的变革,将如何影响动力结构,需要执续关注。

05

AI的将来也许是“小而好意思”

交易、科技行业“赢家通吃”的逻辑放大了对落伍的担忧。但多位业界东说念主士指出,一味发展模子、建造数据中心并不成取。

盛乐标指出,从新磨练大模子本钱精采,对中小企业来说并不实验,“单一追求大型模子和数据中心的建造并不够理智,AI要落地产生更大的价值,将来笃定是面向百行万企的行业大模子……只好热度降下去以后,咱们实在把元气心灵放在算法的优化上,或者是跟行业归拢的关系模子研究上。通过与具体行业应用的深度和会,才能已矣AI价值的最大化。”

比较之下,有针对性地磨练较小的模子不错用较低的本钱得志落地需求。一些企业还是驱动了这么的尝试。“咱们的动力浮滥一定是比以前他们在作念大模子的低好多。”张继生先容,“OpenAI这些公司作念的大模子皆是过千亿参数的模子。咱们跟客户走得比较近,了解客户的需求,并凭证这些需求作念了不同领域、不同业业的小模子,有些模子可能只好20亿或50亿参数。”和万亿参数模子比较,这么的小模子磨练本钱、磨练时长皆大大压缩,同期还能很好地适合特定领域的使用场景。

与功能强劲的通用大模子比较,面向特定领域的模子比较箝制易激励民众的关注。骨子上,多个AI引擎还是在用户页面提供了特定的话题、用途选项,以便更精准地得志用户需求,这其中就体现了模子的迭代。

9月12日,OpenAI发布了较小的o1-preview和o1-mini模子,它们针对STEM领域进行了优化,“在物理、化学、生物领域的紧要挑战性任务上的推崇与博士生特等”[9]。媒体报说念指出,新的模子进行了更多的推理过程,加多了反应的蔓延,有时要一两分钟才能输出谜底;这种作念法可能加多了能耗,但同期大幅晋升了解答的质地,将来也许能够匡助东说念主类治理一些紧要的问题。

巧合,除了东说念主工智能以外,咱们还不错从其他许多方面动手,裁汰数字工夫的碳排放。图灵奖得主大卫・帕特森(David Patterson)从加州大学伯克利分校退休后加入谷歌公司,他牵头的一项研究分析了在智高东说念主机和云霄进行机器学习的能耗和碳排放,于本年1月发表[10]。他在复兴《常识分子》的邮件中暗示:“凭证我的研究,我合计和使用AI产生的碳排放比较,计较机制造的隐含碳对场面变化组成了更大的挑战。”

该研究猜想,东说念主工智能和机器学习的用电量仅占智高东说念主机用电量的1%,并指动手机充电器浮滥的动力达得手机的3倍以上,无线充电器的能耗尤其精采。研究还指出:“2021 年,使用寿命过短的智高东说念主机的隐含碳足迹简直是数据中隐痛业器的 3 倍……不久前东说念主们舍弃了 75 亿部智高东说念主机。”

一言以蔽之,东说念主工智能的能耗问题遭灾微不雅和宏不雅的多个层面,场面问题更是如斯。有时候,这么的复杂性会成为东说念主们规避连系或不看成的情理。但是另一方面,这也标明无论行业照旧个东说念主,咱们有许多种阶梯不错推动改革。

李璐对此文亦有孝顺

参考文件:(高下滑动可浏览)

[1] Michael Terrell. New nuclear clean energy agreement with Kairos Power. Google Blog. https://blog.google/outreach-initiatives/sustainability/google-kairos-power-nuclear-energy-agreement/. 2024-10-14/2024-10-22[2] Jennifer Hiller. Three Mile Island’s Nuclear Plant to Reopen九玩游戏中心官网, Help Power Microsoft’s AI Centers. The Wall Street Journal. https://www.wsj.com/business/energy-oil/three-mile-islands-nuclear-plant-to-reopen-help-power-microsofts-ai-centers-aebfb3c8. 2024-09-20/2024-09-23.[3] Elizabeth Kolbert. The Obscene Energy Demands of A.I.. The New Yorker. https://www.newyorker.com/news/daily-comment/the-obscene-energy-demands-of-ai. 2024-03-09/2024-09-25[4] de Vries A. The growing energy footprint of artificial intelligence[J]. Joule, 2023, 7(10): 2191-2194.[5] Daniel Castro. Rethinking Concerns About AI’s Energy Use. Center for Data Innovation. https://datainnovation.org/2024/01/rethinking-concerns-about-ais-energy-use/. 2024-01-29/2024-10-22[6] IEA (2024), Electricity 2024, IEA, Paris https://www.iea.org/reports/electricity-2024.[7] 2022 Environmental Sustainability Report. Microsoft. https://news.microsoft.com/wp-content/uploads/prod/sites/42/2023/05/2022-Environmental-Sustainability-Report.pdf. 2023-05/2024-09-25.[8] Li P, Yang J, Islam M A, et al. Making ai less" thirsty": Uncovering and addressing the secret water footprint of ai models[J]. arXiv preprint arXiv:2304.03271, 2023.[9] Introducing OpenAI o1-preview. OpenAI. https://openai.com/index/introducing-openai-o1-preview/. 2024-09-12/2024-09-25.[10] Patterson D, Gilbert J M, Gruteser M, et al. Energy and Emissions of Machine Learning on Smartphones vs. the Cloud[J]. Communications of the ACM, 2024, 67(2): 86-97. https://dl.acm.org/doi/pdf/10.1145/3624719.