人工智能能耗惊人

, Mitch Leslie

工程(英文) ›› 2024, Vol. 32 ›› Issue (1) : 9 -11.

PDF (2019KB)
工程(英文) ›› 2024, Vol. 32 ›› Issue (1) : 9 -11. DOI: 10.1016/j.eng.2023.11.006
新闻热点

人工智能能耗惊人

作者信息 +

Engineering Volume 32, January 2024, Pages 7-9 News & Highlights

Author information +
文章历史 +
PDF (2066K)

引用本文

引用格式 ▾
Mitch Leslie,Mitch Leslie. 人工智能能耗惊人[J]. 工程(英文), 2024, 32(1): 9-11 DOI:10.1016/j.eng.2023.11.006

登录浏览全文

4963

注册一个新账户 忘记密码

2023年8月,有超过1.8亿的用户登录了ChatGPT(图1)[1]——著名的人工智能(AI)聊天机器人[2]。ChatGPT由总部位于美国加利福尼亚州旧金山的OpenAI公司开发,它可以执行许多复杂的任务,如模仿Ernest Hemingway的风格撰写散文、生成计算机代码、帮助求职者制作简历、提供相当准确的医疗诊断等[25]。表面上看,在注册免费版ChatGPT以及访问众多现有的AI增强型搜索引擎和程序时,用户无需为AI服务支付费用,但事实并非如此。
ChatGPT和世界各地目前使用的众多其他AI系统的发展需要庞大的计算能力进行支撑,而这将消耗巨大数量的电力和水资源,并导致大量污染[6]。美国宾夕法尼亚大学的电气与系统工程专业副教授Deep Jariwala表示,具体消耗多少电力和水资源仍然是“一个有争议的问题”。但迄今为止,每项估算值都表明消耗量已经非常巨大[7]。宾夕法尼亚大学电气与系统工程专业教授Benjamin Lee(Jariwala的同事)表示:“从绝对消耗量来看,这些数字非常惊人。”
而且,AI的使用正在呈指数级增长。例如,谷歌(美国加利福尼亚州山景城)和微软(美国华盛顿州雷德蒙市)已经研发了自己的聊天机器人,并集成到各自的搜索引擎中,这些聊天机器人成为了ChatGPT的竞争对手[8]。在许多经济领域(如医学、农业、药学研究、教育等),AI越来越成为不可或缺之物;它也成为越来越多产品和服务功能的基础,如手机、线上购物网站亚马逊(美国华盛顿州西雅图市)等[9]。美国华盛顿州西雅图市艾伦人工智能研究所(Allen Institute for AI)的研究科学家Jesse Dodge表示:“AI消耗了大量的电力,随着它在我们日常生活中的占比越来越大,它消耗的电力还会更多。”
美国加利福尼亚大学河滨分校电气与计算机工程系副教授任绍磊表示,尽管AI的使用呈指数级增长,但其能源和资源消耗量却不一定也必须呈指数级增长。目前,研究人员和相关公司正在研究降低AI气候和资源成本的解决方案,包括研发更高效的计算机电路、简化的软件、改进的算法等。谷歌、微软和亚马逊等公司的云计算服务运行了大多数的AI模型,他们声称已经采取了很多措施,以提高运行效率和可持续性[10]。甚至让客户选择AI模型的运行地点和时间,也可以产生积极的影响[1112]。
多年来,加密货币的巨大环境足迹(其能源消耗量和温室气体排放量超过了许多国家)引起了人们的广泛关注,并引发了大量批评[1314]。但内容涉及AI模型对环境的负面影响的第一份研究报告直到2019年才发布[15]。Jariwala说,AI模型能耗巨大,因为它所做的事情本质上比仅仅处理数字或搜索互联网对计算的要求更高。AI系统会仔细研究大量数据,从而搜寻可以让其做出预测的模式[16]。Jariwala还表示,AI模型过去在笔记本电脑上就可以运行,但现在,由于需要强大的处理能力,AI模型必须依赖于大型数据中心,而这些数据中心会消耗大量的能源(图2)[1718]。
研究人员已经估算了单个加密货币(如比特币和以太币)的总体能耗[1314],但测量AI模型的耗电量和温室气体排放量却更加困难,因为很难获得需要的数据。Dodge说,AI研究人员和公司分散在世界各地,没有集中的权威机构跟踪他们的能耗情况。此外,这些公司也不愿将自己的AI模型具体使用情况公之于众,因为这些情况可能会对竞争对手有所帮助。
尽管如此,研究人员做出的估算仍然刺激着人们的神经。AI模型能以莎士比亚的风格写诗或者通过磁共振成像(MRI)扫描来检测肿瘤。但在此之前,AI模型需要接受训练,学习解读数据,而这一过程会消耗大量能源。2021年的一项研究估算,训练GPT-3(最初用于ChatGPT的AI模型)会产生相当于550 t的CO2,并消耗1287 MW‧h的电力,大约相当于美国120个家庭一年的用电量[1920]。AI系统一旦开始运行,就会持续消耗电力并产生CO2 [21]。一项访问了谷歌数据的研究估算,AI模型训练和操作的总用电量占该公司年用电量(15.4 TW‧h)的10%~15% [20,22]。在评估AI模型总体耗电量的首批研究中,其中一项是根据NVIDIA(美国加利福尼亚州圣克拉拉)的预计销售额进行的,而该公司的服务器在AI市场占据着主导地位。利用这些数据,该研究预测,到2027年,AI模型每年的耗电量可能会在85~134 TW‧h之间,与阿根廷整个国家的耗电量大致相同[2324]。
AI对环境造成的损害不仅仅局限于能耗。例如,建立数据中心以及生产计算机芯片和服务器会产生温室气体,而获取电子产品所用的原材料也需要破坏环境进行采矿[25]。利用Facebook(美国加利福尼亚州门洛帕克)的数据,Lee及其同事在2022年的一份报告中估算,这种所谓的隐含碳排放量(所有与数据中心运营无直接关系的温室气体排放量)占某些AI模型碳足迹总量的30%~70% [26]。正如一篇文章评论的那样,AI也会“喝水”,因为数据中心需要使用大量的水才能保持凉爽[2728]。任绍磊表示,他和他的团队是第一个试图估算AI用水量的团队。从微软所报告的年度耗水量开始,他们估计,在微软云计算平台上训练的GPT-3每回答20~50个用户问题就需要消耗大约半升水[29]。ChatGPT Plus是OpenAI公司更新、更快、更多功能的聊天机器人,每月费用为20美元,目前依赖于更大的AI模型——GPT-4,这一模型耗水量会更大。因此,“总的来说,我们的估算为保守估算,”任绍磊说。鉴于ChatGPT网站每月的访问量超过1.8亿[1],其耗水量可能很快就会增加到相当大的数量。
Jariwal说,AI不断增长的能源需求只是更大问题的冰山一角,因为所有类型的计算都在消耗越来越多的电力,并且需要大幅提高效率。Semiconductor Research公司(美国北卡罗来纳州达勒姆,该行业的主要研究机构)2020年的一份报告预测,如果任由当前的能源使用趋势持续发展,到2040年,仅计算所需的电力就将超过全世界能够生产的电力总量[30]。
Jariwal说,改进计算机硬件和软件有助于降低一般计算特别是AI能耗。使用可以依赖较少数据进行训练的较小AI模型是另一种越来越吸引人的策略[31]。优化数据中心训练和运行AI模型的地点和时间也可能会起到一定作用。例如,在2022年的一篇论文中,Dodge及其同事估算了在微软云计算服务Azure上训练不同AI模型的碳排放量。他们的研究显示,美国和世界各地产生的CO2排放量随着地域不同而有所差异[12]。在美国中部地区的数据中心训练AI模型更依赖于化石燃料,因此产生的CO2排放量的平均值是在美国西部数据中心(利用丰富的水力发电)训练的两倍。研究人员发现,即使在同一天训练,不同的训练时间也会产生不同的CO2排放量。对于一种模型来说,将训练时间推迟到更多的可再生能源上线后,可以将CO2排放量最多减少80%。
Dodge说,要在Azure等云服务上训练AI模型的用户已经可以选择运行的地点和时间,并且可以选择CO2产生得最少的时间和地点。“这是人们可以做出的真正有影响的决定,”他说。任绍磊及其团队已经证明,进行时间和地理方面的类似计算也可以减少AI的耗水量[32]。
Dodge说,降低AI对环境影响的另一种违反直觉的方法是减少它的使用频率。尽管各公司都在争相应用AI,但它还没有准备好用于某些用途,特别是涉及人身安全的用途。例如,Dodge说,可以在MRI扫描中检测肿瘤的AI模型对于放射科医生来说是一个很有用的工具,但它还不能取代放射科医生,因为此类模型仍然会犯很多错误。他说,公司和研究人员应该仔细考虑选择使用AI的理由。“在这里使用AI合适吗?我希望人们能更多地问问这个问题。”

参考文献

[1]

Tong A. Exclusive: ChatGPT traffic slips again for third month in a row [Internet]. London: Reuters; 2023 Sep 7 [cited 2023 Sep 30]. Available from:

[2]

Mackenzie D. Surprising advances in generative artificial intelligence prompt amazement—and worries. Engineering 2023;25:9‒11. . 10.1016/j.eng.2023.04.004

[3]

Bilton N. ChatGPT made me question what it means to be a creative human [Internet]. New York City: Vanity Fair; 2022 Dec 9 [cited 2023 Sep 30]. Available from:

[4]

Gunnell M. 10 awesomely practical tasks you can do with ChatGPT [Internet]. San Francisco: PC World; 2023 Apr 10 [cited 2023 Sep 30]. Available from:

[5]

Leonard A. ‘Dr. Google’ meets its match in Dr. ChatGPT [Internet]. Washington, DC: NPR; 2023 Sep 16 [cited 2023 Sep 30]. Available from:

[6]

Stokel-Walker C. The generative AI race has a dirty secret [Internet]. London: Wired UK; 2023 Feb 10 [cited 2023 Sep 30]. Available from: 10.1038/d41586-023-00340-6

[7]

Luccioni S. The mounting human and environmental costs of AI [Internet]. New York City: Ars Technica; 2023 Apr 12 [cited 2023 Sep 30]. Available from:

[8]

Bohannon M. Google adding AI to search engine for some users—closing in on Microsoft’s AI push [Internet]. New York City: Forbes; 2023 May 10 [cited 2023 Sep 30]. Available from:

[9]

Wong M. The Internet’s next great power suck [Internet]. New York City: The Atlantic; 2023 Aug 23 [cited 2023 Sep 30]. Available from:

[10]

Petrenko CM. AI complicates sustainability profiles of tech companies—ESG insight [Internet]. New York City: Wall Street Journal; 2023 Sep 21 [cited 2023 Sep 30]. Available from:

[11]

Xu T. These simple changes can make AI research much more efficient [Internet]. Cambridge: MIT Tech Review; 2022 Jul 6 [cited 2023 Sep 30]. Available from:

[12]

Dodge J, Prewitt T, Tachet des Combes R, Odmark E, Schwartz R, Strubell E, et al. Measuring the carbon intensity of AI in cloud instances. 2022. arXiv: 10.1145/3531146.3533234

[13]

Leslie M. Will cryptocurrencies break the energy bank? Engineering 2020;6(5):489‒90. . 10.1016/j.eng.2020.03.011

[14]

Bitcoin energy consumption index [Internet]. Amsterdam: Digiconomist; 2023 Sep 30 [cited 2023 Sep 30]. Available from: 10.1136/bmj.p2031

[15]

Strubell E, Ganesh A, McCallum A. Energy and policy considerations for deep learning in NLP. 2019. arXiv:10.18653/v1/p19-1355

[16]

What is AI? [Internet]. New York City: McKinsey & Company; 2023 Apr 24 [cited 2023 Sep 30]. Available from: 10.7312/pras20348-005

[17]

Loten A. Rising data center costs linked to AI [Internet]. New York City: Wall Street Journal; 2023 Jul 13 [cited 2023 Sep 30]. Available from:

[18]

Kumar A, Davenport T. How to make generative AI greener [Internet]. Cambridge: Harvard Business Review; 2023 Jul 20 [cited 2023 Sep 30]. Available from:

[19]

Patterson D, Gonzalez J, Le Q, Liang C, Munguia L, Rothchild D, et al. Carbon emissions and large neural network training. 2021. arXiv:

[20]

Saul J, Bass D. Artificial Intelligence is booming—so is its carbon footprint [Internet]. New York City: Bloomberg News; 2023 Mar 9 [cited 2023 Sep 30]. Available from:

[21]

Desislavov R, Martínez-Plumed F, Hernández-Orallo J. Trends in AI inference energy consumption: beyond the performance-vs-parameter laws of deep learning. Sustain Comput Infor 2023;38:100857. . 10.1016/j.suscom.2023.100857

[22]

Patterson D, Gonzalez J, Hölzle U, Le Q, Liang C, Munguia L, et al. The carbon footprint of machine learning training will plateau, then shrink. 2022. arXiv:

[23]

Paul A. AI could consume as much energy as argentina annually by 2027 [Internet]. New York City: Popular Science; 2023 Oct 12 [cited 2023 Oct 16]. Available from:

[24]

de Vries A. The growing energy footprint of artificial intelligence. Joule 2023;7(10):2191‒4. . 10.1016/j.joule.2023.09.004

[25]

Leslie M. Will massive appetite for minerals stall clean energy transition? Engineering 2023;31:8‒10. . 10.1016/j.eng.2023.11.001

[26]

Wu CJ, Raghavendra R, Gupta U, Acun B, Ardalani N, Maeng K, et al. Sustainable AI: environmental implications, challenges and opportunities. 2022. arXiv:

[27]

Gandhi R. AI chatbots may be fun, but they have a drinking problem [Internet]. Mumbai: Times of India; 2023 May 31 [cited 2023 Sep 30]. Available from:

[28]

O’Brien M, Fingerhut H. Artificial intelligence technology behind ChatGPT was built in Iowa—with a lot of water [Internet]. New York City: Associated Press; 2023 Sep 9 [cited 2023 Sep 30]. Available from:

[29]

Li P, Yang J, Islam MA, Ren S. Making AI less “thirsty”: uncovering and addressing the secret water footprint of AI models. 2022. arXiv:

[30]

The Decadal Plan for Semiconductors [Internet]. Durham: Semiconductor Research Corporation; 2020 Oct [cited 2023 Sep 30]. Available from: 10.1287/lytx.2019.05.12

[31]

The bigger-is-better approach to AI is running out of road [Internet]. London:Economist; 2023 Jun 21 [cited 2023 Sep 30]. Available from: 10.1007/978-981-19-9665-8_2

[32]

Li P, Yang J, Werman A, Ren S. Toward environmentally equitable AI via geographical load balancing. 2023. arXiv:10.1145/3632775.3661938

AI Summary AI Mindmap
PDF (2019KB)

2152

访问

0

被引

详细

导航
相关文章

AI思维导图

/