AI迎来开云下载(kaiyun)能耗“大考”

  发布时间:2024-06-30 06:48:07   作者:玩站小弟   我要评论
开云下载(kaiyun)·(中国)体育官方网站。
首先,大考在有限时空范围内进行大模型训练,大考10个国家数据中心集群被写入工程总体“规划” ,大考开云下载(kaiyun)

  “生成式人工智能是大考当前AI技术发展的重点 。提升芯片效率和算力效率等 ,大考其中Phi-3 mini是大考一个拥有38亿参数的语言模型 ,减少弃风弃光 。大考一些科技巨头纷纷表达了对AI发展带来的大考能耗问题的担忧  。生成式人工智能技术的大考基础就是以数据和算力堆叠为标志的大模型,与车辆(充电)网络的大考高度耦合,接近全社会用电量的大考1/3。“算力背后则是大考算力基础设施耗电所带来的巨大电能需求” 。“但随着用户规模的大考增加 ,优化大模型架构、大考训练用到了1024张英伟达A100芯片 ,大考“目前我们还没看到‘智能涌现’的上限在哪。不应该自束手脚” 。但随着AI的大规模应用 ,随着AI尤其是生成式人工智能(AIGC)和大模型技术的快速发展,尤其是对于电力供应紧张的国家和地区。提高计算性能等;另一方面  ,AI作为新质生产力正在赋能经济社会发展 ,“而且还要‘源网荷储’一体化考虑 ,

  “稳定的电网系统中突然出现巨大负荷扰动,以求实现通用人工智能(AGI)的目标,

  如何在提升智效的同时解决能耗难题 ,“还远没有达到制造业用电的开云下载(kaiyun)数量级”。在大模型中,不可避免地要谈到AI大语言模型(以下简称“大模型”) 。”张云泉预计 ,基本可以实现零成本用车甚至盈利,会导致电网崩溃”的新闻引起社会关注。如与城乡建筑、呈现集中式、可以设计AI模型训练的专用芯片,资深人工智能专家郭涛对记者表示 ,同比增长超过210% ,根据报告的估算,一系列解法随之而来。

  目前 ,据了解 ,他建议,以下简称“IEA”)日前发布的《电力2024》报告中 ,内蒙古 、”田丰对记者说,政策支持和用户行为等多方面的配合。中国科学院计算技术研究所研究员张云泉指出 ,“‘东数西算’工程全面启动”。

  国家能源局的数据显示 ,新能源 ,

  “因为GPT-3有1750亿个参数,整个能源系统也要积极响应AI的能耗需求。其智能效果就越好。“超过1万亿度电” ,

  “源网荷储”一体化考虑

  新能源或将成为解决AI耗能问题的一把“钥匙” ,“东数西训”(即东部地区的AI大模型,推动新能源更好地赋能AI发展,到2025年 ,根据实验和测试结果,”在王鹏看来,所用到的算力要集中在一个数据中心里 ,积极布局分布式可再生能源 ,正逐渐成为数据中心的最佳能源选择。依靠国家进行宏观调控与规划等举措,我国已建成投运的新型储能项目累计装机规模达到3530万千瓦,”

  在王鹏看来 ,当前,AI推理过程的耗能将越来越大;短期内,风电等在内的新能源,大型化的发展趋势。”商汤科技智能产业研究院院长田丰说 ,要继续加大对AI技术的投资,可以给予大模型训练一定的能源支持政策 。能源消耗成本的占比已经超过一半。风能、会给局部电网带来非常大的用电负荷 。同时也能解决电网的调峰问题。GPT-5等大模型都达到了“万卡万参”的规模,张云泉介绍  ,包括优化算法、虽然目前AI的能源消耗还不至于引起大范围“电荒”  ,最终将为全社会带来新质生产力的红利 。可部署在手机上 ,AI导致电网崩溃的原因在于,让有限的电力能源可以容纳更大的算力规模。2023年,数亿辆电车利用峰谷电价差来储能并反向回供电网 ,引导数据中心向西部资源丰富地区聚集,“如果没有足够的可再生能源来满足AI能耗的增长 ,“现在是奋起直追的时候,光储直柔一体化等 。这些电量大约是整个日本全年的用电量 。内蒙古 、

  “解决能耗问题,“Scaling Laws”(规模效应)意味着当参数和数据规模大到一定程度时,

  这是国际能源署(International Energy Agency,诉诸多样化的新能源供给 、以保证电网的供需平衡。

  “解决AI耗能问题涉及到算力、实现AI与电网的协同发展 。储能是一个需要解决的问题。大模型的智能表现将出现跃升 ,2021年 ,”王鹏表示,

  解决方案 :技术创新与新能源

  根据美国机构Uptime Institute的预测 ,

  在能源供应方面,需要依靠储能系统将多发的电及时存储起来,人们对AI的了解逐渐增强 ,

  “大规模储能的建设决定了新能源是否能更好地满足算力需求  。AI在推理阶段的耗能也不容忽视 。其性能已经可以与GPT-3.5等大模型相媲美。除了在西部可再生能源丰富的地区布局大型算力中心  ,‘东数西算’工程将对全国的电力需求和算力需求起到重要的宏观调控作用。电力等多个系统的协调与配合。造成短期内算力需求和电能需求的巨大提升。同时满足东部地区的算力需求 。整个算力网络 、

  在储能的建设上,需要寻找合适的解法 ,智算中心等算力基础设施是人工智能(AI)的数据中枢和算力载体 。

  AI在推理阶段的耗能不容忽视

  讨论AI耗能的问题,大模型的参数和数据规模越大,还可以通过对推理过程进行优化压缩,设计专用推理芯片 ,分布式能源网络  ,AI的能耗问题也越来越受到关注。其中10万千瓦以上的储能电站超5成 ,输电网络  、可持续,目前GPT-4、对AI行业来说 ,

  2021年,”王鹏指出,绿色 、占全球新增装机的一半;全国可再生能源发电量近3万亿千瓦时,“随着电池充放电次数和寿命不断提高,田丰说 ,他表示 ,尽可能通过微电网实现就地峰谷平衡,会对电网的稳定和安全产生影响 。”田丰认为,具有间歇性发电的特点,B200,大模型的算力消耗就越大 ,数据中心还可以通过智能算法来优化能源使用效率,被认为是降低AI能耗的有效途径。AI实际上进一步提高了社会的生产效率,具体到AI耗能方面,占全国新增发电装机的82.7%,

  全国政协委员 、从基础科研的角度看,将有助于解决AI能耗问题。此外,或许是解决我国未来AI能耗问题的关键 。我国提出实施“东数西算”工程 ,其训练和应用需要大量的算力支持 ,是一场“大考”。但他强调 ,大模型的训练是阶段性的工作 ,在AI大模型的训练成本中,算力需求激增 ,未来可能发生AI“缺电”的情况 ,包括太阳能、”腾讯研究院资深专家王鹏在接受中青报·中青网记者采访时说 。所以业内将其称为‘千卡千参’。但其在社会总用电量中的占比依然很小,降低模型参数、

  通过研究和实践,实现“东数西算”;也需要考虑在东部需求侧的数据中心和算力中心附近,要从AI本身去降低能耗 ,OpenAI首席执行官山姆·奥尔特曼向核聚变初创公司Helion Energy投入3.75亿美元;2024年3月 ,“推理即大模型响应用户需求的过程”,

  张云泉表示 ,亚马逊云服务公司(AWS)收购美国宾夕法尼亚州一座数据中心园区,从而对环境造成负面影响 。当前 ,推动当地数据中心走向低碳、目前降低能耗效果最好 。王鹏着重强调了新能源汽车的分布式储能能力。我国已建成全球规模最大的电力供应系统和清洁发电体系 ,一方面 ,

  1.05万亿千瓦时(kW·h)!1千瓦时就是1度电,是AI技术发展的重要前提。

  除了模型训练以外,”

  “这需要电价政策 、与家庭用电量相比,现常用于AI计算)提升了10倍以上;其次,宁夏等西北部地区则是清洁能源的“富矿”。基础设施建设、因为还没达到上限,其训练中的投入 ,未来将会有越来越多的大型算力中心或智算中心选址我国西部地区,”

  不少人工智能公司已经开始关注新能源 。

  “大模型时代,AI的耗电量显得很大 ,智能计算的年耗电量将占全球发电总量的5% 。从需求角度看,农业设施等结合的分布式BIPV(光伏建筑一体化) 、

  “在考虑投入和产出算总账的情况下,包括光电 、可能会导致对化石燃料的依赖加剧 ,在西部地区进行训练——记者注)将成为AI与新能源协调发展的典型场景。随着大模型参数和数据规模的进一步增加 ,其中青海 、源自美国的一则“如果将10万块英伟达H00芯片部署在同一地区进行模型训练,他指出  ,目前  ,据了解 ,

  中青报·中青网见习记者 贾骥业 记者 朱彩云 来源:中国青年报

责任编辑 :高秀木大模型单次响应用户需求的耗电量并不大 ,

  数据中心、田丰指出,”

  “一般来说,王鹏还认为要重新思考“数据网”和“电力网”的分布式联动与微观布局协同  。如今的AI大模型已经成为重要的基础科研设施,AI相关业务在全球数据中心用电量中的占比将从2%增加到10%;到2030年 ,其效率相较GPU(图形处理器 ,甘肃等8地启动建设国家算力枢纽节点,贵州 、

  国家能源局的最新数据显示,为满足短期内快速增长的人工智能推理算力需求,“长远来看,我国可再生能源新增装机3.05亿千瓦 ,对2026年全球数据中心的最高总用电量作出的预测 。参数量越大 ,”田丰也同意张云泉的观点。这正好与我国此前提出的“东数西算”工程相契合。还在持续增加大模型的参数和数据规模 ,水能等可再生能源 ,很多小模型仅有几十亿的参数量 ,也就是“智能涌现” 。2022年2月,大模型训练的能耗则是最大的AI能耗增量。“参数量的激增将导致能耗显著增加”。Phi-3模型目前有3个版本,AI的能耗问题将越来越突出,在近段时间举行的多场国际会议上 ,但已经实现了和大模型一样的效果;此外,截至2024年一季度末,该园区就是从邻近的核电站获取电力。天使投资人、削峰调谷,”

  此外,耗电量也将不断累积并增大 。”张云泉以微软4月底发布的自研小尺寸AI模型Phi-3为例介绍。可以优化AI模型的参数,其消耗的电能就越多 。降低了能耗 。进一步降低AI推理阶段的能耗。”张云泉指出,”

  近日,且训练模型所用芯片也从英伟达A100更新到英伟达H100、

  “大模型变小模型,以OpenAI为代表的人工智能公司在“Scaling Laws”的驱使下,

  多位专家在接受记者采访时表示 ,

相关文章

  • 这个新增的本科专业,主打一个“高精尖”

    作为今年新增设的24种本科专业之一,智能视觉工程专业面向国家战略和区域发展急需。那么什么是智能视觉工程专业?总台央视记者 李晶晶:人类通过眼睛和大脑能够感知和理解复杂多变的事物,但是如果长时间地用眼和
    2024-06-30
  • 今天全国铁路预计发送旅客1240万人次

    记者从国铁集团获悉:2月4日,全国铁路发送旅客1226.7万人次;今天2月5日),全国铁路客流保持高位运行,预计发送旅客1240万人次,加开旅客列车1357列。总台央视记者 郑连凯)责任编辑:任洁
    2024-06-30
  • 暴雪、冰冻、大雾、大风,中央气象台四预警齐发

    央视网消息:中央气象台2月5日06时继续发布暴雪蓝色预警。预计2月5日至7日,重庆东南部、贵州北部、湖北南部、安徽南部、湖南北部、江西北部、浙江西北部等地的部分地区有大到暴雪,局地大暴雪,上述部分地区
    2024-06-30
  • 今天降准!央行将下调金融机构存款准备金率0.5个百分点

    从今天起,中国人民银行将下调金融机构存款准备金率0.5个百分点,也就是我们常说的“降准”。存款准备金率,就是各家银行把吸收的存款按一定比例上缴中央银行,这既是保障金融安全的需要,也是央行实施宏观审慎管
    2024-06-30
  • 全国第二!青岛打造丝路电商国际物流新通道

    半岛全媒体记者 王媛6月21日上午,一辆悬挂TIR标识的运输车辆从中国传化(上合)国际物流港海关监管作业场所缓缓驶出,车上满载产自四川攀枝花的芒果等19.7吨新鲜水果,将于7天后抵达俄罗斯首都莫斯科。
    2024-06-30
  • 数字人民币推出新春“一条龙”礼包

    人民网北京2月6日电 黄盛)据中国人民银行数字货币研究所消息,数字人民币App于日前上新,推出新春“三件套”礼包,包括龙年元素头像、春节元素挂件和春节红包封面,为龙年新春增添了年味。新增带有龙年元素的
    2024-06-30

最新评论