收藏本社区 社区投诉 返回阿里巴巴您当前的位置:新浪股市汇 > 美股>阿里巴巴(baba.us)> 浏览帖子
阿里巴巴(baba.us)6.08up0.1220%取消关注+关注行情展开
呐喊88_75

ChatGPT有多费电?AI对电力的消耗

ChatGPT有多费电?AI对电力的消耗或呈几何级数增长。(转)
以ChatGPT在1月的独立访客平均数1300万计算,其对应芯片需求为3万多片英伟达A100GPU,初始投入成本约为8亿美元,每日电费在5万美元左右。
谷歌AI训练用电占该公司总用电量的10%至15%,每年耗电量达23亿度,相当于美国一个州首府所有家庭一年的用电量。
这么高的电费,是怎么来的呢?首先,这些芯片需要大量的电能来运转。其次,为了保证计算的稳定性和可靠性,这些芯片需要保持在恒定的温度和湿度条件下,这同样需要大量的电能来维护。
这还只是维持成本,训练成本就更多了。
OpenAI的GPT-3使用了1750亿个参数或变量,而其前身仅使用了15亿个参数,可见能耗呈几何级数增长。
未来,ChatGPT每月的独立访客平均数不会只有1300万。
未来,ChatGPT不会只停留在GPT-4。
未来,全球AI核心不会只有ChatGPT。
在掀起不久的全球“AI热潮”中,各家争相推出的大模型、AI应用,都进一步推升了对算力狂热的需求,这也让芯片巨头英伟达业绩亮眼。美东时间5月24日周三美股盘后,英伟达公布,在截至公历2023年4月30日的2024财年第一财季:一季度营收71.9亿美元,分析师预期65.2亿美元,总收入明显高于预期。
业绩电话会上,英伟达向分析师表示,众多云公司竞相部署AI芯片。业绩增长正来自数据中心业务。公司锁定了数据中心芯片的大幅增长,计划下半年大幅增加供应。
英伟达称,数据中心收入激增主要是由于,对使用基于Hopper和Ampere架构GPU的生成式AI和大语言模型的需求不断增长。
令市场大感震惊的是,英伟达对第二财季给出了一份令人难以置信的指引。英伟达预计,本财年第二财季,营收为110亿美元,此前分析师预期71.8亿美元。
英伟达CEO黄仁勋在发布财报时提到了有关AI应用的广阔前景,称计算机行业正在同时经历两个转变——加速计算和生成式AI。
据不完全统计,目前中国至少有30家公司和机构正在训练人工智能大模型。百度、阿里巴巴、商汤、科大讯飞等公司都名列其中。
AI几何级数的发展速度,对电力的消耗也将呈几何级数的增长。
$阳光电源(SZ300274)$ $德业股份(SH605117)$ $禾迈股份(SH688032)$

此文仅代表作者观点,点击可查看作者简介

2023年05月27日 15:01
来自电脑网页版
(2)| 阅读数(486) |
分享
| 收藏 | 回复(0) | 举报
新浪推荐
本社区信息

版主:

我要做版主
其他服务
如果你使用中遇到困难请联系,@新浪股市汇