收藏本社区 社区投诉 返回英伟达公司您当前的位置:新浪股市汇 > 美股>英伟达公司(nvda.us)> 浏览帖子
英伟达公司(nvda.us)6.08up0.1220%取消关注+关注行情展开
红红dafjasdfja

【转】英伟达GTC点评-20240319

【转】英伟达GTC点评-20240319
发布GB200(主推):1)配比上采用1CPU+2GPU,单个机柜内部可容纳72个GPU;2)互联模式采用NVSWTICH(NVSWITCH:采用台积电4nm工艺,72端口(双向200G serdes),NVLINK带宽达到1.8TB),GPU和NVSWITCH之间采用铜互联,同时搭配IB交换机进行网路互联;3)针对单颗GPU,采用192GB HBM3e,8TB内存带宽
配比关系:若采用1.6t光模块,预计比例提升1:9。单卡双向传输带宽达到1800GB,单向对应900GB,若采用1.6t光模块传输+2层网络结构,则对应光模块使用数量为(900GB*8/1600GB)*2=9个,考虑到英伟达当前主推GB200,预计有望带动1.6t光模块加速放量,重点推荐【中际旭创】、【新易盛】、【天孚通信】
相较于GH200,GB200性能全面提升,尤其在#推理端性能提升明显,对于GPT万亿模型参数,在FP4计算格式上,GB200的效果是H100的约30X。目前GB200的生态合作伙伴不断扩大,包括AWS、谷歌、微软、甲骨文等,#相较于GH200,GB200有望大幅放量,#推动光模块配比关系大幅提升!
铜互联形式:NVSWITCH集成在服务器内部,通过采用铜互联,成本节约6倍,预计大概率使用背板连接方式,或采用传统DAC互联形式,背板连接环节重点推荐【鼎通科技】(海外高速背板连接器组件核心供应商)、【华丰科技】(国内高速背板连接器龙头),DAC环节可关注【兆龙互连】
GB200可采用新型高效液冷机架规模架构,有望推动液冷在AI服务器市场渗透率提升。

此文仅代表作者观点,点击可查看作者简介

03月19日 09:41
来自电脑网页版
(0)| 阅读数(74) |
分享
| 收藏 | 回复(0) | 举报
新浪推荐
本社区信息

版主:

我要做版主
其他服务
如果你使用中遇到困难请联系,@新浪股市汇