快科技5月19日消息,台北电脑展开场演讲中,NVIDIA CEO黄仁勋尽情畅谈AI,并首次宣布了全新设计的“RTX PRO服务器”,定位企业级AI、工业级AI计算平台。
它配备了多达八块最新的RTX PRO 6000 Blackwell服务器版专业显卡,均采用GB202芯片,配备24064个CUDA核心、512-bit 96GB GDDR7显存。
合计就是几乎20万个核心、800GB显存,显存带宽高达13TB/s!
八块显卡通过ConnectX-8 SuperNIC Switch连接在一起,全向带宽800GB/s,不存在传输瓶颈。
单卡功耗600W,总计就是48000W,再加上CPU处理器(具体不详)和其他各种元件,整机功耗将超过5000W。
性能自然是极为恐怖的,FP4数据格式下的AI性能高达30PFlops(每秒3亿亿次),图形渲染性能也有3PFlops(每秒3千万亿次)。
有了它,可以轻松运行各种满血的AI大模型。
众多OEM、ODM合作伙伴将陆续推出RTX PRO服务器产品,包括:思科、戴尔、慧与、联想、研华、华擎、仁宝、富士康、技嘉、神达、微星、和硕、纬创、超微、英业达、广达、华硕、纬颖。
在现场,黄仁勋展示了来自华擎、微星的样机。
【本文结束】如需转载请务必注明出处:快科技
责任编辑:上方文Q