您的当前位置:首页 > 探索 > IBM发布全新光电共封装工艺:AI模型训练速度将提升5倍 正文
时间:2024-12-27 14:56:06 来源:网络整理 编辑:探索
12月12日消息,据报道,IBM在光学技术方面获得新进展,有望提升数据中心训练和运行生成式AI模型的效率。IBM推出了新一代光电共封装CPO)工艺。该技术利用光学连接,实现了数据中心内部的光速数据传输
12月12日消息,发封装据报道,布全IBM在光学技术方面获得新进展,新光训练有望提升数据中心训练和运行生成式AI模型的电共效率。
IBM推出了新一代光电共封装(CPO)工艺。工艺该技术利用光学连接,模型实现了数据中心内部的速度升倍光速数据传输,完美补充了现有的将提短距离光缆系统。
研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、发封装电路板和服务器之间的布全高带宽数据传输。最大限度地减少GPU停机时间,新光训练同时大幅加快AI工作速度。电共
具体而言,工艺这一新技术带来了三大方面的模型显著优势:
首先,它极大地降低了规模化应用生成式AI的速度升倍成本。与中距离电气互连装置相比,光电共封装技术的能耗降低了五倍以上,同时,数据中心互连电缆的长度也从传统的1米扩展至数百米,进一步提升了数据中心的灵活性和扩展性。
其次,该技术显著提高了AI模型的训练速度。与传统的电线相比,使用光电共封装技术训练大型语言模型的速度几乎提升了五倍。
这意味着,原本需要三个月才能训练完成的标准大语言模型,现在仅需三周即可完成。对于更大的模型和更多的GPU,性能的提升将更为显著。
最后,光电共封装技术还显著提升了数据中心的能效。据估算,每训练一个AI模型所节省的电量,竟然相当于5000个美国家庭一年的耗电量总和。这一数据无疑彰显了该技术在节能减排方面的巨大潜力。
《鱿鱼游戏》第二季开播2024-12-27 14:44
112已经明确表示手痒要复出,目前正在谈2024-12-27 14:43
马明宇:赞同宋凯主席“技术为王”理念 国内教练应达成共识2024-12-27 13:52
XDD,crazy112,su9,xxlu2024-12-27 13:44
有点迷?四把下来小天战绩为42024-12-27 13:43
[流言板]真能跳!TJD篮下接库明加传球,迎着戈贝尔双手滞空隔扣2024-12-27 13:35
OPPO Find N5春季登场:首款骁龙8至尊版大折叠屏2024-12-27 13:24
[流言板]真能跳!TJD篮下接库明加传球,迎着戈贝尔双手滞空隔扣2024-12-27 13:11
不是bobo这么鸡儿中庸 中庸得一匹 真热留着干嘛啊?4am的管理是不是吃屎的?2024-12-27 12:47
[流言板]博主:唐斯加盟时森林狼垫底,苦尽甘来打入西决后被交易2024-12-27 12:14
爆火韩剧《鱿鱼游戏2》今日开播 主创悉数回归2024-12-27 14:51
内维尔:目前曼联这些球员的能力不足,球队也需要改革文化2024-12-27 13:54
太阳报:手头拮据的英超球迷在圣诞节掀起购买假球衣的热潮2024-12-27 13:50
官方通报二里头、殷墟等“考古中国”重大项目重要进展2024-12-27 13:48
[流言板]科尔谈年轻球员:我们队有库里,优势在于多转移球和移动球2024-12-27 13:31
扣篮的起源与发展: 回顾扣篮的人竟然不是NBA球员?2024-12-27 13:00
引领平板专业生产力 HUAWEI MatePad Pro 13.2 英寸破镜而出2024-12-27 12:52
硬核检测+市场热销!爱玛A7Plus打造行业产品风向标 再掀市场新潮流!2024-12-27 12:50
[流言板]爱德华兹:今日的裁判太TM糟糕了,除了那个女裁判2024-12-27 12:25
屡获奖项 科大讯飞携手车企打造智能座舱新标杆2024-12-27 12:12