自11月4日,为期两天的“2024年度SK AI峰会”(以下简称AI峰会)在首尔三成洞的国际会议中心(COEX)举行,SK海力士作为重要参与者亮相此次盛会。本次活动以“AI Together, AI Tomorrow”为主题,SK海力士正式宣布开发目前全球最大容量的48GB(千兆字节)HBM1产品——16层堆叠HBM3E,并展示了其卓越的核心成果。同时,公司还分享了其致力于成为全方位面向AI的存储器供应商(Full Stack AI Memory Provider)的愿景。
1高带宽存储器(HBM, High Bandwidth Memory):一种高附加值、高性能存储器。与现有的DRAM产品相比,通过垂直互联多个DRAM芯片,使数据处理速度显著提高。该产品按照HBM第1代(HBM)-第2代(HBM2)-第3代(HBM2E)-第4代(HBM3)-第5代(HBM3E)的顺序开发,HBM3E是HBM3的扩展版。
AI峰会由SK集团每年举办的SK技术峰会升级演变而来,是以AI为核心主题的活动。在今年的活动中,全球AI领域的权威专家齐聚一堂,共同讨论AI时代下生存与发展的智慧之道,并探讨了如何有效增强AI生态系统的方案。
SK集团崔泰源会长、SK海力士代表理事兼社长郭鲁正、SK电讯柳永相社长、OpenAI总裁兼首席执行官格雷格·布罗克曼(Greg Brockman),及微软全球副总裁拉尼·博卡尔(Rani Borkar)等多个领域专家共同出席了此次盛会。同时,亚马逊云计算服务(AWS)、微软等科技巨头,及K-AI联盟的成员公司也参与其中,不仅设立了展台,更与业内人士和参观者进行了充分的交流。
作为AI领域的重要参与者,SK海力士凭借其卓越的产品与成就积极参与了此次盛会。值得一提的是,公司发布的16层堆叠HBM3E引起了广泛关注。在活动现场,SK海力士郭鲁正社长以及多位高管悉数亮相,包括了新产品规划担当姜郁成副社长、HBM PE(Product Engineering)担当朴文必副社长、PKG开发担当李康旭副社长、软件解决方案担当朱英杓副社长,以及SKHYA技术顾问Paul Fahey副社长等,充分彰显了公司的技术领导力。
SK集团崔泰源会长为SK AI峰会致开幕辞
当日,崔泰源会长以“AI Together, AI Tomorrow”为主题发表了精彩讲话,并阐述了对未来的宏伟愿景,为活动拉开了序幕。崔会长表示:“AI行业发展处于初期阶段,我们将面临许多未知的挑战,为了解决问题并取得进展,多方的参与及协作非常重要。SK集团是覆盖了芯片(Chip)、能源、数据中心构建、运营、服务开发、及用例(Use-Case)的跨国企业,目前正在与各领域最优秀的合作伙伴积极协作,并以此创造全球AI行业的革新。”
郭鲁正社长发表主题演讲,正式宣布开发“16层堆叠HBM3E”
11月4日,郭鲁正社长以“Next AI Memory, Hardware to Everywhere”为主题发表演讲,并首次正式宣布正在开发16层堆叠HBM3E。
SK海力士代表理事兼社长郭鲁正,在SK AI峰会上发表主题演讲
郭社长表示:“我们通过堆叠16层DRAM芯片成功实现了48GB的容量,并应用了量产获得验证的先进MR-MUF技术2,同时还在积极开发作为后端工艺的混合键合(Hybrid Bonding)技术3。” 他补充道:“与12层堆叠产品相比,新品使AI的学习性能最高可提升18%、推理性能有望最高可提升32%”。公司计划于2025年实现16层堆叠HBM3E的商业化。”
2先进MR-MUF:先进 MR-MUF 技术具有翘曲控制功能(Warpage Control),可实现无翘曲堆叠,芯片厚度比传统芯片薄 40%,此技术采用新型保护材料,可有效改善散热性能。
3混合键合(Hybrid Bonding):一种无需凸点便可将芯片直接连接在一起从而实现更高带宽和容量的技术。通过这一措施,芯片整体厚度将变的更薄,可以实现更高堆叠。目前该技术正在考虑用于16层及以上的HBM产品。 SK海力士正在考虑采用结合先进MR-MUF和混合键合方式。
演讲中,郭社长还公布了以“全球首发(World First)、超越最佳(Beyond Best)、AI时代的系统优化产品(Optimal Innovation)”为目标的企业发展蓝图。他表示:“在全球率先开发出16层堆叠HBM3E和采用1c工艺的DDR5 RDIMM等产品之后,我们接下来计划开发HBM4及UFS45.0等新一代高性能产品。”他还强调:“从长远来看,我们将大力推进针对AI优化而研发的定制型HBM和CXL®5产品的商业化,致力于成为全方位面向AI的存储器供应商。”
4UFS(Universal Flash Storage):移动存储设备的规格之一,与现有的嵌入式多媒体卡(eMMC)不同,UFS支持同时读取和写入。该规格兼具PC存储设备(固态硬盘)的高速性能和移动存储设备(eMMC)的低功耗特性,目前已开发至4.0版本。
5CXL®(Compute Express Link):一种高效利用高性能计算系统的下一代接口。
同时,演讲中提及的HBM4引发了广泛关注。郭社长表示:“我们正在与全球顶级晶圆代工厂合作,致力于改进基础裸片(Base Die)性能,降低功耗。秉持’一个团队(One Team)’协作精神,我们将提供最具竞争力的产品,以进一步巩固公司在HBM领域作为领先企业的地位。”
重要高层出席峰会,分享对HBM及下一代存储器的专业见解
此外,作为面向AI的芯片及AI服务领域的重要演讲嘉宾,SK海力士的高层出席并分享了专业见解。
(从左至右滑动)图片呈现依次为刘承周教授、朴文必副社长(HBM PE担当)、丘健载教授,及朱英杓副社长(软件解决方案担当)
朴文必副社长与首尔大学计算机科学系的刘承周教授,分别围绕“加速器的未来趋势与HBM的发展前景”为主题发表了演讲。针对刘教授提出的“AI推理成本将不断攀升”的推测,朴副社长回应道:“为了实现性能与成本的双重优化,定制型HBM正逐渐被开发。目前,我们正通过客户、代工厂和存储器供应商的三方协作,来积极应对这一行业挑战。”
随后,朱英杓副社长与高丽大学计算机系的丘健载教授,共同探讨了“未来架构及新型存储解决方案”的议题。丘教授指出,新型系统软件结构是当前发展的关键。朱副社长则相应有针对性地介绍了SK海力士推出的CXL®和PIM6系列等迎合这一需求的创新存储解决方案。
6PIM(Processing-In-Memory):一种在存储器中增加计算功能,解决AI和大数据处理中数据传输拥塞问题的新一代存储技术。
(从左至右滑动)图片呈现依次为参与与对话环节的姜郁成副社长(新产品规划担当)和Paul Fahey副社长(SKHYA)
在以“超级互联时代的数字神经网络:AI与存储器塑造未来行业格局”为主题的对话环节中,姜郁成副社长与Paul Fahey副社长共同出席并分享观点。他们表示,“未来,将逻辑工程应用于基础裸片的HBM、在端侧设备上发挥重要作用的PIM,及具备存储共享功能的CXL®,这些产品将发挥越来越大的作用。SK海力士正携手合作伙伴紧密合作,全力推进新一代面向AI的存储器的研发与制造。”
李康旭副社长(PKG开发担当)正在与相关人士进行讨论
李康旭副社长作为小组成员参加了业界专家会议,以“AI半导体和基础设施的进化”为主题进行了讨论。
(从左至右滑动)图片呈现依次为李炳圭TL (DT)、金汶旭TL(DT)、张世南TL (DT)、权钟午组长(PKG开发)、黄仁泰TL (P&T)、尹圣贤TL (基础设施技术中心)、金廷翰TL (未来技术研究院)、全渽永TL (存储器系统研究)、李敬修TL (存储器系统研究)、朴祥洙TL (未来技术研究院)、朴恩永TL组长(安全健康环境部)
另外,李炳圭TL(DT)分享了”半导体制造厂利用E2E自动化摆脱重复性工作,向高附加值业务转型”的案例,而金汶旭TL(DT)和张世南TL(DT)则共同发表了围绕“通过应用智能图像分类AI系统,以增强生产质量和提升业务竞争力”的主题演讲。权钟午组长(PKG开发)、黄仁泰TL(P&T)、尹圣贤TL(基础设施技术中心)、金廷翰TL(未来技术研究院)分别从16层堆叠HBM封装技术、利用深度学习的HBM高量产化、运用AI进行半导体研究等话题出发,分享了独到的技术见解。而全渽永TL(MSR,存储器系统研究)、李敬修TL(MSR,存储器系统研究)、朴祥洙TL(未来技术研究院)则是以异构存储器的潜力、端侧AI的要求事项、新一代计算存储器(Computational Memory)为主题,探讨了未来存储技术。
专注于AI服务领域的朴恩永组长(安全健康环境部),分享了关于“SK海力士引进并应用现场安全机器人——Gaon”的实践案例,引起了广泛的关注。
呼应活动主题,SK海力士携面向AI的存储器产品阵容悉数亮相峰会
在以“深入AI(Deep Dive into AI)”为主题的SK联合展台上,SK海力士展示了一系列包括最新HBM3E产品在内的面向AI的存储器产品阵容,吸引了众多关注。
(从左至右滑动)图片呈现依次为SK集团展位全景图、CMM-DDR5、AiMX、DDR5 MCRDIMM、eSSD、LPCAMM2、LPDDR5X、BeetleX31、自动驾驶解决方案
SK海力士还展出了未来存储解决方案中提到的CMM(CXL® Memory Module)-DDR5和AiMX。相较于当前系统,CMM-DDR5理论上可支持将带宽最高提升50%、容量最高扩展100%。而AiMX作为一款链接多个GDDR6-AiM7的加速器卡,则具备同步执行储存与计算任务的能力,有效提升AI应用的性能。
公司还展示了用于高性能计算(HPC)和AI服务器的超高速存储器模块DDR5 MCRDIMM8,其运行速度可达每秒8.8Gb(Gigabit,千兆比特)。另外,还同时展出了LPDDR5X9模块化产品——LPCAMM2,该产品将在端侧AI领域展现出非凡的性能。同时,作为优化AI应用和数据中心领域的顶尖解决方案,PS1010 E3.S等eSSD产品也被一同展出。
7AiM(Accelerator-in-Memory):SK海力士采用了PIM技术的半导体产品,其中也包括了GDDR6-AiM。
8多路合并阵列双列直插内存模组(MCRDIMM,Multiplexer Combined Ranks Dual In-line Memory Module):一种将多个DRAM组合在一块基板上,并同时运行两个内存列(模组处理信息的基本运行单位)以提高内存速率的模组产品。
9LPDDR5X:用于智能手机和平板电脑等移动设备的DRAM规格,具备可以在低电压下运行的特性,以减少功耗。产品规格名为LP(Low Power),最新规格为LPDDR5X(第七代),按照1-2-3-4-4X-5-5X的顺序开发。LPDDR5T是SK海力士最初开发的版本,是公司在第八代LPDDR6正式上市前,发布的第七代LPDDR5X的升级版。
在展位上,参观者还能够了解到基于AI的系统和解决方案。公司展出的“基于AI的材料质量预测系统”以及公司自有产品组成的“自动驾驶解决方案”,吸引了众多观众的目光。
本次活动中,郭鲁正社长强调:“我们拥有全方位面向AI的存储器解决方案,期待与各位携手,共创全新的未来体验。”SK海力士在圆满完成发布和展览后,将依据在SK AI峰会上所阐述的愿景,进一步为未来市场做好充分准备。