金正浩教授:AI的核心是内存,GPU的实际工作时间仅占10%

被称为"HBM之父"的金正仅占金正浩教授提出了一个颠覆性的观点:

AI的本质是内存,而不是浩教核心GPU。

金教授近日在韩国科学技术院(KAIST)的授A实际时间一次访谈中,详细阐述了HBM技术的内存发展、AI算力的工作趋势以及未来半导体框架。早在2010年代初,金正仅占金教授就与SK海力士合作开发了HBM1,浩教核心并主导了相关的授A实际时间底层架构研究。访谈内容在科技与投资领域引发了广泛讨论,内存指向了AI算力竞赛中的工作结构性矛盾。

金正浩在访谈中提到一个惊人的金正仅占数字:

"即使有100万台GPU,它们真正工作时间也只有10%。浩教核心"

他解释道,授A实际时间ChatGPT生成一个词的内存过程中,系统需要从HBM读取数据、工作进行计算再写回内存,"读和写几乎占据了全部时间,而GPU就在旁边等待"。即使通过算法优化,GPU的利用率也难以突破30%。这一点正好印证了他的核心观点:"AI = 内存"。

一、GPU的困境

金正浩对英伟达的现状进行了尖锐的评述。他指出,英伟达首席执行官黄仁勋频繁出行、参加各种活动,说明其内心并不安稳。"GPU的技术成长几乎停滞,AI计算的发展掌握在内存中。" 金教授指出,GPU想要提升性能只能扩大芯片面积,堆砌更多计算单元,但由于散热问题,无法实现有效的垂直堆叠,导致GPU陷入了困境。相对而言,随着推理时代的到来,内存的重要性被重新审视,"推理时代更重要的是输入的数据量,而半导体的核心是内存。"

二、HBM的核心:容量与带宽

金正浩认为,HBM的价值体现在两个维度:容量和带宽。受益于上下文工程、多模态输入和代理性AI的影响,内存需求将每年翻倍,"十年就是1000倍"。传统的增容方式靠缩小晶体管,但当今已接近技术极限,因此必须"向上堆叠"。对于带宽,他指出,"传统内存像8车道高速公路,而HBM是2048车道,未来可能达到百万车道",通过并行通道传输大量数据,以满足AI计算需求。

三、HBF:NAND闪存的堆叠时代

HBM在速度上已实现了突破,但容量仍有上限。金正浩提到了未来的技术路线——HBF(高带宽闪存)。简单来说,HBF是将NAND闪存进行垂直堆叠。DRAM速度快但容量低,而NAND闪存容量大,可保存数据,尽管速度稍慢,但在推理场景中足以满足对冷数据的存储需求。金教授预测,未来HBM与HBF将共存,形成一种复合形态,为GPU提供数据支持。他明确表示:未来十年,NAND闪存和HBF的市场需求将超过HBM,三星与SK海力士必须为之做好准备。

四、HBS:前沿概念的探索

金正浩提出了HBS(高带宽静态随机存储器)的设想。SRAM的速度是DRAM的约1000倍,但由于密度低和成本高传统上仅作为小容量缓存。金正浩的构想是在12英寸晶圆上制造SRAM,并进行多层堆叠,从而实现容量的巨大扩展。他设想的AI芯片将形成一栋“百层大楼”,多种内存类型相互结合,GPU位于顶层负责散热。

五、定制化HBM:供需结构转变

金正浩强调HBM4的推出对供需结构造成了影响。定制化HBM的出现使得内存厂商在研发之初需要得到客户的数量承诺才能启动开发,这一转变使得供应方开始主导价格。

六、三星与SK海力士的独特优势

金正浩指出,全球仅有三星电子和SK海力士两家公司能同时大规模生产DRAM和NAND闪存。他对两家公司未来的营业利润表示信心,认为这是现实的,并指出了两家公司在技术交流中的积极进展。

七、终端设备的内存需求

金正浩预测,未来AI PC的价格将受到内存成本的极大影响,而AI智能手机的售价也类似,内存价格将成为决定性因素。他指出,随着AI基础设施的进步,内存需求将不断增加。

八、AI演进对内存需求的影响

金正浩指出,随着Agentic AI和Physical AI的兴起,内存的使用量预计将比当前增加1000倍,从而需要升级的"超级HBM"。

九、50年的积累与“运气”

金正浩讲述了他的学术历程,从博士研究到参与HBM的研发,期间虽然没有预料到AI的爆发,但随着时间的推移,他逐渐认识到AI与HBM之间的深刻联系。

以下是访谈的实录部分:

金正浩:HBM、HBF、HBS将共同构成AI计算机的基础架构。

主持人: 您好,金教授,感谢您参加节目。

金正浩: 不客气。

主持人: 您与SK海力士在HBM上的合作时间已经不短了,您个人对此有何感悟?

金正浩: 我在1993年取得博士学位,参与HBM研发已有十多年,技术演进的背后,AI的出现促使我们思考内存将如何塑造未来。

这篇文章引用自“华尔街见闻”,作者:卜淑情;编辑:刘家殷。

分享到:
收藏