众力资讯网

【HBM之父金正浩:AI的本质是内存 GPU真正工作的时间只有10%】被称为"H

【HBM之父金正浩:AI的本质是内存 GPU真正工作的时间只有10%】被称为"HBM之父"的韩国科学技术院(KAIST)金正浩教授抛出一个颠覆认知的判断:AI的本质是内存,而不是GPU。近日,韩国科学技术院(KAIST)电气工程系教授金正浩接受视频专访,围绕HBM技术演进、AI算力格局和未来半导体架构作出系统性阐述。金正浩在访谈中直接给出了一个令人震动的数字:"GPU装100万台,真正工作的时间只有10%。"

他解释,每当ChatGPT输出一个词,系统就需要从HBM中读取数据、完成计算、再写回内存,"读和写几乎占掉了全部时间,GPU就在旁边干等着。"即便通过算法优化,GPU利用率也很难突破30%。这正是他多年坚持的核心论断的现实依据:"AI等于内存(AI = Memory)。"(华尔街见闻)