(AI Expo) 台积电用AI提高良率?孙元成:AI已无所不在 智能应用 影音
DFORUM
DForum0522

(AI Expo) 台积电用AI提高良率?孙元成:AI已无所不在

  • 庄衍松台北

国立阳明交通大学产学创新研究学院院长孙元成在AI Expo上说明半导体和AI的加乘关系。符世旻摄
国立阳明交通大学产学创新研究学院院长孙元成在AI Expo上说明半导体和AI的加乘关系。符世旻摄

台湾AI博览会(AI Expo)24日盛大展开,主办单位DIGITIMES表示现场有超过2万人进场参观,其中聆听论坛的人数爆增,主办单位一再追加座位,显见生成式AI掀起的产业革命,在台湾引起高度关注与讨论热度。

前台积电技术长、国立阳明交通大学产学创新研究学院院长孙元成24日在AI Expo下午的论坛上,以半导体与AI加乘创新的全面进化为题做演讲。孙元成表示,台积电的生产,包括良率的提升,都在用AI。对台积电而言,AI已无所不在。
 

Skymizer行销长暨执行副总经理魏国章。符世旻摄

Skymizer行销长暨执行副总经理魏国章。符世旻摄

Lenovo亚太区边缘运算业务开发经理李英群。符世旻摄

Lenovo亚太区边缘运算业务开发经理李英群。符世旻摄

财团法人人工智能科技基金会CEO温怡玲。符世旻摄

财团法人人工智能科技基金会CEO温怡玲。符世旻摄

孙元成指出,半导体是一路创新,创新并没有停止,例如3D堆叠、异质整合、InFO、CoWoS等技术都是持续进步。而半导体和AI是正循环的关系,是加乘式的创新飞轮。台湾的芯片制造技术很成功,未来要「以硬带软」,把AI做进芯片里。

孙元成表示,3D乘3D的GPU超级芯片问市,有超过1万亿个晶体管,但功耗太大。以NVIDIA的B200为例,已有1.8万亿个晶体管,但功耗要1000W,一样的计算能量,人脑只需用20W的热量。孙元成强调,未来的趋势,AI应该优先在终端处理,以免上云有网安和成本较高的问题。

孙元成表示,从NVIDIA不断推出更强大的GPU解决问题的角度来观察,算力的需求一直都会增加,但功耗如何有效降低,有没有办法找到可降低千倍功耗的办法?其实这就是台湾的机会,例如在元件上找低压的方向做研发、采用多铁材料、自旋元件都是可能的低耗电方法。

英特尔(Intel)日前公布以超过1000颗Loihi 2处理器组成,代号Hala Point的第二代神经型态运算系统,低功耗是其特点,但要和人脑比,还是不够好。

孙元成认为,人脑既可做逻辑推理又可记忆,而且非常节能。电脑的存储器内运算也应运而生,把运算和记忆整合,或拉近距离,可大幅节省能耗。这些概念已可从传感器先做,慢慢做进数据数据中心,采用「以乡村包围城市」的策略,达到全面降低功耗的目标。

Skymizer行销长暨执行副总经理魏国章也在论坛上分享ASIC会有逐步兴起的趋势,生成式AI不一定都要用GPU。

Lenovo亚太区边缘运算业务开发经理李英群则提到,客户要自建AI服务器,硬件也可以用订阅(租用)的方式,降低客户初期的成本。

财团法人人工智能科技基金会CEO温怡玲则提醒,AI人才培训到底和企业的成长有何关连,其实都是可以持续探讨和精进的问题。

 

责任编辑:陈奭璁