(AI Expo) 台积电用AI提高良率?孙元成:AI已无所不在
- 庄衍松/台北
台湾AI博览会(AI Expo)24日盛大展开,主办单位DIGITIMES表示现场有超过2万人进场参观,其中聆听论坛的人数爆增,主办单位一再追加座位,显见生成式AI掀起的产业革命,在台湾引起高度关注与讨论热度。
前台积电技术长、国立阳明交通大学产学创新研究学院院长孙元成24日在AI Expo下午的论坛上,以半导体与AI加乘创新的全面进化为题做演讲。孙元成表示,台积电的生产,包括良率的提升,都在用AI。对台积电而言,AI已无所不在。
孙元成指出,半导体是一路创新,创新并没有停止,例如3D堆叠、异质整合、InFO、CoWoS等技术都是持续进步。而半导体和AI是正循环的关系,是加乘式的创新飞轮。台湾的芯片制造技术很成功,未来要「以硬带软」,把AI做进芯片里。
孙元成表示,3D乘3D的GPU超级芯片问市,有超过1万亿个晶体管,但功耗太大。以NVIDIA的B200为例,已有1.8万亿个晶体管,但功耗要1000W,一样的计算能量,人脑只需用20W的热量。孙元成强调,未来的趋势,AI应该优先在终端处理,以免上云有网安和成本较高的问题。
孙元成表示,从NVIDIA不断推出更强大的GPU解决问题的角度来观察,算力的需求一直都会增加,但功耗如何有效降低,有没有办法找到可降低千倍功耗的办法?其实这就是台湾的机会,例如在元件上找低压的方向做研发、采用多铁材料、自旋元件都是可能的低耗电方法。
英特尔(Intel)日前公布以超过1000颗Loihi 2处理器组成,代号Hala Point的第二代神经型态运算系统,低功耗是其特点,但要和人脑比,还是不够好。
孙元成认为,人脑既可做逻辑推理又可记忆,而且非常节能。电脑的存储器内运算也应运而生,把运算和记忆整合,或拉近距离,可大幅节省能耗。这些概念已可从传感器先做,慢慢做进数据数据中心,采用「以乡村包围城市」的策略,达到全面降低功耗的目标。
Skymizer行销长暨执行副总经理魏国章也在论坛上分享ASIC会有逐步兴起的趋势,生成式AI不一定都要用GPU。
Lenovo亚太区边缘运算业务开发经理李英群则提到,客户要自建AI服务器,硬件也可以用订阅(租用)的方式,降低客户初期的成本。
财团法人人工智能科技基金会CEO温怡玲则提醒,AI人才培训到底和企业的成长有何关连,其实都是可以持续探讨和精进的问题。
责任编辑:陈奭璁
- 富士康AI智能城市愿景 将用10个LLM造超级App
- 中光电谈AI框架 影像识别结合LLM有益处
- 终端导入「边缘AI」门槛高 研华:使其规模化跃升涉及4要素
- (AI Expo) 台AI硬件席卷全球 林昭阳谈如何在「软件面」发挥影响力
- (AI EXPO)大规模个人化成可能 Pinkoi靠AI打造电商购物MBTI
- AI愈来愈聪明 张益肇:三大领域也需关注
- Vantage数据中心估7月开幕 服务器规格依客户需求
- 企业导入AI不难 纬谦:确立方向方能精准落地
- 你的资产安全吗?国泰金谈金融业如何与AI共存
- AI的100分会给怎样的人?迈达特:找出正确期待值
- (AI Expo)人机界面有看头 但LLM并非万能
- AI Expo展场直击:AI工厂迈向新纪元、虚拟气象主播上线
- (AI Expo) 台积电用AI提高良率?孙元成:AI已无所不在
- 高通刘思泰: 边缘AI潜力无限 规模势必超越云端
- AI增加云端与边缘整合 传统储存面临挑战
- 群联抢攻GenAI产业链空缺 2025迈入指数型成长
- 生成式AI云端和边缘并进 边缘运算另有4大课题
- 傅立成:LLM助机器人发展大脑 然「恐怖谷效应」得避免
- 为何微软、OpenAI相继拓点日本?前微软亚洲研究院副院长这麽看
- 生成式AI促教育变革 范书恺:教育学科应设AI护栏