联发科梁伯嵩:AI模型训练运算需求 成长速度超越摩尔定律
联发科前瞻技术平台资深处长梁伯嵩博士在AI Expo 2023首日论坛上,针对AI与半导体在未来的共同发展提出看法。
梁伯嵩强调,AI模型训练所带来的运算需求,将会是未来带动芯片成长的关键,其成长速度更已经超越摩尔定律。然而,目前台湾在大型AI模型的发展上,普遍还是选择整合数据后,传送给海外的AI模型训练,这除了会有数据库不可信的问题,也对台湾累积自身在AI领域的知识及IP非常不利,更有可能限制台湾在AI应用上的发展机会。
梁伯嵩指出,大型AI模型训练已经是先进国家高度关注的重点趋势,如美国、中国、欧洲、日本、韩国都为此投入相当的资本,来建置百亿亿级超级电脑,为的就是在本地也建立自己的模型,累积AI相关资本及技术能力。
不过,台湾至今都还没有任何一个百亿亿级的超级电脑建置计划,梁伯嵩表示,这点令人担忧,对于不少台湾的半导体和ICT产业来说,AI技术都是决定其未来竞争力的关键,在IC设计产业更是如此,这也是为何台湾无论如何都应该要有本地的大型AI模型训练计划。
梁伯嵩认为,面对大型AI模型的潮流,台湾应该针对公开数据和具备隐私性的非公开数据,采取不同的做法和态度,在公开数据方面,台湾可以尽可能参与国际生态体系,并和微软(Microsoft)、Google、NVIDIA等大厂合作,但针对一些政府、企业的核心内部数据,影响到关键技术、专利,甚至国安相关数据,应该自主训练大型AI神经网络来因应。
除了防止数据外流,用自主训练的模型将能够进一步提高运算效率和正确性,避免被国际大数据库内部的偏误影响,模型的结构也更能符合台湾公、私部门的实际需求。
梁伯嵩表示,超级电脑算力过去大约每10年就会增加100倍,但因为芯片技术及结构升级,提升百倍算力的代价,在成本上仅增加5倍,功耗则增加2.6倍,相较于算力的提升算是非常划算。不过,考量到大型AI模型训练的演算需求真的太过庞大,短时间内应该还是会在可接受的范围内,维持或缩减部分AI功能,以降低整体运算成本,推动生成式AI的普及化和大众化,中长期则得仰赖芯片技术的提升,并建置更多超级电脑来完成模型训练。
熟悉台湾IC设计业界人士指出,过去台湾业者并未在大型运算芯片领域有太多着墨,甚或近期各家业者都强调,初步将会以边缘运算芯片为主,但其实领先大厂包括联发科、联咏、瑞昱等业者,都在扩大自身的AI芯片技术及产品线,就算无法达到美系大厂的等级,但未来有可能逐步推出运算能力较强的ASIC产品,来寻求其他发展机会。
责任编辑:张兴民
- AI丢给台湾的3个问题 ChatGPT让工程师考虑「躺平」?
- AI芯片黄金期来临?板块激烈变动中
- 智能边缘席卷产业 AI MCU拥三大核心竞争力
- GPT一本正经胡说八道,Trusted AI生态系能扭转信心?
- AI协助企业治理 用非结构性数据找到问题所在
- 「AI骨架影像分析」不只控制人流 还能完善工安体系
- 达明机器人AI COBOT 产线帮手兼差送饮料
- 生成式AI个性、面貌大不同,AWS主打创作辅助
- AI虚拟人技术 金融领域导入快
- 大联大:ChatGPT是杀手级应用,企业拥抱AI应谋定而后动
- 国合会22国参访团亲临AI Expo 期待与台厂AI合作
- 三巨擘争锋 Google Cloud细数AI突破 微软回应AWS:网安不「裸奔」
- AI芯片需求引燃 台IC设计低功耗、低延迟传统优势大有可为
- 卖早餐的科技公司餐饮寒冬「疫」军突起,企业如何充实AI军火库?
- 台积电善用数据治理生产力增逾6成,邓白氏谈企业战略资产
- 台湾迎最大退休潮冲击 智能工厂是最佳解
- AI智造改善缺工,长期却可能冲击社会结构?
- (AI Expo)培养未来人才 高中生「超前部署」AI
- (AI Expo Day 3)耐能智能:将发表NanoGPT相关AI芯片
- (AI Expo) AI跳跃式发展 竞合生态改写中
- AI驱动存储器发展 推升定制化边缘运算应用
- AI Expo新创绽光:AI占卜师接受提问、软件参展不劣势
- 富士康谈量子电脑原型 政府投资宜拿捏温度
- 联发科梁伯嵩:AI模型训练运算需求 成长速度超越摩尔定律
- AI Expo首日开幕 毛治国:OpenAI打开潘朵拉盒子 直球对决更胜禁用阻绝