联发科梁伯嵩:AI模型训练运算需求 成长速度超越摩尔定律 智能应用 影音
Microchip Q1
Event

联发科梁伯嵩:AI模型训练运算需求 成长速度超越摩尔定律

  • 刘宪杰台北

联发科梁伯嵩指出AI模型训练运算需求,成长速度已超越摩尔定律。符世旻摄
联发科梁伯嵩指出AI模型训练运算需求,成长速度已超越摩尔定律。符世旻摄

联发科前瞻技术平台资深处长梁伯嵩博士在AI Expo 2023首日论坛上,针对AI与半导体在未来的共同发展提出看法。

梁伯嵩强调,AI模型训练所带来的运算需求,将会是未来带动芯片成长的关键,其成长速度更已经超越摩尔定律。然而,目前台湾在大型AI模型的发展上,普遍还是选择整合数据后,传送给海外的AI模型训练,这除了会有数据库不可信的问题,也对台湾累积自身在AI领域的知识及IP非常不利,更有可能限制台湾在AI应用上的发展机会。

梁伯嵩指出,大型AI模型训练已经是先进国家高度关注的重点趋势,如美国、国内、欧洲、日本、韩国都为此投入相当的资本,来建置百亿亿级超级电脑,为的就是在本地也建立自己的模型,累积AI相关资本及技术能力。

不过,台湾至今都还没有任何一个百亿亿级的超级电脑建置计划,梁伯嵩表示,这点令人担忧,对于不少台湾的半导体和ICT产业来说,AI技术都是决定其未来竞争力的关键,在IC设计产业更是如此,这也是为何台湾无论如何都应该要有本地的大型AI模型训练计划。

梁伯嵩认为,面对大型AI模型的潮流,台湾应该针对公开数据和具备隐私性的非公开数据,采取不同的做法和态度,在公开数据方面,台湾可以尽可能参与国际生态体系,并和微软(Microsoft)、Google、NVIDIA等大厂合作,但针对一些政府、企业的核心内部数据,影响到关键技术、专利,甚至国安相关数据,应该自主训练大型AI神经网络来因应。

除了防止数据外流,用自主训练的模型将能够进一步提高运算效率和正确性,避免被国际大数据库内部的偏误影响,模型的结构也更能符合台湾公、私部门的实际需求。

梁伯嵩表示,超级电脑算力过去大约每10年就会增加100倍,但因为芯片技术及结构升级,提升百倍算力的代价,在成本上仅增加5倍,功耗则增加2.6倍,相较于算力的提升算是非常划算。不过,考量到大型AI模型训练的演算需求真的太过庞大,短时间内应该还是会在可接受的范围内,维持或缩减部分AI功能,以降低整体运算成本,推动生成式AI的普及化和大众化,中长期则得仰赖芯片技术的提升,并建置更多超级电脑来完成模型训练。

熟悉台湾IC设计业界人士指出,过去台湾业者并未在大型运算芯片领域有太多着墨,甚或近期各家业者都强调,初步将会以边缘运算芯片为主,但其实领先大厂包括联发科、联咏、瑞昱等业者,都在扩大自身的AI芯片技术及产品线,就算无法达到美系大厂的等级,但未来有可能逐步推出运算能力较强的ASIC产品,来寻求其他发展机会。


责任编辑:张兴民


议题精选-AI Expo 2023报导集锦