智能应用 影音
MongoDB
ADI
CES 2024展后观察:三大主题、10个关键字
今年(2024年)最大的科技盛会CES,热度再胜往年。根据主办官方信息,展场面积较2023年增加超过10%,参展家数超过4,300家,较2023年3,200家增加34%。全球最大的繁体中文科技网DIGITIMES从12月1日起至1月23日刊载的CES相关报导及研究报告,合计达到235篇,较2023年同期增加27%,在在显示CES相关热度胜过以往。分析此次的展出内容,我认为可以归结出「三大主题」、「10个值得关注的新兴科技关键字」提供参考。首先,AI Everywhere是最热门的话题,产品未跟AI扯上边似乎有点赶不上流行,AI在CES主要出现在AI PC、AI Smart Home、AI Mobility以及AI Health Tech(健康科技)这四方面。AI Everywhere关于AI PC的定义,领导大厂的定义仍分歧,但AI PC绝对不会是只走高端市场,例如电竞PC这类的利基应用(占整体PC出货量仍未达10%),未来几年AI PC势必遍及各人的工作与休闲生活中。AI Smart Home可以称得上是Smart Home智能化的另一次跃升,举凡电视(画质提升)、冰箱(AI镜头自动识别)、扫拖地机器人(自然语言互动、视觉识别、高度自动化)、空调(调整频率以利节能)、烤箱及微波炉、床垫、马桶、电动脚踏车、赏鸟望眼镜…等,本届CES中都可见到AI技术的应用。三星电子(Samsung Electronics)及乐金电子(LG Electronics)也展示其家庭储能系统,利用AI科技来最佳化家庭能源使用的效率。随着人口高龄化,健康科技日益受到关注。举例来说,透过具备AI技术的健康镜(Smart Mirror),消费者可以做基本的身心健康检测;又如骨传导技术AI耳机,消费者在健身活动中,AI教练可以协助提供提示与指导,在游泳时有了AI教练也不会游错水道。另外,智能床垫、智能马桶都是健康科技相关的应用。目前AI应用多多少少存在着噱头成分,不过就像智能手机的发展,1992年就有智能手机在市场上,但要到2007年目前的智能手机雏形才确立,生成式AI在各方面的实质效益呈现,也会需要一些时间。新兴显示科技第二大类主题是显示科技。CES 2024的XR(AR/VR/MR)展出业者高达350家,显示在2023年苹果(Apple)宣示Vision Pro的上市计划后,众多业者都想在2024年顺势在XR市场上有所斩获。CES 2024在显示科技的3个关键字为,Micro LED、OLED以及轻量化AR眼镜。OLED技术持续进展,预估2024~2025年全球智能手机半数将采用AMOLED技术。CES 2024中,多个电视、电竞监视器、NB及汽车展示OLED显示方案,热度逐渐扩大。乐金显示器(LG Display)的OLED TV面板峰值亮度较传统的OLED面板提高42%,有助于其与LCD技术竞争。 Micro LED因具备优异的条件,被视为终极的平面显示器。然而,Micro LED成本仍偏高,所以必须找到特定的利基,才能够在应用基础十分广大的TFT LCD与新兴的OLED技术夹击中找出路。从CES 2024可以看到Micro LED应用于大型透明显示器、车用仪表板、内嵌于车窗的智能互动显示器、AR用微型显示器(Micro displays)等;其中车用具备其他技术难以企及的优点,Micro LED在AR应用,未来5年可望有50%以上的出货量复合年均成长率。轻量化的AR眼镜方面,此次已经有业者展示与一般眼镜外型相当,重量也差不多仅35克左右的试用版AR产品,较CES 2023版本减少40%。目前AR眼镜出货量仍低,藉由轻量化发展先行开拓企业用及零售用利基市场,不失为巩固利基应用,日后图谋扩大市场的安全策略。随着AI技术的提升,未来AI结合AR的发展空间相当宽广,包括差旅时的语言翻译、信息提示、实时问答及脑力激荡与个人创作应用。CES 2024也有厂商展出无实体屏幕的AR NB及汽车用AR眼镜方案,诸多可能性值得关注。汽车科技汽车科技为近几年CES最主要的展示要点,CES 2024与汽车科技相关的参展业者高达700家,属于最热门的参展产品类别。2024年值得注意的4个汽车科技趋势,一是软件定义汽车(Software-Defined Vehicles;SDV)概念进一步落实及推广,高通(Qualcomm)、NVIDIA及英特尔(Intel)透过本身或其采用业者发表新的进展。高通预估数码底盘的整体市场机会在2030年可达1,000亿美元,所接获的订单金额合计也超过300亿美元。汽车运算能力今后几年也将明显提升,因应L2+~L4自动驾驶的需要,例如目前ADAS芯片市占率最高的Mobileye,主要销售的芯片算力约为25 TOPS,但NVIDIA 2020年发布的Drive Orin芯片算力254 TOPS,2024年多家汽车业者已经采用。NVIDIA新一代车用SoC Drive Thor算力高达1,000 TOPS,2024年下半采用该芯片的汽车将上市销售。另外,为了加速芯片上市速度及降低开发成本,开放架构及小芯片(Chiplet)设计也将是车用SoC的发展趋势。Chiplet方式设计的芯片市场,可望由服务器用、PC用,进一步延伸到车用的处理器,2030年采用Chiplet设计的车用芯片市场规模较2023年成长10倍。其三,AI在中高端汽车将是标准配置,本次展会BMW、奔驰(Mercedes-Benz)、大众(Volkswagen)、福特(Ford)纷纷展示整合生成式AI技术的汽车科技,便利性将是AI技术进一步提高消费者满意度的重心。至于生成式AI运用对个资外流的顾虑,业者表示这些信息已经过处理,ChatGPT将无法存取到汽车使用者的问答及个人信息。DIGITIMES研究中心针对CES 2024已产出多篇专题研究报告,详细报告内容请参考相关网页。
晶创台湾方案评论 (二)
第二项技术议题是「加速产业创新所需异质整合及先进技术」,这个很明显是对上述生成式人工智能(generative AI)芯片及应用的支持项目。 延伸报导名人讲堂:晶创台湾方案评论 (一)异质整合(heterogeneous integration)是将用不同制程、材料制作的芯片透过先进封装整合在一起,提升系统功能与表现效能。目前生成式AI及其他的AI应用是用2.5D先进封装,将GPU芯片与HBM3或HBM3E封装在一起,以提高带宽、提高速度。再下个时代的HBM4或许可能采用铜混合键合(copper hybrid bonding)的3D先进封装或者用矽光子以连接GPU与HBM,进一步提高速度和带宽,这些也都是异质整合和先进封装的发展方向。  这个技术方向自然是用来支持生成式AI芯片的发展,如果生成式AI的发展方向是正确的话,异质整合的方向也是正确的。异质整合还有自己的重要性,以前ITRS(International Technology Roadmap for Semiconductors)用来标示技术进展的计量是制程微缩的节点,2017年后产业界就用Heterogeneous Integration Roadmap,显示每年可以被异质整合进封装的元件种类/形态/功能。这意味着异质整合本身也成为半导体增加经济价值的驱动力之一。  这个项目中的异质整合技术—特别是与生成式AI高度相关的矽光子与铜混合键合—台湾的半导体产业早已提前投入并取得相当成果。  异质整合的芯片设计比以前单一芯片的设计要复杂许多。譬如铜混合键合的芯片设计由于上下两片芯片—譬如GPU与DRAM—尺寸要一样,而且金属接点要互相对应,2个芯片的协同设计是基本要求。此时的设计工作会牵涉整个系统而非单一芯片,新的设计辅助工具也是需要的。台湾半导体产业在这方面也提早准备了,譬如联电与Cadence于2022年初发布完成联合开发设计工具的消息。  至于人力资源与投资环境的问题,这在台湾已是沉疴,在此只加注一点。  从方案中的人力资源方案来看,显然政策上已经清楚认知台湾人口基数的长期下降才是目前人力资源不足的主因。这一点是显着的进步。清楚问题的根源才有机会提出正确的解决方案。  对这个方案有3个基本问题,第一个问题是方案的提出时间。2023年并不是常规的10年科技政策出台的年度,而且此届内阁即将任满。于即将任满的时间制订一个长达10年的政策,在行政伦理上合适吗?  第二个问题是经费。10年新台币3,000亿元的经费是个不算小的金额,如果以每年的平均经费来计算,此方案在年度科技总预算的占比高达30%。这样的专案预算编列只有2种结果:一是排挤其他常规项目的空间、一是需要增加新预算。如果是增加新预算,长期计划就要另觅长期的新财源。这些在方案中以及相关的信息揭露都没有看到。问题是预算来源到底是那一种?削减其他专案预算?还是要开譬新源,而源头在哪?  最后一个是关于电力的问题。目前很多的生成式AI芯片设计在效能与节电—散热之间的选择,都大幅的倾向追求效能,而将散热的问题留给制程与封装去解决,是以连芯片水冷这样复杂的方案都也列入考虑了。生成式AI很耗电吗?当初ChatGPT刚问世时,各大云端服务器都遭遇耗电骤升的窘况,而那只是浅尝即止的试用期。  如果这方案真的很成功,在生成式AI芯片的制造应用都顺利推展到各领域,算过电力供应要怎麽成长才能支应吗?这些电力哪里来? (作者为DIGITIMES顾问)
拿破仑的钮扣与马蹄钉
不久前在电影院观看《拿破仑》(Napoleon)一片,距离上回看拿破仑《滑铁卢战役》(Waterloo)一片,已经是五十多年前的事,那时我还在念小学。《拿破仑》演到1812年,拿破仑率领六十多万以法国为首的大军,攻打俄国。在严寒的冬天一路打到莫斯科,但是因为俄国采取焦土策略,大军得不到适当的补给而落败。最后仅残余数万军队。此次挫败也造成拿破仑第一次遭放逐。事后历史检讨此次作战失利的原因,当然包括严寒、补给,甚至于认为部队已严重感染伤寒。但是好事的化学家,却提出不同的看法,认为拿破仑在俄国战败,原因出在部队的军大衣钮扣。因为大衣钮扣是用锡所制作的,锡在常温下可闪闪发光,但在严寒下却会开始裂解,部队因无法保暖作战而落败。结论是拥有军事天赋的拿破仑,欠缺化学知识。无独有偶地,15世纪的英国国王理查三世,御驾亲征在玫瑰战役中(Wars of Roses),因为坐骑的一个马蹄铁掉落,重摔在地而失掉战役及一个王国。这个掉落的马蹄铁,却是因为少钉了一个马蹄钉。这也是拜登(Joe Biden)总统在刚上任时,一手拿着半导体的晶圆告诉媒体,半导体就是美国的马蹄钉(horseshoe nail),失去一个马蹄钉,就失去一个王国的典故。如同一颗钮扣,决定一场战役。半导体不仅是美国的马蹄钉,对于世界几个主要的大国亦是如此,当大国们体认到马蹄钉的重要时,代表其已经开始失去了。众所周知,半导体是发源于美国。二次大战后,美国为了围堵共产势力,认为扶持起日本,振兴日本经济,对美国是有利的,当然台湾也获得美援及美军协防。Sony创始人盛田昭夫,在1948年就到了贝尔实验室,看到才刚发明的晶体管。日本很快地取得美国授权,开始发展半导体产业,之后的70年代,日本制可随身携带的半导体收音机风行于全球。到了70年代初期,当时美国总统尼克森(Richard Nixon)曾说过,一个有历史的民族,是不会满足于只当晶体管收音机的制造者。果不其然,日本的半导体产品开始席卷美国的市场,尤其是DRAM,美国厂家纷纷退出。我记得在美国留学期间,参加国际电子元件研讨会(IEDM),当时的主流技术几乎都是由日本公司所发表。美国感受到威胁,祭出针对日本的关税、反垄断等商务措施,同时开始扶植韩国。日本半导体产业的衰败,除了日圆升值、泡沫经济、未能掌握到数码时代的来临等因素,但也跟韩国崛起有密切关系。除此之外,美国为了拉拢国内大陆加入西方的民主阵营,以对抗俄罗斯,于90年代中开始,想办法促成国内以开发国内家加入世贸组织,国内因而受惠于自由贸易,经济崛起,也获得不少来自西方的尖端技术。然而,国内还是决定要走不一样的路,与美国抗衡,也导致近来的科技制裁,尤其在半导体领域。台湾的半导体产业则完全不在美国的战略架构下,所独立发展出来的,但是跟美国也脱离不了关系,因为我们的人才养成及技术来源,很多都来自于美国。经过了几十年的努力,台湾是个拥有半导体马蹄钉的国家,现在我们忙着到全球各地帮马匹们钉马蹄钉,因为这些国家认知马蹄钉就是国家安全。但是一旦这群马匹都有了牢固的马蹄铁,我们的国家安全是否因此失去保障?事实上,半导体产业是最不需要去客户端就近设厂,服务国外的客户,因为半导体本身就没有关税,而且又轻薄短小,一个纸箱就可价值数百万美元。在《拿破仑》及更早的《滑铁卢战役》电影中,都描述在滑铁卢战役,起初法军是占上风的。但在中午过后,拿破仑因为身体不适,一度将指挥权交给副手,因而出了乱子,其所倚重的骑兵大量地损失,再加上敌军增援部队的来到而落败。所以一个公司甚至一个国家,指挥权的转移是非常的关键。我们的马蹄钉不多,国家安全要有保障。
晶创台湾方案评论 (一)
政府在2023年11月13日公布「晶创台湾方案」。这是一个跨度长达10年的科技政策,预计经费高达新台币(以下同)3,000亿元。  与之前比较缺乏宏观、整合的科技产业政策相较,这次推出的政策焦点比较集中,投入的时间与力道都很充足。单以经费为例,此方案平均每年经费为300亿。300亿是什麽样的概念呢?这是政府每年科技总预算的约30%左右。以这样的力度执行单一个聚焦的目标,这在近年来的政府科技政策中,近乎异端。  这个方案中只挑拣2个相关的技术目标、2种产业发展环境改善计划:一、结合生成式人工智能(generative AI)+芯片,带动全产业创新;二、强化国内培育环境吸纳全球研发人才;三、加速产业创新所需异质整合及先进技术;四、利用矽岛实力吸引国际新创与投资来台。 第一个目标是生成式AI芯片及其于各产业、生活、工作环节的应用,这个是整个方案的重心。AI芯片兴起的势头毋庸置疑,NVIDIA以及其他公司各式加速器是2023年半导体情势欠佳下的救赎之一;与之搭配的高带宽存储器 (HBM)同样在2023年一片愁云惨雾的存储器市场中一支独秀。 但是,此恰恰说明计划的前瞻性稍嫌不足。如果这是已经明确的现代进行式趋势,政府的长期计划要抢先早个3、5年;如果这真是一个长期趋势,起步虽晚,亡羊补牢尚有可为。目前最顶尖的应用—在服务器上执行生成式AI—硬件卡位已近完成,生成式AI芯片由NVIDIA独占鳌头,另外还有如超微(AMD)等大厂;应用相关的主流存储器HBM3E也由SK海力士(SK Hynix)占半数、三星电子(Samsung Electronics)居次。  目前这类芯片开发所需的资源、HBM的取得、先进封装所需的产能、与系统厂商的结盟等能力,连有些大的IC设计公司都难以企及。这是一个门槛极高的领域,新创可以存活的生态区相当狭窄。  晶创台湾方案「主要运用我国半导体芯片制造与封测领先全球的优势,结合生成式AI等关键技术发展创新应用,提早布局台湾未来科技产业,并推动全产业加速创新突破。」如果策略是依靠台湾的制造芯片能力来发展应用,用云端服务器来提供GenAI算力的这领域不太靠谱。芯片制造与封测只是其中一个中间环节,离应用端太远了。生成式AI是每个领域都会自发性投入的新技能,应用后有机会提升自己在产业中的竞争力。但是发展出应用后要将此应用转换成新的产品机会不太大,毕竟使用云端生成式AI算力的应用,还未能有足够数量跨入获利门槛,以此营利的机会不大。在既存大公司专注之外的生成式AI市场当然也存在,譬如ASIC或IP—特殊应用或定制化的应用,这是许多新进者比较容易入手并且持续存活的生态区;大公司食之无味,小公司已够温饱。 进入这个领域就比较有机会触及应用端的发展及商业化。 像生成式AI这样的应用,即使是较小型的模型—譬如在手机上可以使用的LLaMA-7B大型语言模型,所使用的参数数目也高达70亿以上。  在市场强烈的竞争下,很难想像即使是特殊用途、定制化的生成式AI,虽然参数较少,却可以使用不是尖端制程的逻辑芯片和HBM。而且,特殊用途和定制化的GenAI一般和系统的连结性极强,也毋怪有些较大型的IC设计公司自己定义为系统公司。其实很多系统公司也将业务延伸至IC设计公司,以确保公司的核心能力掌握在自己的手中。之前已有很多先例,特别是在手机和电动/自驾车的产业。生成式AI是一个需要极大资源投入、高度整合上下游的新兴领域,即使是其中的特殊应用、定制化的次领域。新创IC设计公司在这个领域发展机会不大。 即使要既存的、有规模的系统公司或IC设计公司投入此快速发展领域,政策的意向还要辅以配合的作为,譬如建立上下游协作平台、是否协助建立国际统一标准等手段。在目前已揭露的政策宣告,看不到这些必须的关键、详细作为。  对于跨度长达10年的长期计划,这是严重缺漏。
知识的传播
知识传播的机制随着时间,持续演进。在实体书数码化后的今日,提到大量快速散布知识的机制,大家都公认是网际网络(Internet)。网际网络大量信息的交替下,产生ChatGPT这种极端智能的生成式人工智能(generative AI),更对人类的知识演进有巨大影响。如果问起大量复制知识的始祖是谁,西方人都会说是古腾堡(Johannes Gutenberg, 1398~1468)。古腾堡最早印行的圣经甚至成为很多图书馆的镇馆之宝。我每次访问耶鲁大学,一定会到拜内克古籍善本图书馆(Beinecke Rare Book and Manuscript Library)朝拜其收藏的纸本古腾堡圣经,百看不厌。全书以拉丁文印行,每页2栏,各42行,因此被称为「四十二行圣经」(42-line Bible)。每当我来到美国加州洛杉矶,也会到杭庭顿图书馆(The Huntington Library)朝拜其收藏的另一本古腾堡圣经,这是羊皮版,字迹清晰,油墨没有褪色或晕开。每次观赏,都是不同的惊喜。杭庭顿图书馆也收藏英国第一本印刷书籍《特洛伊历史故事集》(Recuyell of the Historyes of Troye),这作品原本是法国作家Raoul Lefèvre 创作于1464年的浪漫史诗,内容讲述希腊神话中行侠仗义的英雄故事,具备中世纪骑士文学的色彩。英国之前都是靠手抄本流传,直到William Caxton从欧洲大陆引进第一代印刷机。杭庭顿图书馆的主人Henry Huntington(1850~1927)有许多国内文物的收藏,但我找不到杭庭顿图书馆收藏最早的国内印刷书籍。现存世界上最古老的金属活字本,是1377年高丽佛经《白云和尙抄录佛祖直指心体要节》一书。高丽的印刷术是学国内的。国内活字印刷术的发明早于古腾堡,但最早的国内印刷书籍却已失传。法国着名作家Rene Etiemble(1909~2002)称「所谓古腾堡可能是印刷术的发明人」是欧洲本位主义的欺骗行为。根据沈括(1031~1059)的《梦溪笔谈》,最早的活字印刷起源于1040年(宋朝),毕昇发明胶泥活字印刷术,替代雕版印刷术,包括制字、贮字、排版、拆板和刷印等一整套活字印刷术工序,与后世铅字排版的原理完全相同。其后历代出现各种活字铸造技术,所使用的材料包括木头、陶土、陶瓷、铜等。然而活字印刷在国内并未流行,仍然以雕版印刷为主。毕昇只是一位工匠,历史文献上甚至未曾保存他的完整生平事蹟及肖像。若非当官的沈括帮他记上一笔,后世可能根本不知道毕昇是何许人也。尽管国内比欧洲早400年发明活字印刷术,成就却被漠视。近代的活字印刷术发明仍然归功于古腾堡。在网际网络推动出巨大数据的AI时代,我期待「现代毕昇」的出现,为华人争光。(国立阳明交通大学资工系终身讲座教授暨华邦电子讲座) 
新兴国家的机会
意图侵蚀美国全球霸权的国内,是世界级的大国,甚至可以说,「如果台湾属于国内」,那麽世界局势就要改写了。要制衡国内,除了台日韩第一岛链连结成「科技岛链」之外,印度在人口结构、国内市场、软件人才、国家战略上,必然是美国积极争取的战略夥伴。2035年时,印度39岁以下的人口将比国内多出3.8亿人,现在的印度有108家独角兽公司,包括塔塔(TATA)、信实(Reliance)、TVS等本土公司,都有建立本土品牌的实力,在元宇宙等相关领域,年轻人口带来的商机将是成功关键。印度已经是全球第三大汽车市场,第二大手机与第一大双轮车市场,空气污染严重的印度,对于转向电动车有高度的期待。在美国政策鼓励下,苹果(Apple)、美光(Micron)等都积极布局印度,而台湾的富士康、和硕、台达电也深度耕耘印度的供应链,印度就算无法取代国内,在全球供应链中的地位正在扶摇直上。Outside-in vs. Inside-out除了中印之外,很多自然资源丰厚的新兴国家,将会以不同的策略参与角逐,我们也不能轻忽这些从会外赛打进赛局的参赛国。越南、墨西哥拥有地利之便,在美中关系改变的当下,成为第一批的受益者。从自动化生产必备的SMT设备进口金额可知,墨西哥、越南将是未来5~10年半导体需求成长最快的国家。人口不多、国内市场有限的新加坡、马来西亚两国,采取的半导体产业战略是积极吸引外资。现在新加坡已经有超过10个晶圆厂,新加坡以有限的人口、自然资源精打细算,用租税与政府的行政效率吸引很多大厂进驻,在「China + 1」与「Taiwan + 1」的口号中,对照性强烈的新加坡也是各国厂商,甚至是台商重点布局的国家。我常说,台湾迫于政治环境、人口资源,厂商被迫「Inside-out」,但几乎没有实体竞争优势的新加坡,却以无形的行政效率取得「Outside-in」的成果。台湾与新加坡成为明显的对比,也显示出只要有正确的战略与行政效率,产业发展并非缘木求鱼。以封测厂在第一波竞逐中取得一席之地的马来西亚,也成功吸引了英飞凌等公司进驻,也是东协国家中,最有可能在半导体八强赛局中脱颖而出的新兴国家。在ESG诉求的大局下,加拿大、澳大利亚等自然资源大国,在地缘政治、绿能、材料、人才等领域都有插旗的空间。加拿大、澳大利亚都有语言的优势,也把教育事业当成产业在经营,如果与台湾合作「半导体人才培训中心」,就可以取得在人才短缺的当下,占有更好的竞争地位。将东协南亚国家的科技人才吸引到澳大利亚、加拿大,也可以与台湾顶尖的科技大学扩大交换学生、教授的规模,而「求才若渴」的台湾晶圆制造厂、IC设计公司,谁会错过这样的契机呢?在全球化时代,美国引领的科技赛局,日韩与两岸都因为开放的自由贸易环境而受益。但当世界的格局从全球化走入「去全球化」或区域分工的新局时,所有的企业都得面对新的考验。不甘寂寞的欧洲正在跟亚洲的大厂招手,而东方的新兴国家,以及加拿大、澳大利亚是否也会参与赛局,且让我们拭目以待。 
台湾是「天选之岛」
1971年,英特尔(Intel)推出型号为4004的微处理器,我认为那是微电脑时代的开端,而台湾在不久之后推动的RCA计划,培养了台湾第一代的产业菁英,我常说,那个时代的英雄是成群结队而来。他们成为台积电、联电、华邦、旺宏、联发科、台湾光罩这些知名半导体业的创始人,也在IC设计、封测、光罩等不同的领域共建一个绵密、有效率的产业生态系。1980年代,以宏碁、神通为首的个人电脑产业开始开枝散叶,演化自计算器的仁宝、广达、英业达也不多让,而1992年康柏降价,原本认为将会受到重击的台湾IBM兼容电脑业,却成了全球最重要的供应来源。1995~2000年的大搬迁潮,台系NB厂从东莞、深圳往长三角、成都与重庆移动的过程,也是产业变革的经典。台湾产业没有被弱化,反倒借力使力,达到今天将近1万亿美元的规模。过去半个世纪的成就,有台湾人的努力,也有很多先天的优势与许多侥幸。1970年代,台湾退出联合国,与美日断交,婴儿潮时代大量涌进社会,在那个没有工研院、科学园区的时代,蔡明介、宋恭源等台湾第一代的创业家都在高雄加工出口区工作。伴随婴儿潮而来的还有石油危机、通货膨胀,但半导体产业的萌芽,无疑是给台湾带来一丝希望。经过半个世纪的努力,半导体、ICT供应链与庞大的运筹体系(空运),共同建构了一个保护台湾的天然屏障。从PC、手机、物联网到电动车,都带给半导体源源不断的商机,但下一个阶段台湾还可以如此幸运吗?2008年北京奥运之后,至2019年川普发动美中贸易大战之前,这10年可以说是国内的「黄金十年」。智能手机的大潮,带动了智能应用与移动商机,国内的独角兽企业,最多时占有全球的4分之1,是少数能与美系独角兽抗衡的重量级大国。相较于国内意气风发,台系厂商却在美中压力下不知如何是好?2019年2月,川普政府在白宫网页贴出美国要掌握「5G、人工智能、量子技术、先进制造」的竞争优势。2021年拜登接任之后,在白宫再度宣示,美国要有意义地掌握半导体、车用电池、药品、稀土的供应链。美国的宣示是向国内下战帖,但从台湾的角度观察,既有危机,也有商机。「商机」在于全世界的供应链一分为二,崛起的红色供应链被关在国内,台湾成为最重要的选项;「危机」则是在于全球化的美好时代飘然远去,去全球化的过程,将叠加经营成本,及台湾面对国际局势的因应能力。下一个时代的英雄,也会成群结队而来,还是美好的仗打过了,我们顺其自然,甚至吃老本、过好日子呢?
CES 2024展前了望:各类AI百花齐放、落地应用关键一年
2024年1月4日,CES主办单位美国消费者科技协会发布名为「What Not to Miss at CES 2024」的新闻稿,揭露CES 2024 四大科技主轴,列名首位的是人工智能(AI),若检视2023年年初同一时间的会前新闻稿,所列举的科技主轴分别是「Automotive and Mobility」、「Digital Health」、「Sustainability」、「Web3 and Metaverse」、「Human Security for All」,AI根本未列入其内。如此正好反应出由ChatGPT所点燃、突如其来的科技新浪潮,其势头是多麽的「凶猛」,该如何看待2024年的AI发展呢?叠加在过去AI基础上发展的生成式AI回头翻阅我过去的演讲简报档案,2017年就在谈「AI的下一步」,探讨从云端延伸到边缘的趋势,这是当时的热门研讨会主题,同样的议题在2023年又成为显学,预期也是2024年的发展热点,这6~7年的时间发生什麽样的改变?若就终端装置来看,在手机领域,高通(Qualcomm)在2015年发表的Snapdragon 820,芯片内部便配置Hexagon 680 DSP,能执行1,024位元的矢量运算,可作为AI推论引擎之用;在PC领域,英特尔(Intel)于2017年11月发布的Gemini Lake处理器,搭载第一代GNA(Gaussian & Neural Accelerator),作为语音处理与噪音抑制等背景工作负载的低功耗AI加速器。就边缘运算来看,在生成式AI这波热潮前,包括云端、服务器、网通、产业电脑等业者,都已提供边缘运算解决方案,用以收集与处理应用场域端的数据,尤其这几年5G的普及与2B通讯服务市场重要性的提升,更推波助澜边缘运算的发展。在演算法与应用方面,传统的机器学习如回归模型或SVM(Support Vector Machine)已普及多年,近10年主要基于卷积神经网络(Convolutional Neural Network;CNN)的特徵萃取/物件识别技术兴起,从人脸识别、人员管理、瑕疵检测、医学影像判读、到自动驾驶与交通监控等各类应用均已逐步普及。在AI导入的效益上,根据McKinsey 2022年12月发布的AI Survey报告〈The state of AI in 2022—and a half decade in review〉,在其受访企业中,导入AI的比重从2017年的20%,提高到2022年的50%;在效益上,2021年调查结果显示,降低成本最明显的领域来自供应链管理,有52%的受访企业表示受惠,而促进业绩成长的最明显领域来自行销/销售领域及产品/服务开发领域,各有70%的受访者表示有实质效益。2024年的AI发展,并非建立全新的基础建设与生态系,而是在此已具备云端—边缘—终端协同发展及各类落地应用的基础上,再进一步推动以大型语言模型(LLM)为主轴之生成式AI的应用落地。生成式AI发展新态势在AI发展上,有几个从2023年延续至今方兴未艾的趋势。从整体生态系来看,LLM软件与服务堆叠(stack)可分为3层,底层是各大模型及其集散平台(如GitHub与HuggingFace);其上一层是各类LLM开发工具,如prompt工程与管理工具;最上层是包括文章写作助理、程序撰写助理、内容与创意生成、查找助理等终端应用程序。ChatGPT带动基于LLM之生态系的蓬勃发展,接下来的发展应会类似iOS与Andorid生态系的发展般,Open AI/微软(Microsoft)与Google会各有其生态系,而现以Meta LLaMA系列为主力的开源社群也会有其生态系,从2023年11月Open AI开发者大会推出GPT Store及定制化GPT「GPTs」,及2023年12月Meta、IBM与英特尔、超微(AMD)及Linux等公司与机构合组开源AI联盟,已可窥见升温的生态系竞逐态势。从模型来看,可见快速走向多元分化的趋势,这包括针对泛用需求或特定工作任务、针对云端/边缘/终端不同场景的模型、或针对不同垂直领域或语系进一步强化等态势。接下来这些在基础模型上百花齐放的衍生模型,甚至可能如AppStore般发展出Model Store的商业模式。例子之一,是基于Meta 开源的LLaMA 2,已衍生出包括中研院、台智云及多个国内大陆业者与机构进行中文优化的版本。例子二是华为云2023年7月发布针对产业需求的盘古大模型三代,该系列模型包括「5+N+X」3层架构,最底的L0层包括自然语言、视觉、多模态、预测、科学计算等五个基础大模型;中间的L1层包括政务、金融、制造、制药、矿冶、铁路、气象等N个产业大模型;最上的L2层则是X个细化场景模型,例如输送带异物检测、台风路径预测等。另一趋势是生成式AI已逐渐从大语言模型朝向多模态模型发展。过去的多模态大模型作法是以既有的语言模型或是经预训练可提取语意特徵的图像模型为基础,再使用多模态训练数据增加新的网络层训练,建立多模态模型。例如GPT-4除文字外,也可接受图像输入便是采此作法。Google在2023年12月所发布的Gemini,则是从一开始便使用多模态数据进行联合训练所建立的大模型,可无缝理解与推论各种模态的输入内容并进行输出,无论是文字、程序码、声音、图像、或视讯内容。当大模型成为各家网络/云端巨擘及众多新创的主要战场时,可预见接下来会有更多原生多模态模型问世。科技硬件业最关心的则是模型小型化与AI on Device的趋势。Meta 于2023年7月公布的LLaMA 2除了70B版本外,也包括已可搭载到终端装置的13B与7B两版本。法国于2023年5月成立的独角兽新创Mistral AI,在2023年9月发布开源的Mistral 7B,主打仅7.3B的参数模型,宣称在所有基准测试结果优于Llama 2 13B,而Google的Gemini Nano版本则是先「蒸馏」大模型,然后进行4-bit 量化的微型模型,针对低存储器容量与高存储器容量终端装置,区分为1.8B与3.25B两个版本,且预告将首先搭载于Google的Pixel 8 Pro手机上。AI on Device的理想是走向AI Everywhere / AI on Every Device,2024年可说是生成式AI落地到各类终端的首年,全球智能手机销售的高峰在2017年,约达14.2亿支,而PC销售高峰在2011年,约有3.6亿台规模。近年除因疫情红利,在2020~2021年创下高成长销售佳绩外,其余时间都处于市场成熟几无成长的状况,AI PC与AI手机成为寄望所在。在物联网装置上,先前tinyML基金会定义tinyML规格,希望在MCU平台上,使用mW等级以下的超低功耗,在Always-on及电池供电的边缘装置执行边缘运算。如今包括像是智能音箱、汽车智能座舱,或是各类机器人等,也都因生成式AI带来功能与应用的提升,有机会进一步刺激市场需求。既有硬件产品外,也诞生一些基于生成式AI的新兴硬件产品,如由美国新创业者Humane所推出的无屏幕穿戴式AI装置AI Pin、另一家美国新创Rewind AI推出挂脖的Rewind Pendant装置。在台湾,募资平台上也有Plaud Note智能录音卡的项目,运用ChatGPT,将录音内容转成逐字稿并整理重点。总之,2024年将是生成式AI在过去的机器学习/深度学习发展基础上,进一步加成与汇流的一年,也是各种硬件、软件与服务大规模教育市场与测试市场水温的一年,着重在建立早期采用者的族群与市场规模,是生态系演化、业者高速竞合,期待、宣扬、亮点与失落交杂的精彩一年!
贸易战中,美国的角色
「全球化时代」应该从1960年代算起,日本与亚洲四小龙以雁行理论亦步亦趋地发展工业,创造了人类历史上少见的经济奇蹟,而1990年苏联解体之后,2008年北京举办奥运之前,则可以说是「全球化」最美好的时代。2008年,北京举办奥运的大手笔震惊了全世界。2009年时,国内GDP超越日本,本土市场开始养出超重量级的独角兽,阿里巴巴、腾讯、华为成为全球吹捧的对象,也开始以「高铁」为核心发展基础建设,到2023年为止,超过4万公里的高铁成为近代史的奇蹟。国内人志得意满,开始高唱「太平洋大到可以容纳中美两国」,甚至试着把南海、东海、黄海变成国内可以控制的内海。原本对国内发展采取乐观其成态度的美国,开始重新思考美中关系。形之,敌必从之世界级的大国,都以霸权心态面对国际关系(或者分工关系),美日之间的广场协议、半导体协议,打破传统的框架,也让台韩有机可乘。现在新的国际秩序正在形成,我们可以从供应端、需求端看到美中贸易大战中,美国的角色,也可以从日本政治人物的因应方案中,试着参酌、发展出台湾的国家战略。日本前经济大臣甘利明说,日本要从供给端理解半导体产业的影响力,而台湾正好是真正拥有供给端优势的国家,但社会、媒体、政治人物真的理解「供给端」可以带来的优势与效益吗?锐卒勿攻,饵兵勿食网通、服务器、高端芯片、半导体设备,甚至未来的车联网、电动车都将是「木马屠城」的载具、代理,台湾如何理解与选择国家战略?美国商务部坚持NVIDIA芯片必须受到限制,NVIDIA设计专为国内市场需求的芯片真的可行吗?还是仅仅是向资本市场、美国政府交代的工作呢?对台湾而言,从一开始的代工,进化到供应链,以及未来整套的价值链,演化的过程丰富多元,也充满着风险,如何激励优秀的人才继续奉献。我们明白「风行草偃」的道理,如果在上位者言不及义,如何期待社会上行下效呢?如果社会、媒体不讨论这些事情,政治领袖仍然会一如既往的拜庙,空谈土地纠纷、ECFA的是与非!
「矽纪元」是网络大航海时代的新起点
1492年,赶走回教徒摩尔人的西班牙伊莎贝拉女王支持哥伦布,发现了新大陆,从此改变了世界,而这也是大航海时代开始的关键时刻。如果我们以更长远的眼光观察世界的改变,1970年初开始的半导体时代,半个世纪以来经历过萌芽、个人电脑、智能手机的阶段商机,现在才真正迈入万物联网、无缝接轨的新时代。我们看到大量连动的数据,需要快速运算的芯片,也需要超巨量储存能力的存储器,一个被描述为「十倍速的时代」其实现在才刚刚要开始。几何级数的成长,迅雷不及掩耳Netflix用41个月找到第100万名用户,Facebook用了10个月,但ChatGPT仅仅用了5天。我们看到了几何级数成长的商机,赢家全拿的时代似乎已经到临。但除了亚马逊(Amazon)、苹果(Apple)、NVIDIA、微软(Microsoft)、Google这些大赢家之外,台湾凭藉不可或缺的「硬功夫」,成为以软实力取胜的企业之外,最成功的典范。网络事业可以速成,但建构一个生产体系,却需要庞大的劳工群,以及上游的芯片、设计、系统整合的硬功夫。台湾躬逢其盛,也无可替代,这也是世界赋予台湾的天赋与天命。矩阵思维:竞合并存,而且「合」多于竞只是一片大好的情势中,也有很多细微的改变。过去IC设计公司、零件制造厂做出产品,交给零件代理商,卖给承接PC、手机品牌商OEM大订单的富士康、和硕、纬创、广达、英业达。这是一条鞭的线性供应链,但现在生产面板的友达想发展数码看板,与佳世达之间的关系是竞还是合?佳世达以「大舰队」模式筹组控股集团,往更宽广的路径走,也更积极布局汽车的智能座舱等新商机。台湾电子六哥的毛利率都维持在6~8%,毛利不高,意味着不能犯错。但不谈台积电独占性的利润率,台达电30%、研华40%上下的毛利,意味着有多样性的选择,这是起步较早的台湾电子业无可替代的竞争优势。产业结构丕变,没有人可以「静观其变」。在变化的过程中,开放型的战略是共同的走向,而面向世界时,台湾的经济规模、量产体系、资本优势与管理经验,都让台湾成为「无害的夥伴」。取用于国,因粮于敌,善用台湾本土优势的台商,短期内仍然可以呼风唤雨。当我们对于量产制造的观念从最早的「代工」,进化到「供应链」,现在又往「价值链」发展时,台湾赢在起跑点,也站在制高点上。