智能应用 影音
从半导体设备市场规模看产业变化
众所周知,在美中贸易战及新冠疫情后,国家安全及供应链安全成为各国亟待强化的关键课题,半导体制造能力成为施政重点。在此背景下,2021年及2022年全球半导体设备市场规模前所未见的连2年突破1,000亿美元规模,分别达到1,026亿美元及1,076亿美元的规模。我归纳整理国际半导体产业协会(SEMI)以及日本半导体装置制造装置协会(SEAJ)发布的原始统计数据,探讨半导体产业的结构变化。可以看到台、韩、中三地是全球最大的半导体设备市场,2020~2022年三地合计都占全球市场7成以上。国内虽在2000年发布十八号文及中芯、宏力建厂,但其后投资建厂的规模在全球仍不算是「大咖」,直到2014年发布「国家整合电路产业发展推进纲要」并启动大基金大举投资半导体供应链各环节,产业发展动能才真正被点燃起来。国内到了2018年,首度突破100亿美元的市场规模,成为与台湾及韩国鼎足而三的大市场。2021与2022年这三地规模更都突破200亿美元。   另北美、欧洲、日本及其他(以色列及星马等)地区,2020~2022年半导体设备采购规模都呈现逐年增加的趋势,但仍与台韩中三地有非常大的差距。若看2018~2022年的合计设备销售额,可看到在美中贸易战冲击下,国内是多麽积极地采购设备建制产能;美日投资额虽较之前有所增加,但在规模上仍远远不若台韩中三地;欧洲的投资力道则更不及美日两地。若观察前三大半导体设备厂的营收结构,台韩中三地各占应用材料(Applied Materials)2022会计年度(2021/11~2022/10)公司营收的24%、17%、28%;占东京威力科创(TEL)半导体事业营收的19%、16%、23%,均以国内为最大市场。可以想见2022年10月美国祭出出口管制措施,之后又要求日荷同步配合对半导体设备商的冲击。高端微影设备领导业者ASML于2022年则以台湾为最大市场,占比达38%,韩国次之,占29%,而国内仅占14%,相对受影响较轻。日本首相岸田文雄2023年5月邀请半导体产业龙头业者齐聚官邸,试图强化半导体供应链,而美国在2022年推出《芯片与科学法案》(Chips and Science Act)后,迄2023年5月申请奖补助业者已超过300家,6月负责芯片法中研发计划管理的芯片研究与开发办公室主任亦已到任。设备采购是产能布建及产品服务销售的先期投资,观察过去这几年的半导体设备市场观,台、韩、中在产能与未来几年的销售上,仍可望具有高度成长动能,但在美日欧的强力扶植下,各地都逐渐建立起相较过去更完备的半导体产业链,国际上「去全球化」的发展态势下,台湾业者迎来的是「国际化」的挑战,若能通过考验,未尝不是进一步壮大的契机! 
国防领域的量子技术
量子技术是将量子物理原理应用于实际情境的技术。费曼(Richard Phillips Feynman;1918~1988)是量子计算的奠基者之一,他提出利用光子进行计算的概念。其贡献促进量子计算的研究和发展,为量子计算领域带来卓越贡献。在军事领域中,量子技术一直是国防部门关注的重点。整体而言,量子技术尚未完全成熟,但它可能对未来的军事传感、加密和通讯产生重大影响。量子应用涉及许多关键概念,包括叠加、量子位元和纠缠。其中最具挑战性的应用是量子计算,这是一个令人惊叹的梦想,可以实现无限计算能力,突破当今物理世界的限制。然而,计算是否有速度上的极限呢?如同光速限制在不改变时间的情况下穿越太空的能力一样,是否存在着阻碍计算速度超越理论上最大值的错误纠正限制?建立一个有用的量子计算机需要处理超过可观测宇宙中亚原子粒子数量的连续参数。目前还没有确定如何操作如此庞大的量子系统,以及如何同时控制其误差。 因此,我们应该专注于量子传感技术,以加速成熟的国防应用。量子传感技术可用于偏远地区的全球定位系统(GPS)定位和其他导航工具,还可用于检测电磁辐射,提升军队的电子战能力。据美国海军研究所(US Naval Institute)报告,量子传感技术可提升潜艇的探测能力,尤其是对于匿踪潜艇和物体探测的能力,效能将超越过去的雷达技术。 国内电子科技集团在2018年公布其开发的量子传感原型装置,据称能够探测飞行中的匿踪飞机。美国国防科技巨头Lockheed Martin,声称能够使用量子罗盘(Quantum Compass)来改善美国海军的导航能力。这种量子罗盘是由具有「氮-空缺中心」(Nitrogen-vacancy center)原子缺陷的微型合成钻石制成的。当受到雷射照射时,其发出的光强度会根据周围的磁场变化;透过地球磁场,这种光的变化可以提升导航能力,尤其是在极其偏远的地区。总结来说,量子传感器具有潜力应用于情报、监视和侦察领域。成功开发和部署这类传感器可能会带来潜艇探测能力的重大改进,甚至能够对抗和摧毁海上核威慑力量。由于量子传感器对环境干扰非常敏感,军事人员可以利用量子传感器来探测地下结构或核材料。此外,量子传感器的高灵敏度还有可能帮助军队探测电磁辐射,增强电子战能力,并有助于定位隐藏的敌方部队。 
竞争优势加持 抗逆风的2023年半导体列强群像
近期人工智能(AI)话题掀起热潮,不过2023年全球半导体市场仍难脱衰退,主要受到存储器市场恐将年减30%以上所拖累。非存储器部分,几家大厂包括英特尔(Intel)、超微(AMD)、高通(Qualcomm)、联发科第1季营收均呈衰退。至于晶圆代工龙头台积电,受到全球众多IC设计公司、IDM业者所依重,但前4月累计营收亦较2022年同期减少1.1%,不如2022年时英勇。观察2022年全球前廿大半导体业者,在2023年的年度营收仍有机会较2022年成长者,估计只有博通(Broadcom)、NVIDIA、意法半导体(STM)、英飞凌(Infineon)、Microchip等5家。其中,前两者与数据中心有线网络芯片及AI芯片相关,后两者则主要与车用半导体、工业用半导体有关。博通的半导体事业主要在有线通讯,特别是数据中心用网络通讯半导体,因此较不受一般消费应用如智能手机需求衰退等因素的影响。另外,博通的定制化芯片在云端服务业者也占有一席之地,如Google的云端芯片TPU即采用博通的设计方案。随着主要云端服务及网际网络业者如亚马逊(Amazon)AWS、微软(Microsoft)及Meta纷纷以自研芯片提升服务效率及降低成本,博通及对应的晶圆代工业者台积电均能受惠。2022年前廿大半导体业者中,NVIDIA的2023年营收成长率预期将是最亮丽者。主要原因是2022年第4季以后,生成式人工智能(generative AI)应用如火如荼地发展,在训练模型方面,算力需求快速增加,其A100/H100在服务器用GPU市场备受瞩目,A100 GPU单价已高于一般的服务器,H100 GPU更是A100 GPU的数倍。观察前廿大半导体业者对第2季自家营收展望,NVIDIA在营收季增幅度及年增幅度均明显领先。必须一提的是,NVIDIA纯粹半导体营收估计仅占整体营收的6~7成上下,高单价的服务器系统(如DGX A100、DGX H100)、软件解决方案的销售金额占比持续提升中。NVIDIA未来加速转向AI生态系解决方案业者,不能单纯以半导体公司看待。尽管车用半导体缺货吃紧问题逐渐缓解,但对于优质产品供应商而言影响相对小,预期2023年全球车用半导体市场仍可创造近10%年增率,相对地,2023年整体半导体市场(包含存储器)则恐年减8~10%。2022年英飞凌为第一大车用半导体业者,也是第三大工业用半导体业者。由于车用半导体及工业用半导体供应关系不轻易更换,在信赖度及品质上领导大厂仍占竞争优势。2023年英飞凌随着该公司车用半导体新产能的进入量产,加上在第三类半导体碳化矽(SiC)的发展也有所成,在电动车、低碳化、高能源效率化三大趋势下,英飞凌仍然处于顺风的态势,预计营收年增率有望突破10%,在前20大半导体业者营收年增率上有机会排第二名。意法半导体在2022年的车用半导体市场占有率居第三大、工业用半导体市场占有率为第四大,而车用及工业应用市场也是2022~2025年成长率较强劲的2个主要市场,优于通讯及消费性电子应用表现。意法的新建半导体产能在2023年以后陆续投产,可纾解过去该公司在市场上的供给不足。意法核心竞争力之一,乃掌握许多专属制程,先进制程则委托台积电等业者代工。Microchip在2022会计年度营收的75%在工业用、数据中心与运算、车用,因此在2023年受到消费性电子及手机市场衰退的影响也较小,该公司与客户签有长期供应合约,且在微控制器(MCU)市场有其地位,不易受景气起伏冲击。总体而言,半导体市场虽然起起伏伏,但长期需求仍是向上,上述5家业者掌握云端服务/数据中心、AI、电动车及ADAS、工业应用高效率化的大趋势,能在半导体市场衰退年仍然逆势成长,有其核心竞争优势所在。本文探讨仅限前廿大业者,若把眼光扩大至半导体供应链,美系EDA两大龙头业者近10年来营收未曾衰退,2023年也将持续成长,也是值得关注。
人工智能的启示
图灵奖(Turing Award)得主Geoffrey Hinton在日前公开讨论人工智能(AI)的风险。AI「往往会从分析大量数据中学到意想不到的行为」。这并非意味着具有自主意识的AI会摧毁人类,而是我们无法预测AI的行为,特别是当个人和企业允许AI系统不仅生成其自身的代码,而且在自己的计算机上运行这些程序时,Hinton担心「有一天,真正的自主武器将那些杀手机器人变成现实」。第一个实际的AI系统是由Edward Feigenbaum及Raj Reddy实现,称为「专家系统」,是一种智能的电脑程序,能运用知识与推论来解决只有专家才能解决的复杂问题;他们也因此一贡献荣获1994年的图灵奖。然而,许多系统需要模拟的参数甚多,至今仍然无解。可见计算机模拟的应用博大精深,即使今日AI技术突飞猛进,有许多题目仍值得深入研究。图灵(Alan Turing,1912~1954)在1950年发表一篇重要论文〈计算机与智能〉"Computing Machinery and Intelligence",首次谈论到AI,并提出图灵测试(Turing test),为信息领域创建智能设计的标竿。图灵测试指的是,如果一台计算机能够欺骗人类, 相信它是人类,那麽它就应该称为智能计算机。AI缘起于模拟人类行为,自然也常用于社会学。密歇根大学的政治学教授Robert Axelrod,在1980年代进行一连串电脑模拟实验,找一群专家写出不同电脑程序,模拟人类行为,让这些程序互动、合纵连横,看哪个程序最后会胜出。这些程序有些模拟「金律」,有些模拟「银律」,有些则模拟「铁律」。所谓「金律」(Golden Rule),语出《新约》7:12「无论何事、你们愿意人怎样待你们、你们也要怎样待人」;「银律」(Silver Rule),语出《旧约》21:24「以眼还眼,以牙还牙,以手还手,以脚还脚」;「铁律」就是「己所不欲,先施于人」,外在表现是「先下手为强,后下手遭殃」。结果最成功的是模拟「银律」的Tit-for-Tat程序。这个程序一开始采取合作,若对方也肯合作,接下来则仍采合作策略;若对方吃你豆腐,下一步你就占回便宜。在实验中,实施金律的程序一败涂地,屍骨无存,可见咱们先总统蒋公介石对日本「以德报怨」的做法是行不通的;实施铁律策略的程序一开始也有不错的表现,但长期下来,所有被它吃豆腐的人不是死了,就是躲它远远的,它最后也没戏唱。有一个铁律例子,就是石油大王John Rockefeller(1839~1937)。他专耍先下手为强的手段,整垮所有对手,成为最有钱的人。但他的手段未免太狠,大夥都不敢恭维。Rockefeller也知道自己以前做事实在不上道,因此在退休后的余生,致力于慈善事业补过。然而,他过去的作为仍然祸贻子孙,他的后人能力再强,条件再好,想选总统,至今都选不上。延伸报导从Google查找趋势看三大AI技术浪潮
米德教授奇人奇事
在Chris Miller所着《芯片战争》(CHIP WAR: The Fight for the World’s Most Critical Technology)一书中,多次提到Gordon Moore(1929~2023)与加州理工学院(California Institute of Technology)米德教授(Carver Mead)的互动。在1965年,当Moore还在快捷半导体(Fairchild),手绘出从1959~1965年每一矽芯片中晶体管成长数字,总计只有5点数据,并预测未来成长会依照每1.5~2年以1倍的速度增加。Mead教授当时是快捷半导体的顾问,随即将此称之为「摩尔定律」(Moore's Law)。Mead曾回忆,当时他正在研究半导体内电子的量子穿隧效应(tunneling effect),在此事后没多久Moore就问他,穿隧效应要在很小的尺度才会发生,那晶体管可以做到多小的尺寸?Mead花了些功夫答覆此问题。1968年,Mead提出晶体管尺寸微缩理论(scaling),也就是在MOS晶体管的闸极长度微缩同时,每一晶体管所需耗用的功率是与长度成平方的下降,同时晶体管速度却等比例增加—即晶体管效能是随着晶体管闸极长度微缩,而呈现3次方的改善。当Mead在学术会议上,报告MOS微缩理论时,并预测未来1个芯片上可以有上亿个晶体管存在,并没有多少人相信Mead的理论。当时认为在这麽小的尺寸下,光是所产生的热即足以烧毁整个晶体管。事实证明Mead是对的,Moore's Law横跨超过50年时间,最主要的基石在于尺寸的微缩,而Mead的理论提供Moore's Law的理论基础。Mead在1970年代初期,即洞悉未来芯片上可以制作出众多的晶体管,代表将拥有庞大的算力,其也因此建议英特尔(Intel)高层,发展电脑所需的芯片。不过,如何有自动化的IC设计工具,处理日益复杂的电路设计,成为一个关键议题,Mead的研究随即转向IC设计。Mead于1970年在加州理工学院开设VLSI课程,在课堂上并将学生所设计的各式IC,用统一的光罩,手刻出布局图,最后完成硅片的制作。这比国内芯片设计中心对学术界的服务,整整早了20年。Mead与Lynn Conway于1979年合着的Introduction to VLSI System,更是IC设计者手中的圣经。Mead在1970年代初期,即投入Si compiler的研究,这是电路模拟及布局图自动化的滥觞,造就现在EDA工具的产业。Mead更于1979年提出未来半导体产业,会由多数的IC设计公司(fabless),及较少数目的晶圆厂(foundry)所组成。这与同时期张忠谋先生,在德州仪器(TI)内部所提出foundry概念,不谋而合。笔者在美国求学时,即久仰Mead大名。因为笔者的研究题目是化合物半导体的微波高速元件及集成电路,第一个发明出此类元件(1965年出现的GaAs MESFET)的正是Mead。化合物半导体很难成长出优质的氧化层,不像硅片有高品质的二氧化矽,所以化合物半导体只能利用金属作为闸极,直接接触到半导体。此接触(junction)因为材料不同,衍生很多的界面缺陷,因此电子几乎无法在通道内(channel)运行。Mead很技巧地利用此接触所产生的空乏区(depletion),来控制电子数量,也由于电子远离界面,所以能够自由地运行。至今我们在无线通讯所使用的高频元件,其运作方式依旧是使用Mead的原创。Mead在2000年后,又回到基础物理研究,尤其是量子的电动力学及重力理论。Mead似乎可以在不同的学术领域,来去自如,悠游自得。Mead于2022年荣获日本的京都赏,奖金是5,000万日圆。京都赏是由京瓷(Kyocera)已故创始人,稻盛和夫于1984年所创立,奖励全球对于前瞻技术、基础科学及人文艺术等3个领域有杰出贡献人士。华裔科学家邓青云博士,发明有机发光二极管材料,于2019年获得京都赏;国内清华大学信息科学教授姚期智博士,也于2021年获此殊荣。Mead的学术研究,由基础的半导体元件,到IC compiler的原创,以至于VLSI设计,对于半导体相关的领域做出重大贡献,在学术界还无人能出其右。他的洞察力及远见,更激发整个半导体产业的发展,终究造福大众。
从韩国最新偶像男团Plave说起
前几天在韩国一个主要流行歌曲音源榜Bugs上,有个出道2个多月的男偶像团体Plave首次拿下音源排名的第一、二名。韩国有不计其数的男团竞相出道,相信多数读者跟我一样,记不得团名,分不清谁是谁,但Plave这团却没这个问题,因为他们是虚拟偶像。这个团体有5位成员,分别是诺亚、艺俊、班比、银虎、河玟,有着外貌、身高、岁数、队内角色担当等角色设定,最年长的成员诺亚也才22岁,除了个子最小成员班比为174厘米外,其余成员都在180厘米以上。这样一个新出道虚拟男团,如何打败众多真实偶像团体拿下Bugs音源榜榜首?先来看一下这几年韩国的虚拟偶像发展,如同我们在探讨元宇宙有虚拟实境(VR)、增实境(AR)、混合实境(MR)、延展实境(XR)等定义和分类,韩国在虚拟偶像的经营上,做了可与此相对照的多元尝试。一、实体偶像的虚拟分身:SM娱乐(SM Entertainment)的一线4人女团aespa在2023年5月刚推出的新专辑《My World》创下销售破200万张的佳绩,其自2020年出道时,每位成员都拥有元宇宙的虚拟分身ae,分别为ae-Karina、ae-Winter、ae-Giselle、ae-NingNing(出道曲Black Mamba MV),2022年还跨界到RPG手机游戏《第七史诗》,成为游戏副本主角。二、虚拟偶像团:包括2021年出道的ETERN!TY及2023年出道的MAVE:等,前者是个11人的女子大团,出道前幕后推手人工智能(AI)公司Pulse 9,还举办仿效韩国知名选秀节目的模式,推出101位AI女练习生供网友票选出前十一名出道。 (可见最新单曲DTDTGMGN MV )后者则是韩国影视娱乐业霸主之一的「Kakao娱乐」与游戏公司「Metaverse娱乐」合作推出的4人女团,出道单曲Pandora自2023年1月下旬发布以来,迄今在YouTube上已达2,320万次浏览纪录,按赞数高达40万次。(可见Pandora MV)三、虚实混合团:韩国第一个虚实混合团乃偶像男团Superkind,2022年推出第一位成员担任门面角色的虚拟人物Saejin,这5人团体的另4位成员都为真人,2023 年3 月发布最新单曲,又新增1真人1虚拟人,扩编成为7人团。 (可见Moody MV)四、真人+2次元外皮团:这种组团模式就是本文一开始所谈的Plave,幕后推手是韩国三大公营电视台之一的MBC旗下公司VLAST。Plave是一个5人男团,外形乃是韩国直条网络漫画风格的俊男,但在这「二次元漫画外皮」后却是有5位真人团员,以3D模块+动态捕捉方式演出,于2023年3月12日推出首张专辑《ASTERUM》出道。(可见出道曲Wait for you初舞台 )一般韩国偶像团体推出新的单曲或专辑时,会有数周密集宣传打歌期,冲刺流量与销量,过了这段时间后在排行榜上成绩就逐步往下,而像Plave这般单曲推出3个月后才「逆行」攀升至排行榜首位的情况极为罕见。我的观察是,其他的虚拟偶像的呈现都是预先设定好的演出,但Plave则因为虚拟偶像外皮后是5位能唱能跳的真人,透过舞蹈挑战、跆拳道示范等各种主题直播,可跟粉丝密切互动;由于是3D建模,在直播时常常出现团员间严重穿模(肢体间相互穿透叠加)或是肢体突然扭动至不可能角度的情况,团员间常常得自嘲或乱掰来因应补救,造成很多「爆笑梗」,也让愈来愈多人入坑变成粉丝。从1996~1997年第一代偶像团体H.O.T、水晶男孩与S.E.S发展迄今,韩国偶像团体市场版图早已涵盖全世界,防弹少年团与Blackpink更成为全球最顶尖的潮流偶像。在这片市场沃土上,不仅有如IVE与New Jeans等大势团体持续扩大声势,也有如本文提到导入新科技与新经营模式,探索虚拟偶像的各种可能。虽然元宇宙如今热度稍退,但生成式AI的出现对元宇宙内容的发展却是一大助力,拥有全球市场渗透力及已然尝试多元虚拟偶像经营模式探索的韩国,是否又将在元宇宙再创新一波韩流呢?Plave出道迄今初尝成功的经验,是否也在提醒我们,high tech也需要high touch呢?
从「半导体即国力」到「AI即国力」
我受邀担任「台湾AI超算年会- AI 2.0 · 超算 · 新生态」的座谈主持人,当台智云总经理吴汉章结束完Keynote演讲,我问他,面对生成式人工智能(Generative AI)的风起云涌,有什麽感觉?他回答:「很兴奋!」的确是,从PC、网际网络、智能手机、电动车以来,又再出现让大众如此「有感」的新科技,而对身处科技产业业内的我们,却也知道,这是一个「AI大航海时代」的来临,有识企业都在承浪而起,拓展自己的事业新版图。我认为影响未来10~20年台湾科技产业发展的宏观趋势有三:「地缘政治」、「净零碳排」与「人工智能」。在国际秩序下,面对「地缘政治」冲击我们只能因应与自保;「净零碳排」可依循巴黎气候协定各国订出的碳中和目标与蓝图,逐步自我提升与发展新事业;但「人工智能」ChatGPT这一波来得又急又猛,来不及完善布局就得提刀上阵,而我们也难以想像,继ChatGPT后,未来的AI新技术/新模型又会给我们什麽意外的惊喜/惊吓?因为高度冲击性与与高度不确定性,所以才令人兴奋!在中美贸易战与COVID-19(新冠肺炎)后,由于攸关国家与供应链安全,但半导体先进制程产能却集中在台韩,而国内透过国家资本投入急起直追,美、欧、日等主要国家/地区才意识到「半导体即国力」,祭出芯片法与巨额补贴法案,提振在地的半导体供应链。美、欧、日乃至韩、中等地所欣羡的,是台湾以晶圆代工厂为核心的完善半导体产业生态系,这些国家需要「120%努力」甚至「强求」才有机会获得这样的国力,但对台湾而言,这「半导体国力」就只是我们的日常运作而已!在生成式AI浪潮袭来,从美国的Open AI、微软(Microsoft)、Google,到国内百度的文心一言,大型语言模型(LLM)/多模态(Multi-Modal)模型成为中美两国竞逐市场乃至竞逐国力的显学,宣告着「算力即国力」、「AI即国力」的时代已然来临。「AI即国力」的时代,台湾供应链扮演关键推手,台积电的先进制程支持着NVIDIA、超微(AMD)、英特尔(Intel)的新时代GPU与CPU,以电子六哥为首的供应链,供应全球9成以上的服务器,但这就代表台湾具有AI国力吗?不是的,在机器学习(Machine Learning)/深度学习(Deep Learning)的规模化应用上,我们不可讳言落后中美等领先国家不少距离,而「产业AI化、AI产业化」的发展愿景,可调查看看有多少业者从AI赚到大钱即可知迄今成效如何。传统商业竞争基于规模经济/范畴经济,往往是「大吃小」的竞局;网际网络时代基于网络效应(Network Effect),是「快打慢」的竞局,在AI时代呢?优秀的新算法/新模型发布,往往不用几个月时间,大量商业化应用便如雨后春笋般出现,可以预见生成式AI时代乃是「加速快打慢」的竞局,early adopter与follower间的落差只会愈拉愈开。自ChatGPT于2022年11月发布,全球各国同步开始竞逐「AI大航海时代」的版图,台湾能基于「AI即国力」的前提下,成为early adopter,并将发展出来产业应用/企业应用渗透海外市场吗?机器学习/深度学习的AI 1.0时代,除了政府、人工智能学校、公有云与NVIDIA等少数业者希望促成整体生态系发展外,多数业者其实各行其是、各自发展。如今台智云在台湾AI超算年会上,揭露自身「AI Foundry」的策略定位,将自身台湾杉二号超级电脑的算力资源与多个预训练模型开放给外部使用,以企业自身数据建立企业自身的地端模型与应用,并希望结合各界共同发展AI 2.0生态系。延伸报导开放生态助AI发展 台湾自研LLM接轨企业需求说实在,要扮演平台角色去enable整个生态系并不容易,能否成功仍是未知之数,但台积电1987年成立时,谁又能预见30余年后会成为台湾的护国神山呢?图説:从美国的Open AI、微软、Google,到国内百度的文心一言,LLM/多模态模型成为中美两国竞逐国力的显学,宣告着「AI即国力」的时代已来临。符世旻摄(数据照)
从Google查找趋势看三大AI技术浪潮
Google查找趋势(Google Trend)是个好用的工具,有时我会透过查找热度变化情况,观察某个议题的发展。这次我键入AI技术典范转移的3个字词「Expert System」、「Deep Learning」、「Generative AI」,看看会呈现出哪些结果?若以Google Trend最早能提供查询数据的时间2004年作为起始时间,「Expert System」的查找热度一路往下,而「Deep Learning」则从2013年起查找热度开始走扬,并于2014年与「Expert System」出现走势交叉的情况。Expert System是早期真正商用化的AI技术,属于规则式学习(rule-based learning)。其组成包括知识库、推论引擎和用户界面等3部分,透过大量请教专家,采用if-then-else的结构将专家知识和经验建成知识库,推论引擎则根据知识库中的规则和推论机制来推论和决策,用户界面则是如同ChatGPT,可用问答方式来获取专家系统推论的答案。Expert System热潮在80年代,因人类诸多内隐知识难以表达与形成规则,及规则式学习建立与维护数据库的复杂度随时间持续提高,专业领域专家系统(如医疗、土木等)逐渐式微,而一般企业管理用途的规则系统,逐渐被整合至如甲骨文(Oracle)与SAP等业者的企业应用软件中。2012年多伦多大学教授Geoffrey Hinton与其2位博士班学生Alex Krizhevsky、Ilya Sutskever发表〈ImageNet Classification with Deep Convolutional Networks〉此一论文,带动Deep Learning兴起。机器视觉领域有个2010年由李菲菲发起的奥林匹克级学术竞赛(ImageNet Large Scale Visual Recognition Challenge;ILSVRC),前2年优胜团队都是采用传统的机器视觉技术,Krizhevsky、Sutskever与Hinton的CNN神经网络模型AlexNet,在2012年竞赛「top 5 test error rate」指标中,创下竞赛以来的最佳成绩15.4%,领先第二名的26.2%近11个百分点,从此Deep Learning跃为机器视觉领域主流。当2015年微软(Microsoft)的ResNet以错误率3.6%胜过人类肉眼的5%错误率时,包括智能交通、人脸识别、瑕疵检测等多元市场商机随之起飞,也反应在从2013年迄今「Deep Learning」查找热度上。相较于「Deep Learning」为既有数据进行分类与分群等分辨工作(如人脸识别),「Generative AI」则是学习输入数据的模式和结构,其后根据训练数据的分布,生成相似但全新的数据。2014年的Ian Goodfellow提出的生成式对抗网络(Generative Adversarial Network;GAN),可说是带动生成式AI发展的里程碑。接下来这几年查找热度微幅上扬,生成式AI主要是在专业族群中愈来愈受关注,直到2022年11月ChatGPT的横空出世,引发媒体与社会大众的关注与使用,查找热度才急遽攀升。若直接比较ChatGPT与Expert System及Deep Learning,更可看到由于ChatGPT的爆炸性查找热度,相对而言,Expert System及Deep Learning的查找热度已被摊平成贴近水平的直线。Expert System之父Edward Feigenbaum在2007年接受美国电脑历史博物馆(The Computer History Museum)口述历史访谈,在被问及「我们如何赋予电脑知识?」时,他回答「我想唯一的方法就是依循人类文明现有的方式。我们藉由文本这个文化结晶来传递知识。过去是手稿,接着是印刷文字,现在则是电子文本……我们需要想办法让电脑读化学书来学化学,读物理书来学物理,或者是生物学等其他学科……我们的人工智能程序是手工制作并以知识建造的,除非我们有办法设计出能够阅读、理解文本并从中学习的程序,否则我们将永远无法突破。」(引用自阳明交大《数理人文》期刊第10期,〈人工智能专家系统之父—专访涂林奖得主费根堡之生涯回顾〉一文)Feigenbaum那时并未料到,Google的BERT与Open AI的GPT等近年发展的LLM在训练文本上的惊人数量级提升。以Open AI来说,从2018年GPT-1的5GB训练数据量/1.1亿个参数,提高到2020年GPT-3的45TB训练数据量/1,750亿个参数。之后Open AI便不再公布训练数据量,但最新发布的GPT-4估计可能超过1万亿个参数。带来的突破性成果正在为全世界各个领域的人们所尝试与运用中。Deep Learning的2位关键开创者中,Ilya Sutskever是OpenAI的联合创始人及首席科学家,持续推进最前沿AI技术的发展,但近日Geoffrey Hinton却离开Google,且呼吁人工智能给人类带来的威胁可能比气候变迁更急迫,而曾是Open AI共同创办者的Elon Musk也大声疾呼暂停开发和测试比GPT-4更强大的语言模型。我不禁想问如今已87岁高龄的Feigenbaum,身为自然语言处理AI宗师的您,当强AI时代愈来愈近时,人类该如何踏出下一步呢? 
云端服务大势所趋 带动台厂服务器长期商机
2023年第1季电子产业上下游仍处库存调节阶段,在营收表现上相较2022年同期多呈停滞甚至衰退。然而,大型(Hyperscaler)云端服务业者营运表现相对仍佳,加上生成式人工智能(Generative AI)带动的新应用热度正夯,后续成长动能值得关注。2023年第1季亚马逊(Amazon)AWS营收达213.5亿美元,年增16%;微软(Microsoft)Azure营收年增27%,另外Google Cloud Platform(GCP)营收年增率亦达28.5%。上述3家业者占公有云端服务市场比重约65%,维持强者续强的态势。 回顾过去5年公有云端服务市场成长情况,年复合成长率超过20%,AWS约占全球IaaS、PaaS及代管私有云(Hosted Private Cloud)服务市场的3分之1,维持第一大地位。AWS近期表示已对全球超过10万个客户提供人工智能/机器学习(AI/ML)服务,相对于亚马逊非云端业务,近几年AWS营收年成长率高出15~20个百分点、营业利益率也高出20个百分点以上,是亚马逊整体版图扩张及获利成长的主要动力所在。微软云端相关(包括Azure、Microsoft 365等)营收比重亦大幅提高至占整体公司营收约45%,企业策略定位明显转向云端服务,在云端服务市场占有率亦逐步攀升,居全球第二大地位。随着微软生成式AI服务将导入旗下各个产品上,对云端业务推广预期将有推波助澜的效果。展望2023年,受全球经济景气动能减缓影响,云端服务市场成长动能确实不及2022年,如AWS营收年成长率在2022年第4季时为20%,2023年第1季减少至16%,预估2023年第2季时成长率再减至12%。不过,以中长期而言,云端服务市场的长期发展仍应正面看待。由于企业IT采云端方式进行可带来弹性,资产投报率将会较佳,IT支出朝向云端转移的趋势不大可能逆转,加上AWS表示目前全球IT支出仅10%是在云端进行,后续云端服务市场的发展空间仍相当庞大。为因应云端服务市场成长趋势,云端资本支出势必连带成长。以2023年第1季为例,微软、Meta的资本支出年增率分别约24%、28%,2023全年亚马逊的资本支出预算虽预估将较2022年减少,但AWS的部分则可望继续成长。台湾服务器厂商的客户组成,来自于惠普(HP)、戴尔(Dell)、浪潮等服务器品牌业者比重已退居第二,云端服务业者则已跃居首位,且后者比重近年来持续攀升。因此,云端服务业者的服务器订单,对台厂重要性日增。台湾与云端服务相关的产业主要包括晶圆代工、IC载板、高速传输界面、服务器组装以及电源供应器、机柜等次产业。以最直接相关的服务器业者而言,台湾占全球服务器生产即超过93%。短期方面,根据DIGITIMES Research的调查,由于客户调整订单等因素,第1季全球服务器出货量较2022年第4季衰退,跌破400万台(以主机板计算);2023年第2季因第1季基期较低,及品牌商新平台可望优先放量,预期出货将有低个位数季增。展望未来,云端服务市场成长趋势未变,在生成式AI引发的新浪潮下,高单价的AI服务器出货量成长可期,尽管占比有限。关于最新服务器产业的分析及预测,请参考DIGITIMES Research服务器产销调查报告。延伸报导产销调查:1Q23全球服务器出货跌破400万台大关 2Q23出货将仅季增3.9% ChatGPT效应有限
铜混合键合的发展与应用(三):未来应用
混合键合技术的新应用中,最引人注目的当属高效能计算(High Performance Computing;HPC)。HPC在晶圆代工的产能中占据最显着的份量。HPC架构主体主要含处理器和存储器。处理器通常以最先进的逻辑制程制造,但是存储器(DRAM)的制程进展较逻辑制程缓慢,这个就产生落差。两者之间沟通落差限制整体表现,而且制程也截然不同,属于「异质」。延伸报导先进封装技术竞逐略有起伏 HPC导入热度高于手机AP解决两者之间效能落差的方法之一是利用平行处理。现在的处理器多具有双位数数量的核(cores),每个个核需要支持其运作的个别存储器。数量如此多的核-存储器之间的连线需要多个I/O接点以及高频寛,这就是十年前开始出现高频寛存储器(High Bandwidth Memory;HBM)需求的驱动原因。HBM是用2.5D封装技术将CPU与至多8个DRAM堆叠封装,其处理器与存储器之间的连接是透过芯片的微键(microbond)连接底下中介层的金属线至另外的芯片,如此一来I/O与连线的密度都可以大幅增加。对于常用于AI常用的GPU芯片,其核的功能比较专一,所以每个核的面积较小,一个芯片里核的数目动辄上千。每个核所需要对应存储器容量不需要很大,但是因为核与存储器的数目有数量级的提升,连线及I/O的数目要求更高,此时铜混合键合就能提供其所需要的效能。这个应用也是目前多家代工厂、DRAM厂的技术及业务能力扩展方向。2022年3月Graphcore发布于台积电造的Bow IPU号称是世界第一个3D WoW处理器,利用到的是混合键合的另一种优势。2片晶圆一边是AI处理器及其协作的存储器,主要包括1,472个IPU(Intelligent Processor Unit,Graphcore为其处理器的命名)以及与各IPU协作的独立900MB的分散式SRAM;另一个芯片负责提供电源。如此结构设计,Graphcore宣称可以提升效能40%以及节省功耗16%。超微(AMD)最近的Ryzen系列也因为不同的原因采取混合键合技术,虽然使用的是CoW的技术,而非WoW。超微将CPU中面积较大的L3 cache单独拿出并增容量、单独生产,在不增加CPU系统面积的情况下,增加可用的SRAM容量,减少一般信息处理必须传送到DRAM的需求,因而提升速度、减少功耗。延伸报导铜混合键合的发展与应用(二):商业化应用其他混合键合的应用现在可预见的还包括无线通讯、AIoT、PMIC等。在混合键合的制造成本下降后,应用领域还有可能延拓的更广泛。从芯片异质整合、效能提升、减少功耗、缩小面积等的几个优点考量,只要混合键合的成本下降至各优点的价值临界点后,技术的采用将会一一浮现。学习已经商业化的、正在酝酿中的应用并且分析其得失,是寻找新应用的 必要学习过程。