智能应用 影音
EVmember
aispecialreport
英特尔怎麽了?
英特尔(Intel)近期负面消息不断:市值已经跌到半导体类股的第十名,是台积电的5分之1;晶圆代工业务持续扩大亏损;先进制程发展不顺;高通(Qualcomm)抢先与微软(Microsoft)合作推出AI PC的芯片。这一切在十年前,甚至五年前都是无法想像的事,英特尔到底怎麽了?英特尔CEOPat Gelsinger,上周在台北的COMPUTEX发表主题演讲。演讲是以击鼓演出开场的,颇有对这些负面信息,采取鸣鼓而攻之的味道。Gelsinger以摩尔(Gordon Moore ),在早年提出摩尔定律时所说的一句话开始,「Whatever has been done, can be outdone」,也就是说「过去不论完成了什麽,都是可以被超越的」,他相信自己是在做件超越前人的事,包括要在4年中完成5个先进制程节点。凭心而论,就个人的观察,英特尔还是一家非常有创新能力的公司。过去不少英特尔的创新是在创造一个产业生态,引领整个半导体界往前迈进。比如说,在90年代英特尔率先提出12寸晶圆平台,2000年代又接着倡议18寸的晶圆;为了PC的无线网络,提出WiMax架构;而Lightpeak是为了解决PC的有线高速信号传输;在封装上,与日本的味之素共同开发ABF材料;最近被讨论甚多的玻璃载板,以取代现有的高速载板,也是英特尔在多年前所提出的;为了解决芯片功耗过大的问题,英特尔率先提出芯片背面供电(backside power)的想法,为目前最有潜力的解决方案;甚至EUV的微影技术,也是英特尔首先赞助的科研计划。即便台积电轰动武林的CoWoS,英特尔也有EMIB(embedded multi-die interconnect bridge)的技术来抗衡。上述这些林林总总,如果没有英特尔的创新与推动,整个半导体产业也许还停留在石器时代,绝非现在的样貌。这麽一家创新又技术领先的公司,是发生了什麽事,造成今天的局面?首先,英特尔在最近的20年间(2005~2024)已换了4任的CEO,任期远短于先前摩尔在位的12年,以及Andrew Grove的11年。除了Gelsinger为技术出身外,其他3位都出身于营运或者财务。其次在整个半导体产业的生态改变,尤其是先进制程,7纳米制程节点是一个关键。在2010年初期,全球在开发7纳米技术,都遇到相当的瓶颈。首先若延袭既有浸润式DUV技术,在关键的微影制程,需要经过3次到4次的曝光程序,既费时又费工。当时的EUV,虽然只需1次的曝光,但是由于光的强度不足,每小时晶圆的产出远低于100片,量产上遭遇困难。整个产业弥漫着悲观氛围,认为技术已经遇到天花板了。换言之,在资源上的投入就不再这麽积极。最后也是最为关键的是,英特尔是家IDM的公司,有自己的产品。在这段期间英特尔先后并超过10家公司,比较大的购并案包括Altera (FPGA芯片),Mobileye (ADAS,车用自驾芯片),Habana(AI芯片)等。由于先进制程遭遇到瓶颈,自然地会考虑到CPU之外的产品线,再加上CEO多出身于营运,自然是忽略在技术深耕上的投入。反观台积电,由于没有自己的产品,唯一的选择,只能在技术上加大力道寻求突破,以及与客户的充分合作。终于EUV的瓶颈打开,加上苹果(Apple)、NVIDIA等重大客户,不断地对于先进制程的需求,最终导致今天英特尔的困境。在COMPUTEX 2024的主题演讲上,Gelsinger卖力地介绍自家Xeon 6 服务器处理器、Gaudi 3 AI加速器,以及AI PC Lunar Lake处理器。其中Gaudi 3以及Lunar Lake是委托台积电生产,分别使用5纳米以及3纳米的制程。这也显示Gelsinger想要超越过去英特尔的积极作为。个人的观察,英特尔还是个相当有底气的公司,Gelsinger的企图心以及有步调、弹性的作为,若能假以时日,势必会威胁到超微(AMD)甚至NVIDIA。美国政府也一定会全力来支持英特尔,因为英特尔是唯一拥有半导体先进制程能力的美国公司,而半导体又是全球兵家必争之地。最后,英特尔是否有机会威胁到台积电的龙头地位?值得我们深思。
不只见证科技业历史 我们更是造浪者
不只见证科技业历史,我们更是造浪者。6月5日美股收盘NVIDIA市值正式超越苹果(Apple),成为全球第二大市值公司,全球媒体要请黄仁勳评论此事时,都不得不提到他正在台湾参与COMPUTEX。除了NVIDIA自己的活动外,他站台、观展、四处吃饭逛夜市,用国台语跟产业与民众搏感情。除了情感上因有这麽一位出生于台湾、又高度参与台湾社会的科技领袖而与有荣焉外,更可贵的是,我们不只见证这历史转折的关键一刻,更深度参与其中!若回顾全球前十大市值业者的转变,从2009年年末市值来看,微软(Microsoft)与苹果这两家科技业者位居第二名与第六名,前者主宰着PC OS与生产力软件市场,后者于2007年推出iPhone正处于开创智能手机时代的上升期,此外拥有全球最大移动电话用户群的国内移动列名第七,但整体来说多数入榜者仍是属于石油、零售、金融、医疗保健、及食品等旧经济各领域的龙头业者。若观察2018年3月底、美中贸易战开打前的市值排名,仅有Berkshire Hathaway、JPMorgan Chase、与Johnson & Johnson这三家非科技公司入榜,其余七家均是美中BigTech业者,分居市值第1~5名及7~8名,依序是苹果、Alphabet、微软、亚马逊(Amazom)、腾讯、阿里巴巴、Facebook。这反应新经济的大幅扩张、2C端垄断性网络平台的市场地位(手机OS、查找、社群等)及2B端云端服务发展的方兴未艾。若就2022年底的市值来看,此时ChatGPT虽已于11月底推出,但生成式人工智能(generative AI)的颠覆性风潮仍未在资本市场充分反应,排名中腾讯与阿里巴巴跌出前十,反应外部美中霸权角力下美国对国内的抑制,及内部国内国进民退政策方针下,扩大监管网络巨擘的双重压力,而Tesla跻身第七名则意味着碳中和/ESG趋势下电动车的商机潜力及对创始人Elon Mask「火星人」般愿景下事业布局的期待。随着科技典范转移来到了当前的生成式AI浪潮,最新的市值排名中,科技业者分居1~5、7、9名,其中OpenAI最大股东及将GPT全方位导入己身各项服务的微软位居第一,而NVIDIA市值在相继超越Meta、亚马逊、Alphabet后,于6月5日收盘首次超越苹果,成为第二高市值公司。苹果曾多年维持全球市值龙头,2024年陆续为微软及NVIDIA所超越,这不仅反应谁是引领生成式AI浪潮的主导者,也正式宣告智能手机 / 移动联网时代的落幕。从2009年的微软与苹果,到最新市值前十大中的所有科技业者,多年来始终都需要以台积电为代表的台湾供应链。从AI加速器芯片到AI服务器,再到数据中心解决方案,再到AI PC,没有我们,加速运算没法加速、生成式AI应用没法落地。很高兴NVIDIA创造历史时正好恰逢COMPUTEX期间、正好黄仁勳人在台湾参与其中,我们是每个时代科技领袖身后的造浪者,过去我们往往不被看见,但如今,整个世界看到我们的贡献! 
三星电子涅盘再生,容易吗?
面对低迷的2023年,三星电子(Samsung Electrinics)营收跌落到2,000亿美元以下,最后一季的营收大约是500亿美元,获利20.8亿美元,营益率不到4.2%。已经有分析机构预测,如果三星在2024年没有起色,以果敢投资闻名的三星,将会面对财务规划上的风险。现在,2024年第1季公布的暂订财报显示,三星获利48.9亿美元,较上一季(QoQ)的20.8亿美元超出甚多。我们看不见手机、消费电子有太大变动,半导体转亏为盈才是关键,而前后的盈亏差异更可能高达50亿美元,难怪三星半导体前社长庆桂显说,三星半导体的获利将回到2022年的水平。如果从过去的历史经验,参酌最新一季公告的数据,或许我们可以更深入理解三星在调整经营决策上面对的挑战。在2023年最后一季,三星的营收中,有32%来自以半导体为主力的DS部门,以品牌为主的MX部门贡献比例最高,其中手机更是关键。由于最后一季三星手机销售拉出尾盘,上市不久的S24系列获得好评,2023年第4季的手机销售量达到5,700万支,也让MX部门创造出不错的获利。回顾过去几年三星的营收与获利结构可以理解,面板与消费电子(以电视机为主)已经成为鸡肋,影响不了三星的营收与获利结构。三星在55寸以上的高端电视机市场,全球市占率过半,但2023年最后一季消费电子却是小赔。我们可以说电视机只是三星品牌送进高所得家庭的代理、工具而已,对集团的获利挹注不大。与三星竞争半世纪的乐金(LG),在电视机市场上也是能与三星等量齐观的顶尖大厂,但现在LG也不再强调电视机的质量,而是将重心放在智能家庭上。不仅LG如此,三星必然也会加紧布局,以电视机成为智能家庭的枢纽,但这将牵涉到多元的内容服务与系统整合能力,而这正好是韩国厂商的罩门。除此之外,过去三星集团营收中,大约1/3的营收来自半导体,但获利却有2/3是半导体部门的贡献。以手机为主的品牌销售部分正好相反,营收贡献2/3,但获利却仅有1/3。当三星2023年的获利仰赖传统的手机,而传统的手机市场趋于饱和是无可挽回的大趋势,对三星而言,整合手机与半导体的能量,建构AI手机的市场地位乃是当务之急,因此重拾HBM的领先地位就非常关键。过去三星半导体部门营收、获利主力是存储器,在DRAM与快闪存储器(Flash)两大主流中,DRAM是寡头竞争,三星、SK海力士(SK Hynix)与美光(Micron)很自然的还有自我调节功能,市场秩序与价格相对容易控制,但Flash Memory却是多家竞争,且在高带宽存储器(HBM)商机上,SK海力士比三星更早布局。对三星而言,现在最有把握的是DRAM市场的商机,只要NB、手机市场回温,自然可以调高售价,赚取更多的利润。但单押传统的DRAM,只以经济规模取胜,绝非三星这种2,000亿美元等级的企业可以持盈保泰的经营策略。短期内持续布局逻辑系统芯片(System LSI)是必然的趋势,但更重要的是如何因应未来5年、10年以人工智能(AI),参酌地缘政治的大环境下,三星如何调整经营策略将是这一波AI大潮背后最值得观察的课题。很多人说,台积电最大的风险就是「地缘政治」,这样的说法同样适用于三星。如果我们知道三星半导体的营收一半以上集中在海峡两岸,看似竞争对手的台湾其实是三星很大的客户,反而国内的华为将三星列为假想敌,三星在国内手机市占率从20%一路暴跌到1%以下,这件事不是偶然,三星必然会记取教训。当尹锡悦当家的韩国说要成为全球AI的三大强权之一时,剑指的对象就是国内,而AI与网络、云端服务都是「霸权」之争,以大集团为主的韩国企业,在升级转型的路上,面对的困难远高于台湾。
AI解析音乐与尼采如是说
我以AI物联网分析音乐,并利用其结果来驱动乐器的演奏,称之为MusicTalk。接下来就想训练大型语言模型(LLM),将文字与音乐互换,再将音乐用来诠释影像。最大的应用是电影配乐。要将音乐智能化以配合影像,科技人必须对音乐的内涵有深入的认识。例如电影的配乐最让人印象深刻的是1968年电影《2001太空漫游》(2001: A Space Odyssey)中用史特劳斯(Richard Strauss, 1864~1949)演绎《查拉图斯特拉如是说》(Thus Spake Zarathustra)这首乐曲的开场。《查拉图斯特拉如是说》是尼采(Friedrich Wilhelm Nietzsch, 1844~1900)的作品。它不同于一般哲学作品,而是以散文诗完成。尼采曾表示这本书实际上是一部「交响曲」,以一种伪圣经风格撰写,它包含许多含糊不清且充满诗意的神秘箴言。我没读通这本书,肤浅了解其主要思想是,人类应该拥抱生活、自然、身体和物质存在,包括其中的乐趣和痛苦,而非寻求超越或来世的精神世界。生活即使伴随着所有的苦难,还是值得为了它的存在而生活。许多艺术家和作曲家受到《查拉图斯特拉如是说》的影响,但很少有人像史特劳斯那样深切融入尼采的哲学观点。1896年时32岁的史特劳斯开始创作 《查拉图斯特拉如是说》乐章。当时尼采因三期梅毒的感染,已精神失常。史特劳斯将自己作品的各个部分以尼采书中不同章节命名。他尝试将尼采抽象的文字清晰地翻译成同样抽象的器乐音乐。该作品在完成后几个月内进行首演,其华丽的编曲、复杂的音乐纹理、大胆的和谐和具争议性的主题,引发激烈的批评和喝采。《2001太空漫游》使用这首乐曲开场为外太空的日出配乐,符合史特劳斯描绘尼采书中开场的山顶日出情境。开场中的小号旋律呈现「自然」或「世界之谜」动机;它在整个乐曲中反覆出现,象徵着大自然的冷漠和神秘性: 在强烈的开场之后,号角的回应是一个宗教式的旋律,由分散的弦乐器精彩演奏。开场时音乐从柔和到逐渐增强,象徵着人类对一个完美、天堂般、精神上的自然替代的渴望。有了《2001太空漫游》的例子,我尝试以MusicTalk反推史特劳斯的音乐,想找出他想表现的意涵,却遭遇极大困难。史特劳斯曾经开玩笑地说,他可以在音乐中诉说一切,即使人们无法理解,我就是那位无法理解的人,妄想以物联网驾驭史特劳斯的音乐。《查拉图斯特拉如是说》太过深奥,AI处理不来。我决定放弃好高骛远的做法,由小朋友听得懂的《彼得与狼》训练MusicTalk,总算有初步成果。这是一个基于物联网的创新音乐乐器检测系统。MusicTalk 引入了一种名为亮度特徵基础Patchout的新颖机制,以提高乐器检测的准确性,并超越现有解决方案。MusicTalk首次系统性地将单个乐器检测器作为物联网设备进行整合,为与其他物联网设备的交互管理提供有效的方法。我们在MusicTalk中引入一个通用音频整形器,融合各种音乐公开数据集,如Audioset、OpenMIc-2018、MedleyDB、URMP和INSTDB。我们利用Grand-CAM分析Mel-Spectrograms来优化 MusicTalk中ViT Patchout和CNN的组合,以实现前所未有的准确率。例如,小提琴检测的精确率和召回率分别达到96.17%和95.77%,这是所有方法中最高的。此外,MusicTalk 的另一个优势在于其基于物联网的视觉化能力。通过将乐器检测器作为物联网设备整合,MusicTalk能够使用动画Avatar来无缝地视觉化歌曲。透过《彼得与狼》为例的案例研究,我们证明,改进的乐器检测准确性增强音乐的视觉叙事效果。与先前的方法相比,MusicTalk在这首歌曲上的F1分数提高12%。然而,我念念不忘的是,我们训练AI模型,何时能如同史特劳斯,了解尼采的想法。MusicTalk仍有很大的改进空间。 
台韩半导体业「有点黏」的连动关系
半导体产业是外贸韩国的命脉,2023年韩国出口半导体1,310亿美元,进口1,060亿美元,顺差250亿美元。对外汇存底雄厚的台湾而言,贸易逆差是帐面数字,但对2023年底时外债达6,636亿美元的韩国而言,外贸出现逆差时,那是沈重的负担。而半导体正是挑起贸易平衡重担的核心产业,一旦半导体不再获利,韩国将面对极为严重的后果!本文将从韩国海关公布的韩国半导体出口结构、主力产品两大方向探索韩国半导体产业的现状。从帐面上的出口结构观察,韩国出口的半导体,35.8%直接销往国内,销往香港后最可能转往国内内地的比例是14.1%。除了这两大出口目的地之外,越南的12.3%与台湾的8.7%分居第三、第四,排名第五的是美国的8.1%,其余国家相对比重较低。由于韩国的存储器占全球8成的比重,从韩国存储器的出口结构,大致也可以找到解读全球供应链变化的线索。国内+香港正好贡献韩国出口的50%,虽比2022年略减2%,但依旧是出口主力,而之后得越南、台湾合计是20.4%,前四大出口市场合计70.3%,但关键不是出口国,而是到底谁买了、用了这些半导体?以台湾零件代理商的出口结构、客户结构判断,国内客户的比重已经从6成降到5成,台湾回升到35%,而东协国家也同步上扬,显示美国的出口禁令,已经深度影响从韩国半导体原厂到台湾零件代理商的销售结构。除了三星电子(Samsung Electronics)自用之外,在国内、香港、台湾、越南市场流动的各国半导体,有80%以上是卖给台商、陆资大厂的,一旦台海生波,南朝鲜之间的38度线不会平静的!当台积电被戴上地缘政治的大帽子时,三星的压力不会比较小!与此同时,韩国也进口很多的半导体,来自国内、台湾、日本的半导体分居前三名,但真正的两大逆差国是日本与台湾。来自国内的半导体很多是三星西安与SK海力士(SK Hynix)无锡工厂的贡献,主导权仍在韩厂手上,至于从日本进口的是设备、材料,包括曝光、长晶、蚀刻等设备,但从台湾进口的却是实打实的半导体。除了跟联发科等台湾IC设计公司进口逻辑芯片与驱动IC之外,联电、旺宏、华邦也都是韩国的供应来源。其实三星、SK海力士擅长高端的存储器,韩国进口的微处理器与驱动IC竟然有45.2%来自台湾,这与大家一般的印象并不相同。从这个结构观察,您认为「三星有灭台计划吗?」,三星我们如何在G2/AUKUS架构下,重新理解台韩之间的产业竞合关系呢?
生成式AI非泡沫 2030年1.5万亿美元商机可期
生成式AI(Generative AI)是AI领域中的部分子集合,未来5~10年全球经济成长最关键的驱动力量之一就是生成式AI。DIGITIMES研究中心于2024年5月完成「生成式AI引领应用与硬件新商机—超前布局未来1.5万亿美元市场」专题报告,内容即涵盖三大部分,分别为「生成式AI技术崛起」、「生成式AI运算力发展,从云到端」、「生成式AI应用领域案例」等,针对生成式AI最新关键趋势完成一系列研究。根据DIGITIMES研究中心预估,2022~2030年全球生成式AI市场复合年均成长率可望超过80%,在2030年达到1.5万亿美元规模,就服务、软件及硬件三大组成来看,2024年硬件(主要以生成式AI服务器为代表)占生成式AI市场最大比重。随着各垂直领域百花齐放、应用面更为普及风潮下,预估至2030年时,服务将跃居整体生成式AI市场超过一半的比重。许多专家将生成式AI的浪潮及其影响比拟为新时代的网际网络(internet),确实网际网络以其广泛的应用以及扮演重要基础建设的角色,对许许多多产业带来深远的影响,Google、微软(Microsoft)、亚马逊(Amazon)、Meta、苹果(Apple)、阿里巴巴、百度等众多新兴企业掌握住此一潮流已成为举足轻重的产业巨人;同理,生成式AI也不会只是短期噱头(hype),而是会实实在在地影响我们及所处企业、产业及社会未来发展的重要力量。生成式AI今后发展的三大关键—模型、运算力、数据。模型方面,从2023年着重云端大参数量大型语言模型(LLM),2024年增加对边缘小参数量LLM的关注,以因应为符合边缘装置较低运算力及存储器带宽的先天限制,云端大参数量LLM则扩及多模态LLM,领先业者跟跟进业者差距有所拉开。运算力方面,云端服务器AI运算芯片成长可期,值得关注生成式AI应用从云扩及到端,2024及2025年AI NB及AI智能手机出货量及渗透率可望快速攀升,指标芯片业者纷推出可运行边缘生成式AI推论的芯片,为提升芯片AI运算力,目前以整合神经网络处理单元(Neural Network Processing Unit;NPU)加速器为主流。此外,边缘运算包括物联网等应用区隔,AI的影响力也将日益显着。训练数据部分,目前指标LLM业者使用英文为主要训练数据,而繁体中文训练语料的数量,远比不上简体中文,目前繁体中文训练数据成为模型训练的一大课题。在生成式AI的应用案例方面,本篇专题报告探讨从智能交通、智能零售、智能医疗、智能制造以及智能家庭五大类别,以生成式AI普及的速度来看,不管是零售、制造或是家庭生活、移动应用,都有庞大的商机,各种应用情境在2024年开年以来的国际展会包括CES、MWC以及嵌入式电子与产业电脑应用展(Embedded World)、车电展等,都可以感受到此一趋势。(作者为DIGITIMES研究中心研究总监) 
让人工智能成为典范转移的枢纽
从世纪交替之际的西元2000年开始算,数码科技与网际网络带给世界的改变,大致可以区分为四个阶段。第一个阶段是从2000年初网络泡沫之后的.com时代,这个时代的领导厂商是诺基亚(Nokia)等电信服务公司与提供网通设备的思科(Cisco)。第二阶段应该从2007年iPhone上市开始,这个阶段是移动通信时代,赢家是苹果(Apple)、三星电子(Samsung Electronics)与国内的红色供应链。之后则是透过各种终端设备所创造出来的大数据时代,让AWS、Google、Meta、微软(Microsoft)等公司在云端服务上大放异彩。经过大约20年的积累,各种数据的演算、交叉作用,带给人工智能相关应用一次前所未有的新商机。ChatGPT应时而生,短短五天带来了上百万的用户,激励了大语言模型(LLM)的应用。而GPU+NPU+CPU+AP各种芯片间的连动,也需要更多高带宽记忆(HBM)与驱动IC。春江水暖,上游的半导体设计与网络巨擘蠢蠢欲动,量产制造大厂不可能无动于衷。台湾电子六哥中,人工智能、服务器上颇有斩获的富士康、纬创、广达都展现出强势的成长动能,更有不少周边的IC设计公司希望在边缘运算上取得一席之地。我们可以笃定地说,在人工智能的大潮下,商机回温,但真正需要观察的理解未来10年是人工智能的新时代,自己企业的价值主张与策略目标。台积电的国际布局与核心客户转移2030年会是一个什麽样的世界呢?台积电资深副总裁张晓强最近在一场简报中指出,2030年时全世界的GDP总量将达145万亿美元,比2023年的104.5万亿美元,还要多出40万亿美元。而驱动全球经济成长原生的主要动能,将来自半导体。台积电估计,2030年时全球半导体市场将由2023年的5,230亿增加到1万亿美元,而背后支撑半导体市场的主力就是晶圆代工。台积电估计到2030年时,全球晶圆代工市场是2,500亿美元,如果台积电以现在60%的市占率估算,届时台积电的营收将达1,500亿美元,超过2023年693亿美元的营收不只1倍。张晓强又说,2030年时全球电子产品的市场规模是3万亿美元,而包括软硬件相关服务在内的IT市场商机更高达12万亿美元。我们很容易理解,从快递服务到车联网、智能制造、区块链、元宇宙与背后的大数据、云端服务,没有一样可以不依靠半导体的运算与储存数据的能力。对台积电这家遥遥领先竞争对手,且看好市场稳定成长的晶圆制造厂而言,继续关注先进制造能力、客户结构、产业生态系三大议题便可,各种细微的变化都是雕虫小技,无法动摇根本。对台积电而言,取得资源、专注制造的重要性,远比四处张望、寻找商机重要。这就说明了台积电为何偏向虎山行,继续在美日宣布新投资计划的关键。关键在于台积电已经「大到不能不倚赖他」,就算是制程、材料出现新的革命,客户也会找台积电寻求解方。在很多人都看衰美国新厂之际,台积电拿到「满意」的补贴与租税奖励条件,2030年以前全球的生产布局大致已经粗具轮廓,竞争者很难望其项背。台积电加速布局,与人工智能、网络巨擘自研芯片计划有关,布局远眺2030年的市场需求,那麽政府对这件事会有什麽样的看法?台积电的策略渐趋明朗,但为难的是台湾的政策!
在人工智能的新时代中转大人
从2024年3月开始,景气出现明显的回温,观察产业变化,除了倚赖分析师敏感的观察力,还可以透过电脑系统自动产出,进行数据的强连结与横向对比,更可以由人工智能做初步的判读。是的,我们面对愈来愈复杂的产业议题,但也可以用数据产出数据,搭配更有效率的AI工具掌握关键趋势,寻找超越人类思维能力所及的答案。在网络世界里,所有的问题都有答案,只是您如何定义问题而已!世界的改变,我们看到一体两面,新的挑战也可以创造更高的价值。孙子兵法说:「善战者,求之于势,不责于人」。所有的企业家、专业经理人得先从定义自家企业着手,然后寻找市场上的定位与策略定锚的基础。对台湾量产制造业而言,单纯制造的能力之外,在策略形成过程中,培养定义客户需求的能力将愈趋重要,亦即主动出击,「Demand creation」的能力将是显现B2B商机的致胜关键。《隐形冠军2.0》一书作者强调,供应商必须比客户更了解客户的需求,这是成为隐形冠军的基本要件。《虚拟新世界》这本探索元宇宙的新书中也提到,技术的探索固然重要,但以强韧的心理素质找到决策方向,更是我们在新世界里必须面对的关键课题。当我们读到日本首富柳井正说「经营者最大的风险是常识」时,这不仅是提醒我们对于纵向产品与技术规格须有更明确的理解,对于横向的跨业商机也要有定义需求的能力。在人工智能开始大量渗透我们的日常时,产业界将面对两种议题。第一,制造业者在整个产业转向的过程中,如何透过专业的论述与上下游连动,以争取在商机盘旋、拉锯的过程中有更高的胜算。对周边专业的服务业者而言,薪资可能占营收的一半,面对能做的事情愈来愈多,适任的人却愈来愈少,在薪资上涨、少子化的威胁下,利用电脑系统、数据赚钱,远比用人脑提供传统的服务更具价值。但过去不曾尝试累积数据的公司很难无中生有,传统的服务业者必将面对极为艰难的挑战。台积电远眺2030年的半导体世界,超狂的投资底气来自上游的GPU、NPU与应用处理器交错而成的商机,台积电甚至与Microchip合作40纳米制程,这个连逐渐成形的边缘运算都已经算计在战略布局内,是寡占市场中接近独占地位者的特权与远见。
首发的AI手机重视哪些议题呢?
「AI手机」的定义是可离线执行LLM模型,实现生成式AI功能的手机。手机受限于物理极限,在AI应用上专注于文字信息的提供、影像自动创建、语言实时翻译、个人助理等四大功能。以手机应用处理器为目标市场的高通(Qualcomm)、联发科,面对2024全年销售量上看1.47亿支的AI手机,当然不会等闲视之。除了传统的应用处理器供应商之外,在手机市场上领先群雄的苹果(Apple)、三星电子(Samsung Elecronics)都是自研芯片业者,而Google 也以Tensor G3的芯片应战。国内的OPPO、vivo与小米都是仰赖外部芯片,而三星、苹果、Google大多以自家需求为主,因此会以不同的市场定位做出AI功能上的调整。现在他们正努力强化CPU+GPU+NPU的功能,提高运算参数,并结合新时代的DRAM,提供更高带宽的存储器。各大手机厂或应用处理器供应商,市场定位明确,对象也有迹可寻,未来最大的变量可能是Google背后的Android阵营,Google推出的Gemini与Gemma功能,会带来多大的改变,也是大家关切的议题。整体而言,生成式的AI正从云走向端,边缘运算的商机浮现,业者必须面对软硬整合的挑战。这一波AI新浪潮来临时,能加速运算的GPU最受瞩目,参与的业者对整个生态系必须有一定的掌握与价值主张,从诸多变化中找到自家企业在整个生态系中的定位。在GPU的浪潮之后,云端服务业者(CSP)的自研芯片是新一波应该关注的焦点,而以ARM为基础的SoC规格如何升级,推论用的NPU或其他XPU在不同市场的经营也都值得留意。毫无疑问,这些新的芯片会从具规模的NB、手机开始渗透,下一个阶段是智能家庭、电动车与工业物联网的商机。至于大语言模型,Open AI、微软(Microsoft)、Google 与Meta的动向是指标,但进入边缘运算之后,各种针对分众市场的模型压缩将会是我们观察的重点。我在这些大的变化中隐约看到全球产业资源的重分配,这些大趋势的背后有国际经贸,甚至地缘政治的议题吗?美国高举大旗,而全世界的焦点也在市值上万亿美元的科技大腕身上,但国内拥有最大的数据库、明确的政府政策、可以忍受最低底线的成本,只要政府愿意支持,亏损都是全民共同承担。不同的社会管理机制、产业文化,将带来地缘政治在「战略断层带」上的国家,例如台湾、韩国、日本更大的冲击与压力。拥有半导体与供应链的台湾,是躬逢其盛,还是正在被推向战场,上帝不知道,AI也无法告诉我们!
从「云」到「端」,混合式AI正在形成
生成式AI必然会从以往高度仰赖数据中心的云服务,将部分具有隐私性、实时性的信息留在「端」的设备上处理。因此,搭载CPU+NPU的AI PC与AI手机,被塑造成可执行机敏运算,进行有效推论的终端设备,这也是现阶段我们看到终端设备的新商机。生成式语言模型 走向更快、更小、更准的新时代一开始生成式语言走的是大语言模型(LLM),2018年启用的GPT 1创造了风潮之后,整个大语言模型的世界风起云涌。之后的BERT、GPT 2、T5、Meena与Megatron、GPT 3等不同时代的更迭,激增的运算参数总量,背后是Open AI与微软(Microsoft)、Google之间的角力,而这是属于「云」层次的大语言模型之争。2021年之后,为了解决使用者的疑虑,更多公司推出针对专属应用的语言模型,诱使更多用户在分众领域与终端设备中启用人工智能的应用,这是边缘AI的源头,未来也还可能往电动车、工控应用推进。正在扩张中的人工智能大商机,也从最上游的晶圆制造厂,涌进最下游的终端设备、工控业。从短期商机来看,为解决GPU建构成本与耗能过高的问题,AI PC业者推出内建NPU的CPU平台,这种适合离线运算的大语言模型,总运算参数多数在100亿~300亿之间,这样的解决方案目前主要是由微软的Copolite主导,硬件制造厂、供应商扮演助攻的角色。在AI手机方面,已经有不少手机内建NPU,LLM的语言模型,参数量在10亿~100亿之间,目前手机应用处理器(AP)的供应商积极提高运算效能,但也必须克服存储器带宽的问题。面对这个快速成长的商机,微软Azure平台在2022年的11月推出免费版,让ChatGPT在两个月内累积了超过1亿的用户。之后在2023年的2月推出GPT-4 Plus,并以ChatGPT技术导入New Bing、Edge的应用,2023年9月推出M 365 Copolite,也预期新版的Windows会内建Copolite的功能。至于以AI PC为目标的两大CPU阵营,以英特尔、AMD主导的X86阵营,以及ARM阵营的高通(Qualcomm)、苹果(Apple)都在抢先布局,而用户端的则是惠普(HP)、戴尔(Dell)、宏碁、华硕等各种品牌业者。x86阵营的英特尔(Intel)使用自家Intel 4制程的Core Ultra处理器,而超微(AMD)则是倚赖台积电4纳米技术的Ryzen 8040,操作系统都是Windows OS。在ARM阵营方面,高通Snapdragon X Elite平台使用台积电4纳米制程,预计2024年下半推出。而苹果的M4则使用台积电第二代3纳米制程(N3E),这是苹果生态圈的专用处理器。据DIGITIMES估计,全球NB市场规模将从2023年的1.66亿台,增加到2024年的1.73亿台,其中AI NB的比重将达26%,也就是有4,500万台的NB装载新的处理器,并拥有推论的能力。在手机方面,预期2024年11.66亿支的手机市场中,有1.47亿支是具有推论功能的AI手机,比重是12.6%。短短一、两年之内,具AI功能的终端设备异军突起,上下游业者都希望分一杯羹,甚至往更远的电动车、工业应用发展,将成为下一波人工智能与云端服务的关键进展,而混合型的人工智能服务也将带来更多元的面向与商机。