智能应用 影音
工研院
ST Microsite
让数字说话:What gets measured gets managed
这句话是管理学大师彼得.杜拉克(Peter Drucker)说的。表面黏着技术(SMT)是电子产品生产线最主要的设备,各国或主要企业拥有的SMT生产线,往往也反映该国或该企业的量产制造能力。DIGITIMES副总经理黄逸平查找过去10年全球主要国家进口的SMT设备,根据这些数据,我汇整出几个看法给大家参考。A. 2018年以前,国内是世界工厂,但在2018年川普总统揭开美中贸易大战的序幕之后,新兴国家争抢G2大战背后的商机,国内进口金额的变化就值得大家参考了。根据调查,国内的进口金额从2018年的92.74亿美元,减少到2022年的84.28亿美元,占全球的比重也从2018年的20.9%,减少到2022年的17.7%。国内进口的SMT设备会不会继续减少,相当值得注意。B. 美国、德国是工业大国,进口的金额仍然高居二、三,倒是墨西哥以25.65亿美元,超过越南的16.85亿美元,分别列名四、五进口大国,而在2021年之后进口增幅明显扩大,显示两国量产制造实力更上层楼。亚洲的制造大厂对墨西哥的生产状态相对陌生,未来也应有适当的追踪机制,了解墨西哥在美中贸易摩擦之后的角色变化。C. 台湾在2018年的进口金额为6.95亿美元,占全球3.8%,排名第十,但2022年的进口增加到10.55亿美元,全球占比提高到5.7%,这应与2018年以后台商回流,带回超过700亿美元的投资资金有关。2000年时,台湾因为产业外移,制造业占GDP比重跌到剩下19.8%,但根据台湾官方统计,2022年台湾制造业贡献GDP的比重陡增到37.7%,这是个非常明显的变化,基本上可以说是台湾从「去工业化」走入「再工业化」的过程,与地缘政治的变化息息相关。D. 最后是印度,印度希望透过PLI等招商机制,加速印度制造业的进化,满足国内市场的需求。印度已经是全球第三大汽车市场、第二大手机市场、第一大的两轮摩托车市场。过去印度在PC时代,因为没有具实力的本土品牌,因此很难吸引制造厂到此设厂,但不少业者看好印度市场的潜力,积极提升印度在地生产的比重。三星电子(Samsung Electronics)早已布局印度,三年多前便在诺伊达(Noida)设置年产1.2亿支的手机生产线。而基于苹果(Apple)等相关业者的要求,台湾的富士康、纬创、和硕都在印度设置生产线,过去几年印度进口的SMT生产设备稳定成长,但在2022年却出现走跌的现象。是大家认为「水太深」,一时半刻难以掌握前进印度的运作模式吗?《印度之旅》书里有一句话:「英国人管理印度一、两百年,但印度还是印度人的印度!」,没有足够的想像力与长期耕耘的决心,印度就像是可口的蛋糕,但咬下去却是满口的沙子,这是一位韩国大公司印度主管对印度的评论。
2023/8/2
川普先生别闹了(3-3):八强经典赛,美台都是天选之国
半导体是菁英汇聚的产业,也是资本密集、技术密集,加上经营智能长期堆叠的策略性产业,谁拥有半导体业,谁就有产业制高点。我以棒球八强经典赛(Quarterfinal Classic)来形容这个赛局。美国是世界八强的种子团队,他们拥有最尖端的技术、设备,也是游戏规则的制定者。台韩各自拥有晶圆代工与存储器产业,也都是世界半导体业领导地位有力的角逐者。欧盟与日本工业基础雄厚,也有设备、材料工业,不会被遗忘在赛程中。倒是国内如何延续半导体业的计划,而印度如何善用大量的IC设计人才,以及未来的元宇宙商机,都是值得大家注目的。八强赛的最后一席,应是由参与会外赛的国家取得外卡。可能角逐的潜力国家,可能是近年来成为电子产品生产基地的墨西哥、印度,拥有丰沛自然资源的澳大利亚、加拿大,以及以行政效率取胜的新加坡。1994年我派驻硅谷,我的堂姊夫40岁,他是当时在英特尔(Intel)逻辑IC设计团队,专攻486 CPU的成员,团队的负责人就是1961年生,现任英特尔CEOPat Gelsinger。当时Gelsinger以34岁的「幼龄」担纲,成为硅谷半导体产业的佳话。美国是个尊重创意,愿意承担风险,不论资排辈的传统工业体系,也因为这样,美国至今还能引领风骚。美国市调公司指出,全球半导体市场的规模是5,750亿美元,这个数字是从市场端,结合IC设计与系统整合元件制造厂(IDM)两种产业的总和。从这个角度观察,美国IC设计业贡献全球63%,IDM业者的贡献率也有42%,两者合计的总营收是全球市场的49.7%。也就是说,全球半导体产品有一半的机会是挂着美国的品牌在市场上销售的。美国之外,韩国的三星电子(Samsung Electronics)、SK海力士(SK Hynix)因为拥有DRAM与NAND Flash两大产业,靠着上述两大品牌,在全球市场就有17.5%市占率。再其次是以IC设计业取胜的台湾、日本与国内。至于晶圆代工、封测属于制造服务,EDA是设计工具,与材料、设备都是供给面支撑半导体产业发展,如果把之前需求面的IC设计与IDM业者统括在内,美国厂商依旧贡献全球的39.8%,其次才是台湾的18.3%、韩国的13.9%,以及日本、国内的9.8%与8%。以上五个国家,是目前全球半导体业的主要角逐者,欧洲虽有英飞凌(Infineon)、意法(STM)、恩智浦(NXP)以及设备厂ASML,但分散于不同的国家,欧盟如能整合,并在车用半导体上相互支持,未来仍是非常关键的力量。随着电子工业的重心从NB、手机走AIoT的新时代,半导体产业的营运重心正在改变,甚至所谓的「尖端芯片」也从过去的微处理器、应用处理器主导的架构,走向AI专用芯片等更多元的结构。不仅如此,顶级的晶圆制造正从前端延伸到后端的封测,而过去总是说量产不易的砷化镓(GaAs)、碳化矽(SiC)等功率半导体,也会有新的进展。在AI芯片进展的同时,三星存储器也开始强调HBM-PIM的功能,Edge端商机也不再是空中楼阁。
2023/8/1
川普先生别闹了(3-2):2008年是半导体业转捩点,下一波动能呢?
2008年的次贷危机、金融海啸,不仅让全球金融业重新洗牌,在半导体业的世界里也是天翻地覆的一年。在金融危机之后,台韩两国,特别是台积电与三星电子(Samsung Electronics)都采取逐年加码投资重装备,扩大领先差距的积极战略。2008年主办北京奥运而获得举世赞赏的国内,不仅自信爆棚,在2009年的GDP总量也超过日本成为世界第二大国,在超级电脑、国防军工产业的需求下,也开始试图加速发展本土的半导体产业。全球半导体设备市场因此水涨船高,如果把过去15年的半导体设备市场分成2008~2012、2013~2017、2018~2022三个阶段,第一个五年全球累积的半导体设备市场是1,658亿美元,第二阶段是2,037亿美元,第三阶段甚至暴增为4,058亿美元。苹果(Apple)iPhone在2007年上市,从此手机进入智能应用的新时代,双向传输数据的手机,需要更强大运算功能的应用处理器。这15年间,台积电、三星为争取晶圆代工主导权而竞争。谁抢到苹果、高通(Qualcomm)、联发科应用处理器的订单,谁就是赢家。台积电脱颖而出,也对比出台湾比其他国家更积极的半导体设备投资企图。在2008~2012的第一个五年中,台湾购买的设备占全球市场的23.3%,台韩日中等东亚以外的国家,也贡献了35%。但在2013~2017的第二个五年中,台湾贡献了26.2%,而东亚以外的国家也贡献26.4%。到第三个五年(2018~2022),台湾贡献了23.7%,而非东亚四强的国家仅有18.9%。这样的态势,导致2021~2022年间车用零件缺货的问题,且将责任推到台湾、韩国厂商身上,这不是解决问题的做法。就像19世纪的淘金热卖圆橇、锄头的商人一样,起步较早的欧美日设备大厂都能取得先机,东亚的制造厂投资,最后赚钱的可能是欧美的设备原厂。在现代的竞争社会中,谁更努力就更有竞争优势,这是我们的普世价值。最后,国内采购的半导体设备金额在2018年后大幅成长,关键是「大基金」激励民间投资的结果吗?在国内进口的设备中,有多少是三星、SK海力士(SK Hynix)、台积电、联电、美光(Micron)在国内投资的设备呢?在「国内制造2025」的背后,容易出现「过多资金在追逐有限人才」的问题,国内如何导引资源的正确流动,以及国内在美国单方面的技术制裁背后,如何说服国内外的菁英一如既往的继续努力,这将是国内产业政策主事者需要克服的障碍。对设备原厂而言,如何在分散型生产体系的背后,如何创造另外新的主流需求,也将是欧美设备原厂的重要挑战。韩国或是台湾半导体厂的成功经验,能复制到新兴国家吗?有为者,亦若是,也许设备原厂邀请韩国、台湾专家到新兴国家分享产业发展经验,更容易激起新兴国家发展半导体产业的兴趣,而与韩国、台湾厂商合作,也可能是各国发展半导体产业最快的终南捷径。 
2023/7/31
川普先生别闹了(3-1):台韩半导体业都是危机入市的成果!
不久之前,美国前总统川普受访问时说:「台湾人抢走了美国芯片制造的工作」,听起来很刺耳,但做为大国博奕中最脆弱的筹码,台湾得引经据典,不卑不亢地证明这是台湾应得的!半导体制造往东亚移动始于1980年代,三星电子(Samsung Electronics)、海力士(Hynix)从1983年开始,台湾的联电创始于1980、台积电是1987,他们都是从会外赛打起的,几经艰困才有今天的局面。做为一个从事半导体与台韩科技产业研究将近40年的老兵,我知道半导体业几个重要转折,以及今天川普为什麽有这样的埋怨。本来台湾与韩国根本是二线的科技产业发展国,无论从基础科技或整体产业实力观察,能有一席之地就该满意了,不可能是四强准决赛的入围者。台韩都得感谢美国在1986年签署「美日半导体协议」,要求日本必须让外商在日本拥有20%以上的市占率,这个协议让全球市占过半的日本业者绑手绑脚,同时也给了台韩半导体业者一个机会之窗。1986年后,台韩火力全开,两个新兴工业国在往后将近20年间,以「取用于国,因粮于敌」的巧力争得一席之地。韩国在存储器称孤道寡,台湾则是独树一帜,在晶圆代工领域集中有限的资源,在这个刚被张忠谋定义的新市场中取得压倒性优势。今日全球半导体产业的格局,3分之2的存储器市场由韩国半导体双雄独占,3分之2晶圆代工领域由台商一手掌握。特别是90%以上高端芯片在台湾生产,加上台海风云紧急,更让大家忧心位于西太平洋的台韩,在地缘政治上似乎又重回冷战时期的角色与地位。孤悬于东海的第一岛链,一旦烽火连天,全球供应链必然受到严重的冲击,而现阶段的产业样态,似乎又证明台湾人、韩国人抢走了美国人的工作。其实,台韩两国在2008年以前,只是个不错的生产基地,还谈不上称霸全球半导体市场的实力,但2008年美国的次贷危机、金融海啸给了台韩一个「转大人」的契机。当时台系存储器业者积欠银行的融资贷款高达4,000亿元(约130亿美元),韩国的海力士、日本的尔必达(Elpida)也岌岌可危。此时,三星玩起「危机入市」、「胆小鬼游戏」的戏码,加码投资存储器,扩大与其他厂商之间差距。台湾存储器产业从此被抛在领先群之外,日本尔必达破产关门,连海力士都在政府的协调下,由在电信市场获利丰厚的鲜京集团接手,并改名SK海力士(SK Hynix)。从此三星与SK海力士成为韩国存储器产业的双保险,也以3分之2的市占率笑傲全球。台湾2008年情况与韩国相近,多次强调自己是「学习曲线信仰者」(Learning curve believer)的张忠谋重掌兵符,以钜额的资本支出「梭哈」全球的产业,那也是危机入市。台积电、三星的投资布局,也显现在国际半导体产业协会(SEMI)公布的全球设备市场数据中。台韩砸重金,美系的设备厂跟着获利,川普何来埋怨呢?下一篇文章,我们将以2008年以后的半导体设备投资为基调,检视过去15年全球半导体产业的投资模式,并探索如何激励更多国家投入半导体业的角逐。
2023/7/28
AI会是超乎寻常的「工业革命」吗?
有哪些工作不会被人工智能(AI)取而代之?需要复杂决策与推理的工作,短期内很难被取代。李开复说:纽约客的专栏作家很难被取代,但新闻编译的工作就难说了;一样是医师,放射科医师比家医更容易被取代,在网络系统上媒合交易、运营商的客户服务,都是很容易被取代的工作,所以从英国电信(BT)到Vodafone都大量裁员,您认为台湾运营商可以幸免吗?就像台湾银行分行没有消失一样,台湾运营商门市消失速度或许会慢一点,因为台湾幅员小,人口密度高,喜欢步行、面对面交易,这样也可以保留很多工作机会,不见得是坏事,只是专业服务业的进步就会慢一点。2021年是有史以来独角兽增加最快的一年,但之后在资金成本骤增的压力下,新创投资慢慢走下坡。根据NVCA调查,2020年创投投入的资本为1,710亿美元,2021年是3,450亿美元,而2022是2,410亿美元,估计减少30%以上,这当然与资金成本上扬有关。原本以为不景气会持续一段时间,但看来AI是重要的解方。关键的观念是「以庞大的数据为后盾,根据每人特定需求提供专属的服务」,这样的概念可以大到工厂的「少量多样生产」,也可以小到个人化的生活体验,这也将是「赢家全拿」时代的深化。在网络发展的第一阶段,市场形成的速度远高于工业时代,但通常一开始会有很多新创公司参与,经过淘汰赛后由领先者出线。但现在是使用者同时参与创造数据,让数据增加几乎接近「零成本」,亦即这个市场将出现「指数型成长的模式」,新创事业出线更为困难!但科技大厂都看好AI商机,在ChatGPT上市之后,很多科技公司都推出相关应用,但最具影响力的仍是微软(Microsoft),微软宣示将把ChatGPT导入所有应用平台,2月放在Bing上,3月则是Office软件,接下来也看到阿里巴巴、Meta开发类似GPT的大语言模式。其次,AI应用领域无所不在,从场域到影像、文字、声音,多重内容的连动与结合,而混合型的应用更是大家很容易想像的变种方案,这是无缝接轨(Seamless)的多元共创。这个趋势已经被讨论好几年了,但没有想到是由AI与NVIDIA的GPU做为驱动因子,而台积电与背后的创意电子等公司就成为间接受益者。此外,NVIDIA使用「专属软件」,让GPU得以在最佳的状态下运作,这也是其他竞争者望而生畏之处。从用户端观察,软件使得AI扩张更为容易,使用具亲和力。很多生态系业者以各种演算法,透过ChatGPT提供各种有效的应用,领先者的优势已经十分明显,这并非只是炒作的一时现象。过去苹果(Apple)的App stores是提供多元应用的平台,但Open AI直接切入各种应用,扩散效益将更为惊人,例如GPT-4可以结合影像,这又是另一种超越大家想像的应用。未来的使用者,不是查找部分数据,而是用部分数据诱导出更多的相关数据,革命性变化促使我们面对重新定义产业与国家战略的时刻。
2023/6/12
数据「孤岛化」的挑战与契机
黄仁勳在台大毕业典礼上演讲提到,1984年他从大学毕业,迎接的是PC起飞的年代,而2023年是「人工智能起飞(AI)的年代」,期望今年毕业的学生可以掌握时代的契机,成为浪尖上的英雄。1984年底,我念完研究所,1985年回到台湾迎接的也是PC元年!创业的过程总是艰辛的,「诚实的面对问题」是黄仁勳在台大整场演讲的精华。与Sega的合作,其实技术上碰到挫折,但却厚着脸皮要对方付钱;与张忠谋的互动,成就了双方25年的革命情感。骄傲的创业家,也有弯腰请人帮忙的时刻,这些心理上的挣扎只有创业家可以体会!黄仁勳说:就像是1984年PC滥觞的时代,2023年是AI真正商业化的时代,而这背后有很多软硬整合与硬件制造的机会。在Google查找引擎可至之处,大概有超过6成的数据是来自英语体系,中文只占1.5%,繁体字更仅有0.01%,换句话说,如果以台湾本土的信息、数据创造普遍性的价值,可能是缘木求鱼,不可行的策略。但反其道而行,如果能在「孤岛」上圈地自肥,专门找丰腴的土地耕作,而这块土地还有往外扩张的空间,可行吗?我做的就是这样的实验,我认为不仅可行,而且是AI创新与他人差异化的避风港。这个市场小到网络大腕们不仅视而不见,而且希望拉拢我们这些地头蛇,加速事业模式的落地与实践。这些离经叛道的做法,可能让专业人士怀疑可行吗?路是我走出来的,我知道有多难,但别人认为不可行的,您也一定没机会!「大数据是AI的成败关键」的说法,大致是正确的,但很多人也认同,数据总量与品质之间的关系很关键。过去将数据资产的重心放在信息储存、高速运算,现在「信息的交换」也非常重要,这牵涉到交换的效率、条件、定义、对象等问题。由于现在的网络社会,数据是双向互动,Input的品质当然影响到Output的结果,长期累积的价值、客户的信赖都是成败关键。其次,如何从累积大数据的过程中,找到具有商业价值的副产品,绝对是台湾这种中小型国家新创企业要深思的问题。这些副产品或技术趋势,如何与台湾优势结合,才是我们应该思考的问题。大趋势背后的副产品、边缘服务,这点商机不值得主流业者来经营。难度高,又看不上眼,难怪我们活得好好的!
2023/6/9
各国AI半导体发展现况与政策
所有工业大国都明白,各种创新的应用,背后都需要强大的半导体工业来支持,各种政策支持措施,在智能联网、数码转型、人工智能(AI)大商机来临之际显得更为具体与必要。需求更为多元,竞争更为激烈的今日,也无法再以工业时代的概念推动各种政策补强措施,而掌握本国半导体需求的呼声正在各国发酵,我们该如何用正确的角度观察,以半导体产业为核心的世界竞合架构。美国:2022年8月,拜登政府推出芯片法案(Chips and Science Acts),以520亿美元的规模支持美国重新掌握半导体产业的优势,其中390亿美元将用于提升生产制造能力。并从2022年8月26日起,以国安理由,要求卖往国内与俄罗斯的高端绘图卡必须经过审核,之后更强化NVIDIA与超微(AMD)将高端绘图芯片卖到国内的管制措施,也影响了华为、中芯等相关企业的营运。国内:在第14次五年发展计划以及2035年的七大战略目标产业,都将半导体列为重点产业。从AI、量子技术、脑神经、生物科技到太空科学,都与半导体产业高度连动。欧盟:也通过半导体芯片法投资430亿美元,目标在2030年时抢下全球20%的市占率,除了建构2纳米的技术发展路径,欧盟也宣示要在AI、异质整合、5/6G通信、材料设备上加码发展。此外,欧盟结合了10个国家28个机构共组研究平台,针对车用半导体,希望在2024年之前订定车用半导体的发展路径。日本:1980年代末时,日本半导体全球市占率过半,1990年代开始衰退,现在已经不到10%,甚至多数是30~40纳米的老旧技术。尽管如此,日本超过半世纪的半导体产业,依旧留下很多不可或缺的条件。例如日本半导体设备全球市占率32%,材料市占率是56%,在国际市场都是举足轻重的角色。现在日本希望透过与台积电、Sony、电装(Denso)共同投资的熊本工厂,日本政府更展现决心,支持熊本计划4,760亿日圆投资经费的一半。另一方面,做为尖端制程的切入点,瞄准由Repidus主导的工厂,2025年可以进入2纳米的制程。由于日本的基础工业十分厚实,加上汽车产业需求,台日之间合则双赢,但跨国合作牵涉到文化、国家价值的认知,台湾在国际形象的提升上漫不经心,台积电得拥有多大的领先差距,才能让日本人心服口服?韩国:以2030年全球AI半导体领域20%市占率为目标,并希望能在5年内培养7,000名AI芯片设计工程师。2025年前能栽培出NPU业者,2026~2028年间以存储器技术为基础,培养出低功耗PIM业者,2030年前看到超低功耗PIM产业落地生根。此外,韩国还订定在2026年培养30家,2030年培养50家AI芯片厂为目标,将AI半导体产业培养成为继存储器之后的第二大支柱产业。其他还有国产NPU数据中心、AI专属数据中心、在三所大学设置AI半导体研究所等计划。相较于最近一年走跌的存储器产业,韩国将AI半导体视为韩国半导体产业的救世主。但韩国最大的挑战,是AI半导体的发展模式与IC设计产业更为类似,韩国过去费尽心思力图发展的IC设计产业,几乎是徒劳无功。韩国在全球存储器占有6成以上市占率,但IC设计业市占率却不到2%,而在CPU+GPU大乱斗的时代,这也不是韩国所长,「苦闷」二字是韩国说不出口的难题。发展AI半导体产业,韩国需要的配套生态系还包括NPU、先进封测技术,而能与Tesla、微软(Microsoft)、Google、NVIDIA等网络巨擘平行发展的特化芯片,更是严酷的挑战。走到产业发展的极致,面对的问题都是「倾全国之力,都不一定能收割」的大赛局。也许韩国会将希望放在RISC-V这些开源性资的新技术,并结合存储器优势,找到不同于其他先进国家的发展路径,否则也是一场肉包子打狗的低胜算赌局。
2023/6/8
台湾ICT产业的AI生态系
2010年前后开始真正受到瞩目的深度学习(Deep Learning),是人工智能(AI)相关技术进化的关键期,透过机器学习得到的经验,让AI技术有了新的依靠。2016年的AlphaGo更是推波助澜的重要突破,之后各种边缘装置(Edge Devices)出现在市场上,相关技术与半导体芯片的进展也受到瞩目。至于在半导体领域发展的特用AI芯片,则是一种特化型IC(ASIC),又可分为服务器与边缘端专用。目前大家关注GPU与CPU带来的运算之争,将来重心也会慢慢移转到前端设备,这些都是重要的变化、挑战,也是机会,而台商是海景第一排的有力角逐者。AI半导体是指可以让AI软件与演算法可以更有效率执行的各种专用芯片。现有的泛用CPU,在处理大量数据时可能面对极限,也让出更多机会给不同的微处理器,例如GPU、DPU与用于推论的NPU,特别是当初用来处理图像的GPU,运用在AI上,竟有远超过原来期待的功能。特别是NVIDIA结合CUDA的软件设计程序,造就了NVIDIA今天的盛况。除此之外,其他如现场可程序化逻辑闸阵列(FPGA)芯片也出现了新的契机。GPU与FPGA也都是泛用型IC,非只为某一客户量身定制的ASIC。ASIC是具有明确目标功能的系统半导体,目前最被看好的GPU结合了CUDA软件,在市场上具有压倒性优势,而NVIDIA的财报也证明过去的投资与软硬整合的优势正在发酵中。A100拥有6,912个CUDA Core与40GB HBM2存储器,这套解决方案可以整合成一套超级电脑。2022年3月,NVIDIA推出效能比A100还要强大的H100。根据IDC调查,全球AI数据中心的市场规模,将从2021年的156亿美元,成长到2025年的318亿美元,年均成长19.5%,远高于传统服务器市场的10.7%。至于AI芯片市场,各大顾问公司也有许多评估,多数看好未来几年的成长,其中Gartner认为,AI芯片在2025年时可达700亿美元,到2030年AI芯片市场总值将达1,179亿美元,贡献整个ASIC市场的31%。由于看好AI芯片商机,从超微(AMD)、英特尔(Intel)这些NVIDIA传统的竞争对手,到上游的ARM、新思(Synopsys),以至高通(Qualcomm)、博通(Broadcom)每一家公司都虎视眈眈,英特尔甚至透过购并Habana,希望加速软硬整合的实力。除此之外,美国、英国、法国都有很多新创公司尝试开发出各种用途的AI芯片,国内当然也没闲着。百度、华为、阿里巴巴、比特大陆等,都有明确规格与定义的AI芯片发展计划。此外,韩国存储器双雄在存储器内运算(PIM)市场上着力更多。三星电子(Samsung Electronics)在2020年发表HBM-PIM的产品,让芯片可以在没有连结数据中心的情况下,独立进行演算,对声音、影像在装置前端的应用上深具意义。走在市场最前端的晶圆代工业、设计服务业者,大致可以维持应有的地位,但最受挑战的是台湾IC设计产业。在晶圆制造领域,14纳米以下先进制程成为必要条件,拥有最先进制程的公司,仍将是市场上的宠儿。台湾IC设计业虽只占全球市场的18%,在前十大业者中有3家来自台湾,但台湾擅长替代型商机,而非定义市场,参与前端市场的角逐。其次,业者面对人才短缺、成本激增、国内业者追击等相关议题,真正有实力角逐顶级商机的厂商屈指可数。台湾的IC设计业者正积极赶上这一波大AI潮的滚滚商机。最后,前端设备的多元需求,AIoT商机无可限量。IBM估计,物联网终端设备总量从2020年的150亿台,增加到2025年的1,500亿台。10倍速成长加上多元商机,如何发展通用效益,又可以差异化设计的发展机制,是台湾业者最大的挑战。
2023/6/7
是谁搅和AI一池春水?
为角逐未来AI商机,各大厂商也拉帮结派,NVIDIA购并了Mellanox与Excelero,而看似被NVIDIA拉开差距的超微(AMD),也购并赛灵思(Xilinx)及Pensando。迈威尔(Marvell)、博通(Broadcom)、英特尔(Intel)也都各有盘算,特别是英特尔在晶圆代工久攻不下,CPU/GPU/DPU市场又面对严厉的挑战,除了发展类似CUDA的程序语言之外,也与Habana Labs合作,我们看到大厂决战光明顶的景象,也知道AI竞争现在才进入火热的阶段。继GPT-3.5之后,Open AI再度于2023年3月发表GPT-4,这套Foundation model更贴近市场的需求。短短几个月之内,上亿人的使用经验成为「学习」的基础,运算法的改善,也让AI应用带来新的境界。科技大腕相继加码研发,整个生态系的改善非常具体,微软(Microsoft)的积极态度也带来推波助澜的效果。到2022年4月底止,Office 365已经有3.2亿使用者,而搭配Office 365推出的Copilot软件,让这些使用者有条件从过去经验中推演相关的应用。以Copilot的使用者做测试,每个使用者节省的时间大约是50%,这是个很庞大的数字与价值。Microsoft 365 Copilot可以连结Word、PowerPoint、Outlook、Teams等档案,并与Microsoft Graph、LLM等功能同步使用,也使用Grounding的演算法。微软在2022年底推出ChatGPT之后的两个月,推出ChatGPT Premium的方案,每个月收取20美元的费用,应答问题的速度可以快3倍。透过各种搭载的方式,让原先的Windows/Office等软件得到升级的机会,这对微软而言,是十年难得一遇的好机会。微软查找引擎Bing市占率仅有2~4%,远远不如Google,但在这次改变的过程中,可能会是最大赢家,在推出GPT-4之后,Bing市占率提高到9%以上,2023年3月9日,Bing使用者首度超过1亿人。尽管Google的每日活跃用户数(DAU)已经超过10亿人,但我们看到微软在AI领域上的突破,可能给微软在数据检索上一个弯道超车的机会。未来大型数据中心将继续升级,藉以进行加速运算,可以预期服务器与相关芯片、服务业者的商机生气蓬勃。过去每次的技术创新,都带来庞大的衍生商机。从工业革命的蒸气机到铁路,从网际网络的出现到各种游戏、生活体验不断革新,但这次的AI革命可能更胜以往。我们可以预期类似YouTube、SNS等新型态的服务平台一定会出现,对台湾的启示就是「软件应用」必须积极参与、学习,而硬件制造当仁不让,特别是芯片与相关服务业者的价值体现,将会有新的面貌。
2023/6/6
AI商机有多大?谁是获利者?
一旦Open AI建立完整的生态系,就可以主导整个商机,影响力越大的品牌与解决方案,将会成为市场上的领导者。微软(Microsoft)刻意造成「生成式AI等于Open AI」印象,加上Office 365的优势条件,微软可能是很大的受益者。由于需要强大的数据运算能力,在数据中心芯片市占遥遥领先的NVIDIA成为最大的获利者,台积电也因为是代工夥伴而受惠。现在NVIDIA跟英特尔(Intel)叫板,甚至畅言「CPU时代已经结束」!导入AI不外乎是为了使用者忠诚度、提高效率,提升竞争力等。估计Open AI的市场规模,将从2023年的2亿美元,增加到2024年的10亿美元。游戏开发商可以利用各种AI工具加速产品的开发,并以各种内容的整合开发出新的商机与市场区隔。市场刚刚起飞,但速度也可能像ChatGPT一样迅雷不及掩耳!相较于现在的检索模式,对话式检索机制成本必然会增加,光是学习自然语言的运算机制,各种服务器、数据中心的投资就以1,000亿美元的规模来计算。Open AI需要导入1万颗以上的NVIDIA A100绘图芯片,相关资本支出与背后的维护都非常惊人。另据Semi Analysis估计,Google自主开发的Google TPU v4,资本支出高达200亿美元,这大约是Alphabet 2022全年资本支出的64%。可以预期「超巨量型数据中心」(Hyperscale Data Center)将是军火竞赛的一环,起步较早的微软与AWS都是领先者。但无论是内部或外部的连结,都是数据中心管理者很大的挑战。我们同时可以见到传输速度不断的提升,到2025年时,使用800G数据传输速度的Switch将高达2,500万个,这与2022年还是主流的100G相比,已经不可以道里计!整体而言,数据中心的演化,从最早的储存数据进化到演算,现在则是分散处理,藉以取得最佳化的成果。为了有效管理这样的需求,除了过去倚重的CPU之外,现在数据中心更关注DPU(Data Processing Unit)的进展。这些可以有效管理储存数据的微处理器,将是下一波需求的主流。相较于过去专注在特定功能的微处理器,DPU更重视整合性的功能。简单来说,CPU用于一般的运算功能,GPU是加速运算功能,而DPU是专注数据处理功能。「Scaling AI Compute」是从数据中心的运算,延伸到网通过程,以及边缘端的多元AI运算机制。基于提高运算效能、降低功耗等多方面的考虑,大家把希望寄托在晶圆制造与EDA工具的进化。如何以ASIC半导体芯片为基础,生产出可以符合差异化需求的硬件设备,也都是制造厂非常大的考验。 
2023/6/5