物联网的「剃刀与刀片」
我观察到,智能物联网发展过程,大部分公司都想卖昂贵的物联网及大数据方案给客户,本末倒置,不易成功。2016年起,我们发展AgriTalk智能农业技术,最初的构思,是「剃刀与刀片」模式,希望智能农业的物联网硬件能以很低价格,甚至免费的方式提供给农夫,再以人工智能(AI)、生物有机营养液及害虫抑制剂等耗材来获利。要降低价格,AgriTalk的硬件必须很简单,并靠軟件来弥补硬件的不足。例如,温度、湿度等傳感器必须很便宜,其准确度会漂走,就要靠统计演算法来自动校正。农夫种的农产品,我们以契作方式回收,农夫便有不错的收入,造成双赢局面。这种「剃刀与刀片」模式除了要有永续维护的智能技术外,还有一重要前提,即慎选农作物(我们选择姜黄及白草莓),要有稳定行销管道。原始的「剃刀与刀片」(Razor and Blades)经营策略出现于20世纪初期,并非如AgriTalk般创造双方的共营获利模式,而是以「搭售」(Tied Products)方式,将某一基本商品(例如剃刀)低价贩售,以便大量贩售另一种相关消耗性商品(刀片),只思考如何赚客户的钱。在信息领域,使用「剃刀与刀片」策略最有名的例子是打印機(剃刀)和墨水匣(刀片)。今日雷射打印機的技术是全录(Xerox)研究员Gary Starkweather于1969年的发明,构想来自于影印机。影印机的发明人是Chester Carlson。Carlson是菲立普‧马洛里(Philip Rogers Mallory & Co.)的专利部门经理。因其工作的特性,时常碰到文件需誊本的问题。为了方便将文件誊本,他研究当时流行的各种复印文件的技术,包括摄影术、蓝图法、重氮法等。结论是,这些技术都不理想,皆需要使用一些溶剂而且制程很麻烦,因此决定亲自动手来找更好的方法。Carlson把家中厨房当作实验室,一度招致老婆翻脸。不过他仍然契而不舍,终于在1938年发明全世界第一个干式印刷程序(Dry Printing Process),称为电子摄影(Electrophotography)或Xerography。Xerography是希腊字,意指干写(Dry Writing)。卡尔森用干式方法产生出来的复制影像即是影印机的基础,于1950年被全录公司成功的商业化。之后,雷射打印機将影印机的贩卖策略发扬光大,赚取客户不少银两。我对AgriTalk的期望,则更进一步进化,希望能创造双方的共营获利模式,帮助农夫大幅强化其谋生技能。
中国停止采购美光产品可能的市场反应
2023年5月21日中国国家互联网信息办公室发布消息称,美光(Micron)在中国销售的产品未通过網絡安全审查。按照中国《網絡安全法》等法律法规,中国境内关键信息基础设施的营运者,应停止采购美光产品。针对这件事,南华早报在2023年5月29日已做评论。在中美科技对峙的氛围下,美国的科技公司遭逢此种裁定是意料中事,美光成为箭靶是因为「美光是美国对中国不仅提起多次知識產權诉讼,还经常游说美国反对中国的大型芯片产业公司」。南华早报这一部分的陈述离事实并不太远,美光是全世界存儲器厂商中最常使用非商业竞争手段打击同业的。专利侵权、反倾销(anti-dumping)、反补贴(counter-veiling)等手段使用得淋漓尽至,充分利用美国在国际政治的力量,以及过去是世界重要半导体市场的主场优势。世界上没有任何一家存儲器公司能幸免于此困扰。即使其本身亦有涉案在DRAM反垄断案中,美光也以其较熟悉的反垄断局宽大处理計劃(Leniency Program)最后安然脱身。美光如此常态行为,的确较容易成为反制的对象,但是中国政府是否真正以此因素为主要考量而下此决定,就不得而知。中国官方宣布的根据或理由令人费解,主要是因为DRAM的产品特性,它是「大宗商品(commodity)」。DRAM产品有世界统一的规格,像DDR4、DDR5、LP DDR4等界面规格,同一规格的产品,其电压、传输速度、信號次序等规格是完全一样,都是由JEDEC这个组织统一制定的。理论上,一家公司某一特定界面的产品完全可以被另一家公司相同界面的产品直接插拔替代。如果美光的产品要刻意增加其他公司没有的「功能」,这些增加的线路势必在产品的成本上重惩美光。所以说这个根据或理由,业内人士很难理解。如此措施会引发哪些市场反应呢?当前的存儲器市场由于PC和手机市场的低迷,处于极端的不景气状态之中,这是整个产业现在共同感受。这个裁定对于美光的短期冲击雪上加霜是显而易见的。但有几个理由会让这个裁定的影响可能没有想像中的严峻。第一,是美光的前置准备。这几年中美科技的对峙已经持续多时,特别是美光在与晋华进入诉讼程序之后,美光不可能没有应变計劃,否则就是经营得太漫不经心了。第二,是美光传统的市场策略。美光在很长一段时间内的市场策略是极大化利润,而不是保持客户的黏著度,理由是前述的DRAM是大宗商品这一原因。由于存儲器是大宗商品,很难由产品的差异化来提升顾客的忠诚度,利润极大化是合理的市场策略。基于此一市场策略,美光销售体制使产品销售对象转换的弹性即相对较高。第三,还是大宗商品的特性所导致的。DRAM由于可相互替代,对于系统公司零件转换成本较低,只要有价格差距就有转换诱因。所以此措施净效应就是存儲器各寡占公司与顾客的重新议价与配对洗牌。顾客与供应商重新接头、议价需要交易成本,也需要时间,所以将延缓整个产业的復蘇时间。对于个别厂而言,当然会有所损失,但是还不致于窒息。大宗商品嘛,如水银泻地,无孔不入的。要不,俄国石油被那么多国家抵制,不也卖得好好的?
从半导体设备市场规模看产业变化
众所周知,在美中贸易战及新冠疫情后,国家安全及供应链安全成为各国亟待强化的关键课题,半导体制造能力成为施政重点。在此背景下,2021年及2022年全球半导体设备市场规模前所未见的连2年突破1,000亿美元规模,分别达到1,026亿美元及1,076亿美元的规模。我归纳整理国际半导体产业协会(SEMI)以及日本半导体装置制造装置协会(SEAJ)发布的原始统计数据,探讨半导体产业的结构变化。可以看到臺、韩、中三地是全球最大的半导体设备市场,2020~2022年三地合计都占全球市场7成以上。中国虽在2000年发布十八号文及中芯、宏力建厂,但其后投资建厂的规模在全球仍不算是「大咖」,直到2014年发布「国家整合电路产业发展推进纲要」并启动大基金大举投资半导体供应链各环节,产业发展动能才真正被点燃起来。中国到了2018年,首度突破100亿美元的市场规模,成为与臺湾及韓國鼎足而三的大市场。2021与2022年这三地规模更都突破200亿美元。 另北美、欧洲、日本及其他(以色列及星马等)地区,2020~2022年半导体设备采购规模都呈现逐年增加的趋势,但仍与臺韩中三地有非常大的差距。若看2018~2022年的合计设备销售额,可看到在美中贸易战冲击下,中国是多么积极地采购设备建制产能;美日投资额虽较之前有所增加,但在规模上仍远远不若臺韩中三地;欧洲的投资力道则更不及美日两地。若观察前三大半导体设备厂的营收结构,臺韩中三地各占应用材料(Applied Materials)2022会计年度(2021/11~2022/10)公司营收的24%、17%、28%;占东京威力科创(TEL)半导体事业营收的19%、16%、23%,均以中国为最大市场。可以想见2022年10月美国祭出出口管制措施,之后又要求日荷同步配合对半导体设备商的冲击。高端微影设备领导业者ASML于2022年则以臺湾为最大市场,占比达38%,韓國次之,占29%,而中国仅占14%,相对受影响较轻。日本首相岸田文雄2023年5月邀请半导体产业龙头业者齐聚官邸,试图强化半导体供应链,而美国在2022年推出《芯片与科学法案》(Chips and Science Act)后,迄2023年5月申请奖补助业者已超过300家,6月负责芯片法中研发計劃管理的芯片研究与开发办公室主任亦已到任。设备采购是产能布建及产品服务销售的先期投资,观察过去这几年的半导体设备市场观,臺、韩、中在产能与未来几年的销售上,仍可望具有高度成长动能,但在美日欧的强力扶植下,各地都逐渐建立起相较过去更完备的半导体产业链,国际上「去全球化」的发展态势下,臺湾业者迎来的是「国际化」的挑战,若能通过考验,未尝不是进一步壮大的契机!
AI会是超乎寻常的「工业革命」吗?
有哪些工作不会被人工智能(AI)取而代之?需要复杂决策与推理的工作,短期内很难被取代。李开复说:纽约客的专栏作家很难被取代,但新闻编译的工作就难说了;一样是医师,放射科医师比家医更容易被取代,在網絡系统上媒合交易、運營商的客户服务,都是很容易被取代的工作,所以从英国电信(BT)到Vodafone都大量裁员,您认为臺湾運營商可以幸免吗?就像臺湾银行分行没有消失一样,臺湾運營商门市消失速度或许会慢一点,因为臺湾幅员小,人口密度高,喜欢步行、面对面交易,这样也可以保留很多工作机会,不见得是坏事,只是专业服务业的进步就会慢一点。2021年是有史以来独角兽增加最快的一年,但之后在资金成本骤增的压力下,新创投资慢慢走下坡。根据NVCA调查,2020年创投投入的资本为1,710亿美元,2021年是3,450亿美元,而2022是2,410亿美元,估计减少30%以上,这当然与资金成本上扬有关。原本以为不景气会持续一段时间,但看来AI是重要的解方。关键的观念是「以庞大的数据为后盾,根据每人特定需求提供专属的服务」,这样的概念可以大到工厂的「少量多样生产」,也可以小到个人化的生活体验,这也将是「赢家全拿」时代的深化。在網絡发展的第一阶段,市场形成的速度远高于工业时代,但通常一开始会有很多新创公司参与,经过淘汰赛后由领先者出线。但现在是使用者同时参与创造数据,让数据增加几乎接近「零成本」,亦即这个市场将出现「指数型成长的模式」,新创事业出线更为困难!但科技大厂都看好AI商机,在ChatGPT上市之后,很多科技公司都推出相关应用,但最具影响力的仍是微软(Microsoft),微软宣示将把ChatGPT导入所有应用平臺,2月放在Bing上,3月则是Office軟件,接下来也看到阿里巴巴、Meta开发类似GPT的大语言模式。其次,AI应用领域无所不在,从场域到影像、文字、声音,多重内容的连动与结合,而混合型的应用更是大家很容易想像的变种方案,这是无缝接轨(Seamless)的多元共创。这个趋势已经被讨论好几年了,但没有想到是由AI与NVIDIA的GPU做为驱动因子,而臺积电与背后的创意电子等公司就成为间接受益者。此外,NVIDIA使用「专属軟件」,让GPU得以在最佳的状态下运作,这也是其他竞争者望而生畏之处。从用户端观察,軟件使得AI扩张更为容易,使用具亲和力。很多生态系业者以各种演算法,透过ChatGPT提供各种有效的应用,领先者的优势已经十分明显,这并非只是炒作的一时现象。过去苹果(Apple)的App stores是提供多元应用的平臺,但Open AI直接切入各种应用,扩散效益将更为惊人,例如GPT-4可以结合影像,这又是另一种超越大家想像的应用。未来的使用者,不是查找部分數據,而是用部分數據诱导出更多的相关數據,革命性变化促使我们面对重新定义产业与国家战略的时刻。
数据「孤岛化」的挑战与契机
黄仁勋在臺大毕业典礼上演讲提到,1984年他从大学毕业,迎接的是PC起飞的年代,而2023年是「人工智能起飞(AI)的年代」,期望今年毕业的学生可以掌握时代的契机,成为浪尖上的英雄。1984年底,我念完研究所,1985年回到臺湾迎接的也是PC元年!创业的过程总是艰辛的,「诚实的面对问题」是黄仁勋在臺大整场演讲的精华。与Sega的合作,其实技术上碰到挫折,但却厚著脸皮要对方付钱;与张忠谋的互动,成就了双方25年的革命情感。骄傲的创业家,也有弯腰请人帮忙的时刻,这些心理上的挣扎只有创业家可以体会!黄仁勋说:就像是1984年PC滥觞的时代,2023年是AI真正商业化的时代,而这背后有很多软硬整合与硬件制造的机会。在Google查找引擎可至之处,大概有超过6成的数据是来自英语体系,中文只占1.5%,繁体字更仅有0.01%,换句话说,如果以臺湾本土的信息、数据创造普遍性的价值,可能是缘木求鱼,不可行的策略。但反其道而行,如果能在「孤岛」上圈地自肥,专门找丰腴的土地耕作,而这块土地还有往外扩张的空间,可行吗?我做的就是这样的实验,我认为不仅可行,而且是AI创新与他人差异化的避风港。这个市场小到網絡大腕们不仅视而不见,而且希望拉拢我们这些地头蛇,加速事业模式的落地与实践。这些离经叛道的做法,可能让专业人士怀疑可行吗?路是我走出来的,我知道有多难,但别人认为不可行的,您也一定没机会!「大数据是AI的成败关键」的说法,大致是正确的,但很多人也认同,数据总量与品质之间的关系很关键。过去将数据资产的重心放在信息储存、高速运算,现在「信息的交换」也非常重要,这牵涉到交换的效率、条件、定义、对象等问题。由于现在的網絡社会,数据是双向互动,Input的品质当然影响到Output的结果,长期累积的价值、客户的信赖都是成败关键。其次,如何从累积大数据的过程中,找到具有商业价值的副产品,绝对是臺湾这种中小型国家新创企业要深思的问题。这些副产品或技术趋势,如何与臺湾优势结合,才是我们应该思考的问题。大趋势背后的副产品、边缘服务,这点商机不值得主流业者来经营。难度高,又看不上眼,难怪我们活得好好的!
国防领域的量子技术
量子技术是将量子物理原理应用于实际情境的技术。费曼(Richard Phillips Feynman;1918~1988)是量子计算的奠基者之一,他提出利用光子进行计算的概念。其贡献促进量子计算的研究和发展,为量子计算领域带来卓越贡献。在军事领域中,量子技术一直是国防部门关注的重点。整体而言,量子技术尚未完全成熟,但它可能对未来的军事傳感、加密和通讯产生重大影响。量子应用涉及许多关键概念,包括叠加、量子位元和纠缠。其中最具挑战性的应用是量子计算,这是一个令人惊叹的梦想,可以实现无限计算能力,突破当今物理世界的限制。然而,计算是否有速度上的极限呢?如同光速限制在不改变时间的情况下穿越太空的能力一样,是否存在著阻碍计算速度超越理论上最大值的错误纠正限制?建立一个有用的量子计算机需要处理超过可观测宇宙中亚原子粒子数量的连续参数。目前还没有确定如何操作如此庞大的量子系统,以及如何同时控制其误差。 因此,我们应该专注于量子傳感技术,以加速成熟的国防应用。量子傳感技术可用于偏远地区的全球定位系统(GPS)定位和其他导航工具,还可用于检测电磁辐射,提升军队的电子战能力。据美国海军研究所(US Naval Institute)报告,量子傳感技术可提升潜艇的探测能力,尤其是对于匿踪潜艇和物体探测的能力,效能将超越过去的雷达技术。 中国电子科技集团在2018年公布其开发的量子傳感原型装置,据称能够探测飞行中的匿踪飞机。美国国防科技巨头Lockheed Martin,声称能够使用量子罗盘(Quantum Compass)来改善美国海军的导航能力。这种量子罗盘是由具有「氮-空缺中心」(Nitrogen-vacancy center)原子缺陷的微型合成钻石制成的。当受到雷射照射时,其发出的光强度会根据周围的磁场变化;透过地球磁场,这种光的变化可以提升导航能力,尤其是在极其偏远的地区。总结来说,量子傳感器具有潜力应用于情报、监视和侦察领域。成功开发和部署这类傳感器可能会带来潜艇探测能力的重大改进,甚至能够对抗和摧毁海上核威慑力量。由于量子傳感器对环境干扰非常敏感,军事人员可以利用量子傳感器来探测地下结构或核材料。此外,量子傳感器的高灵敏度还有可能帮助军队探测电磁辐射,增强电子战能力,并有助于定位隐藏的敌方部队。
各国AI半导体发展现况与政策
所有工业大国都明白,各种创新的应用,背后都需要强大的半导体工业来支持,各种政策支持措施,在智能联网、數字转型、人工智能(AI)大商机来临之际显得更为具体与必要。需求更为多元,竞争更为激烈的今日,也无法再以工业时代的概念推动各种政策补强措施,而掌握本国半导体需求的呼声正在各国发酵,我们该如何用正确的角度观察,以半导体产业为核心的世界竞合架构。美国:2022年8月,拜登政府推出芯片法案(Chips and Science Acts),以520亿美元的规模支持美国重新掌握半导体产业的优势,其中390亿美元将用于提升生产制造能力。并从2022年8月26日起,以国安理由,要求卖往中国与俄罗斯的高端绘图卡必须经过审核,之后更强化NVIDIA与超微(AMD)将高端绘图芯片卖到中国的管制措施,也影响了华为、中芯等相关企业的营运。中国:在第14次五年发展計劃以及2035年的七大战略目标产业,都将半导体列为重点产业。从AI、量子技术、脑神经、生物科技到太空科学,都与半导体产业高度连动。欧盟:也通过半导体芯片法投资430亿美元,目标在2030年时抢下全球20%的市占率,除了建构2納米的技术发展路径,欧盟也宣示要在AI、异质整合、5/6G通信、材料设备上加码发展。此外,欧盟结合了10个国家28个机构共组研究平臺,针对车用半导体,希望在2024年之前订定车用半导体的发展路径。日本:1980年代末时,日本半导体全球市占率过半,1990年代开始衰退,现在已经不到10%,甚至多数是30~40納米的老旧技术。尽管如此,日本超过半世纪的半导体产业,依旧留下很多不可或缺的条件。例如日本半导体设备全球市占率32%,材料市占率是56%,在国际市场都是举足轻重的角色。现在日本希望透过与臺积电、Sony、电装(Denso)共同投资的熊本工厂,日本政府更展现决心,支持熊本計劃4,760亿日圆投资经费的一半。另一方面,做为尖端制程的切入点,瞄准由Repidus主导的工厂,2025年可以进入2納米的制程。由于日本的基础工业十分厚实,加上汽车产业需求,臺日之间合则双赢,但跨国合作牵涉到文化、国家价值的认知,臺湾在国际形象的提升上漫不经心,臺积电得拥有多大的领先差距,才能让日本人心服口服?韓國:以2030年全球AI半导体领域20%市占率为目标,并希望能在5年内培养7,000名AI芯片设计工程师。2025年前能栽培出NPU业者,2026~2028年间以存儲器技术为基础,培养出低功耗PIM业者,2030年前看到超低功耗PIM产业落地生根。此外,韓國还订定在2026年培养30家,2030年培养50家AI芯片厂为目标,将AI半导体产业培养成为继存儲器之后的第二大支柱产业。其他还有国产NPU數據中心、AI专属數據中心、在三所大学设置AI半导体研究所等計劃。相较于最近一年走跌的存儲器产业,韓國将AI半导体视为韓國半导体产业的救世主。但韓國最大的挑战,是AI半导体的发展模式与IC设计产业更为类似,韓國过去费尽心思力图发展的IC设计产业,几乎是徒劳无功。韓國在全球存儲器占有6成以上市占率,但IC设计业市占率却不到2%,而在CPU+GPU大乱斗的时代,这也不是韓國所长,「苦闷」二字是韓國说不出口的难题。发展AI半导体产业,韓國需要的配套生态系还包括NPU、先进封测技术,而能与Tesla、微软(Microsoft)、Google、NVIDIA等網絡巨擘平行发展的特化芯片,更是严酷的挑战。走到产业发展的极致,面对的问题都是「倾全国之力,都不一定能收割」的大赛局。也许韓國会将希望放在RISC-V这些开源性资的新技术,并结合存儲器优势,找到不同于其他先进国家的发展路径,否则也是一场肉包子打狗的低胜算赌局。
臺湾ICT产业的AI生态系
2010年前后开始真正受到瞩目的深度学习(Deep Learning),是人工智能(AI)相关技术进化的关键期,透过机器学习得到的经验,让AI技术有了新的依靠。2016年的AlphaGo更是推波助澜的重要突破,之后各种边缘装置(Edge Devices)出现在市场上,相关技术与半导体芯片的进展也受到瞩目。至于在半导体领域发展的特用AI芯片,则是一种特化型IC(ASIC),又可分为服務器与边缘端专用。目前大家关注GPU与CPU带来的运算之争,将来重心也会慢慢移转到前端设备,这些都是重要的变化、挑战,也是机会,而臺商是海景第一排的有力角逐者。AI半导体是指可以让AI軟件与演算法可以更有效率执行的各种专用芯片。现有的泛用CPU,在处理大量数据时可能面对极限,也让出更多机会给不同的微处理器,例如GPU、DPU与用于推论的NPU,特别是当初用来处理图像的GPU,运用在AI上,竟有远超过原来期待的功能。特别是NVIDIA结合CUDA的軟件设计程序,造就了NVIDIA今天的盛况。除此之外,其他如现场可程序化逻辑闸阵列(FPGA)芯片也出现了新的契机。GPU与FPGA也都是泛用型IC,非只为某一客户量身定制的ASIC。ASIC是具有明确目标功能的系统半导体,目前最被看好的GPU结合了CUDA軟件,在市场上具有压倒性优势,而NVIDIA的财报也证明过去的投资与软硬整合的优势正在发酵中。A100拥有6,912个CUDA Core与40GB HBM2存儲器,这套解决方案可以整合成一套超级电脑。2022年3月,NVIDIA推出效能比A100还要强大的H100。根据IDC调查,全球AI數據中心的市场规模,将从2021年的156亿美元,成长到2025年的318亿美元,年均成长19.5%,远高于传统服務器市场的10.7%。至于AI芯片市场,各大顾问公司也有许多评估,多数看好未来几年的成长,其中Gartner认为,AI芯片在2025年时可达700亿美元,到2030年AI芯片市场总值将达1,179亿美元,贡献整个ASIC市场的31%。由于看好AI芯片商机,从超微(AMD)、英特尔(Intel)这些NVIDIA传统的竞争对手,到上游的ARM、新思(Synopsys),以至高通(Qualcomm)、博通(Broadcom)每一家公司都虎视眈眈,英特尔甚至透过购并Habana,希望加速软硬整合的实力。除此之外,美国、英国、法国都有很多新创公司尝试开发出各种用途的AI芯片,中国当然也没闲著。百度、华为、阿里巴巴、比特大陆等,都有明确规格与定义的AI芯片发展計劃。此外,韓國存儲器双雄在存儲器内运算(PIM)市场上著力更多。三星电子(Samsung Electronics)在2020年发表HBM-PIM的产品,让芯片可以在没有连结數據中心的情况下,独立进行演算,对声音、影像在装置前端的应用上深具意义。走在市场最前端的晶圆代工业、设计服务业者,大致可以维持应有的地位,但最受挑战的是臺湾IC设计产业。在晶圆制造领域,14納米以下先进制程成为必要条件,拥有最先进制程的公司,仍将是市场上的宠儿。臺湾IC设计业虽只占全球市场的18%,在前十大业者中有3家来自臺湾,但臺湾擅长替代型商机,而非定义市场,参与前端市场的角逐。其次,业者面对人才短缺、成本激增、中国业者追击等相关议题,真正有实力角逐顶级商机的厂商屈指可数。臺湾的IC设计业者正积极赶上这一波大AI潮的滚滚商机。最后,前端设备的多元需求,AIoT商机无可限量。IBM估计,物联网终端设备总量从2020年的150亿臺,增加到2025年的1,500亿臺。10倍速成长加上多元商机,如何发展通用效益,又可以差异化设计的发展机制,是臺湾业者最大的挑战。
是谁搅和AI一池春水?
为角逐未来AI商机,各大厂商也拉帮结派,NVIDIA购并了Mellanox与Excelero,而看似被NVIDIA拉开差距的超微(AMD),也购并赛灵思(Xilinx)及Pensando。迈威尔(Marvell)、博通(Broadcom)、英特尔(Intel)也都各有盘算,特别是英特尔在晶圆代工久攻不下,CPU/GPU/DPU市场又面对严厉的挑战,除了发展类似CUDA的程序语言之外,也与Habana Labs合作,我们看到大厂决战光明顶的景象,也知道AI竞争现在才进入火热的阶段。继GPT-3.5之后,Open AI再度于2023年3月发表GPT-4,这套Foundation model更贴近市场的需求。短短几个月之内,上亿人的使用经验成为「学习」的基础,运算法的改善,也让AI应用带来新的境界。科技大腕相继加码研发,整个生态系的改善非常具体,微软(Microsoft)的积极态度也带来推波助澜的效果。到2022年4月底止,Office 365已经有3.2亿使用者,而搭配Office 365推出的Copilot軟件,让这些使用者有条件从过去经验中推演相关的应用。以Copilot的使用者做测试,每个使用者节省的时间大约是50%,这是个很庞大的数字与价值。Microsoft 365 Copilot可以连结Word、PowerPoint、Outlook、Teams等档案,并与Microsoft Graph、LLM等功能同步使用,也使用Grounding的演算法。微软在2022年底推出ChatGPT之后的两个月,推出ChatGPT Premium的方案,每个月收取20美元的费用,应答问题的速度可以快3倍。透过各种搭载的方式,让原先的Windows/Office等軟件得到升级的机会,这对微软而言,是十年难得一遇的好机会。微软查找引擎Bing市占率仅有2~4%,远远不如Google,但在这次改变的过程中,可能会是最大赢家,在推出GPT-4之后,Bing市占率提高到9%以上,2023年3月9日,Bing使用者首度超过1亿人。尽管Google的每日活跃用户数(DAU)已经超过10亿人,但我们看到微软在AI领域上的突破,可能给微软在数据检索上一个弯道超车的机会。未来大型數據中心将继续升级,借以进行加速运算,可以预期服務器与相关芯片、服务业者的商机生气蓬勃。过去每次的技术创新,都带来庞大的衍生商机。从工业革命的蒸气机到铁路,从互聯網的出现到各种游戏、生活体验不断革新,但这次的AI革命可能更胜以往。我们可以预期类似YouTube、SNS等新型态的服务平臺一定会出现,对臺湾的启示就是「軟件应用」必须积极参与、学习,而硬件制造当仁不让,特别是芯片与相关服务业者的价值体现,将会有新的面貌。
AI商机有多大?谁是获利者?
一旦Open AI建立完整的生态系,就可以主导整个商机,影响力越大的品牌与解决方案,将会成为市场上的领导者。微软(Microsoft)刻意造成「生成式AI等于Open AI」印象,加上Office 365的优势条件,微软可能是很大的受益者。由于需要强大的数据运算能力,在數據中心芯片市占遥遥领先的NVIDIA成为最大的获利者,臺积电也因为是代工伙伴而受惠。现在NVIDIA跟英特尔(Intel)叫板,甚至畅言「CPU时代已经结束」!导入AI不外乎是为了使用者忠诚度、提高效率,提升竞争力等。估计Open AI的市场规模,将从2023年的2亿美元,增加到2024年的10亿美元。游戏开发商可以利用各种AI工具加速产品的开发,并以各种内容的整合开发出新的商机与市场区隔。市场刚刚起飞,但速度也可能像ChatGPT一样迅雷不及掩耳!相较于现在的检索模式,对话式检索机制成本必然会增加,光是学习自然语言的运算机制,各种服務器、數據中心的投资就以1,000亿美元的规模来计算。Open AI需要导入1万颗以上的NVIDIA A100绘图芯片,相关资本支出与背后的维护都非常惊人。另据Semi Analysis估计,Google自主开发的Google TPU v4,资本支出高达200亿美元,这大约是Alphabet 2022全年资本支出的64%。可以预期「超巨量型數據中心」(Hyperscale Data Center)将是军火竞赛的一环,起步较早的微软与AWS都是领先者。但无论是内部或外部的连结,都是數據中心管理者很大的挑战。我们同时可以见到传输速度不断的提升,到2025年时,使用800G数据传输速度的Switch将高达2,500万个,这与2022年还是主流的100G相比,已经不可以道里计!整体而言,數據中心的演化,从最早的储存數據进化到演算,现在则是分散处理,借以取得最佳化的成果。为了有效管理这样的需求,除了过去倚重的CPU之外,现在數據中心更关注DPU(Data Processing Unit)的进展。这些可以有效管理储存数据的微处理器,将是下一波需求的主流。相较于过去专注在特定功能的微处理器,DPU更重视整合性的功能。简单来说,CPU用于一般的运算功能,GPU是加速运算功能,而DPU是专注數據处理功能。「Scaling AI Compute」是从數據中心的运算,延伸到网通过程,以及边缘端的多元AI运算机制。基于提高运算效能、降低功耗等多方面的考虑,大家把希望寄托在晶圆制造与EDA工具的进化。如何以ASIC半导体芯片为基础,生产出可以符合差异化需求的硬件设备,也都是制造厂非常大的考验。
智能应用 影音