智能应用 影音
美输中缩水版AI芯片没人要,谁是最大获益者?
近期DIGITIMES有几则报导与评论,谈及NVIDIA推出特供国内的2度降规AI芯片H20,但国内客户意愿缺缺一事。值得探讨的是,商业潜力庞大的国内内需市场缺口,究竟会由哪家半导体业者得利呢?2023年10月,美国商务部BIS更新先进计算芯片和半导体制造设备出口管制规则,规范总算力及效能密度(总算力/晶粒面积)上限,受限制芯片包括NVIDIA的A100/A800/H100/H800/L40S系列、超微(AMD)的MI250/MI300系列,以及英特尔(Intel)的Gaudi2系列,之所以国内客户对采购H20意兴阑珊,是因为大语言/多模态基础模型,已然成为万亿级参数的军备竞赛,以H20组建的AI算力丛集,难以支持这般规模的训练任务。国内业者的因应之道有四,一是透过各种管道购买更多的A100等受限芯片/模块/板卡;二是透过各种管道购买更多的受限绘图芯片/板卡;三是自研AI芯片;四是购买国内国内业者的AI芯片。解法一是建制算力最理想的解方,解法二是没鱼虾也好的应对作法,但从日前图森未来被疑偷运NVIDIA A100芯片给国内遭美方阻止并调查,以及阿布达比人工智能/云端服务集团G42出脱所投资国内公司股份及切断国内供应链这两事例看来,美国的围堵力道只会愈来愈紧。解法一与解法二或早或晚会遭断粮,并非长远之计。解法三为云端业者自研芯片,国内AI公有云有阿里云、百度智能云、腾讯云与华为云等四大巨头,真正仅供自家云端服务使用而未对外商业贩售者,仅有腾讯采12纳米制程的紫霄,但其与阿里平头哥的含光800均为AI推论芯片,非供AI训练使用。归纳解法一、二、三后可发现,针对云端/互联网业者及服务器业者需求的商业AI训练芯片,才是国内AI算力产业链的发展关键,参与者包括云端业者旗下的华为海思、百度崑仑芯及腾讯持股21.37%的燧原科技,以及海光、寒武纪、沐曦、天数智芯、璧仞、摩尔线程、登临等业者。会脱颖而出接收这庞大市场缺口的业者,我认为有2个条件:一是在芯片层次,取得国内拥有先进技术的晶圆代工厂、封测厂与存储器厂的策略性支持;二是在硬件/软件/应用层次能建立完整的供应链/生态系。对独立的芯片业者来说,即便取巧推动「类CUDA平台」模式,我认为仍具有高度挑战性,而在大集团旗下,拥有云端/互联网龙头业者在后强力支持的业者会更有机会,这其中我最看好华为。华为与中芯的先进芯片合作,已然成为国内突破美国封锁的关键所系,海思昇腾910b采中芯7纳米N+2制程,下一代昇腾920则可望推进至5纳米,成为国内内部与NVIDIA H100算力落差最小的芯片。若从生态系角度来看,华为自己在服务器主机板上除了AI芯片外,也包括鲲鹏CPU、基板管理控制器(BMC)芯片、网通芯片、与SSD控制芯片等。在其上有对标NVIDIA CUDA+cuDNN的CANN(Compute Architecture for Neural Networks)混合式运算架构,支持主流的PyTorch及TensorFlow及华为自己的昇思MindSpore等多个AI架构,更上层也有完整的算法开发与应用开发的软件堆叠。华为服务器硬件合作夥伴包括华鲲振宇、神州数码、清华同方、宝德计算机等业者,以及多家应用软件与SI业者。观察其客户名单,已拿下包括百度、科大讯飞及360等指标性云端/互联网/AI公司及三大运营商。此外,国内各地都在积极建立AI计算中心,多数的标案均由华为昇腾方案得标,其中包括北京、天津、广州、杭州、重庆、成都等重点城市等。在外有美国管制难出海,内逢经济疲软影响筹资的大环境下,再加上建立软硬件生态系的高门槛让业绩拓展无法一蹴可几,国内新创AI芯片业者普遍面临营运上的挑战,2023年陆续传来寒武纪与摩尔线程裁员、壁仞科技2位创始人离职的消息。相较之下,作为国内事业范畴最广、掌握云端服务/电信网络到终端装置、软硬件垂直整合程度最高、公司也最赚钱的华为,看来是最有底气接收美国管制下所让出国内算力市场缺口的业者。若国内政府想要与NVIDIA CUDA脱勾,建立起全然自主可控的算力生态系,除华为外还有更好的选择吗?
大学薪资结构也是另一个国安议题
不久前与一位任教于顶大IC设计的大学同学联系,希望同学能推荐其所指导的博士毕业生,因为他一直是有志于IC设计的年轻学子,最希望能争取加入其麾下、炙手可热的指导教授。只是得到的回覆却是,在过去的4年中,他只有毕业1位博士生。现在学子在拿到硕士学位后,便急忙投入产业,连大学现在也很难争取到半导体相关领域年轻的助理教授。同学还无奈地表示,社会大众有意识到年轻助理教授的难觅,增加不少额外的奖励及福利,最不幸的是像他一样的资深教授,缺乏被关爱的眼神。有位也是任教于顶大的杰出电机系教授,最近被国外的大学以新台币600万元年薪挖走。但是这600万的年薪说高也不高,约略等于国内硕士毕业后工作10年以上,表现不错并在获利的IC设计公司任职的年薪。当一位大学教授,发觉自己所培养出来的研究生,毕业后的薪资没多久便超越自己,会是情何以堪。我们现有的大学教师薪资结构,是不分系所都是一致的,所依据的是公务人员服务法。试想如果今天政府规定所有的大学毕业生,不论其所学专长为何,就业后的薪资是一样的,完全不考虑市场机制,而未来的升迁是以年资为主要的考量,请问这不是很荒谬吗?事实上,现行大学教师的薪资结构,大致如此,为何不能做些改变?我在美国留学时所就读的大学,每年都会公布教职员的薪资。记忆中当时教授年薪最高者,是位医学院的外科教授,其薪资几乎是文学院老师的4~5倍,学校美式足球总教练的薪资是高于大学的校长,这一切都是市场机制所决定。唯有市场导向的薪资结构,才有机会创造出有竞争力的环境。事实上在三十年前,大学教授的薪资是高于业界水准,再加上有寒暑假及退休金制度,可以吸引不少博士毕业生,争相从事教职及研究工作。但是经历这麽多年,学校的薪资仅微幅调涨,与业界的差距是逐年拉大。老成凋零与青黄不接,是我们目前以科技为主体的大学师资及系所的写照。我们不断地在强调人才的培育,也投入了不少资源,但是身负培养人才的大学教师们,他们的福利是否有被照顾到?甚至于该如何争取到优秀的人才,愿意来大学任教,这一切已经是个不折不扣的国安议题。政府已经推行大学弹性薪资有一段时间,让学校对于表现优异的教师,给予特聘教授或讲座教授的头衔,并得到一定调薪的比例。但是我们要提出的不是20~30%的调整,而是倍数级且符合市场行情的薪资差别。今天一个系主任,倘若系上老师因为外界给予2倍的薪资而提离职,系主任要能拥有资源提供出对等的薪资结构来挽留,而非眼睁睁地予以祝福。既然大学教师的薪资结构是个国安议题,便不能再以与法无据而加以搪塞,齐头式平等不是真平等。前些时候我们与国内一所大学进行项产学合作案,执行计划的教授把属于自己的人事经费列得比较高,但是我们觉得很合理,因为的确有这个价值,但是却被校方打回,因为超过规定上限。上一回的地方县市长选举,少数几位候选人的硕士论文,因为涉嫌抄袭而被迫退选。社会上就出现一种似是而非的说法,主张硕士学位要写硕士论文,是个过时的产物而应予废除。还好是大学的自主,顶住政客们凌驾专业的谬论,我真不敢想像一个没有论文的硕士学位,其竞争力在哪里?既然论文都可以考虑废掉,为什麽薪资结构不能做重大的调整?我的大学同学依旧每天兢兢业业在做研究指导学生,学生们毕业后高高兴兴地展开其璀璨的前程,但这一切可以维持多久?现在是时候来关注大学薪资结构的国安议题了。
黄钦勇:台湾、日本为半导体绝配 东亚三强扮新兴供应链转移关键
地缘政治压力与产业结构变化正推动半导体业者进行策略合作,同时强化各个国家或地区寻求夥伴关系的诱因,其中台日尤为密切。在新兴市场争取切入半导体供应链的过程中,除了台湾与日本以外,韩国的支持也不可或缺。在与DIGITIMES Asia的访谈中,本身即为资深半导体产业专家和顾问的DIGITIMES社长黄钦勇表示,中美对抗已成定局,而半导体产业正在发生结构性变化,从台湾两大半导体大厂不约而同寻求与外国IDM厂结盟观察,台日的合作将产生最大综效,但如要在新兴国家如南亚、东南亚建立资通讯供应链,则台日韩的支持必不可少。台积电刚宣布熊本二厂的投资计划,与Sony、电装(Denso)及丰田(Toyota )等当地企业合作,联电也与英特尔(Intel)合力研发12纳米制程,但黄钦勇表示,「在我眼中,台湾和日本还是绝配。台湾面临人才不足、土地有限的困境,上游材料也不够,日本半导体材料占全球52%,设备占36%,都是世界一流。」此外,黄钦勇指出,日本有很前瞻的应用研发,这也是台湾缺乏的。「例如,台湾很会做零件,却对游戏机使用情境缺乏理解,而日本的任天堂(Nintendo)是当中翘楚,并且有能力去定义应用。」日本也需要台湾。目前台湾最好的人才都还在制造业,定义应用的能力不强,而日本除了定义应用外,基础科学研究也很强。「在过去,要和日本合作比较困难,因为成本很高,但现在日本人均所得几乎跟台湾一样了,这也是很大的结构性改变。」黄钦勇说。除了历史渊源以外,日本前首相安倍晋三一句「台湾有事,就是日本有事」,被许多人引用来描述台日之间的友好关系。黄钦勇认为,日本的粮食自给率不到20%,如果海峡两岸打仗,日本当然会有事,所以不希望看到台海危机,也希望跟台湾更密切合作,彼此成为最佳的策略夥伴。「台湾政府会将重要的系统备份,但要放在哪里?对台湾而言,日本是最好的备援中心,这都是地缘政治压力下必须思考的。」产业变化与供应链移转的挑战产业结构的改变,展现在软硬整合、多元多样生产以及区域化生产等三大重要趋势上,也影响着业者的转型与半导体产业链的移动。黄钦勇指出,1999年,欧洲5个国家生产的汽车比重占全球27%,到2022年只剩12%;日本则从17%减至9.5%,汽车对这些国家都很重要,因此欧洲、日本压力都大,其工业体系皆在改变,而智能座舱已有网络公司在渗透(penetrate)此商机,未来汽车不再只是制造业,而是制造加服务业。「如果中美对抗势所必然,如何让新兴国家有更多机会?这是平衡国内影响力非常关键的策略。」黄钦勇表示,现在东南亚、南亚建构在地生产体系的机会较以往大,但都必须获得日本、韩国、台湾的支持,因为现在要建构生产体系也比以前困难,由于规模更大,零件配套需更完整,必须充分重视生态体系的重要性。资通讯终端产品与电气化的汽车同为半导体关键出海口,台湾有六大电子代工厂与台达电为苹果(Apple)、戴尔(Dell)、惠普(HP)等大厂在东南亚与南亚制造,日本有任天堂、Sony以及丰田、日产(Nissan),韩国则有三星电子(Samsung Electronics)、乐金电子(LG Electronics)以及现代汽车(Hyundai Motor)等在东南亚与南亚深耕多年的企业。根据Gartner于2023年9月发布的调研报告,48%受访企业未来3年有在东南亚新建或扩展制造产能的计划,36%企业则表示在南亚有扩产计划。黄钦勇认为,要重建一个毛利低的大规模生产体系非常困难,因为进入障碍太高,「所以最好的方法,是让东南亚、南亚国家,与东亚传统生产体系高度结合。这是对他们最有利也是最低风险的方法。台日韩也需要更多社会资源,所以未来我们可能面临一个没有国界的新时代。」由于东亚有许多半导体晶圆厂已经完成设备折旧摊提,黄钦勇认为,如果将旧设备和厂房卖给想参与半导体供应链的新兴国家,并且提供技术和营运经验顾问服务收取授权金,不但可增加收益再投资研发新技术和采购新设备,也可帮助新兴市场国家放低学习门槛,加速其半导体产业的发展。地缘政治仍牵动神经回应英国古典经济学家李嘉图(David Ricardo)对国际贸易中专业分工的重视,黄钦勇也认为,每个国家必须把自己的优点和长处发挥到极致,无缝接轨,才能协助新兴国家建立起在地资通讯生产体系,例如台湾有资本成本、人才素质和产业经验优势,需要积极发扬光大。但韩国可能会有挑战,因为产业集中在少数几个财团,乐金、三星可能也发现品牌价值已不如以往,因为品牌消费电子产品可能贡献其50~66%的营业额,但获利贡献度恐怕不到15~20%。三星手机从2022年出货2.6亿支,1年后降到2.2亿支,品牌价值也在改变,所以三星2023年以后在技术、产品和业务结构必然面临巨大变化。「可是当这些新兴国家要往软件、低轨卫星和医疗转型,都可能挑战到先进西方国家的核心利益,尤其是涉及战略国防与国家安全的领域。信息安全也是,都会挑战到西方国家容忍度。」黄钦勇说,「最后就会发现,品牌完全不是关键,地缘政治的影响是全球都必须面对的问题。这不是件好事,因为必然会对经济繁荣产生冲击。」 
第一位程序工程师—爱达・勒弗雷斯
爱达・勒弗雷斯(Ada Lovelace)是19世纪英国一位成就卓着的数学家,浪漫诗人拜伦(George Gordon Byron)的女儿。她是史上第一位程序设计师。用现代的说法,她是开先河的「程序媛」、技压理工男的女学霸。爱达出生不久父母离异,与母亲相依为命。她的母亲Annabella Milbanke热爱数学,坚持让女儿从小开始学习逻辑、科学和数学。在19世纪男性沙文社会,这些学科几乎是女性的禁区,对这些学问感兴趣并愿意钻研的女性是极为罕见的机会。爱达从小对机器着迷,19岁时嫁给了一位名叫金(William King)的贵族青年。他曾经教过她数学。 丈夫被册封勒弗雷斯伯爵后,爱达・金夫人成为勒弗雷斯伯爵夫人。1833年,她遇到机械工程师巴贝奇(Charles Babbage),十分投缘,成为好友。巴贝奇提出了差分机与分析机的设计概念,其设计具有现代电脑的所有基本要素,分析机被认为是早期电脑的雏型,巴贝奇因此被视为电脑先驱。爱达对这个分析机极感兴趣,悉心研究,1842年为这部机器编写第一个程序,1843年在英国科学期刊上发表。后人视之为最早的电脑程序。爱达在论文中介绍如何为巴贝奇分析机创建代码,用来处理字母、符号和数字。她还为这部机器创建一种重覆一系列指令的方法,这个过程被称为「循环」(for loop),至今电脑程序还在使用。她建立循环和子程序概念,为计算程序拟定算法,写出人类历史上第一份「程序设计流程图」。分析机从模型变成现实,经过100多年的时间。1940年代,英国科技奇人图灵(Alan Turing)受爱达的论述和设想的启发,开始建立现代电脑的理论。爱达于因治疗子宫颈癌失血过多而去世,享年36岁,被安葬在诺丁汉父亲拜伦的墓旁。她对电脑科学的贡献当时无人关注,直到她去世后才被人发现。如今,爱达是成为科技界杰出女性的象徵。美国国防部纪念这位伯爵夫人在电脑领域开先河的贡献,于 1980年将历时20年研制成功的高级程序语言命名为Ada语言。那是公认第四代电脑语言的主要代表。为了鼓励更多女生把科技事业作为人生追求,英国女权活动人士2009年发起倡议,每年规定一天作为主题日,举行各种活动庆祝自然科学和工程技术领域中愈来愈多优秀的「理工女」跟「理工男」齐头并进。这一天被命名为「爱达・勒弗雷斯日」,简称ALD,定在每年10月第二个星期二。爱达欣赏数学之美的能力是许多人,包括一些自认为是知识分子的人,所不具备的天赋。她意识到数学是一种美丽的语言,一种描述宇宙和具有诗意的语言。爱达拥有一种诗意的感性,使她能够将方程序看作描绘自然物理壮丽的笔触,就像她能够想像「红酒色的海」或「走在美丽中,像夜晚一样的女人」一样。但数学的吸引力更深;它是一种精神的表徵。数学「构成我们能够充分表达自然界巨大事实的唯一语言」,她说,它允许我们描绘在创造中展开的「相互关系的变化」。这个工具的运用让「弱小的人类思维,能最有效地读懂造物主的作品」。 
日本半导体产业的文艺复兴之路(二)
日本政府引进国外半导体业者投资的效果相当显着,几乎国际间各大半导体制造公司都报到了。另外本土公司联盟组成的公司Rapidus也将目标置于尖端制程的开发。  这些晶圆厂的兴建对日本半导体的贡献,刚开始时比较是稍为间接的。在恢复产业生态、扩大机器设备、材料内需市场、以及支持日本IC设计公司方面等都当然有帮助,但是对于自有的先进制程研发却得看Rapidus的表现。 延伸报导名人讲堂:日本半导体产业的文艺复兴之路(一)Rapidus一开始就瞄准2纳米nanosheet GAAFET(Gate All Around FET)的最先进制程,和IBM与IMEC合作,预计在2027年左右量产。1.5/1纳米需要不同的晶体管结构,将和LETI(Laboratoire d’Electronique des Technologies de l’Information)合作,用2维材料过渡金属二硫属化合物(Transition Metal Dichalcogenides;TMD)当成晶体管中通道(channel)材料。  Rapidus面临的挑战之一是参与制程研发的各方皆无量产经验。IBM最后的量产晶圆厂卖给格罗方德(GlobalFoundries)是2015年,其他各方要不是新创,要不就是实验室类型的研发机构,要走矢量产注定要多花一些工夫。  然而,Rapidus最大的挑战是有无办法快速地建立规模经济(economy of scale)。先进制程的研发极其昂贵,代工厂其实是以用IC设计公司客户资金实施众筹,进行下时代制程研发。因而到14纳米以下,全球市占不足的公司纷纷停止先进制程的竞逐。  对于2纳米以下的先进制程的开发尤为如此。2纳米是nanosheet GAAFET,1.5/1 纳米是2D通道晶体管,1 纳米以下可能是CFET(complementary FET)。几个时代间的晶体管的结构、材料、制程都是翻天覆地的大变化,若无足够大的市占便无法产生足够的盈余,无力推动下时代制程的开发。即使凑了开发费用,没有足够的市占也无法回收,遑论建立代工生产所需要的诸多生态环境如设计服务、先进封装等。  先进晶圆厂的建立无疑的会提高日本机器设备厂商的市占率,有些晶圆厂已经设立日本国内设备采购占比的目标。  这个因素影响相对比较轻微,重要的是日本在黄光这一大区块是否能重新启动。2023年Cannon推出纳米压印(Nano Imprint Lithography;NIL),分辨率可以达到5纳米,预计2025年会先在NAND Flash的制造中使用,但是预计无法完全取代EUV。要打入DRAM及逻辑线路的市场还要在对准(overlay)以及粒子(particle)问题上下工夫改善。 延伸报导名人讲堂:纳米压印的初始应用 (一):技术与挑战另外一个领域是日本有机会得分较多的是先进封装设备。日本的先进封装设备相对领先,而制程持续演进、先进封装、新材料是现代半导体经济增值的三大支柱。先进封装市场的自然增—譬如现在当红的生成式AI(generative AI)就一定要使用先进封装—自然提升在此领域的优势厂商的市占表现。  最后是材料。日本于此部分环节犹仍如日中天,却有危机隐然浮现。明处的是来自于国内的威胁,国内的材料基础科研发表论文占全世界约14.5%,比美国多1倍,而国内目前正在进行材料、设备的自主化。这一定会影响到日本,只是时间早晚的问题。  更深层的理由是材料的合成与制造正在经历典范转移。第一原理计算(first principles calculation)、AI与量子计算等用计算的方式正在逐渐颠覆传统的合试误方式,工艺精神的优势正在逐渐弱化。虽然日本于先进计算并不落后,譬如富士通(Fujutsu)用数码退火(digital annealer)来辅助材料开发仍然领先全球,但是产业的典范移转就意味着变动的可能性。  先进半导体材料的应用考虑与传统材料有些差异:材料界面性质到与块材(bulk)性质至少一样重要,而且很多材料的使用是依赖半导体制程设备。  日本的材料研发比较愿意做长期部署,而半导体厂商求的多是短期内有机会进入应用的材料候选人,这二者密切的结合,会深度地互相嘉惠对方。 先进晶圆厂在日本开始发展的新闻中最令我有感的是台积电与三星电子(Samsung Electronics)都在日本设立材料实验室,这可能是对日本材料产业最大的立即助益,而且助益是互相的。
日本半导体产业的文艺复兴之路(一)
当我进入DRAM产业时,那时最负盛名的半导体产业分析报告Dataquest,列出DRAM产业厂商排行:90年代下半,三星电子(Samsung Electronics)已然出头,NEC和东芝(Toshiba)还分居二、三,前十名中尚有其他日本厂商。这看似犹为优裕的景况,仅仅已是日本半导体产业的落日余晖。  再往前10年,日本半导体正当是花团锦簇、油烹鼎沸时分,半导体产品占据全世界50%的市场,机器设备厂商自晶圆制造到封测都是独占鳌头,材料更是处于宰制地位。整个半导体供应链,除了80年代末期才开始萌芽的电子设计自动化(Electronic Design Automation;EDA)之外,几乎是完整而且占有绝大优势的。  经过20几年的凋零,现在日本的半导体产业景况又是如何呢?简单的讲,可以用1、3、5这3个数码一言以蔽之。1是指半导体生产占全世界市场的百分比近10%、3是指半导体制造机器设备约占30%、5是指半导体材料约占50%。  这个1、3、5看起来贫脊吗?一点也不会。10%是什麽概念?高的如韩国,近20%;日本与欧盟并列,近10%;再次是台湾、国内。  日本半导体制造虽然不能与全盛时期相比,但是在有些特殊领域如功率器件、车用半导体等尚有一席之地。欠缺的只是先进制程技术及产能,这也是日本政府及产业界努力推动的方向。 另外,日本的IC设计公司也嫌不足。90年代后,日本从DRAM产业转向系统IC后,发现设计人力不足的问题。一家大的DRAM公司基本上只需要几个IC设计团队就已经足以满足产能需求,因为DRAM是标准产品,而且市场规模大;系统IC的样态较多,市场比较分散,需要更多的IC设计团队。目前日本的IC设计次产业仍然嫌单薄。 机器设备的市占率自然也不如前,主要失去的市场自然是黄光设备,这是90年代DARPA发展出EUV技术原型后技术移转对象选择的结果,先进制程黄光设备市占的流失是必然趋势。日本在黄光之外还丢失了一些市场,譬如蚀刻设备。总体而言,日本的半导体制造机器设备仍然有显着的份量。  日本半导体材料仍然维持着市场主宰的地位。这要归功于过去化合物的发现和合成有点匠人工艺(craftsmanship)的味道—经验不是单以锐意进取的作为就可以替代的。像味素(Ajinomoto)能从一家调味品公司扩张到半导体材料,靠的当然不是其原来所缺少的半导体的领域知识,而是对化合物的发现与合成的匠人工艺精神。  日本半导体产业其实并未经历犹如中世纪的黑暗期,讲文艺复兴是有些言重了。  眼下日本政府全力引进的各国投资有效吗?会改变哪些现况呢? 
CES 2024展后观察:三大主题、10个关键字
今年(2024年)最大的科技盛会CES,热度再胜往年。根据主办官方信息,展场面积较2023年增加超过10%,参展家数超过4,300家,较2023年3,200家增加34%。全球最大的繁体中文科技网DIGITIMES从12月1日起至1月23日刊载的CES相关报导及研究报告,合计达到235篇,较2023年同期增加27%,在在显示CES相关热度胜过以往。分析此次的展出内容,我认为可以归结出「三大主题」、「10个值得关注的新兴科技关键字」提供参考。首先,AI Everywhere是最热门的话题,产品未跟AI扯上边似乎有点赶不上流行,AI在CES主要出现在AI PC、AI Smart Home、AI Mobility以及AI Health Tech(健康科技)这四方面。AI Everywhere关于AI PC的定义,领导大厂的定义仍分歧,但AI PC绝对不会是只走高端市场,例如电竞PC这类的利基应用(占整体PC出货量仍未达10%),未来几年AI PC势必遍及各人的工作与休闲生活中。AI Smart Home可以称得上是Smart Home智能化的另一次跃升,举凡电视(画质提升)、冰箱(AI镜头自动识别)、扫拖地机器人(自然语言互动、视觉识别、高度自动化)、空调(调整频率以利节能)、烤箱及微波炉、床垫、马桶、电动脚踏车、赏鸟望眼镜…等,本届CES中都可见到AI技术的应用。三星电子(Samsung Electronics)及乐金电子(LG Electronics)也展示其家庭储能系统,利用AI科技来最佳化家庭能源使用的效率。随着人口高龄化,健康科技日益受到关注。举例来说,透过具备AI技术的健康镜(Smart Mirror),消费者可以做基本的身心健康检测;又如骨传导技术AI耳机,消费者在健身活动中,AI教练可以协助提供提示与指导,在游泳时有了AI教练也不会游错水道。另外,智能床垫、智能马桶都是健康科技相关的应用。目前AI应用多多少少存在着噱头成分,不过就像智能手机的发展,1992年就有智能手机在市场上,但要到2007年目前的智能手机雏形才确立,生成式AI在各方面的实质效益呈现,也会需要一些时间。新兴显示科技第二大类主题是显示科技。CES 2024的XR(AR/VR/MR)展出业者高达350家,显示在2023年苹果(Apple)宣示Vision Pro的上市计划后,众多业者都想在2024年顺势在XR市场上有所斩获。CES 2024在显示科技的3个关键字为,Micro LED、OLED以及轻量化AR眼镜。OLED技术持续进展,预估2024~2025年全球智能手机半数将采用AMOLED技术。CES 2024中,多个电视、电竞监视器、NB及汽车展示OLED显示方案,热度逐渐扩大。乐金显示器(LG Display)的OLED TV面板峰值亮度较传统的OLED面板提高42%,有助于其与LCD技术竞争。 Micro LED因具备优异的条件,被视为终极的平面显示器。然而,Micro LED成本仍偏高,所以必须找到特定的利基,才能够在应用基础十分广大的TFT LCD与新兴的OLED技术夹击中找出路。从CES 2024可以看到Micro LED应用于大型透明显示器、车用仪表板、内嵌于车窗的智能互动显示器、AR用微型显示器(Micro displays)等;其中车用具备其他技术难以企及的优点,Micro LED在AR应用,未来5年可望有50%以上的出货量复合年均成长率。轻量化的AR眼镜方面,此次已经有业者展示与一般眼镜外型相当,重量也差不多仅35克左右的试用版AR产品,较CES 2023版本减少40%。目前AR眼镜出货量仍低,藉由轻量化发展先行开拓企业用及零售用利基市场,不失为巩固利基应用,日后图谋扩大市场的安全策略。随着AI技术的提升,未来AI结合AR的发展空间相当宽广,包括差旅时的语言翻译、信息提示、实时问答及脑力激荡与个人创作应用。CES 2024也有厂商展出无实体屏幕的AR NB及汽车用AR眼镜方案,诸多可能性值得关注。汽车科技汽车科技为近几年CES最主要的展示要点,CES 2024与汽车科技相关的参展业者高达700家,属于最热门的参展产品类别。2024年值得注意的4个汽车科技趋势,一是软件定义汽车(Software-Defined Vehicles;SDV)概念进一步落实及推广,高通(Qualcomm)、NVIDIA及英特尔(Intel)透过本身或其采用业者发表新的进展。高通预估数码底盘的整体市场机会在2030年可达1,000亿美元,所接获的订单金额合计也超过300亿美元。汽车运算能力今后几年也将明显提升,因应L2+~L4自动驾驶的需要,例如目前ADAS芯片市占率最高的Mobileye,主要销售的芯片算力约为25 TOPS,但NVIDIA 2020年发布的Drive Orin芯片算力254 TOPS,2024年多家汽车业者已经采用。NVIDIA新一代车用SoC Drive Thor算力高达1,000 TOPS,2024年下半采用该芯片的汽车将上市销售。另外,为了加速芯片上市速度及降低开发成本,开放架构及小芯片(Chiplet)设计也将是车用SoC的发展趋势。Chiplet方式设计的芯片市场,可望由服务器用、PC用,进一步延伸到车用的处理器,2030年采用Chiplet设计的车用芯片市场规模较2023年成长10倍。其三,AI在中高端汽车将是标准配置,本次展会BMW、奔驰(Mercedes-Benz)、大众(Volkswagen)、福特(Ford)纷纷展示整合生成式AI技术的汽车科技,便利性将是AI技术进一步提高消费者满意度的重心。至于生成式AI运用对个资外流的顾虑,业者表示这些信息已经过处理,ChatGPT将无法存取到汽车使用者的问答及个人信息。DIGITIMES研究中心针对CES 2024已产出多篇专题研究报告,详细报告内容请参考相关网页。
晶创台湾方案评论 (二)
第二项技术议题是「加速产业创新所需异质整合及先进技术」,这个很明显是对上述生成式人工智能(generative AI)芯片及应用的支持项目。 延伸报导名人讲堂:晶创台湾方案评论 (一)异质整合(heterogeneous integration)是将用不同制程、材料制作的芯片透过先进封装整合在一起,提升系统功能与表现效能。目前生成式AI及其他的AI应用是用2.5D先进封装,将GPU芯片与HBM3或HBM3E封装在一起,以提高带宽、提高速度。再下个时代的HBM4或许可能采用铜混合键合(copper hybrid bonding)的3D先进封装或者用矽光子以连接GPU与HBM,进一步提高速度和带宽,这些也都是异质整合和先进封装的发展方向。  这个技术方向自然是用来支持生成式AI芯片的发展,如果生成式AI的发展方向是正确的话,异质整合的方向也是正确的。异质整合还有自己的重要性,以前ITRS(International Technology Roadmap for Semiconductors)用来标示技术进展的计量是制程微缩的节点,2017年后产业界就用Heterogeneous Integration Roadmap,显示每年可以被异质整合进封装的元件种类/形态/功能。这意味着异质整合本身也成为半导体增加经济价值的驱动力之一。  这个项目中的异质整合技术—特别是与生成式AI高度相关的矽光子与铜混合键合—台湾的半导体产业早已提前投入并取得相当成果。  异质整合的芯片设计比以前单一芯片的设计要复杂许多。譬如铜混合键合的芯片设计由于上下两片芯片—譬如GPU与DRAM—尺寸要一样,而且金属接点要互相对应,2个芯片的协同设计是基本要求。此时的设计工作会牵涉整个系统而非单一芯片,新的设计辅助工具也是需要的。台湾半导体产业在这方面也提早准备了,譬如联电与Cadence于2022年初发布完成联合开发设计工具的消息。  至于人力资源与投资环境的问题,这在台湾已是沉疴,在此只加注一点。  从方案中的人力资源方案来看,显然政策上已经清楚认知台湾人口基数的长期下降才是目前人力资源不足的主因。这一点是显着的进步。清楚问题的根源才有机会提出正确的解决方案。  对这个方案有3个基本问题,第一个问题是方案的提出时间。2023年并不是常规的10年科技政策出台的年度,而且此届内阁即将任满。于即将任满的时间制订一个长达10年的政策,在行政伦理上合适吗?  第二个问题是经费。10年新台币3,000亿元的经费是个不算小的金额,如果以每年的平均经费来计算,此方案在年度科技总预算的占比高达30%。这样的专案预算编列只有2种结果:一是排挤其他常规项目的空间、一是需要增加新预算。如果是增加新预算,长期计划就要另觅长期的新财源。这些在方案中以及相关的信息揭露都没有看到。问题是预算来源到底是那一种?削减其他专案预算?还是要开譬新源,而源头在哪?  最后一个是关于电力的问题。目前很多的生成式AI芯片设计在效能与节电—散热之间的选择,都大幅的倾向追求效能,而将散热的问题留给制程与封装去解决,是以连芯片水冷这样复杂的方案都也列入考虑了。生成式AI很耗电吗?当初ChatGPT刚问世时,各大云端服务器都遭遇耗电骤升的窘况,而那只是浅尝即止的试用期。  如果这方案真的很成功,在生成式AI芯片的制造应用都顺利推展到各领域,算过电力供应要怎麽成长才能支应吗?这些电力哪里来? (作者为DIGITIMES顾问)
拿破仑的钮扣与马蹄钉
不久前在电影院观看《拿破仑》(Napoleon)一片,距离上回看拿破仑《滑铁卢战役》(Waterloo)一片,已经是五十多年前的事,那时我还在念小学。《拿破仑》演到1812年,拿破仑率领六十多万以法国为首的大军,攻打俄国。在严寒的冬天一路打到莫斯科,但是因为俄国采取焦土策略,大军得不到适当的补给而落败。最后仅残余数万军队。此次挫败也造成拿破仑第一次遭放逐。事后历史检讨此次作战失利的原因,当然包括严寒、补给,甚至于认为部队已严重感染伤寒。但是好事的化学家,却提出不同的看法,认为拿破仑在俄国战败,原因出在部队的军大衣钮扣。因为大衣钮扣是用锡所制作的,锡在常温下可闪闪发光,但在严寒下却会开始裂解,部队因无法保暖作战而落败。结论是拥有军事天赋的拿破仑,欠缺化学知识。无独有偶地,15世纪的英国国王理查三世,御驾亲征在玫瑰战役中(Wars of Roses),因为坐骑的一个马蹄铁掉落,重摔在地而失掉战役及一个王国。这个掉落的马蹄铁,却是因为少钉了一个马蹄钉。这也是拜登(Joe Biden)总统在刚上任时,一手拿着半导体的晶圆告诉媒体,半导体就是美国的马蹄钉(horseshoe nail),失去一个马蹄钉,就失去一个王国的典故。如同一颗钮扣,决定一场战役。半导体不仅是美国的马蹄钉,对于世界几个主要的大国亦是如此,当大国们体认到马蹄钉的重要时,代表其已经开始失去了。众所周知,半导体是发源于美国。二次大战后,美国为了围堵共产势力,认为扶持起日本,振兴日本经济,对美国是有利的,当然台湾也获得美援及美军协防。Sony创始人盛田昭夫,在1948年就到了贝尔实验室,看到才刚发明的晶体管。日本很快地取得美国授权,开始发展半导体产业,之后的70年代,日本制可随身携带的半导体收音机风行于全球。到了70年代初期,当时美国总统尼克森(Richard Nixon)曾说过,一个有历史的民族,是不会满足于只当晶体管收音机的制造者。果不其然,日本的半导体产品开始席卷美国的市场,尤其是DRAM,美国厂家纷纷退出。我记得在美国留学期间,参加国际电子元件研讨会(IEDM),当时的主流技术几乎都是由日本公司所发表。美国感受到威胁,祭出针对日本的关税、反垄断等商务措施,同时开始扶植韩国。日本半导体产业的衰败,除了日圆升值、泡沫经济、未能掌握到数码时代的来临等因素,但也跟韩国崛起有密切关系。除此之外,美国为了拉拢国内大陆加入西方的民主阵营,以对抗俄罗斯,于90年代中开始,想办法促成国内以开发国内家加入世贸组织,国内因而受惠于自由贸易,经济崛起,也获得不少来自西方的尖端技术。然而,国内还是决定要走不一样的路,与美国抗衡,也导致近来的科技制裁,尤其在半导体领域。台湾的半导体产业则完全不在美国的战略架构下,所独立发展出来的,但是跟美国也脱离不了关系,因为我们的人才养成及技术来源,很多都来自于美国。经过了几十年的努力,台湾是个拥有半导体马蹄钉的国家,现在我们忙着到全球各地帮马匹们钉马蹄钉,因为这些国家认知马蹄钉就是国家安全。但是一旦这群马匹都有了牢固的马蹄铁,我们的国家安全是否因此失去保障?事实上,半导体产业是最不需要去客户端就近设厂,服务国外的客户,因为半导体本身就没有关税,而且又轻薄短小,一个纸箱就可价值数百万美元。在《拿破仑》及更早的《滑铁卢战役》电影中,都描述在滑铁卢战役,起初法军是占上风的。但在中午过后,拿破仑因为身体不适,一度将指挥权交给副手,因而出了乱子,其所倚重的骑兵大量地损失,再加上敌军增援部队的来到而落败。所以一个公司甚至一个国家,指挥权的转移是非常的关键。我们的马蹄钉不多,国家安全要有保障。
晶创台湾方案评论 (一)
政府在2023年11月13日公布「晶创台湾方案」。这是一个跨度长达10年的科技政策,预计经费高达新台币(以下同)3,000亿元。  与之前比较缺乏宏观、整合的科技产业政策相较,这次推出的政策焦点比较集中,投入的时间与力道都很充足。单以经费为例,此方案平均每年经费为300亿。300亿是什麽样的概念呢?这是政府每年科技总预算的约30%左右。以这样的力度执行单一个聚焦的目标,这在近年来的政府科技政策中,近乎异端。  这个方案中只挑拣2个相关的技术目标、2种产业发展环境改善计划:一、结合生成式人工智能(generative AI)+芯片,带动全产业创新;二、强化国内培育环境吸纳全球研发人才;三、加速产业创新所需异质整合及先进技术;四、利用矽岛实力吸引国际新创与投资来台。 第一个目标是生成式AI芯片及其于各产业、生活、工作环节的应用,这个是整个方案的重心。AI芯片兴起的势头毋庸置疑,NVIDIA以及其他公司各式加速器是2023年半导体情势欠佳下的救赎之一;与之搭配的高带宽存储器 (HBM)同样在2023年一片愁云惨雾的存储器市场中一支独秀。 但是,此恰恰说明计划的前瞻性稍嫌不足。如果这是已经明确的现代进行式趋势,政府的长期计划要抢先早个3、5年;如果这真是一个长期趋势,起步虽晚,亡羊补牢尚有可为。目前最顶尖的应用—在服务器上执行生成式AI—硬件卡位已近完成,生成式AI芯片由NVIDIA独占鳌头,另外还有如超微(AMD)等大厂;应用相关的主流存储器HBM3E也由SK海力士(SK Hynix)占半数、三星电子(Samsung Electronics)居次。  目前这类芯片开发所需的资源、HBM的取得、先进封装所需的产能、与系统厂商的结盟等能力,连有些大的IC设计公司都难以企及。这是一个门槛极高的领域,新创可以存活的生态区相当狭窄。  晶创台湾方案「主要运用我国半导体芯片制造与封测领先全球的优势,结合生成式AI等关键技术发展创新应用,提早布局台湾未来科技产业,并推动全产业加速创新突破。」如果策略是依靠台湾的制造芯片能力来发展应用,用云端服务器来提供GenAI算力的这领域不太靠谱。芯片制造与封测只是其中一个中间环节,离应用端太远了。生成式AI是每个领域都会自发性投入的新技能,应用后有机会提升自己在产业中的竞争力。但是发展出应用后要将此应用转换成新的产品机会不太大,毕竟使用云端生成式AI算力的应用,还未能有足够数量跨入获利门槛,以此营利的机会不大。在既存大公司专注之外的生成式AI市场当然也存在,譬如ASIC或IP—特殊应用或定制化的应用,这是许多新进者比较容易入手并且持续存活的生态区;大公司食之无味,小公司已够温饱。 进入这个领域就比较有机会触及应用端的发展及商业化。 像生成式AI这样的应用,即使是较小型的模型—譬如在手机上可以使用的LLaMA-7B大型语言模型,所使用的参数数目也高达70亿以上。  在市场强烈的竞争下,很难想像即使是特殊用途、定制化的生成式AI,虽然参数较少,却可以使用不是尖端制程的逻辑芯片和HBM。而且,特殊用途和定制化的GenAI一般和系统的连结性极强,也毋怪有些较大型的IC设计公司自己定义为系统公司。其实很多系统公司也将业务延伸至IC设计公司,以确保公司的核心能力掌握在自己的手中。之前已有很多先例,特别是在手机和电动/自驾车的产业。生成式AI是一个需要极大资源投入、高度整合上下游的新兴领域,即使是其中的特殊应用、定制化的次领域。新创IC设计公司在这个领域发展机会不大。 即使要既存的、有规模的系统公司或IC设计公司投入此快速发展领域,政策的意向还要辅以配合的作为,譬如建立上下游协作平台、是否协助建立国际统一标准等手段。在目前已揭露的政策宣告,看不到这些必须的关键、详细作为。  对于跨度长达10年的长期计划,这是严重缺漏。