企业AI导入的7个层次

徐宏民
2026-03-12
AI语音摘要
00:51

过去两年,AI科技公司市值飙升,传统本益比估值已不适用——市场溢价反映的是产业结构重组的预期,而非当期获利。对尚未投入AI的企业而言,问题不在旁观与否,而是从何切入,掌握这波AI红利。

有效使用AI工具的企业,完成同样业务量所需的人力成本与工时正在缩减。这个落差当下还不明显,但历次技术变革的走向都说明同一件事:效率差距迟早会转化为成本结构的差距,而成本结构一旦落后,追赶所需的时间往往远超过补齐工具本身

企业使用AI的方式,其实有清楚的技术层次可循,从几乎零门槛的日常工具,到需要深度IT能力的定制化部署。理解这几个层次,才能找到合理的切入点。

第一层:对话式AI的日常渗透。对多数企业而言,第一个接触点是ChatGPT、Claude等对话式AI,用于文件草稿、市场分析摘要、会议纪录整理、法规条文初步解读。这个入口看起来琐碎,影响却不容低估。麦肯锡(McKinsey & Company)的研究显示,使用生成式AI的知识工作者平均每天节省1.75小时;GitHub Copilot的实测数据则显示工程师完成指定任务的速度提升约55%。这一层几乎没有理由不做,唯一需要决定的是是否系统性地推动,而不是让每个员工各自摸索。

第二层:嵌入工作流程的agent工具。这一层的关键不是AI「帮你建议」,而是给定目标,agent自主规划步骤、执行完成,员工负责最后审核。Cursor、Claude Code等coding agent是目前最成熟的例子,工程师描述需求,agent自己写程序、测试、除错,开发周期大幅压缩。但应用范畴已远不止于此:给定主题,agent自主产出完整投影片;描述财务逻辑,agent建公式、设架构、生成图表;会议录音进来,整理决议、分配待办、起草通知;业务开发上,agent研究目标对象、撰写个人化开发信、追踪回复进度,销售团队专注在真正需要人判断议题。当工作流程中有重复性高、步骤明确的工作,这一层值得认真评估。

第三层:特定领域的第三方工具:HR的智能排班、聘雇、与绩效分析、客服的自动回复与情绪侦测、行销科技的广告投放优化,以及电商平臺如Amazon Seller Central的商品描述生成与动态定价建议。优点是导入快、ROI计算相对清晰,不需要IT深度介入;取舍是定制化空间有限,數據往往流向第三方。当特定职能有明确痛点、且不想花IT资源自建时,这是效益最快显现的选择。

第四层:呼叫LLM API自建企业工具。当第三方工具无法满足需求,直接呼叫OpenAI、Anthropic、Google等的API(使用token),由内部IT开发定制化工具是下一步。例如串接内部ERP數據的智能查询界面、自动摘要供应商合约重点条款的审阅流程、根据历史订单提供采购预测的决策辅助系统。先决条件是具备一定规模的IT开发能力。數據流向云端是主要的风险考量;当这个风险可接受、且IT人力具备,这一层提供第三方工具难以达到的定制深度。

第五层:自建模型环境,數據不出企业。当數據敏感度更高,或用量规模使云端API的成本不再划算,企业可以建立自己的模型环境。最常见的做法是部署开源模型,搭配RAG架构:模型的内部知识负责推理与回答,公司的文件、手册、历史纪录作为外部知识来源,在每次查询时动态检索补充,让回答有所依据。这个架构不一定需要自建实体服務器,企业可以在自己管控的云端环境中部署开源模型,运算资源租自云端、數據留在自己的空间,兼顾弹性与數據主权。

对有特定领域需求的大型企业,可以进一步微调(fine-tune)开源模型,让模型精准理解内部术语与文件格式,但门槛不低,需要足够数量且标注完整的领域數據与相应的训练资源,成本可观,中小型企业直接使用RAG通常已足够。至于从头预训练(pre-training),几乎不在企业的选项之列——所需运算资源以亿美元计,是大型AI实验室才有条件投入的工作。

同样在这个层次,边缘AI(Edge AI)提供另一条路线:推论直接在终端设备上执行,數據从不离开设备、延迟极低、断网也能运作。更值得关注的是企业多年累积的内部數據——制程参数、研发纪录、设备维护历史、客户交易记录——过去是沉睡的资产,现在可以透过本地部署的AI模型加以活化。不只是查询与检索,而是跨數據集推理:找出制程与良率之间人工难以发现的关联、连结多年研发纪录中被遗忘的发现、系统化留存资深员工的隐性知识。这类數據几乎不可能送上云端,本地部署的投资也因此有更明确的商业理由。

第六层:整合多模型的AI决策平臺。在更高的复杂度层次,是像Palantir AIP这样的平臺:在企业既有的數據基础设施之上,同时整合多个LLM来源,让人员在不直接接触原始數據的情况下进行AI辅助决策。美国军方是其最具代表性的客户,商业端也快速拓展至制造、医疗、金融等场景。导入门槛高、周期长,但提供其他方案难以达到的整合深度与决策可稽核性。这一层适合數據环境复杂、决策责任明确、且已在第

四、第五层累积相当经验的企业。

成熟的企业AI策略往往是混合架构:日常文书使用云端LLM,敏感的内部知识查询走RAG加开源模型,特定职能采购第三方工具,产线實時判断、内部know-how活化走边缘AI。根据各任务的數據敏感度、使用频率与精度要求做出合理配置,不必一刀切。

这7个层次表面上是技术路线的选择,背后是竞争力的重组。采用AI更彻底的企业,人均产出显著提升、决策周期缩短。对供应链而言,硬件架构的影响也同步在发生:企业端的AI推论需求快速成形,服務器、存儲器与边缘运算设备的采购逻辑正在重写。而组织层面,随著AI承接愈来愈多的文书、协调与初步判断工作,人员的职能重心从「执行」移向「决策」与「问责」——这对人才结构的重新界定,是企业领导者需要提早布局的课题。

现任台灣大學信息工程学系教授,曾任富智捷(MobileDrive)技术长暨副总经理,推动ADAS及智能座舱系统产品进入全球车用市场。纽约哥伦比亚大学电机博士,专精于机器学习、电脑视觉、自驾车、机器人等领域。为讯连科技研发团队创始成员,慧景科技(thingnario)共同創始人,NVIDIA AI Lab計劃主持人;曾任IBM华生研究中心客座研究员、美国微软研究院客座研究员。习惯从学术及产业界的角度检验技术发展的机会,担任多家科技公司AI策略顾问。
智能应用 影音