精诚信息打造企业AI大脑 携手IBM加快数码转型时程
市场快速升温的生成式AI,被视为企业推动数码转型的关键技术之一,投资意愿相当强烈。对此热潮,精诚信息AI智能科技服务事业部副总经理林宗瀛建议,企业应从硬件算力投资的基础思维转向应用场景开发,解决AI落地的核心挑战。
精诚信息长期协助台湾企业建构数码化系统,近年推出一系列从解决企业痛点出发的智能化平台,并善用IBM解决方案,提供企业安全性与合规性兼具的模型服务,大幅缩短AI从概念验证到落地实战的历程。
结构化与非结构化并重 打造企业AI基础工程
观察生成式AI发展现况,此技术在企业环境中已成功应用于客服系统与知识库管理,林宗瀛认为,下一步发展可注意更具商业应用价值的关键数据应用。
他进一步表示,企业数据可分为非结构化数据与结构化数据两大类。非结构化数据包含产品说明书、规定办法、政策文件、法律档案等文字性数据,目前许多「AI小帮手」的应用多集中于此类数据的处理,此类数据应用市场饱和,有大量厂商提供以Vector RAG技术核心解决方案,市场已进入价格战阶段,专案单价普遍偏低。
结构化数据则包含业务、商务、财务、供应链与物流等领域的数据,通常存储于ERP、CRM等数据库系统中,这类数据对企业具有更高的决策价值,但需采用Graph RAG技术,连结LLM与企业内部数据,才能实现有效的整合应用,具备此能力的厂商并不多,精诚信息则是其中之一。
林宗瀛接着指出,在AI领域,精诚信息具备技术整合能力与在地化服务两大核心优势,由于企业保存核心业务数据的数据库与存储系统都不相同,而 AI能否顺利运作产出具意义的结果,高度仰赖完整的数据基础,因此必须先有效整合企业内部各类数据,才能供有价值的数据给AI系统,确保系统效益。
精诚信息在数据整合方面具备完整服务架构,包括数据中台、AI中台,以及自主开发的Hybrid RAG平台,这些解决方案具备完善的Data Pipeline功能,可对接企业内各种不同来源的数据,如果企业已有中台架构,精诚信息也可直接连结,协助客户将需要的数据导入AI系统使用。
Hybrid RAG结合watsonx强化AI平台治理与整合能力
精诚信息Hybrid RAG平台最大价值,是具备同时处理非结构化与结构化数据的能力,企业可在单一平台满足不同情境应用需求,在打造此架构过程中,IBM的产品与技术服务是重要重力之一。
林宗瀛表示,IBM的watsonx是可支持大语言模型运行、治理与整合的企业级AI平台,相较于开源模型,watsonx的优势在于内建完整的数据治理、网安控管与权限管理机制,可快速满足金融或政府单位在合规与风险管理上的高标准需求。
精诚信息可透过API串接,将watsonx整合进Hybrid RAG平台架构中,企业在导入过程中无需额外开发治理模块,大幅缩短落地时程。
打造企业AI大脑 整合左右脑数据应用
在生成式AI部分,精诚信息推出了「Gemini Enterprise」平台,此一企业AI大脑分为左右脑两大功能区块,左脑专责处理与存放业务、商务、财务与营运等结构化数据,着重理性推理,采用Graph RAG技术架构;右脑负责处理非结构化文字性数据,侧重相似度关联分析,运用Vector RAG技术架构,这种「左右合一」的完整AI大脑设计,可让企业只需投资有限算力,就能有效运用大型语言模型处理内部数据,执行各种任务或问答功能。
在Gemini Enterprise AI平台中,IBM watsonx同样扮演关键的企业级AI技术支持角色。林宗瀛提到,watsonx提供了完善的数据治理、权限控管与网安设计,特别适合需要高度合规要求的金融和政府等敏感领域,在系统整合阶段,watsonx的预建治理与安全模块可大幅降低开发时程,缩短专案交付流程。
多元产业实证AI应用效益 携手IBM加速企业数码转型
精诚信息的Gemini Enterprise AI平台,目前已协助多个产业客户推动数码转型、落实智能化营运。在汽车零组件制造业,由于客户的全球经销商报价需求庞大,传统报价流程耗时冗长,需耗费2~3天查询多项信息,对此精诚信息协助导入Gemini Enterprise AI大脑,整合CRM与ERP系统,建立自然语言对话界面,业务人员无需登入多个系统或谘询他部门,即可迅速取得所需信息。导入后报价时间大幅缩减至半天内完成,有效提升回应效率与营收转化率,同时无需增添人力即可处理更多报价需求。
另一案例是百货购物中心的品牌部门,过去仰赖固定BI报表分析专柜表现,由于查询条件受限,难以因应多变的经营决策需求。导入Gemini Enterprise后,平台可对接每日POS销售记录,品牌经理可使用自然语言查询复杂条件组合,实时掌握热销商品动态,加速进货决策流程。
林宗瀛指出精诚信息希望透过AI大脑技术赋能,让不具IT与AI专业的企业各部门员工也能善用企业数据资产,实现「数据民主化(Data Democracy)」。
对于后续发展蓝图,精诚信息已有完整规划,2025年将以协助企业建立AI大脑为首要任务,让大型语言模型能有效理解企业内部数据,奠定AI基础工程。 2026年开始,将启动AI Agent实务应用落地,有效整合企业内部各种流程与应用系统,进而发挥实质功能。
在此发展路径中, IBM watsonx平台提供的完整附加功能与多元Studio工具将是重要助力,他提到对高度重视法遵合规,且希望可快速导入的企业而言,IBM watsonx提供了更为完备的机制与功能,可降低系统整合服务厂商与企业客户的开发负担,未来双方会持续保持密切合作,共同协助企业推动AI数码转型。