台湾人工智能实验室与群联电子强强联手 提供台湾多模态、多专家FedGPT一体机解决方案
- 陈子耘／台北讯
-
台湾人工智能实验室（Taiwan AI Labs）创始人杜奕瑾与群联电子CEO潘健成，近日于「AI EXPO Taiwan 2025」针对AI发展趋势深入对谈。双方将携手推动具备多模态、多专家能力的FedGPT软硬整合一体机方案，让企业建立以aiDAPTIV+技术平台为基础的纯地端部署，可信任的能源永续生成式AI（ReGenerative AI）解方，普及真正能落地、成本可掌握、符合ESG、台湾专业知识与国际AI法规的企业级应用。
杜奕瑾进一步表示，2025年软硬件AI基础架构进步，企业可以藉由台湾人工智能实验室训练的落地基础模型，运用台湾人工智能实验室企业级联邦式GPT（FedGPT）平台，建构企业内部专属的专家模型 （Domain Expert Models）。
他提到，「2025年是永续 AI（ReGenerative AI）元年，台湾AI产业，可藉由台湾软硬件优势结合，FedGPT平台能在产业学习内部知识，不需连外网、不需订阅服务。就可建立多专家、多模态模型。FedGPT对标国内外先进AI法规、验证需求与ESG节能减碳规范，同时控制企业营运成本，建立ROI最高的企业专属多专家、多模态大脑。与群联共同发展软硬韧体先进技术，做到单一机器全参数模型训练、也可多专家、多模态模型同时服务。」
2024法规治理与联邦式AI开源民主化后、2025年永续AI将为趋势，由台湾人工智能实验室开发的 FedGPT，是台湾团队帮助企业建立专属落地模型解决方案，打造的繁体中文联邦式生成式AI。
其训练过程涵盖1,000亿繁体中文语料，并整合150亿医疗语料、10亿商业、金融与法规数据，经台湾实际场域淬链，实现轻量化与节能设计，同时在多个专业领域展现优异效能，快速达成「以有限资源，达成谨言慎行的内行专业模型，取代传统大型网络八卦模型」的应用价值。
潘健成则表示，AI硬件技术未来将朝高效能、低功耗与可扩展方向前进。群联电子独家专利研发的aiDAPTIV+方案，整合硬件与软件，致力降低边缘地端AI部署门槛且保护用户的数据隐私不外泄。
该方案将SSD整合进AI计算框架，运用专利技术让SSD扩充部分AI运算所需的DRAM，配合一般GPU即可运行大型语言模型微调训练 (Fine-tuning)，进而有效降低AI服务器建构成本，使更多企业得以部署生成式AI，更重要的是，企业在边缘地端训练AI可确认数据隐私。
此外，群联在推动生成式AI应用过程中也发现，不少企业对AI应用感到陌生，也缺乏熟悉产业应用的AI人才。呼应这点，杜奕瑾指出，FedGPT是一套标准工具，让各行各业皆可以此为基础，训练适用自身领域的专属模型。
他比喻，FedGPT的预训练模型就如同人才在「Taiwan AI Labs研究所」取得博士学位后，进一步进入特定产业深耕。主修金融的博士走进金融业，医学博士则进入临床现场。AI模型进入产业后，也能透过FedGPT平台工具增加内部知识、透过内部数据再训练各种专业模型。从「校园毕业生」走向「内部专才」，才能真正发挥在各行各业的价值。
自2024年FedGPT上市以来，在金融、医疗、教育、公部门等多个领域，已经累积多个成功落地案例。在医疗领域，花莲慈济医院采用FedGPT辅助医院流程；在金融业，与台新金控携手合作打造 「台新脑」；教育部分，则获东华大学采用，打造对话式AI校务助理「NDHU-GPT」。
台湾人工智能实验室与群联电子合作研发的技术方向，包含：
促进AI永续与全产业化：赋能使用者依自身需求，降低技术与设备门槛，让AI专业模型的建构与应用全产业化。此外，利用台湾已经建立的通用型大型模型为基础，台湾人工智能实验室与群联电子携手，在群联aiDAPTIV+方案与FedGPT平台的AutoML、AutoKB基础上，让企业可以自行不连外网之下，也可依照任务需求打造的「专家模型」与「内部知识库」。做到全产业化专家模型。
推广数据与隐私正义，协助数据标准化及联合学习普及化：过去企业为了要进入人工智能领域，往往会丧失数据自主性进而被平台绑架。FedGPT所搭载的联合学习平台（Federated Platform, FP）除了是企业内部的平台，同时具备分散式机器学习技术，能让多个单位在「不需要分享原始数据」的情况下，共同参与AI多模态多专家模型的训练与精进。平台可同时让不同企业专属大脑在企业同意之下，结合跨领域跨组织的经验训练模型，同时不会让营业秘密、客户数据、隐私数据外流。
主动适足国际先进法规、数据隐私与信息安全：在未来产业供应链，可信任是未来产业最强的品牌价值，群联与台湾人工智能的合作双方的合作是基于台湾在地的技术团队，完整提供可符合全球法规，如欧盟人工智能法案（AI Act）治理、GDPR隐私法规与ISO网安验证需求的解决方案。
最佳化企业AI速度与成本效益：双方将共同推动企业可控合理的软硬件架构，目标为有效降低AI导入的资金压力、移除不确定风险、降低时间与成本。搭载台湾人工智能实验室的FedGPT平台与群联电子整合的地端生成式AI解决方案aiDAPTIV+，以一体机、纯地端的方式，不需要AI专业人员、不需订阅外部服务，费用合理可控，即可为企业建立企业专属大脑。降低导入门槛，协助企业快速部署并未来弹性扩充。
未来，双方将针对不同行业进行研发、并推出企业专属AI纯落地解决方案，促进生成式AI技术全产业的应用。
