打造属于台湾的AI助理 宸泗与Twinkle AI以国网中心算力推动在地智能应用 智能应用 影音
D Book
236
DTxBus
member

打造属于台湾的AI助理 宸泗与Twinkle AI以国网中心算力推动在地智能应用

  • 林佩莹台北

Twinkle AI创始人黄亮勳。Twinkle AI
Twinkle AI创始人黄亮勳。Twinkle AI

随着生成式AI技术快速演进,如何在有限资源下开发具在地语言理解能力的 AI,成为台湾团队共同面临的挑战。开源社群Twinkle AI与宸泗工作室携手合作,以推动「繁体中文AI落地」为使命。其中Twinkle AI专注于模型的训练与优化,而宸泗工作室则负责打造并落地智能助理的实际应用。

本合作结合财团法人国家实验研究院国家高速网络与计算中心(国研院国网中心) TAIWAN AI RAP高效能生成式AI应用开发平台的高效能运算资源,共同推出专为台湾人设计的智能助理「爱悠AI」频道,期望解决中小团队在模型训练与算力资源上的困境,让AI真正走进台湾的日常生活。

宸泗工作室的首席工程师吴泗槿表示,工作室近年聚焦AI导入实务,推出整合在Line上的「爱悠AI」智能助理。此平台结合Twinkle AI开源繁体模型与在地化数据处理,藉由智能查找、新闻摘要与艺文活动查询等功能,打造台湾语言与信息环境的AI服务。

Twinkle AI创始人黄亮勳指出,繁体中文模型开发初期,团队面临两大瓶颈:一是繁体中文数据量不足,模型训练效果受限;二是运算成本高昂,难以支撑长期迭代。Twinkle AI透过国网中心RAP平台取得大规模GPU算力与繁体中文特化模型资源,成功突破瓶颈。

研究团队运用平台上既有的繁体模型,以蒸馏技术萃取高品质推论数据,生成开源繁体推理数据集,并以此训练出台湾最小的推理模型F1(Formosa-1)。对宸泗工作室而言,AI RAP的API与专家型模型更让爱悠AI能快速导入医疗、长照与防诈应用,大幅缩短开发周期。

多模型协同驱动在地创新  爱悠平台拓展AI公共应用潜能

在开发过程中,Twinkle AI与宸泗工作室运用RAP平台的算力与模型资源,共同打造具在地语言理解力的AI平台。两团队建立多模型协同架构,整合外部查找与内部数据来源,并加入自动过滤广告与诈骗内容的能力,全面提升信息可信度。平台上线后,已提供在地新闻摘要、艺文活动查询与非专业医疗建议等服务,逐步展现AI在地化落地的成效。

团队也正与政府单位合作推动AI防诈专案,将查找与对话能力延伸至公共安全领域,开启更多实际公共应用场景。接下来,Twinkle AI将持续深化模型的在地知识与多模态理解能力,使AI能更好地处理图像、语音与文化脉络;宸泗则将拓展在政府与公共领域的应用合作,涵盖长照陪伴、防诈识读与公共信息整合,让AI成为最贴近台湾民众的智能夥伴。