叡扬聚焦LLM技术与AI加值服务 高效弹性Fine-Tuning策略

AI技术发展日趋成熟，生成式AI下一波技术发展将全面产业化，随着企业需求提升，叡扬于LLM（大型语言模型）以牵涉繁体中文、文化、数据机密、云地选择，及成本算力考量下，强调高效且弹性的LLM Fine-Tuning策略，LLM与外部知识的动态结合，持续更新的外部信息，并把关机敏数据的安全性。多模态的理解与应用扩充，藉由不同数据类型的模型与LLM结合训练以实现多模态能力的扩充，未来将提供一站式整合 AI Gateway，创造最佳效能。
 
数码发展部数码产业署署长吕正华也分享数码发展部目前正在大力推动「台湾AI移动计划2.0」，持续带动政策规划、产业商机、数码服务与社会福祉的整体战略讨论，作为台湾2035未来展望，透过数码产业打造更有包容性、韧性、蓬勃发展的未来。

活动也邀请AI卓越中心副召集人，也是TAIDE的重要成员许永真教授分享台湾大型语言模型的自主里程碑与发展方向；现场叡扬展示多款将AI技术结合应用系统的前后处理，充分展现成效，如运用机器学习技术识别影印或影像档的财报数据，金融产业将OCR加入AI元素，即使影像有斜式或盖章等干扰，也能够高达90%以上的成功识别率，接着串接到会计与徵授信系统，减少使用者90% 以上的登打与核对时间。
 
另外，广为被使用的公文管理与知识管理系统在结合AI及LLM下，辅助使用者快速且正确地完成公文撰写或查找完善信息，如同随时都有资深且贴心的同仁手把手协助，让人工智能助益组织文化知识传承与效能跃进。AI、LLM等技术可以为知识管理提供新功能优势，尤其知识管理系统具备良好的协作界面让团队成员无形中留存高品质对话、创化内容，提高组织知识汇集、协作共享及权限管理避免产权泄漏。
 
而组织的各类系统，也能透过叡扬的机器人生成平台快速生成对话式服务；非信息人员也能透过视觉化的操作平台，将组织的流程与知识转化设计出对话机器人，融合AI理解后，更能透过口语化的问与答提供服务对象需要的解答或引导至正确的系统，呈现直觉的人机界面。
 
对于LLM及AI技术，叡扬投入始于2013 年，由NLP、机器学习开始，团队持续研读论文、试验各类模型，落地解决实务问题，后续延伸到图像区块识别及内容物识别的应用。2022年底GPT的出现，出现更多可探索的机会与挑战，叡扬过去在AI的实作经验，可较快测试厘清哪些问题不用LLM就可完成，也可较快试验各推陈出新的LLM，符合市场需求。