台智云打造多种开源可信赖模型 全球首款繁体中文优化版FFM-Llama 2开源模型亮相

台智云为提供企业安心无虞、高弹性效率和经济自主的生成式AI开发解决方案，特别举办「可信赖AI技术论坛系列」。9月21日首部曲以「可控的开源大型语言模型」为主轴，邀请专家分享生成式AI的最新趋势、开源大语言模型带来的技术和应用效益。并在当天发表全球第一个繁体中文优化版FFM-Llama 2开源模型，同时展示五大主题摊位，打造可信赖、可掌控、普惠的生成式AI生态。

五大主题摊位中，包含全球首推繁中优化的「FFM-Llama 2（70B/13B/7B）全系列」，及多种可信赖开源模型的企业级生成式AI服务，提供企业LLM（Large Language Model）自主权。而为满足多种应用场景需求，台智云更将多模型整合至「四大生成式AI开发产品」。

此外，推出网安和软硬兼顾的「私有云地端部署方案」，从华硕地端GPU Server到透过GPTQ 4-bit高性能压缩技术将LLM放至「AI PC」。也将「Code Llama」开源模型整合至AFS（AI Foundry Service），为程序开发者提供更优质的作业环境。另外展示华硕云端结合云端空间和 LLM 的优势，打造辅助企业加速生产力、优化工作型态的「第二大脑 xBrain」。

华硕云端暨台智云总经理吴汉章说，在AI浪潮席卷全球下，尽管加快企业带动「可信赖AI」、「普惠AI」、「永续AI」等议题。我们一直在思考推出更多创新云端服务，2023年推出台湾首款福尔摩沙大模型（Formosa Foundation Model；FFM），让台湾企业能享受到大语言模型种种优势。我们在推广LLM应用范畴外，也持续扩充FFM开源模型，期待吸引更多合作夥伴加入。

资策会副CEO杨仁达表示，AI变化速度非常快，应用面愈来愈广泛且深入。企业在推动AI成功关键在核心模型，若没有选好，可能就得重新再来过。每家企业拥有的数据与需求迥异，要独力完成AI模型导入与训练的难度很高，势必需要仰赖外部专家团队协助，台智云是台湾唯一提供LLM模型的业者，是企业导入生成式AI的最佳夥伴。

人工智能科技基金会CEO温怡玲说， 2021年AI与网安技术融合，强化侦测恶意威胁的能力。现今AI在日常生活中随处可见，也让可信赖AI议题备受关注，而台湾拥有被国际信任的优势，应善用此优势，建立对话分享的交流机制，以展现在AI领域的强大实力。未来仍持续与台智云全力携手合作为台湾打造可信任的AI生态系。

开源LLM优势多 实现可信赖AI首选

生成式AI结合LLM的强大能力，让「可信赖AI」成为各方焦点。市面上开源LLM模型愈来愈多，可望让企业享有「数据隐私与节省经费」、「安全」、「聚焦任务」、「程序码透明」等优势，且有众多活跃开发社群扮演后盾，不用担心被商用LLM绑定。

因此，在发表首款FFM后，台智云持续导入开源大语言模型，提供企业更多元的选择，如在AFS的预训练模型库中，除了原本的FFM-Bloom，更加入FFM-Llama 2、Embedding和原生的Meta Llama 2等开源模型。

吴汉章说，全新推出的繁中优化FFM-Llama 2（70B/13B/7B）全系列，企业可依照应用情境、预算等，选择合适的模型种类，轻松提升工作效率。未来，台智云也会陆续上线与更多夥伴开发的基础模型与模型压缩功能，为企业提供多元化AI服务。

资策会软件院AI工程技术中心副主任刘文山解释：「建议导入生成式AI过程中采用80/20法则，80%简单规律化工作可由AI完成，20%复杂工作由人负责执行，借此累积案例与数据为下一阶段做准备。」

人工智能科技基金会首席数据科学家蔡源鸿指出，LLM问世后，正重塑工作方式与AI应用模式，从根本上改为人机协作、提升效率，企业应该审慎思考后续导入与应用方向。

可信任AI受关注 开源LLM满足企业期待

以ChatGPT一炮而红的OpenAI，其LLM应该是知名度最高的产品，不过在全球各组织、开源社群努力下，也有功能豪不逊色的BLOOM、Llama 2等开源LLM。开源LLM在满足商业应用需求外，也让企业拥有模型的自主权，并享有部署在地端、云端上的弹性。

台智云技术长陈忠诚说，Meta Llama 2堪比ChatGPT 3.5，但繁中能力表现并不理想。台智云的繁中优化FFM-Llama 2，在保有原生Llama 2优异的回应方式和能力外，更诉求企业可享受中文回答问题的优点。而供企业自主选择的多模型，则满足自然语言处理、文本生成、Code生成等不同需求。

解决人力、资源不足 台智云企业级生成式AI解决方案备受期待

在AI人才不足、资源有限的状况下，企业要自行打造AI模型的难度慎高。为此，台智云在强大AIHPC运算能力基础下，推出独步市场的AFS一站式解决方案，协助企业随时训练、调整和建立专属的LLM。企业可运用AFS Platform，将欲整合的企业专业知识做fine-tune产生专属模型，训练完更可以直接放在AFS Cloud做云端推论服务，或是AFS Appliance放在地端自有机房中。

台智云总工程师赵逢毅指出，台智云提供的FFM Llama 2-7B模型在特定领域有良好的表现，13B能产生知识顿悟，适合地端推论及应用。至于FFM Bloom-70B、176B则拥有跨语言能力和多语言背景，能满足新应用机会的各种下游任务。

因应市场对生成式AI的强大需求，台智云的生成式AI 四大服务：CCS、AFS、HPC、OneAI，更是企业生成式AI创新的最佳可信赖AI夥伴。

更多有关「可信赖AI技术论坛系列」完整内容请见官网。