台智云打造多种开源可信赖模型 全球首款繁体中文优化版FFM-Llama 2开源模型亮相 智能应用 影音
DForum0620
ADI

台智云打造多种开源可信赖模型 全球首款繁体中文优化版FFM-Llama 2开源模型亮相

  • 林佩莹台北

资策会副CEO杨仁达(左起)、华硕云端暨台智云总经理吴汉章、人工智能科技基金会CEO温怡玲,一起出席支持「可信赖AI技术论坛系列」,首部曲以「可控的开源大型语言模型」为主轴展开精采分享。台智云

资策会副CEO杨仁达(左起)、华硕云端暨台智云总经理吴汉章、人工智能科技基金会CEO温怡玲,一起出席支持「可信赖AI技术论坛系列」,首部曲以「可控的开源大型语言模型」为主轴展开精采分享。台智云

台智云为提供企业安心无虞、高弹性效率和经济自主的生成式AI开发解决方案,特别举办「可信赖AI技术论坛系列」。9月21日首部曲以「可控的开源大型语言模型」为主轴,邀请专家分享生成式AI的最新趋势、开源大语言模型带来的技术和应用效益。并在当天发表全球第一个繁体中文优化版FFM-Llama 2开源模型,同时展示五大主题摊位,打造可信赖、可掌控、普惠的生成式AI生态。

五大主题摊位中,包含全球首推繁中优化的「FFM-Llama 2(70B/13B/7B)全系列」,及多种可信赖开源模型的企业级生成式AI服务,提供企业LLM(Large Language Model)自主权。而为满足多种应用场景需求,台智云更将多模型整合至「四大生成式AI开发产品」。

此外,推出网安和软硬兼顾的「私有云地端部署方案」,从华硕地端GPU Server到透过GPTQ 4-bit高性能压缩技术将LLM放至「AI PC」。也将「Code Llama」开源模型整合至AFS(AI Foundry Service),为程序开发者提供更优质的作业环境。另外展示华硕云端结合云端空间和 LLM 的优势,打造辅助企业加速生产力、优化工作型态的「第二大脑 xBrain」。

华硕云端暨台智云总经理吴汉章表示台智云以开放模式提供大语言模型和工具平台,大幅降低企业进入门槛,实现普惠AI、发展以人为本的智能科技。台智云

华硕云端暨台智云总经理吴汉章表示台智云以开放模式提供大语言模型和工具平台,大幅降低企业进入门槛,实现普惠AI、发展以人为本的智能科技。台智云

华硕云端暨台智云总经理吴汉章说,在AI浪潮席卷全球下,尽管加快企业带动「可信赖AI」、「普惠AI」、「永续AI」等议题。我们一直在思考推出更多创新云端服务,2023年推出台湾首款福尔摩沙大模型(Formosa Foundation Model;FFM),让台湾企业能享受到大语言模型种种优势。我们在推广LLM应用范畴外,也持续扩充FFM开源模型,期待吸引更多合作夥伴加入。

资策会副CEO杨仁达表示,AI变化速度非常快,应用面愈来愈广泛且深入。企业在推动AI成功关键在核心模型,若没有选好,可能就得重新再来过。每家企业拥有的数据与需求迥异,要独力完成AI模型导入与训练的难度很高,势必需要仰赖外部专家团队协助,台智云是台湾唯一提供LLM模型的业者,是企业导入生成式AI的最佳夥伴。

人工智能科技基金会CEO温怡玲说, 2021年AI与网安技术融合,强化侦测恶意威胁的能力。现今AI在日常生活中随处可见,也让可信赖AI议题备受关注,而台湾拥有被国际信任的优势,应善用此优势,建立对话分享的交流机制,以展现在AI领域的强大实力。未来仍持续与台智云全力携手合作为台湾打造可信任的AI生态系。

开源LLM优势多 实现可信赖AI首选

生成式AI结合LLM的强大能力,让「可信赖AI」成为各方焦点。市面上开源LLM模型愈来愈多,可望让企业享有「数据隐私与节省经费」、「安全」、「聚焦任务」、「程序码透明」等优势,且有众多活跃开发社群扮演后盾,不用担心被商用LLM绑定。

因此,在发表首款FFM后,台智云持续导入开源大语言模型,提供企业更多元的选择,如在AFS的预训练模型库中,除了原本的FFM-Bloom,更加入FFM-Llama 2、Embedding和原生的Meta Llama 2等开源模型。

吴汉章说,全新推出的繁中优化FFM-Llama 2(70B/13B/7B)全系列,企业可依照应用情境、预算等,选择合适的模型种类,轻松提升工作效率。未来,台智云也会陆续上线与更多夥伴开发的基础模型与模型压缩功能,为企业提供多元化AI服务。

资策会软件院AI工程技术中心副主任刘文山解释:「建议导入生成式AI过程中采用80/20法则,80%简单规律化工作可由AI完成,20%复杂工作由人负责执行,借此累积案例与数据为下一阶段做准备。」

人工智能科技基金会首席数据科学家蔡源鸿指出,LLM问世后,正重塑工作方式与AI应用模式,从根本上改为人机协作、提升效率,企业应该审慎思考后续导入与应用方向。

可信任AI受关注 开源LLM满足企业期待

以ChatGPT一炮而红的OpenAI,其LLM应该是知名度最高的产品,不过在全球各组织、开源社群努力下,也有功能豪不逊色的BLOOM、Llama 2等开源LLM。开源LLM在满足商业应用需求外,也让企业拥有模型的自主权,并享有部署在地端、云端上的弹性。

台智云技术长陈忠诚说,Meta Llama 2堪比ChatGPT 3.5,但繁中能力表现并不理想。台智云的繁中优化FFM-Llama 2,在保有原生Llama 2优异的回应方式和能力外,更诉求企业可享受中文回答问题的优点。而供企业自主选择的多模型,则满足自然语言处理、文本生成、Code生成等不同需求。

台智云推出全球第一个繁中FFM-Llama 2大语言模型开源模块,保留原生Llama 2优异对话水准并用在地化中。台智云

台智云推出全球第一个繁中FFM-Llama 2大语言模型开源模块,保留原生Llama 2优异对话水准并用在地化中。台智云

解决人力、资源不足 台智云企业级生成式AI解决方案备受期待

在AI人才不足、资源有限的状况下,企业要自行打造AI模型的难度慎高。为此,台智云在强大AIHPC运算能力基础下,推出独步市场的AFS一站式解决方案,协助企业随时训练、调整和建立专属的LLM。企业可运用AFS Platform,将欲整合的企业专业知识做fine-tune产生专属模型,训练完更可以直接放在AFS Cloud做云端推论服务,或是AFS Appliance放在地端自有机房中。

台智云总工程师赵逢毅指出,台智云提供的FFM Llama 2-7B模型在特定领域有良好的表现,13B能产生知识顿悟,适合地端推论及应用。至于FFM Bloom-70B、176B则拥有跨语言能力和多语言背景,能满足新应用机会的各种下游任务。

因应市场对生成式AI的强大需求,台智云的生成式AI 四大服务:CCS、AFS、HPC、OneAI,更是企业生成式AI创新的最佳可信赖AI夥伴。

更多有关「可信赖AI技术论坛系列」完整内容请见官网