台智云推AI Foundry Service 助企业打造AI 2.0脑核心 智能应用 影音
工研院
ADI

台智云推AI Foundry Service 助企业打造AI 2.0脑核心

  • 林佩莹台北

根据ResumeBuilder 针对美国1,000位商业领袖进行的调查报告指出,目前有49%公司已导入生成式AI、有30%预计导入,而在已完成导入的公司中,有99%已成功节省成本,其中48%公司已省下5万美元以上。

台智云克服大运算资源、大量训练数据、大AI模型等三大挑战,推出开放式架构的福尔摩沙大模型,训练参数量可媲美GPT 3.5,企业可拥有自己大模型和串联内外部系统发展。台智云提供的AFS(AI Foundry Service)系列服务包含,AFS Platform有多种大型语言模型,可供企业选择来训练专属模型。而AFS Shuttle具备低门槛的特色,非常适合企业模型 POC 快速验证使用。

台智云技术长陈忠诚指出,AFS Appliance主打企业可直接在地端数据中心 / 私有云中,部署企业专属大语言模型与推论服务,且可搭配AFS appliance服务器使用。而AFS Cloud提供企业能在台智云平台上管理自有的大型语言模型和使用推论服务。

「为协助企业降低引进大语言模型门槛,我们特别推出AFS Pipeline一站式解决方案,助企业完成模型优化,乃至于后续部署上线等工作。」台智云产业数码转型发展处副总经理黄世民解释:「台智云AI 2.0顾问服务非常完整,可协助企业了解AFS产品系列,建立公司专属的大语言模型,及定制化适合使用情境,轻松享受引进大语言模型带来的各种效益。」

大语言模型应用多元 台智云提供多元定制化服务

AI大语言模型席卷全球市场的关键,在于拥有绝佳的自然语言理解能力,且能广泛融合各领域知识,拥有举一反三、懂得拒绝、人性化等特性,且创造能力优于小模型。但大语言模型也有使用上限制,如针对知识型问题的回答结果不一定正确,且回答内容不一定符合使用者期望。而台智云推出的福尔摩沙大模型则能结合台智云AIHPC算力与No-code大模型优化平台,搭配专业团队的微调优化工程,可改善前述传统大语言模型的缺点,更贴近产业使用需求。

华硕电脑经理吕道诚说,目前大语言模型的应用范围,大致上有检索系统、客服问答、程序撰写,在金融、法律、教育等产业都有不错的口碑。在金融业应用情境上,可用于合规审查、加速放贷款的程序。法律部分可协助诉状撰写、法律条文总结、法律文件修改。在教育应用部分,可协助老师出考题,扮演学生学习的最佳小帮手。

华硕电脑处长杨宗颖指出,考量到大语言模型都是用过去知识进行训练,所以福尔摩沙大模型提供透过外挂LangChain应用程序开发架构方式,能将最新的相关内容汇入知识库,增加AI服务可检索知识范围,能满足更多元领域的产业应用需求。


关键字