迈达特偕同Microsoft揭开企业导入GenAI应用的关键 智能应用 影音
Microchip
member

迈达特偕同Microsoft揭开企业导入GenAI应用的关键

  • 张丹凤台北

迈达特可为企业导入量身订制的AI平台。DIGITIMES摄
迈达特可为企业导入量身订制的AI平台。DIGITIMES摄

随着生成式AI市场规模快速成长,市场上的大型语言模型(LLM)也百花齐放,不过,引爆此波生成式AI成长动能的OpenAI,其所推出的GPT-3.5或GPT-4大型语言模型,仍是许多企业欲导入生成式AI应用时,脑中浮现的第一选择。然而,无论GPT-3.5或GPT-4模型皆并非为了企业级应用而设计,若要落地到公司营运环境中,免不了有稳定性、安全性等疑虑。

「对于想要使用OpenAI服务的企业来说,透过 Microsoft 微软Azure云平台上的Azure OpenAI服务(AOAI),会是比较合适的选择,」MetaAge迈达特产品经理/Azure云端架构师简贝安在2024台湾年度最大AI博览会「AI EXPO Taiwan 2024」上指出,Microsoft 微软与OpenAI是战略夥伴关系,透过双方的技术合作,微软可快速将OpenAI最新释出的模型商业化,例如Open AI在2024年1月才刚推出GPT-4 Turbo版本,不到1个月就出现在微软于2月初发布的更新中。

IT智能化最佳夥伴-MetaAge迈达特产品经理/Azure 云端架构师简贝安。DIGITIMES摄

IT智能化最佳夥伴-MetaAge迈达特产品经理/Azure 云端架构师简贝安。DIGITIMES摄

Azure OpenAI五大生成式AI模型

目前Azure OpenAI服务提供的AI模型大约可以分成5种,企业可以根据应用情境和需求来选择不同的模型。简贝安表示:「而在这5种之外,Azure OpenAI还有嵌入模型、文字转语音模型等可供选择,充分满足企业导入生成式AI应用的需求,」

(1.) 是最为人们所熟知、可以自动生成内容的大型语言模型,如 GPT-4、GPT-4 Turbo、GPT-3.5 Turbo等
(2.)是可以解释图片内容的多模态模型GPT-4 Vision
(3.)是可以进行微调(Fine Tuning)的大型语言模型,企业可以喂入自有数据去调整模型,使AI的回答更专业,例如GPT-3.5 Babbage版、GPT-3.5 Davinci版、GPT-3.5 Turbo等
(4.)是图像生成模型DALL・E 3
(5.)是语音转文字模型Whisper

善用Azure OpenAI工具,加速开发生成式AI应用

当然,Azure OpenAI不只提供AI模型,也提供各种工具与服务,加速企业导入AI应用的脚步。

例如:On Your Data服务,让企业能够在自己的数据上执行进阶AI模型;抑或GPT-3.5 Turbo、GPT-4等,无需进行大量模型训练或微调。还有生成式AI开发中心Azure AI Studio,让企业可以运用AI模型来开发程序。另外,2023 年底推出的Assistants API,则让开发人员可以自行创建一个小助理,可以将上传的文件整理成AI需要的维度数据。

简贝安提醒,尽管Assistants API同样具备聊天机器人的功能,但无论是Azure OpenAI或OpenAI都设有使用条件,最多只能上传20个档案,且每份档案容量最高只能512MB,比较适合作为个人或开发团队专用的聊天机器人。倘若是企业对外客服或对内部所有员工的聊天机器人,还是要重新开发,尚无法直接套用。

生成式AI常见四大应用情境

综观现今生成式AI应用案例,大致可以分成四种类型:内容生成、文件摘要、程序码生成及语意查找,无论哪一种类型,IT 智能化最佳夥伴-MetaAge迈达特都能提供「从头到尾」的Azure OpenAI全程导入服务,包含建立基础知识、进行微调、POC验证、测试、落地部署等,协助企业顺利开展企业级生成式AI应用。

从0到100:迈达特带领建置专属的企业AI平台

迈达特与各大产业领域Domain Know-how做深度链结,可为企业导入量身订制的商业级Azure AI专案,从0到100为企业建置专属企业AI平台。