OpenAI和Azure OpenAI模型攻略＆计费一次看懂
- 张丹凤／台北讯
-
由微软投入银弹的「OpenAI」，与微软自身的「Azure OpenAI」到底有何不同？企业IT智能化最佳夥伴－MetaAge迈达特，透过本文解说如何以Azure OpenAI作为基本盘，延伸这些企业级AI应用。以及，用量管理＆模型管理可以怎麽做？「从体验到验证」Azure OpenAI，企业还可以获得哪些「从头到尾」的导入协助？
OpenAI和Azure OpenAI一样吗？首先，Azure OpenAI是微软Azure云平台的「服务」，OpenAI则是微软近年投资的一家「公司」。Azure OpenAI并非OpenAI API，不过，两边的模型一模一样。当由微软金援的OpenAI发布新模型时，身为授权夥伴的微软，也会同步取得这些模型，并由微软的RD团队以1~2周的时间处理好安全性、可用度等SLA事宜后，再发布新版Azure OpenAI服务供企业使用。
基于数据外泄风险，全球目前有不少政府机关、民间企业宣布禁用OpenAI的ChatGPT。而微软的Azure OpenAI、Copilot等「企业级服务」则持续推出，主要差异在于微软的AI服务可满足企业对SLA、网安、法遵等需求，可消除不少企业主的疑虑。
Azure OpenAI是「专为企业而生」的AI服务
尽管OpenAI也朝向推出「商务版」发展，然而Azure OpenAI是更直接地「Born for Enterprise」。目前，OpenAI无法提供在地化技术支持；也无法实时排除问题。以及，在网安控管与防护上，显然是Born for Enterprise的Azure OpenAI能做得更全面且到位。
综观而言，Azure OpenAI可以让企业用户在更合规、更安全的前提下，使用GPT-3及其衍生模型。倘若企业需要更高的安全性、存取管理、网络传输、数据保护、扩展容量，以及不容忽视的在地化技术支持、实时的问题排除，Azure OpenAI和Microsoft指定的台湾代理商，都可携手提供企业用户上述保障。
Azure OpenAI如何计费？模型怎麽选，才不会爆预算？
自然语言模型的运算是以「Token」为单位，750至800个单字约能换算成1000个 Tokens。微软在Azure OpenAI的使用计费，是以1000个Tokens为一个单位作计费，需要计费的项目包括「一般使用」、「Fine Tune」 与 「Hosting」。
「一般使用」是以Tokens量做计算，而「Fine Tune」 与 「Hosting」 则是以小时做计算。费用多寡以模型大小为区分，其中以Davinci为最高价；Ada则为最低价，依据使用用途选择最适用的模型。如欲深入了解模型有哪些（Ada、Babbage、Curie、Davinci）及其性能差异，可另开新视窗阅读此文。
以下举例说明如何评估费用：
假设某家运营商客服App每月有20万活跃客户，每人每月平均10次互动，每次总计300字数（英文）。模型每周Fine tune一次30小时。以此案例作计算，使用模型为Ada，每月总费用大约为2755.7美元。
算式如下：
( 200,000 × 10 × 300 × 1.33 ) ÷ 1000 × $0.0004 ＋ ( 30 × 4 × $20 ) ＋ ( 730 × $0.05 ) ＝ 319.2 ＋ 2400 ＋ 36.5 ＝ 2755.7／每月
IT智能化最佳夥伴－MetaAge迈达特建议：在使用模型时，以使用较低效能的模型为优先。若此模型不符合期待，再往上调整。除了樽节成本，亦能符合使用者的期待。另外，模型管理＆流量管理对企业而言至关重要，因此在MetaAge迈达特的Azure OpenAI导入服务中，我们为企业提供了模型管理与流量管理的建构环节。
从体验到验证！迈达特4道工法，提供「从头到尾」导入协助
作为微软指定的台湾代理商，MetaAge迈达特具备专业团队，可为企业提供Azure OpenAI「从头到尾」的全程导入协助。透过迈达特协助仅需几个步骤，即可展开Azure OpenAI应用旅程，包括建立基础Know-How，接续进行Fine Tune，经过POC后再正式Go Live！
针对以下每个步骤阶段，IT智能化最佳夥伴－ MetaAge迈达特都可提供丰富且专业的顾问与支持服务，提供在微软最高安全保护级别之下，正式部署AIGC应用。
1. 建立Azure OpenAI基础知识
2. 申请Azure OpenAI引导体验
3. 学习Azure OpenAI的API Fine Tune方式
4. 最终进入商业流程
在申请阶段，我们会整理企业的需求，协助设计应用流程。到了Fine Tune阶段，会引导熟悉API操作、模型优化并建构流程管理机制，同时展开概念验证（POC）。到了Go Live阶段，则会协助验证前一阶段发起的POC成果。最后，在正式进入商业流程前，我们会协助建构模型管理及流量管理机制，因为这些环节对企业而言至关重要。
如果企业已有微软帐户，可授权MetaAge迈达特成为云端解决方案提供者，进而开启Azure Plan、取得Azure Subscrition ID。若没有微软帐户，则可填写申请表，由MetaAge迈达特协助建立微软帐户、启动Azure Plan，再取得Azure Subscrition ID。
结合产线数据，Azure OpenAI如何为制造业赋予新灵魂？
在垂直产业应用面，则不得不提「制造业」如何透过Azure OpenAI来赋予新灵魂，其关键就在于「结合产线数据」。将Azure OpenAI结合产线数据，无需受限于时间或空间，即能产生更多应用。举例而言，从前在推动自动化操作的过程中，传统做法是仰赖Programmer撰写大量程序，继而让使用者能透过系统界面下达条件，并根据条件执行后续处理，达到近似于RPA的目标与效果。
现在，有了Azure OpenAI，有没有可能透过Azure OpenAI帮忙产生所需的自动化程序？答案是肯定的。举例来说，从前SAP团队要花钱请顾问协助下Query条件，进而撰写程序，深究其因，在于顾问非常熟悉SAP的「长相」。其实Azure OpenAI也有能力像顾问一样，理解SAP的长相和Schema，再根据使用者下达的需求条件，帮忙产生Query或是SQL叙述句（Statement），大幅提升程序开发效率。
关于Azure OpenAI实例分享，你还可以知道更多
全球使用Azure OpenAI的企业应用实例正不断新增。如Trelent是专门编写程序码、协助客户解决问题的公司，为了避免信息外流，以及基于安全性，Trelent采用了微软Azure OpenAI的服务。除了生成程序码之外，该公司也屡屡搭配运用Azure平台上其他功能，使其回应客户的时间从1.3秒加快为0.75秒，有效提升工作效率，也让工程师将心力集中于处理核心事务。
在客服支持情境方面，则有企业利用Azure OpenAI整理客户的提问，且把公司产品内容融入GPT模型，加速为客户推荐产品。
此外，Farmlands公司则采用Dynamics 365进行客户联络；后来加入Azure OpenAI服务后，从客户联络信息提取关键字、短语及传递的情绪价值，使客服人员能够快速理解客户想表达的问题，亦把此功能开放给客户，便于客户在系统上直接查看历次问答结果，以掌问题解决进度，从中有效提升客户满意度。
IT 智能化最佳夥伴MetaAge迈达特 — Microsoft指定的台湾代理商
MetaAge迈达特具备 Microsoft MSP Indirect Provider资格，在台湾拥有实战二十余年的IT技术量能，可针对Microsoft Azure提供云托管等服务，也可依照贵司环境，提供全面的定制化规划、移转方法、自动化流程设计和各项技术服务。
有任何Microsoft Azure、Azure OpenAI Service、M365相关使用问题及需求吗？正在寻找兼顾成本、效能、智能、永续的 IT 解决方案吗？欢迎联系迈达特 ，将有专人接洽。
