Oracle Cloud Infrastructure提供企业级生成式 AI 服务 智能应用 影音
hotspot
Event

Oracle Cloud Infrastructure提供企业级生成式 AI 服务

  • 魏于宁台北

Oracle宣布推出限定版本的Oracle Cloud Infrastructure (OCI)生成式AI服务。全新的生成式AI服务可支持大型语言模型(LLM),协助企业自动化端对端业务流程,改善决策和客户体验,同时确保数据的安全性和私密性。

OCI Generative AI服务是一项托管服务,由OCI与知名的企业AI平台Cohere合力打造而成,协助使用户透过可用的API将LLM整合到自己的应用程序中。全面上市后,此服务和Cohere模型将可与AI Vector Search 搭配使用。AI Vector Search是Oracle Database 23c的其中一项功能,可提供检索增强生成(RAG)技术。

这是一种结合预先训练的LLM和专属业务数据的生成式AI技术,可提供更高准确度的回应。这项服务是生成式AI功能的基础,将内嵌至Oracle SaaS应用程序套件中,包括Oracle Fusion Cloud Applications Suite、Oracle NetSuite和Oracle Cerner等产业应用程序。

凭藉其低成本、安全、高速的AI基础架构,OCI能够协助客户使用Cohere的模型作为专门针对企业用例的托管服务。OCI Generative AI服务的客户可在Oracle的AI Supercluster架构上的专用基础架构中执行工作负载,自行控制特定成本和传输量需求,像是使用自己的数据来微调模型,或是部署定制化模型。

全新的OCI Generative AI服务包括下列模型:

一、Command:此模型可接受使用者的提示并产生文字。Command有两种不同的大小,可依据业务用例进行高度定制化,包括文字产生、文字汇总、RAG和交谈。

二、Summarize:此模型对文字进行抽象汇总,并使使用者能够利用各种参数来设定结果,以支持独特的用例。例如,此模型可协助法务团队汇总复杂的文件,协助客户服务代表汇总技术支持文件,或是协助忙碌的员工汇总冗长的电子邮件链。

三、Embed:此文字表示模型将文字转译为模型可以理解的数值矢量。此模型为各种用例提供英文和多语言模型(支持超过100种语言),包括语意查找、文字分类、RAG查找引擎和旧有项目查找改善功能。

Cohere 总裁暨营运长Martin Kon表示:「Oracle 和 Cohere 的企业级AI 产品以数据安全、模型定制化、低延迟等原则为中心,协助企业以经济高效的方式,快速、有意义且负责任地部署AI技术。我们正与 Oracle 密切合作,并采用数据安全和隐私优先的策略,协助企业利用AI来推动业务发展。」

除了推出 OCI Generative AI服务,Oracle AI还继续为具有多个有限可用性方案的现有服务新增增强功能,当中包括:

Oracle Digital Assistant:新增生成式AI功能,让客户能够将LLM和其他生成式功能整合至数码助理中。同时,开发人员可以使用生成式AI,更快且更有效率地打造数码助理。

OCI Language Healthcare NLP:透过自然语言处理,提高医疗信息的洞察力。此OCI Language 服务的新功能可协助客户更妥善地处理医疗领域的语言。新模型将有助于识别各种记录中的医学术语、关系和实体,例如临床试验记录、病患进度记录和电子健康记录。

OCI Language Document Translation Experience:新增文件翻译功能,以支持各种格式(Word、PPT、HTML、JSON 和 Excel),确保内容保持完整,并在不同文件类型中进行翻译。

OCI Vision:新增Facial Detection功能,可识别影像中的人脸和脸部特徵,并扩展OCI Vision用例的数量。

OCI Speech:新增辨别技术,可将说话者的信息内嵌至音讯转录内容中。此技术为OCI Speech锦上添花,可用于组织和分析人声对话,并从中撷取有意义的信息。

OCI Data Science:新增Feature Store,这是一个用于管理数据科学团队开发功能的中央储存库。Feature Store提供一个统一的架构,以简化的方式记录、共享、储存及提供服务。

Wikibon资深分析师Marc Staimer表示:「OCI Generative AI服务是全新的生成式AI云端服务,可提供市场需要的企业级安全性、灵活性和使用者调校功能。此服务提供严格的安全和治理来保护使用者的专有数据,也能够确保仅让客户使用和查看该模型。同样重要的是,客户可以控制专用的OCI Supercluster AI基础架构,微调模型或部署定制化模型,同时还能满足特定的成本和传输量需求。OCI Generative AI服务是兼具企业功能和成本效能的理想组合。」  


关键字