Amazon Bedrock可更轻松快速地建构和扩展安全的生成式AI应用程序 智能应用 影音
DTRAPP40
ST Microsite

Amazon Bedrock可更轻松快速地建构和扩展安全的生成式AI应用程序

  • 林岫台北

Amazon Bedrock的全新功能使客户更轻松快速地建构和扩展安全的生成式AI应用程序。AWS
Amazon Bedrock的全新功能使客户更轻松快速地建构和扩展安全的生成式AI应用程序。AWS

全新的专有模型导入功能让客户更轻松地将专属模型导入到Amazon Bedrock中,进而充分利用Amazon Bedrock的强大功能。全新的模型评估功能使客户能够广泛且便捷地选择多样完全托管模型,包括RAG优化的新版Amazon Titan Embeddings V2以及来自Cohere、Meta的最新模型。Amazon Bedrock的Guardrails采用业界领先技术,帮助客户根据应用需求和负责任的AI政策,有效实施定制化的安全措施。

数以万计的客户和合作夥伴正在使用Amazon Bedrock建构和部署生成式AI应用程序,包括爱迪达(Adidas)、ADP(美国自动数据处理公司)、Aha!、亚马逊(Amazon.com)、桥水基金(Bridgewater Associates)、精品酒店集团、科莱恩(Clariant)、美国达美航空(Delta)、电通(Dentsu)、福克斯电影、GoDaddy、Hugging Face、Infor、Intuit、通力(Kone)、KT、律商联讯(LexisNexis Legal & Professional)、孤独星球(Lonely Planet)、Netsmart、纽约证券交易所、辉瑞(Pfizer)、PGA锦标赛(PGA TOUR)、Perplexity AI、Ricoh USA、Rocket Mortgage、瑞安航空、Salesforce、西门子(Siemens)、汤森路透集团(Thomson Reuters)、丰田、Tui、美国联合航空(United Airlines)等。

Amazon Web Services(AWS)宣布推出Amazon Bedrock的全新功能,为客户提供了更简单、更快捷、更安全的方法,帮助客户开发先进的生成式人工智能(AI)应用。目前,已有成千上万的用户选择将Amazon Bedrock作为其生成式AI策略的核心基础。Amazon Bedrock让用户能够轻松导入来自AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI以及亚马逊等公司的领先基础模型(FMs),同时满足了开发和部署生成式AI应用所需的功能性和企业级安全性需求。

Amazon Bedrock上可用的强大模型均以完全托管服务的方式提供给客户,因此客户无需担心底层基础设施,这为应用程序的无缝部署、可扩展性和持续优化提供保障。新增的功能允许客户在Amazon Bedrock上运行专属的完全托管模型,简化了为特定应用场景选择最佳模型的过程,并让生成式AI应用程序的保护措施更易于实施,同时还扩展了模型的选择范围。

从迅速崛起的新创公司到注重安全的大型企业及政府机构,全球各类组织正透过Amazon Bedrock激发创新、提升生产效率并打造全新的用户体验。例如,纽约证券交易所(NYSE)利用Amazon Bedrock丰富的基础模型和先进的AI生成能力,处理众多的监管档案,并将复杂的法规内容转化为易于理解的语言。欧洲最大的航空公司瑞安航空正透过Amazon Bedrock提升服务效率。

Amazon Bedrock能够帮助机组人员实时查询特定国家法规的相关信息,或从数量庞大的手册中快速撷取关键摘要,确保乘客的旅游顺利顺畅出行;专注于为社区医疗机构提供电子健康记录(EHR)解决方案的技术供应商Netsmart,正在努力减轻医护工作者在临床档案管理上的工作负担。透过在Amazon Bedrock上建构的生成式AI自动化工具,他们旨在将个人健康记录的管理时间减少高达50%。这将使Netsmart客户加速患者报销申请的提交过程,同时提升患者所得到的护理体验。

AWS AI和数据全球副总裁Swami Sivasubramanian表示:「企业应用Amazon Bedrock正呈现出爆炸式的成长。成千上万不同规模,来自不同产业的企业选择Amazon Bedrock作为他们生成式AI策略的核心基础,它极大加速并简化了企业从试验阶段到实际生产的过程。客户对Amazon Bedrock充满热情,因为它不仅提供企业级的安全性和隐私保护,还提供了广泛的前瞻模型选择,使得建构生成式AI应用变得前所未有的简单。随着今天新功能的推出,我们将继续快速创新,以为我们的客户提供更丰富的功能和业界领先的模型,并进一步推动生成式AI的大规模普及。」

全新的专有模型导入功能可以帮助客户将定制化模型整合至Amazon Bedrock,减少营运成本并加速应用程序开发

在Amazon Bedrock上,来自医疗保健与金融服务等产业的客户不仅可以轻松使用AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI和亚马逊的多种领先的基础模型,还能利用自身数据定制化公开模型,以支持特定产业的应用。当企业需要用自有数据建构这些模型时,他们通常仰赖模型训练服务如Amazon SageMaker,以从头开始训练模型或对现有的公开模型如Llama、Mistral和Flan-T5进行进阶定制化。自2017年推出以来,Amazon SageMaker已成为建构和训练世界级基础模型的平台,其中包括超大参数量的公开模型Falcon 180。同时,客户还希望能够将他们自己的定制化模型与Amazon Bedrock内建的高级生成式AI工具结合,如知识库、Guardrails、代理(Agents)和模型评估等,而无需自行开发这些功能。

借助全新的Amazon Bedrock专有模型导入功能,企业现在能够将自己的定制化模型导入到Amazon Bedrock中,以完全托管的应用程序开发界面(API)形式使用,这种方式为建构生成式AI应用程序带来前所未有的体验。只需点击几下,客户即可将他们使用Amazon SageMaker或其他工具开发的模型整合到Amazon Bedrock平台上。模型透过自动化验证流程后,客户便可像使用平台上其他模型一样使用自己的定制化模型,同时享受目前Amazon Bedrock所具备的所有优势,包括无缝的可扩展性、强大的保护能力、遵循负责任的AI原则、利用检索增强生成(RAG)扩充模型知识库、轻松打造用于完成多步骤任务的代理(Agents)、进行微调以持续训练和优化模型,且无需管理底层基础设施。

这一新功能让企业能够轻松地透过同一API使用Amazon Bedrock的模型与自己的定制化模型,Amazon Bedrock专有模型导入功能现已推出预览版,并支持三种最受欢迎的开放模型架构:Flan-T5、Llama和Mistral,并计划未来支持更多模型。

模型评估功能帮助客户评估、比较和选择适合其应用程序的最佳模型

Amazon Bedrock提供了最广泛的业界领先的模型选择,满足企业在价格、效能或功能方面的各种需求,并允许企业独占或与其他企业共享模型。建构生成式AI应用程序的关键步骤是找到合适的模型,而选择特定应用场景的最佳模型则需要客户在准确性和效能之间达成微妙的平衡。现在,企业还需要花费大量时间分析每个新模型可以如何满足他们的应用场景,这放慢了他们向用户提供生成式AI体验的速度。今天起,模型评估功能已正式可用,它是企业快速分析和比较Amazon Bedrock上模型的最快方式,让评估模型的时间从几个星期缩短到几个小时,进而加速推出新的应用程序并改善使用者体验。

客户可以立即开始评估,透过选择预定义的评估标准(例如准确性和稳健性)并上传自有数据库或提示库,或者从内建的、公开可用的资源中进行选择。对于主观标准或需要细致判断的内容,Amazon Bedrock使客户能够轻松将人工审核融入到工作流程中,以根据特定应用场景的指标(如相关性、风格和品牌声量)对模型进行评估。一旦设定完成,Amazon Bedrock将执行评估并生成报告,使客户能够轻松了解模型在关键指标上的表现,并迅速选择最适合其应用场景的模型。

透过Amazon Bedrock Guardrails功能,客户可以利用前瞻技术轻松实施防护措施,去除个人信息和敏感信息、不当语言、特定词汇并过滤有害内容

企业需要以安全、可信任和负责任的方式使用生成式AI。许多模型使用内建控制来过滤不良和有害内容,但大多数客户希望进一步定制化他们的生成式AI应用程序,以确保生成结果更具相关性,在符合公司政策的同时遵循负责任的AI原则。现在,Amazon Bedrock的Guardrails功能已正式可用,它在基础模型的原有功能之上提供了业界领先的安全保护,能够帮助客户阻止高达85%的有害内容。

Guardrails是唯一一项由顶级云端服务供应商提供的解决方案,它允许客户在单一服务中同时拥有内建和定制化的防护机制,并可与Amazon Bedrock中的所有大型语言模型(LLMs)以及经过微调的模型一起使用。要打造一个Guardrail,客户只需提供一个自然语言描述来定义其应用程序上下文中不予显示的主题即可。此外,客户还可以设定阈值以过滤仇恨言论、侮辱、性相关用语、攻击和暴力性等内容,并设定筛检程序来移除个人信息和敏感信息、不当言论或过滤特定词汇。透过为生成式AI应用程序提供一致的使用者体验和标准化的安全和隐私控制,Amazon Bedrock Guardrails使客户能够快速且安全地进行创新。

Amazon Bedrock专属的Amazon Titan模型是由AWS在大规模且多样化的数据库上打造和预训练而成的,专为多种应用场景设计,并内建负责任的AI功能。Amazon Bedrock不断扩展Amazon Titan系列,为客户提供更多选择和灵活性。Amazon Titan Text Embeddings V2针对使用RAG的应用场景进行了优化,非常适合如信息查找、问答聊天机器人和定制化推荐等用途。许多企业采用RAG技术,这种流行的模型定制化技术透过连接到知识源头以增强基础模型的生成结果。

然而,运行这些操作可能会消耗大量运算和储存资源。即将推出的新版Amazon Titan Text Embeddings V2模型降低了储存和运算成本,同时提高了准确性。透过为客户提供灵活的嵌入(embeddings)功能,将储存需求降低至原来的四分之一,显着降低了营运成本,同时在RAG应用场景中保持97%的准确性,表现优于其他领先模型。

Amazon Titan Image Generator现已正式可用,为广告、电子商务、媒体和娱乐等产业客户提供了一种低成本的方式来生成专业级别的图像,或对现有图像进行优化和编辑,仅凭自然语言提示即可实现。Amazon Titan Image Generator还为生成的所有图像设计隐形浮水印,以帮助识别AI生成的图像,进而推动AI技术的安全、可靠和透明发展,并有助于减少虚假信息的传播。同时,Amazon Titan Image Generator还可以检查图片中是否存在浮水印,并帮助客户确认图片是否由其生成。

同时,Amazon Bedrock上的Meta Llama 3基础模型已正式可用,Cohere的Command R和Command R+模型也即将推出。Llama 3专为开发者、研究人员和企业设计,旨在支持他们建构、试验并负责任地扩展生成式AI专案。Llama 3模型是一系列经过预训练及微调的大型语言模型,适用于广泛的应用场景,特别擅长执行文本摘要和分类、情感分析、语言翻译及程序码生成等任务。而Cohere的Command R和Command R+模型则是前瞻的基础模型,客户能够基于此建构支持10种语言、具备先进RAG功能的企业级生成式AI应用,助力全球业务拓展。

来自Amazon Bedrock客户和合作夥伴的回馈

亚马逊打造的Rufus是一款以生成式AI为核心的专业购物助手,它是基于公司庞大的产品目录、客户建议、社群问答以及网际网络信息进行训练。Rufus能够解答客户的购物疑问、提供产品比较,并根据对话情境进行推荐。亚马逊商店Foundational AI副总裁兼杰出科学家Trishul Chilimbi表示:「为了在亚马逊商店中提供卓越的对话式购物体验,我们致力于为Rufus开发先进的模型,并期待它为客户带来超乎预期的价值。透过利用Amazon Bedrock的定制化模型导入功能,我们能够将Rufus先进的底层模型提供给内部开发人员,以完全托管的API形式使用它。现在,从物流到工作室的各业务团队都可以使用这个模型来建构自己的应用,而Amazon Bedrock则简化了开发流程,帮助所有亚马逊客户快速开发新体验。」

电通(Dentsu)是全球领先的综合行销和技术服务提供者之一。电通创意全球技术总监James Thomas表示:「在过去的三个月里,我们利用Amazon Titan Image Generator模型的预览版,透过自然语言提示创造了大量拟真的工作室级图像,主要用于产品推广和一致的品牌标志生成。我们的创意团队对Titan Image Generator生成的多样化内容感到印象深刻,这些内容帮助我们为全球广告活动创造了引人注目的图像。我们期待体验该模型新推出的浮水印检测功能,这将提升AI生成内容的透明度,并帮助我们与客户建立更牢固的信任关系。」

Salesforce是全球AI客户关系管理(CRM)领域的领导者,其「CRM+数据+AI+信任」的组合为企业提供了强大的客户连结。Salesforce AI产品资深副总裁Kaushal Kurapati表示:「AI是我们承诺帮助客户在Salesforce应用中提供定制化体验的核心,这些应用都建立在Data Cloud的数据之上。为了在我们的统一数据平台上实施生成式AI,我们正在评估各种基础模型,确保所选模型最符合客户的需求。Amazon Bedrock是我们开放生态系统模型策略的关键部分,这项新的模型评估功能提供自动化与人工评估两种方式,加速了我们比较和选择模型的过程。现在,我们不仅可以基于直观标准评估模型,还能从友好性、风格和品牌相关性等更多质性标准进行评估。这种能力的提升将使我们为客户营运模型变得更加简单和迅速。」


关键字