AWS re:Invent 2024 重塑企业生成式AI和云端创新
- 陈杰／台北
-
Amazon Web Services（AWS）在2024年AWS re:Invent全球大会上发布一系列新技术，聚焦于生成式人工智能（AI）、数据策略及基础设施技术三大领域，加上涵盖模型和应用程序的全方位创新，助力企业运用生成式AI，全面重塑客户的云端创新体验。
AWS台湾暨香港专业解决方案架构师总监杨仲豪表示：「AWS是全球云端运算的开创者和领导者，更是企业建构和应用生成式AI的首选，2024年re:Invent全球大会的一系列重磅发布再次印证了这一点。我们不仅在云端核心服务层面持续创新，更从芯片到模型，再到应用程序的每一层技术堆叠都取得突破，让不同层级的创新相互赋能、共同进化。只有这样全方位的大规模创新才能真正满足现今客户的发展需求，加速释放前瞻技术的价值，助力各行各业重塑未来。」
生成式AI全方位创新 训练推论、模型和应用程序全面进化
在生成式AI领域，AWS全面强化基础设施、模型和应用程序三层技术堆叠，帮助企业更轻松、更经济实惠地将生成式AI应用于实际业务场景。
此次新发布包括：推出Amazon Nova六款基础模型；生成式AI基础模型托管服务Amazon Bedrock新增100多款模型，并推出AI安全防护机制、多代理合作（multi-agent collaboration）和模型蒸馏等重磅更新，全面优化推论场景的准确性、成本和回应速度；生成式AI支持助理Amazon Q更加深入软件开发和商业应用场景，并为传统工作负载转型开辟新途径；完全托管的机器学习平台Amazon SageMaker AI将帮助客户更快、更轻松地建构、训练及部署模型。
1.Amazon Nova大幅降低基础模型成本：Amazon Nova一发布即成为全球领先基础模型的重要系列，包括Nova Micro、Nova Lite、Nova Pro和Nova Premier基础模型，以及用于生成高品质图片的Nova Canvas和生成高品质影片的Nova Reel。
在各自的类别中，Amazon Nova Micro、Lite和Pro的应用成本比Amazon Bedrock中表现最佳的模型至少降低75%，同时也是Amazon Bedrock上相同级别的模型中，速度最快的模型。
2.Amazon Bedrock平台能力全面升级：Amazon Bedrock模型选择全面升级，AWS成为首家提供Luma AI和poolside模型的云端服务供应商，并且新增Stability AI的最新模型，还透过新推出的Amazon Bedrock Marketplace功能为客户提供100多个热门、新兴及专业模型。
同时，Amazon Bedrock推出低延迟优化推论、模型蒸馏、提示词快取等功能，大幅提升推论效率；支持GraphRAG等知识库功能，提升数据运用能力；透过自动推理检查（Automated Reasoning checks）功能和多代理合作等创新，进一步提升AI安全性，并推动智能代理发展。
3.Amazon Q扩展应用场景：Amazon Q Developer增加三款新的智能代理，能自动执行单元测试、文档生成及程序码检查流程，并透过与GitLab深度整合，扩展应用场景。
推出转型功能，以加速Windows.NET、VMware和大型主机工作负载的迁移和现代化，缩短转型时间并降低成本；强化Amazon Q Business和Amazon Q in QuickSight的洞察能力，并自动化复杂的工作流程。
4.基础设施创新：推出Amazon SageMaker的四项AI创新，包括Amazon SageMaker HyperPod新的训练配方（recipe）功能、弹性训练计划和任务治理功能，以及在Amazon SageMaker中使用AWS合作夥伴的热门AI应用程序。这些功能将帮助客户更快开始训练热门模型，透过弹性训练计划节省数周时间，并将成本降低高达40%。
数据体验升级 统一平台释放数据价值
现今，越来越多客户不再分开使用不同的数据分析工具，而是正在将分析、机器学习（ML）和生成式AI互相结合来获取洞察。
AWS推出的新一代Amazon SageMaker提供一个新的、统一的编辑器，为客户提供单一的数据和AI开发环境，用户可以在其中寻找和使用组织中的所有数据，为各种常见的数据应用案例选择最佳工具，并与不同团队和角色合作，以扩展数据和AI专案。
1.新一代Amazon SageMaker：将快速SQL分析、PB级数据处理、数据探索和整合、模型开发和训练以及生成式AI等功能统一到一个平台。
透过全新的Amazon SageMaker Unified Studio，客户可以轻松寻找和使用组织内的所有数据资源，并借助Amazon Q Developer选择最适合的工具来处理数据。Amazon SageMaker Catalog和内建的治理功能则能确保数据、模型和开发套件的使用合规。
此外，透过零ETL（zero-ETL）与领先SaaS应用程序的整合，客户无需建构复杂的数据管道，即可在Amazon SageMaker Lakehouse和云端数据仓储Amazon Redshift中分析合作厂商的应用程序数据。
2.推出Amazon SageMaker Lakehouse：实现数据湖、数据仓储、营运数据库和企业应用程序数据的统一管理，支持客户使用熟悉的AI和ML工具或与Apache Iceberg兼容的查询引擎来使用和处理数据。
全方位创新 升级基础设施技术
作为全球云端运算的开创者和领导者，AWS在运算、网络、储存和数据库等核心领域持续创新，为各类工作负载提供更强大的底层架构支持。
1.自研芯片引领运算力创新：基于AWS Trainium2的Amazon Elastic Compute Cloud（Amazon EC2）Trn2执行个体正式可用，相较于目前GPU执行个体性价比提升30~40%；推出配备64个Trainium2芯片的EC2 Trn2 UltraServers服务器，提供高达83.2 Petaflops浮点运算力，运算力是单一执行个体的四倍。
在大规模训练方面，Project Rainier丛集搭载数十万个Trainium2芯片，运算力超越以往丛集5倍以上。采用3纳米制程的下一代AWS Trainium3芯片预计在2025年末上线，将使丛集效能提升4倍，并在效能、能效和密度上树立新标准。
2.网络基础设施升级：推出第二代UltraCluster网络架构，也称为10p10u网络，支持超过20,000个GPU同步工作，带宽达10Pb/s，延迟低于10ms，这项突破性升级将模型训练时间缩短至少15%。
3.储存服务强化数据处理能力：云端可大规模扩展的物件储存服务Amazon Simple Storage Service（Amazon S3）新增Metadata中继数据功能，实现自动获取和实时更新数据；推出专为Iceberg表格优化的S3 Tables储存类型，将查询效能提升三倍，交易处理能力提升10倍。
4.数据库服务新突破：全新的无服务器分散式SQL数据库Amazon Aurora DSQL采用active-active架构并具备自动故障修复功能，支持应用程序在任意端点进行读写。不仅提供99.999%的多区域可用性，还能实现近乎无限的可扩展性，且无需进行数据库分区（sharding）或执行个体升级。
同时，快速NoSQL键值数据库Amazon DynamoDB global tables新功能新增支持横跨多区域的强大一致性，进一步升级分散式数据库服务。
5.数据中心设计重塑基础设施：透过简化电力分配和机械系统，使基础设施可用性达99.9999%，并将受电力问题影响的机架数量减少89%。创新的「液体到芯片」冷却系统无缝整合空气和液体冷却功能，使机械能耗降低46%，全新的设计更让每个站点增加12%的运算能力。
同时，在永续方面取得重要突破，采用可再生柴油作为备用发电系统燃料，与传统化石柴油相比，温室气体排放可减少90%，而数据中心建筑的混凝土固有碳排放量相较于业界平均水准最高可降低35%。
助力全球企业在AWS上重塑未来
众多新创企业与产业领袖正在使用AWS持续创新，从AI前瞻探索到金融风险管控、从数码娱乐体验优化到生技制药科学发展，AWS正助力各行各业加速创新，突破既有模式、重塑未来。
在亚马逊，Amazon Kindle的技术支持工程师采用Amazon Q Developer的营运调查功能后，问题解决速度提升了65~80%，这使他们能够更快地回应客户需求，确保提供卓越的用户体验。
Amazon Music的开发人员将Amazon Q视为全天待命的得力助理，能自动调查并识别各种潜在问题，大幅提升了回应速度。初步的使用数据显示，Amazon Music的问题解决速度提升了一倍，确保听众能不间断地享受喜爱的音乐。
Anthropic专注于AI安全和研究，致力于打造可靠、可判断和可控的AI系统，Anthropic的旗舰产品Claude是全球数百万使用者信赖的大型语言模型。
Anthropic已开始优化Claude模型，以便在亚马逊最先进的AI硬件Trainium2上运行。Anthropic也计划使用数十万个Trainium2芯片，为在Amazon Bedrock上使用Claude的客户提供卓越的效能表现，此规模超越以往丛集五倍以上。
领先的生物科技公司罗氏罗氏（Roche），致力于推动科学进步以改善人们的生活。罗氏将使用Amazon SageMaker Lakehouse统一来自Amazon Redshift和Amazon S3数据湖的数据，以消除数据孤岛，强化团队之间的合作，并允许使用者无缝使用数据，无需昂贵的数据移动或重复的安全存取控制。
借助Amazon SageMaker Lakehouse，罗氏预计数据处理时间将减少40%，这帮助他们减少数据管理工作，能将更多精力用于推动业务发展。
