A10 Networks推出A10 AI Gateway以智能控制面统一管理AI营运 智能应用 影音
DIGITIMES Logo
231
DIGITIMES Logo

A10 Networks推出A10 AI Gateway以智能控制面统一管理AI营运

  • 台北讯

集中管理AI模型可视性、成本控管与治理、支持客户环境内的安全AI导入。A10 Networks
集中管理AI模型可视性、成本控管与治理、支持客户环境内的安全AI导入。A10 Networks

A10 Networks(纽约证券交易所代码:ATEN)近日宣布,用于集中管理企业内部AI使用状况的智能控制面—A10 AI Gateway,预计于2026年第4季正式推出。

A10 AI Gateway为企业所使用的AI代理(Agents)、应用程序及大型语言模型(LLMs)提供统一的路由、成本管理与治理功能。它能实现对AI使用状况的集中可视性、成本最佳化、存取控制及强化安全性,协助企业更有效率且安全地应用AI。

随着AI在企业内部的应用迅速扩展,企业正加速将AI代理与生成式AI功能嵌入至业务应用程序中。然而,随着使用多个AI供应商与AI模型的现象增加,要掌握正在使用哪些模型、产生多少费用,以及是否具备适当的治理与安全机制,变得日益困难。

此外,AI请求的类型差异极大,从简单的处理任务到需要高端推理的工作负载不一。因此,企业需要一个管理平台,不仅能最佳化AI效能、降低延迟,更能简化网安维运并控管与AI相关的成本。为解决这些挑战,A10 AI Gateway将全企业的AI使用状况整合至单一管理平台,提供企业高效率且安全地运作AI的环境。

A10 AI Gateway是一个智能控制面,针对企业使用的AI代理、应用程序与大型语言模型(LLMs)提供统一的路由、成本管理与治理。它能根据每个请求的内容及适用的使用政策选择合适的AI模型,同时集中管理AI使用量与成本的可视性。这有助于最佳化效能、管理成本、强化安全性并落实治理,同时确保开发人员与使用者能存取符合其需求的正确AI模型。

基于身份验证的AI存取控制: 与现有的在地目录系统同步,依据使用者或群组套用存取与路由政策。例如,企业可以为工程团队与财务团队设定不同的AI模型及使用政策。

智能路由: 超越静态路由政策与简单的请求计量,A10 AI Gateway会评估每个请求的复杂度与类型。它会自动将简单任务路由至最具成本效益的模型,并将需要高端推理的任务路由至功能更强大的模型。

集中式流量与成本管理: 作为核心控制面,A10 AI Gateway提供以美元为单位的实时单次请求成本追踪;针对各模型与团队提供具备硬性上限与软性警示的Token预算管理;以及按金钥或团队进行的使用量控制(TPM/RPM)。这在支持有效治理的同时,实现了AI使用状况与成本的集中可视化。

整合A10的AI网安产品组合: A10 AI Gateway互补了A10现有的AI网安产品组合 (包括TrojAI、A10 AI防火墙与ThreatX)。它支持涵盖完整AI生命周期的安全性,从部署前的测试、执行阶段保护,到网络层与API层的控制。

于客户环境内弹性部署:A10 AI Gateway可作为独立软件或整合硬件形式提供,且能完全运行于客户自己的环境中,包括地端(On-premises)、私有云及实体隔离(Air-gapped)环境。这使企业能在保留数据主权的同时,维持对其模型、数据与政策的控制权—这是云端托管与边缘限制型闸道器无法比拟的优势。

A10 AI Gateway预计于2026年第4季正式上市。

A10 Networks总裁暨CEODhrupad Trivedi表示: 「企业被要求在快速推动AI的同时保持掌控力。然而,AI应用的扩散速度已超越团队能发现、治理或保障其安全的脚步,导致成本激增且缺乏统一设定规则的地方。A10 AI Gateway为企业提供了一个智能控制面,以掌握AI的使用状况、治理谁能存取哪些模型,并以合理的成本将每个请求配对至正确的模型。我们的整合产品组合为客户提供了一个完整且具备主权的方式来大规模应用AI。这就是企业如何在不以牺牲控制权换取速度的前提下,信心十足地导入AI。」

欲了解更多,请参访

关键字