A10 Networks展示AI基础架构的安全性、韧性与效能实力 智能应用 影音
D Book
231
Event
DFORUM

A10 Networks展示AI基础架构的安全性、韧性与效能实力

  • 台北讯

全球企业正在加速部署新一代人工智能AI的应用,并建置AI就绪的数据中心,以实现自动化并提升营运效率。这些创新应用都需要超高效能的AI与大型语言模型(LLM)推论环境来提供实时回应,以及新的网络安全解决方案来保护这些关键基础设施。

全球各地的组织正在快速部署新的AI应用,并建立新的AI就绪数据中心,以实现组织自动化和卓越营运。这需要超高效能的AI和大型语言模型 (LLM)推理环境来提供实时回应,以及新的网络安全解决方案来保护它们。

协助企业打造高效能且安全的AI与大型语言模型(LLM)推论环境。A10

协助企业打造高效能且安全的AI与大型语言模型(LLM)推论环境。A10

防范、侦测与缓解AI与LLM层级的网络威胁

A10宣布推出全新AI防火墙功能,可部署于公开大型语言模型的API或URL前端——既可以作为自订LLM,也可以基于OpenAI或Anthropic等商业解决方案开发。此防火墙基于针对边缘运算最佳化的架构,并搭载GPU加速硬件,能以高效能方式保护LLM,且可灵活部署于各类基础架构中,作为一项增强型的安全功能。

这些功能可协助企业预防、侦测并缓解AI层级的威胁,使用户能针对已知漏洞测试其 AI 推论模型,并透过A10专利的LLM安全防护技术予以修正。该功能能针对Prompt级别的请求与回应流量进行检测,有效识别如提示注入(Prompt Injection)与敏感信息外泄等威胁,并执行必要的安全政策来进行防护。

为AI与LLM推论环境提供实时体验与效能保障

A10持续致力于为AI与LLM驱动的应用提供高效能与高可用性。透过卸载如TLS/SSL解密、快取管理、流量路由最佳化等资源密集型任务,A10解决方案可大幅提升网络可用性与效能,并提供可行的洞察以供营运决策。

最新功能更具备类似预警系统的能力,能提前侦测网络效能瓶颈与潜在拥塞,协助用户在问题扩大前主动调整,预防非计划性的停机,并优化整体网络规划与效能管理。此预测性效能分析功能运行于搭载GPU的A10设备上,能高速处理海量数据,并提前分析异常情况,提供实时洞察。

新功能可以提前检测网络效能问题,就像一个早期预警系统。这有助于识别近期的拥塞或容量不足,帮助客户在问题变得严重之前采取主动移动。

这些功能有助于防止非计划性停机,并规划最佳网络效能。预测效能将在搭载GPU的A10装置上运行,从而实现更快的处理速度,并能够快速分析大量数据,提前洞察异常情况。

这些AI安全与基础架构能力相辅相成,让管理更为简易,威胁侦测更具智能与准确性,进一步协助企业提供最佳的使用者体验。

A10 Networks总裁兼CEODhrupad Trivedi表示:

「企业正以前所未有的速度在本地或云端环境中部署并训练AI与LLM推论模型,这也带来延迟、安全与操作复杂度等三大挑战。A10拥有逾20年保护与优化应用交付的专业经验,现正扩展我们的解决方案,提供AI与LLM基础架构所需的高韧性、高效能与高安全性支持。」