F5 2025预测：AI网络安全的前瞻与挑战

过去一年，在F5的SOAS、API、AI年度调查，或是与亚太区的各产业领袖交流的会议上，发现大家都面临同样的关键挑战：AI不再是遥不可及的未来，它已经正在重塑各大产业。而各产业对执行的时间表也同样紧迫，面临的问题不再是企业是否会采用AI，而是如何快速且负责任地扩大其应用规模。

全球各个企业／组织都在竞相采用AI，威胁行为者也不例外。从改善钓鱼诈骗、简化工作流程到增加利润和自动化攻击，犯罪分子正在利用AI提升其运作的各个方面。这种AI在合法业务和威胁行为者间的广泛采用，创造了一个复杂的安全格局，AI同时作为防御工具和攻击载体。

2025年，AI的规模化应用将与扩展与保护AI齐头并进。在整个地区，CEO面临双重挑战：既要应对日益复杂的威胁，同时还要因应多样化的法规。对许多人来说，问题不再是他们是否会解决这些风险，而是他们能够多快适应处理。

大型语言模型正在颠覆各大产业的同时，也成为攻击的主要目标。例如，实时注入漏洞（prompt injection vulnerabilities）已将原本值得信赖的AI聊天机器人变成了风险，打破与客户长久辛苦建立的信赖。同样，作为现代系统核心的API，也经常被黑客利用作爲数据外泄的缺口。

许多企业已经逐步采用主动威胁侦测和自动化法遵工具，将其视为关键的防御手段。F5也观察到，越来愈多的执行者将治理直接嵌入到业务营运，其能实时适应不断变化的法规，这种以治理为核心的思维，迅速成为安全策略的基石。

以下是F5对2025年针对AI 网络与应用安全的预测，以及企业该如何透过专注于智能扩展、安全性和信任来获取成功的方法。

预测一：AI 驱动的殭屍网络

多年来，F5 Labs 一直在追踪由消费级物联网设备组成的大规模殭屍网络「Thingbots」。在过去多年间没有太多改变，2024 年初，传感器网络侦测到针对家庭路由器相关CVE的扫描活动激增。这些殭屍网络目前主要用于发动DDoS攻击以及构建住宅代理网络。

虽然多数人认为威胁行为者主要利用AI编写钓鱼诈骗诱饵或建立恶意程序码。如今，一个AI代理可能会被指示发现并利用网页应用程序或API的未知漏洞，完全不需人类干预，攻击的状况只会进一步恶化。

每年都预测到令人担忧的AI恶意使用演进，现今这项技术将大规模武器化。威胁行为者可能将自主网页攻击的LLM与被攻陷的路由器殭屍网络相结合，从数十万台设备同时发起攻击。

即使每台路由器的计算能力不足以执行自己的AI应用程序，攻击者仍可利用路由器向控制的LLM发出API呼叫，形成高度协调的攻击，针对数千个网站发起自主黑客移动。

预测二：将AI融入API

目前，正处于全球性的「AI 竞速时代」，新创公司到国家机构，所有的企业正以前所未有的速度采用AI技术，这种狂热采用潮，形成了一个危险的循环：AI使用越频繁，生态系统就越复杂，进而需要更多AI来管理这种复杂性。在这场竞赛中，一个关键漏洞正在浮现，那就是支持AI系统运作的API。

API对于AI的操作至关重要，无论是模型训练、部署还是与应用的整合。然而，AI采用的速度超过了企业有效保护这些API的能力。预估约有50%的API未被监控或管理。这使企业暴露于与大型语言模型（LLM）处理的敏感数据相关的风险中。

F5已经看到大量数据显示，LLM通过前端AI 应用程序泄露敏感数据。同时，随意开发的AI应用程序，还可能因为安全性薄弱的API暴露大量敏感个人数据。如我们所言，「AI 的世界就是 API 的世界」。F5预期大量个人和公司数据将经由API被窃取。

根据以往的数据外泄案例和攻击者趋势，尤其医疗产业将成为重灾区，未能保护API生态系统的企业，不仅面临数据外泄，还可能损害AI信任的建立。

预测三：攻击者利用AI发现新漏洞

2024年11月，Google的安全研究团队Project Zero宣布AI首次发现一个未知的（0-Day）漏洞。他们的公告显示， AI驱动的架构发现SQLite数据库系统中的一个栈缓冲区下溢漏洞。这一漏洞从未被传统技术（如模糊测试）侦测到。

这项进展对于安全研究人员来说令人振奋，因为它有望大幅提升工作速度与效率。然而，尽管预期未来一年会有更多类似的研究成果，但威胁行为者很可能不会宣布其使用AI漏洞发现工具的情况。我们再度面临一场军备竞赛，一些富裕的国家已经开始利用这些AI工具发现漏洞，并进行间谍活动或网络攻击。

随着这些AI工具商品化，F5也预测有组织的犯罪集团也将迅速跟进从事非法活动。安全研究人员的任务就是在攻击者利用漏洞之前，就用AI发现并修补他们。

预测四：AI击败量子破解加密技术

量子电脑仍然对传统加密系统（如 RSA）构成潜在威胁，现阶段攻击现代加密标准的能力仍处于起步阶段。最近，中国研究人员利用量子计算成功分解50位整数，这与目前使用的2048位RSA密钥相差甚远。专家认为，实际挑战RSA加密至少需要具备数百万量子位的量子计算机，这远超过当前能力。

因此，AI逐渐成为加密安全的主要威胁，并非直接破解加密演算法，而是透过利用执行过程中的漏洞。机器学习模型已被成功应用于大幅减少破解杂凑口令的时间，并显着提高从电脑RAM中恢复AES密钥的速度与准确性。

这些所谓的「旁路攻击」并不专注于加密算法本身（如 AES），而是利用其使用过程中产生的「噪音」，例如电力消耗、电磁波辐射或处理时间。通过监控并分析这些物理信号，威胁行为者能够推论并重建密钥。

随着口令学家和制造商加强对旁路攻击的防范，我们将越来越依赖AI分析日益减少的信息外泄。在量子计算尚需数十年才能直接破解加密的情况下，我们预测2025年将见证多项利用AI破解传统加密的进展。

AI正在重塑未来，带来创新潜力与风险。在企业竞相采用AI解决方案的同时，也面临如何检测并阻止AI驱动攻击的挑战。虽然目前这些攻击多半模仿现有技术并利用住宅代理网络等隐藏来源，AI的进步将使攻击更复杂，甚至明显带有AI特徵。

2025年对所有的企业来说将是决定性的一年。F5将超越实验阶段，专注于真正关键的目标：智能扩展、安全保障和信任建立。未来，攻击可能由自主AI系统执行，完全无需人类干预。这驱使我们采取主动防御与健全的 AI 管理策略。拓展AI的应用不仅仅是为了创新成长，需重新思考如何在这个由AI塑造的世界中，继续引领技术潮流。