AI算力服务百家争鸣 数码无限以ixCSP助夥伴抢攻商机 智能应用 影音
DIGITIMES Logo
231
DIGITIMES Logo

AI算力服务百家争鸣 数码无限以ixCSP助夥伴抢攻商机

  • 范菩盈台北

随着企业加速推动生成式AI应用,AI模型训练、推论与AI Agent等工作负载快速增加,带动全球GPU算力需求持续攀升,也推升AI算力中心建设规模快速扩大,从过去单一机房逐步走向GW级超大型AI运算基地。由于企业自行建置AI算力中心的成本高昂、建置周期长,目前多半选择租用云端平台上的AI Cloud或GPU Cloud服务,也吸引算力中心与云端服务业者持续加码投资,抢攻快速成长的AI算力服务商机。

只是在全球AI算力中心竞争日趋白热化下,业者正面临如何快速将庞大投资回收的挑战。为此,数码无限以备受好评的AI-Stack为基础,进一步推出专为AI算力服务场景设计的ixCSP,提供 GPUaaS(GPU as a Service)、MaaS(Model as a Service)与 TaaS (Token as a Service)等功能,协助算力中心与云端业者快速建立AI服务营运能力,抢进快速崛起的Token经济市场。截至目前为止,数码无限ixCSP已获得台湾的圆兴智算、 SiGTRON,以及日本知名云端业者等采用,借此缩短AI算力投资的回收周期。

INFINITIX 数码无限CEO陈文裕说,AI算力中心已从单纯GPU资源竞争走向服务竞争,尤其在推论需求持续扩大趋势下,资源调度效率、使用率与商业化能力、成本,以及整体稳定性等,将直接决定在产业中的竞争力。数码无限推出ixCSP目的,正是希望协助业者扩大算力服务范畴,在单纯的GPU资源租用服务外,还能进一步把算力资源转化为可依模型、Token等计价的服务模式,成为持续创造收益的新型数码资产。

AI算力服务升级  从GPU租赁走向模型与Token计价模式

算力中心、云端业者等提供AI算力服务多年,早期大多采取裸机租赁(Bare Metal)或GPU租赁模式,企业在取得硬件资源后,依照AI专案需求自行建置环境与部署大语言模型。但在AI Agent应用服务大爆发下,产业对AI算力服务需求已从单纯租用GPU资源,延伸到租用大语言模型,以及Token计价的算力服务等,也驱动AI算力中心朝向AI Factory发展。

陈文裕表示,许多算力中心业者过往以提供GPU资源租用服务为主,面对企业需求快速改变,若要自行筹组软件开发团队,恐怕很难在短时间内提供MaaS、TaaS等业务,难保不会陷入被市场淘汰的命运。数码无限 ixCSP是以AI服务化为核心设计,可协助业者将AI算力升级为更高附加价值的AI服务平台,达到有效提高资源利用率,与提升营运收益的目标。

数码无限ixCSP主要提供三种功能,其中GPUaaS主要提供GPU资源租用与管理服务,让客户能透过在线方式取得所需算力;MaaS则是提供大语言模型租用服务,免去企业自行建置复杂环境的困扰。最后,TaaS则提供将AI能力转换为Token计价模式,满足企业导入AI Agent服务的需求。

如此一来,AI算力中心业者不仅能提升GPU资源使用率,更能进一步从单纯的硬件租赁,延伸至模型服务与Token经济的新商业模式,在AI Agent应用快速成长的市场中,建立更具弹性与竞争力的营运优势。

AI Stack功能强大  GPU资源最佳化解方

早在生成式AI爆发之前,数码无限便推出AI Stack,初期聚焦于企业GPU资源管理市场。此产品可解决GPU资源分配与共享问题,提供GPU切割、资源调度、工作排程、使用监控与资源盘点等功能,协助企业提高GPU利用效率,将昂贵硬件投资发挥到极致。

随着生成式AI技术日益成熟,带动企业导入大型语言模型的浪潮。为让AI服务器发挥最大效益,许多企业选择采用数码无限的AI-Stack,作为管理AI基础设施与GPU资源的工具。截至目前为止,成功案例遍及半导体、制造、医疗、政府与金融等领域,如高医、国立台北科技大学、数码发展部、日本精密制造大厂Union Tool等。

「相较于其他品牌,AI-Stack是针对大型企业的应用场景设计,整合GPU切割技术、GPU多片聚合技术、跨节点运算、直觉性的使用者界面、容器化与MLOps流程、开源深度学习工具、环境部署等功能,让企业轻松解决 AI 快速迭代带来的挑战。」陈文裕解释:「当然,市面上也有开源软件可提供AI基础设施管理,但在AI芯片更新速度极快,早已无法满足企业的营运需求,许多客户最终都选择改用AI-Stack。」

数码无限(INFINITIX)CEO 陈文裕。数码无限

数码无限(INFINITIX)CEO 陈文裕。数码无限

布局模型与AI Agent治理  擘划AI服务生态系

随着落地大型语言模型、推论服务、AI Agent等逐步落地,数码无限认为企业面临挑战已经不只是AI算力是否足够,更有「模型能不能被有效管理」、「谁可以使用哪些模型」,甚至是「代理人如何被监管」。尤其当企业内部开始同时使用开源模型、自建模型与外部API服务,整体模型环境快速变得复杂,若缺乏统一治理机制,不仅容易出现资源浪费,也可能带来网安与法遵风险。

陈文裕表示,「我们正持续强化AI-Stack在推论层面的能力,透过KV Cache管理、Session管理、Context管理,以及推论资源调度等技术搭配,可将推论输出效率提升40~400%,让相同GPU资源可服务更多使用者与AI应用。此外,我们也规划加入模型治理能力、代理人管理等功能,让企业不只能管理模型本身,也能管理代理人的存取权限、互动路径与行为记录,形成完整的可追踪机制。企业透过统一入口,可清楚知道哪些Agent正在使用哪些模型、耗用多少Token,以及是否符合内部治理规范。」

随着大型语言模型、推论服务与AI Agent应用快速普及,企业对AI基础设施的需求,已从单纯追求算力规模,转向更重视模型治理、资源调度效率与代理人管理能力。数码无限预计于2026年下半推出首个聚焦Coding场景的Agent解决方案,作为AI Agent商业化落地的第一步。未来也将携手更多合作夥伴,逐步建立完整的AI Agent生态系,协助企业与算力服务业者在下一波AI经济浪潮中抢占先机。

数码无限(INFINITIX)CEO陈文裕。数码无限

数码无限(INFINITIX)CEO陈文裕。数码无限