数码无限与研华深化合作定义工业AI算力新标准 智能应用 影音
236
Microchip
DForum0317

数码无限与研华深化合作定义工业AI算力新标准

  • 台北讯

数码无限与研华深化合作定义工业AI算力新标准。数码无限
数码无限与研华深化合作定义工业AI算力新标准。数码无限

随着生成式AI、实时推论与高效能运算(HPC)应用快速扩展,企业对GPU算力的需求持续攀升,然而在实务部署中,昂贵的GPU资源却长期面临利用率不彰、投资效益难以放大的挑战。

AI基础设施软件领导厂商数码无限(INFINITIX)近日宣布,透过旗下AI-Stack CTAs(Core Type Aware Scheduler)技术,有效解决GPU核心错配所造成的算力闲置问题,并携手工业电脑(IPC)与边缘运算大厂研华科事业群技(Advantech),共同推出兼具效能与稳定性的企业级与边缘AI基础设施解决方案。

数码无限AI-Stack CTAs释放GPU双倍效能

现行GPU架构同时包含CUDA Cores与Tensor Cores,分别适用于传统运算与 AI 矩阵运算。然而在多数企业环境中,不同型态的工作负载往往轮流使用同一张GPU,导致部分核心长时间闲置,使整体GPU利用率与实际效能仅发挥约4成。AI-Stack CTAs(Core Type Aware Scheduler)为业界首创、可于软件层精准识别并调度GPU核心类型的智能排程机制。

透过Kubernetes原生整合与runtime拦截技术,CTAs能将CUDA密集型与Tensor密集型工作负载配对于同一张GPU并行执行,在无需修改应用程序的前提下,将GPU利用率提升至80%以上,实质释放近2倍算力效益。

AI-Stack为数码无限打造的企业级AI基础设施管理平台,除CTAs核心调度能力外,亦涵盖GPU资源管理、多租户治理,以及模型训练与推论部署,协助企业以平台化方式管理算力资产,加速AI从实验走向规模化应用。

携手研华赋能产业:软硬整合重塑AI算力价值

在GPU使用效率大幅提升后,系统的稳定性与可靠度成为企业部署AI的关键。研华提供通过严格工业级验证的GPU服务器平台,包含适用于边缘场域的SKY-602E3塔型GPU服务器,即使在GPU长时间高负载运作下,仍能维持稳定效能,确保关键任务7×24小时不中断当GPU利用率长时间维持在80%以上,真正的挑战才正式展开。

为确保被释放的算力能于实际产业场域中稳定运行,INFINITIX与研华深化策略合作,将AIStack CTAs导入研华工业级边缘与数据中心服务器平台,其中以SKY-602E3为代表的塔型GPU服务器,成为高负载Edge AI应用的理想载体。

SKY-602E3具备多GPU扩充能力与强化散热设计,并通过严苛工业级测试,即使GPU长时间满载运作,仍可有效避免降频与非预期停机,满足电信、制造、医疗等「不容中断」关键任务场域需求。透过AI-Stack与研华服务器产品线的深度整合,企业得以依据数据中心或边缘场域特性,弹性部署高效且可靠的AI基础设施。

数码无限商务长陈立昕表示:「AI-Stack CTAs的核心价值,在于让GPU中的CUDA与Tensor Core各自发挥、同时运作,真正提升算力使用效率。结合研华工业级硬件在稳定性与耐用度上的优势,可协助企业在效能与可靠度之间取得最佳平衡,降低AI导入门槛,加速智能应用落地。」