异质算力推动 大联大诠鼎携手此芯科技加速AI Agent终端应用 智能应用 影音
231

异质算力推动 大联大诠鼎携手此芯科技加速AI Agent终端应用

  • 赖品如台北

随着生成式人工智能(Generative AI,GAI)加速朝边缘装置渗透,百亿参数大型模型本地部署对芯片效能、存储器带宽与AI算力提出更高要求。为此,全球领先半导体零组件代理商大联大控股旗下诠鼎集团宣布携手此芯科技(CIX Technology)举办「此芯P1:异质AI算力赋能OpenClaw龙虾盒子与AI NAS解决方案」在线研讨会,聚焦通用智能处理器「此芯P1」,透过AI 智能体(AI Agent)与AI网络存储服务器(AI Network Attached Storage;AI NAS)方案,展示异质运算在边缘AI应用场景的实际价值,协助开发者因应边缘AI运算升级的挑战。

面对边缘AI应用快速发展,此芯科技推出面向边端AI场景的高效能异质SoC「此芯P1」。此产品采用6nm制程技术,搭载12核心ARMv9.2 CPU,最高主频可达3.2GHz,并整合10核心ARM Immortalis-G720 GPU与专用NPU,整体异质运算效能达45TOPS。

同时支持最高64GB LPDDR5低功耗存储器,存储器带宽可达100GB/s。在多媒体能力方面,此芯P1支持4K高更新率显示、8K@60fps影片解码及8K@30fps影片编码,可灵活应用于智能终端、边缘运算等多元场景。

此芯科技生态经理陈嘉栋指出,随着装置端AI模型能力快速提升、混合专家(Mixture of Experts;MoE)架构逐渐成熟,以及AI Agent应用加速发展,边缘AI芯片正迎来运算需求的重要转折点。与此同时,隐私安全、实时回应与离线运作能力等需求日益受到重视,促使「端云协同、装置端常驻」逐步成为产业共识。

在此趋势下,此芯P1透过CPU、GPU与NPU三核心协同架构,以及45TOPS异质运算效能及强大扩充能力,提供「一芯片多用途」的技术支持,可作为百亿级大型模型本地部署的算力平台。

为深度发挥异质运算优势,此芯科技打造NeuralOne AI软件堆叠,目标是让异质运算架构对开发者更透明化。此芯科技AI软件系统技术专家田洋表示,NeuralOne AI软件堆叠提供从NPU驱动、编译器工具链到上层应用的完整支持,并兼容TensorFlow、PyTorch、ONNX等主流框架;同时透过CIX AI ModelHub完成超过140个主流模型的预编译与最佳化,涵盖电脑视觉、语音、大型语言模型(Large Language Model;LLM)与多模态任务,协助开发者加速AI导入。

针对AI Agent应用需求,此芯科技也展示基于Docker打造的分散式Agentic阵列方案。系统采用主从(Master-Worker)架构,由Master节点负责任务调度,Worker节点执行LLM推论与Skill任务,提升边缘环境下的协同运算与自主能力。

此外,透过处理器运算矩阵(xPU)整合视觉感知、语音互动、多模态理解及设备控制能力,并以本地优先架构结合本地矢量数据库与外部知识库的检索增强生成(Retrieval-Augmented Generation;RAG)技术,强化长期记忆能力,不仅兼顾用户数据隐私,也提升边缘场景下的实时反应与离线运作能力。

除AI Agent应用外,此芯科技亦将此芯P1导入AI NAS领域,以异质AI算力赋能边缘存储与智能应用。凭藉ARMv9.2架构的12核心CPU、10核心GPU与30TOPS NPU,搭配内建错误修正码(Error-Correcting Code;ECC)的DDR存储器及6槽(6-Bay)磁碟阵列设计,可7×24小时不间断支持AI NAS的稳定运作需求,提供兼具数据安全与高效能的存储基础。

在软件层面,透过统一可延伸韧体界面(Unified Extensible Firmware Interface SystemReady;UEFI SystemReady)认证,并支持Linux核心与ZFS档案系统,实现韧体层级的多操作系统兼容;同时,搭配基于Debian 12打造的SDK生态,以及开源NAS OS前端界面,可大幅降低AI NAS产品开发与导入门槛。

研讨会中,此芯科技多媒体软件专家楼展也展示多项已完成深度优化整合的应用,包括Frigate智能监控,可提供实时、低延迟的多路AI监测分析;Jellyfin多媒体服务器,可为多用户提供影片实时转码与串流服务;CIX智能相簿则在保护隐私时,提供用户快速查找及方便管理的服务;而CIX语音助理除支持自然语音互动外,也能与智能相簿串接,实现语音查找影像功能。

未来,此芯AI NAS将持续朝「多Agent管理系统」、「本地AI算力扩充」、「串接云端AI算力」及「支持商用AI NAS OS」四大方向发展,推动产品于更多场景的商业化部署,进一步朝全方位私人智能助理迈进。

「此芯P1:异质AI算力赋能OpenClaw龙虾盒子与AI NAS解决方案」在线研讨会全程透过大联大旗下「诠鼎大大芯」平台直播,欲掌握更多AI与边缘运算发展方向,可前往在线回看。