凌华科技推出DLAP Supreme系列 加速生成式AI普及至边缘设备 智能应用 影音
Digi-Key
Event

凌华科技推出DLAP Supreme系列 加速生成式AI普及至边缘设备

  • 林稼弘台北讯

凌华科技与群联电子持续合作超过10年,此次共同推出的DLAP Supreme系列,进一步推动智能制造与智能城市等场景中的AI普及与应用。凌华
凌华科技与群联电子持续合作超过10年,此次共同推出的DLAP Supreme系列,进一步推动智能制造与智能城市等场景中的AI普及与应用。凌华

全球边缘运算领导品牌凌华科技宣布推出全新「DLAP Supreme」边缘生成式AI平台系列,通过整合群联电子的创新AI解决方案aiDAPTIV+,突破地端生成式人工智能(AI)应用中的存储器限制,显着提升地端设备的AI运算能力。

「DLAP Supreme」系列在不增加高昂硬件成本的情况下,实现AI效能的显着扩展,帮助企业降低AI应用部署的成本门槛,并加速生成式AI在各行各业的落地应用,尤其在地端AI运算领域。

突破AI运算成本  显着提升效能

随着生成式AI逐步渗透至各行各业,许多地端设备在执行大型语言模型时,面临因DRAM容量不足而造成的性能瓶颈,影响模型运行,甚至出现Token长度不足等问题。

DLAP Supreme系列利用aiDAPTIV+技术,有效突破这些限制,并显着提升运算效能,借此支持地端设备进行生成式语言模型训练,使边缘设备具备AI模型训练能力,并提升其自主学习与适应能力。

以DLAP-411 Orin Supreme搭载NVIDIA Jetson AGX Orin 32GB组态搭配上Gemma 27B模型为例,其推论的TTFT提升了8倍,token长度提升了4倍。

并且可以执行需在H100/A100 80G tensor core GPU才能运行的模型训练任务,显着的提升了运行生成式AI模型的效能,并且大幅度降低了部署生成式AI的成本。

深度合作  打造更可靠的AI应用方案

凌华科技边缘运算平台事业处总经理陈少华表示:「我们希望通过DLAP Supreme系列,帮助更多企业和机构轻松导入生成式AI技术,并在降低成本的同时,提升效能。我们将继续与群联电子及全球AI领域的合作夥伴携手合作,共同打造多方协作的AI应用生态圈,推动生成式AI技术的普及。」

群联电子CEO潘健成表示:「群联与凌华在工控储存市场携手合作已超过10年,一路以来,我们共同推动技术创新,致力于为产业提供最具价值的解决方案。这次,群联推出的边缘AI技术方案 aiDAPTIV+,很高兴能协助凌华打造以 NVIDIA Jetson AGX Orin 平台为基础的全新DLAP Supreme边缘生成式AI系列,这不仅是一项重要的合作里程碑,更将在边缘AI的发展上掀开新篇章。透过双方的深度合作,我们将共同加速并扩大边缘AI在模型fine-tuning的应用及市场,特别是在智能制造、智能城市及其他产业场景中的实际应用。我们相信,这样的合作不仅能够满足市场对边缘AI的需求,更能推动产业迈向更智能、更高效的未来。」

开拓更多应用场景  支持多样模块

DLAP Supreme系列的推出,不仅为地端生成式AI应用开创了全新机会,还将帮助各行各业突破存储器限制,充分释放AI技术的潜力。除了对AGX Orin进行突破性优化外,aiDAPTIV+技术同样能扩展入门级的Orin Nano、NX及Super模块的存储器,支持更多设备进行更高效的AI运算。

凌华科技计划持续推出Orin Nano Super与NX Super版本,进一步扩大DLAP Supreme系列的应用范围,满足不同需求的AI运算场景。