群联与迎广联手推出生成式AI及企业级PCIe Gen5解决方案 智能应用 影音
Dwebinar1106
member

群联与迎广联手推出生成式AI及企业级PCIe Gen5解决方案

  • 郑宇渟桃园

迎广推出的水冷服务器与群联「aiDAPTIV+」合作,有助于降低AI基础建设的硬件成本,搭配水冷散热方案能达到极佳的解热效率,并提高运算效率。迎广
迎广推出的水冷服务器与群联「aiDAPTIV+」合作,有助于降低AI基础建设的硬件成本,搭配水冷散热方案能达到极佳的解热效率,并提高运算效率。迎广

群联「aiDAPTIV+」生态圈再扩大,具备专业电脑与服务器机壳制造及系统组装能力的迎广科技(6117-TW)将透过与世界级NAND 控制芯片及储存解决方案领导者群联电子(8299-TW)合作,完善 AI 硬件生态系以扩充整体产品线布局,提升客户一站式购足的服务体验。

依据IDC(国际数据信息)指出预计到2027年,全球在AI解决方案上的科技支出将成长到5,000亿美元以上,未来企业将更关注AI技术投资以及AI驱动的产品与服务。而随着2025年Windows 10停止服务支持及 GenAI 应用彰显下,AI PC发展也逐步显露雏型,预计这波成长动能将首先在商业市场发酵。

AI的使用将从选择变成必要,生成式AI应用也将成为个人成长与企业营运效率的加速器,AI设备的成本与投资报酬率的预估,始终为企业将AI 视为生产工具或作为产品销售的痛点,该如何在提高企业产业竞争力、保有其AI 训练数据不外流及面对实际资源有限下取得决策平衡是一大课题。

迎广表示长期以来是系统品牌客户的坚强后盾,同时也会提供客户专业的设计建议和技术服务,而这些软实力正是公司成功进入AI服务器供应链、高端水冷工作站及机柜式水冷散热方案等硬实力领域的重要关键。近年来迎广投入高U数AI服务器生产制造及测试设备,系统组装能力可达Level 11,从个人电脑、工作站到服务器等机壳产品线齐全,从标准品与定制化机壳的设计生产到系统组装测试皆属迎广服务范畴。

本次迎广高端水冷散热解决方案采用群联「aiDAPTIV+」SSD,让企业可以在地端以合理的价格使用主流的大语言模型(LLM),并透过微调(Fine-tuning)运算,令企业专属应用快速落地使用,AI模型微调运算的过程中亦能仍保有数据的安全性与不外流。

「aiDAPTIV+」是透过群联自主开发的独家专利中介软件,可将SSD当作GPU的延伸DRAM存储器使用,解决AI模型运算中,因为AI模型不断扩大导致DRAM存储器容量不足的问题,大幅提升大语言模型(LLM)的训练效率与使用普通工作站来微调训练LLM的可行性。

群联CEO潘健成表示:「生成式AI落地应用的最大挑战有两点,AI硬件运算成本太高以及数据安全性。群联独家专利的aiDAPTIV+技术方案,不仅能有效地降低生成式AI模型落地微调运算的硬件成本,更能在不需要联网的环境下,进行AI模型微调运算。这与动辄就需要千万甚至上亿的费用的解决方案相比,将更有助于生成式AI的落地普及平民化,且更重要的是,企业机密数据没有上传云端外泄的风险。当前采用aiDAPTIV+方案的客户已遍及各行业,加上aiDAPTIV+不仅有助于地端运算的效能提升,且能更好的保护机敏性信息,目前已有超过80个aiDAPTVI+方案导入的生成式AI落地应用成功案例。」

迎广与群联合作除「aiDAPTIV+」外,也跨足Gen5 企业级固态硬盘等相关产品,新产品线的加入为公司的产品组合带来了更广泛的选择,也满足客户从专业级到企业级应用所需的数据存储、稳定传输与保密需求。透过迎广的一站式服务,将能够更全面地提供多元产品组合与面对各种服务需求,客户无需再花费大量时间去寻找不同供应商的零组件产品,可降低客户总投入成本并提升迎广整体服务价值,实现与客户一同成长的双赢局面!

迎广与群联双方的合作将是一种全面的夥伴关系,通过结合迎广在硬件制造与系统组装方面的核心能力,以及群联在固态硬盘技术领域的领先地位,双方将充分利用各自业务领域的核心竞争优势,携手提供 GenAI 与 Gen 5 解决方案,一同拓展全球市场,并为AI硬件生态系带来更多创新和可能性。

迎广将于2024年6月4~7日的COMPUTEX台北国际电脑展上发表以AI为核心概念的硬件生态系列产品,展品内容丰富多彩,必将吸引众多的关注与期待!

2024 COMPUTEX TAIPEI台北国际电脑展
展览时间:2024/6/4~6/7
展览地点:南港展览馆一馆一楼,迎广展位号码J0806