丽台科技助力AI全民化 COMPUTEX推多场域液冷AI系统与AIDMS 智能应用 影音
DTRAPP40
ADI

丽台科技助力AI全民化 COMPUTEX推多场域液冷AI系统与AIDMS

  • 尤嘉禾台北

丽台科技 (Leadtek )自6月4日起至6月7日于COMPUTEX 2024展出一系列液冷AI工作站和AI服务器,以及AIDMS(AI开发管理平台)助力产业AI落地案例,倾全力助AI全民化。

过去,AI似乎是大企业的专利,需要昂贵的设备和高超的技能,但随着生成式AI和AIDMS no-code AI管理平台等工具的亲民化,现在任何人都能轻松运用AI技术,创造出无限的可能性。

丽台于COMPUTEX展采用液冷技术的AI服务器和工作站。丽台

丽台于COMPUTEX展采用液冷技术的AI服务器和工作站。丽台

不同规模AI训练适用的液冷系统

在丽台科技摊位最显眼的就是采用D2C液冷技术的AI服务器和工作站。丽台推出的AI系统,支持最新的Intel/AMD平台、PCIe Gen5,其NVIDIA GPU配置从单一到十个GPU都有,可用于不同规模的加速运算和多GPU协同合作,包括生成式AI、大型语言训练、数码孪生以及工业元宇宙等应用领域。

这次曝光的新品 WinFast Mini AI 工作站专为全民AI化打造。最高可支持 2 张高端 NVIDIA RTX Ada Lovelace GPU,同时提供更高瓦数电源供应器,为NVIDIA下一代GPU做好准备。再加上液冷散热技术,能更有效降低 GPU 温度并提供安静的运作环境,适合没有独立大型机房的场域使用。集结高效、安静、高弹性于一机,WinFast Mini AI 工作站将会是全民AI化的杀手级AI工作站。

WS2050L 则采用5U机架式塔式设计,一体式液冷设计无需外接液冷管路,可容纳多达4张液冷式NVIDIA RTX GPU,并搭载双Intel Xeon第5代可扩充处理器,提供高达128个处理器核心。配置上可直立于机房或安装于服务器机柜中,达到节省空间、易于维护和提高管理效率的目的。

有着稳健外型的8U HGX AI server是结合8U尺寸与NVIDIA H100 SXM5 8-GPU组态的服务器,适用于LLM使用。CPU搭配英特尔第五代Xeon可扩充处理器,存储器升级为DDR5-5600MHz,容量最大可达8TB,网络界面则支持2个10GbE埠,另可搭配高速网卡,提供高速连接和优异的网络性能。

同场展出的液冷AI服务器GS4850T为4U外型,可安装10张双宽度GPU,并搭载Dual Root 系统,并拥有 Peer to Peer 超高效率GPU间数据传输,并支持PCIe 5.0,提供每秒 128 GB 的总带宽。

值得一提的是,丽台为AI系统提供了兼容性最高的Leadtek RTX AI Software Pack 与 GDMS(GPU Docker Management System) GPU资源分配与管理系统。让客户在取得硬件设备后,无需额外投入时间来选择与调教相关NVIDIA Library与 Framework、驱动程序以及Docker 等环境,即可轻松地开始AI应用的开发工作与GPU 资源的分配及管理。

MLOps no-code 平台,AI落地的最后推手

丽台科技自主研发的AIDMS(AI开发管理系统),是一个底层专为团队协作而生的MLOps管理平台。

在养殖渔界享有盛名的光速点苗(LumiGood)开发团队光速海盗,在丽台摊位分享水产养殖业的AI转型之路。在丽台AIDMS的帮助下,从一开始的毫无头绪到享受AI带来的便利,只有短短6个月时间。

光速海盗总监朱禹诺分享:台湾养殖渔业世界排名20,年产值300亿,但仍依赖人工点苗交易。面对缺工少子化挑战,我们把这视为转型契机,推出光速点苗 LumiGood APP,以AI技术解决视觉精确性、人力短缺以及交易诚信依据等问题,助力养殖业提升竞争力。

LumiGood 的操作十分方便,只要会用手机拍照,即可快速掌握鱼苗数量。而且透过每次的再训练,AI自主学习让准确度再优化,即使是面对体型不同、颜色不同的鱼苗或是虾苗,都能保持准确度在97%以上。成功解决养殖渔业的痛点。

在便民的点苗服务背后,是一间热血的新创公司。光速海盗团队负责人孙伟强补充:对新创来说,开发时间攸关胜败,AIDMS在提升开发速度上超乎我们预期,并有效降低开发成本与难度。在点苗系统的开发中,我们需要训练大量的鱼苗模型,AIDMS帮助我们将时间缩短至预期的四分之一。另得益于AIDMS 的no-code降低AI门槛,刚踏足AI开发的团队可以直接跳过繁琐和复杂的AI环境设定以及程序撰写时间,成功地训练出适用的模型,并且根据结果进行修正与优化,使开发过程更顺畅。

丽台科技于6/4~7在台北国际电脑展(COMPUTEX 2024)展示了涵盖各种AI训练规模的AI硬件和AIDMS等AI管理软件,为各种场域AI落地提供强大支持。此外,在丽台的NVIDIA认证讲师将于现场助参观者踏出AI转型的第一步。想要了解更多丽台的产品和合作机会,欢迎至南港展览馆一馆四楼M区,丽台科技展位(展位号码M1001a)与我们深入交流。