丽台科技助力AI全民化 COMPUTEX推多场域液冷AI系统与AIDMS

丽台科技 (Leadtek )自6月4日起至6月7日于COMPUTEX 2024展出一系列液冷AI工作站和AI服务器，以及AIDMS（AI开发管理平台）助力产业AI落地案例，倾全力助AI全民化。

过去，AI似乎是大企业的专利，需要昂贵的设备和高超的技能，但随着生成式AI和AIDMS no-code AI管理平台等工具的亲民化，现在任何人都能轻松运用AI技术，创造出无限的可能性。

不同规模AI训练适用的液冷系统

在丽台科技摊位最显眼的就是采用D2C液冷技术的AI服务器和工作站。丽台推出的AI系统，支持最新的Intel/AMD平台、PCIe Gen5，其NVIDIA GPU配置从单一到十个GPU都有，可用于不同规模的加速运算和多GPU协同合作，包括生成式AI、大型语言训练、数码孪生以及工业元宇宙等应用领域。

这次曝光的新品 WinFast Mini AI 工作站专为全民AI化打造。最高可支持 2 张高端 NVIDIA RTX Ada Lovelace GPU，同时提供更高瓦数电源供应器，为NVIDIA下一代GPU做好准备。再加上液冷散热技术，能更有效降低 GPU 温度并提供安静的运作环境，适合没有独立大型机房的场域使用。集结高效、安静、高弹性于一机，WinFast Mini AI 工作站将会是全民AI化的杀手级AI工作站。

WS2050L 则采用5U机架式塔式设计，一体式液冷设计无需外接液冷管路，可容纳多达4张液冷式NVIDIA RTX GPU，并搭载双Intel Xeon第5代可扩充处理器，提供高达128个处理器核心。配置上可直立于机房或安装于服务器机柜中，达到节省空间、易于维护和提高管理效率的目的。

有着稳健外型的8U HGX AI server是结合8U尺寸与NVIDIA H100 SXM5 8-GPU组态的服务器，适用于LLM使用。CPU搭配英特尔第五代Xeon可扩充处理器，存储器升级为DDR5-5600MHz，容量最大可达8TB，网络界面则支持2个10GbE埠，另可搭配高速网卡，提供高速连接和优异的网络性能。

同场展出的液冷AI服务器GS4850T为4U外型，可安装10张双宽度GPU，并搭载Dual Root 系统，并拥有 Peer to Peer 超高效率GPU间数据传输，并支持PCIe 5.0，提供每秒 128 GB 的总带宽。

值得一提的是，丽台为AI系统提供了兼容性最高的Leadtek RTX AI Software Pack 与 GDMS(GPU Docker Management System) GPU资源分配与管理系统。让客户在取得硬件设备后，无需额外投入时间来选择与调教相关NVIDIA Library与 Framework、驱动程序以及Docker 等环境，即可轻松地开始AI应用的开发工作与GPU 资源的分配及管理。

MLOps no-code 平台，AI落地的最后推手

丽台科技自主研发的AIDMS（AI开发管理系统），是一个底层专为团队协作而生的MLOps管理平台。

在养殖渔界享有盛名的光速点苗(LumiGood)开发团队光速海盗，在丽台摊位分享水产养殖业的AI转型之路。在丽台AIDMS的帮助下，从一开始的毫无头绪到享受AI带来的便利，只有短短6个月时间。

光速海盗总监朱禹诺分享：台湾养殖渔业世界排名20，年产值300亿，但仍依赖人工点苗交易。面对缺工少子化挑战，我们把这视为转型契机，推出光速点苗 LumiGood APP，以AI技术解决视觉精确性、人力短缺以及交易诚信依据等问题，助力养殖业提升竞争力。

LumiGood 的操作十分方便，只要会用手机拍照，即可快速掌握鱼苗数量。而且透过每次的再训练，AI自主学习让准确度再优化，即使是面对体型不同、颜色不同的鱼苗或是虾苗，都能保持准确度在97%以上。成功解决养殖渔业的痛点。

在便民的点苗服务背后，是一间热血的新创公司。光速海盗团队负责人孙伟强补充：对新创来说，开发时间攸关胜败，AIDMS在提升开发速度上超乎我们预期，并有效降低开发成本与难度。在点苗系统的开发中，我们需要训练大量的鱼苗模型，AIDMS帮助我们将时间缩短至预期的四分之一。另得益于AIDMS 的no-code降低AI门槛，刚踏足AI开发的团队可以直接跳过繁琐和复杂的AI环境设定以及程序撰写时间，成功地训练出适用的模型，并且根据结果进行修正与优化，使开发过程更顺畅。

丽台科技于6/4~7在台北国际电脑展（COMPUTEX 2024）展示了涵盖各种AI训练规模的AI硬件和AIDMS等AI管理软件，为各种场域AI落地提供强大支持。此外，在丽台的NVIDIA认证讲师将于现场助参观者踏出AI转型的第一步。想要了解更多丽台的产品和合作机会，欢迎至南港展览馆一馆四楼M区，丽台科技展位（展位号码M1001a）与我们深入交流。