力丽科技携手戴尔 以AI Factory搭建企业智能转型最速捷径
- 李佳玲／台北
-
现今人工智能（AI）浪潮席卷，以前所未见的速度改变商业世界胜负规则；驱使企业急欲建构如同「人工智能工厂」的机制，期望加速AI应用开发，从而在这场变革中抢先跻身胜利组。
为此力丽科技携手Dell Technologies戴尔科技集团，于日前擧办「AI战力，神速就位 – 把AI带入您的数据」论坛，希冀带领企业掌握AI时代所需技术与服务，一步到位打造专属AI工具箱，运用数据开创业务创新价值。
力丽科技系统服务事业部副总经理张荣城表示，当前AI浪潮涌向全球，不论产业竞争乃至人们日常生活，触目所及尽是AI；因此借重戴尔及其生态系夥伴APMIC亚太智能机器的顾问专家分享经验与技能，协助企业随需打造各种智能应用场景。
善用Dell AI Factory，加速肇建创新大局
戴尔科技集团技术副总经理梁汇华指出，戴尔提出的AI工厂，是一个端到端创新方案，可帮助企业加速采用AI并提高生产力；它全面整合戴尔的运算、储存、软件与服务功能，支持从模型建立到推论各种AI应用，以利企业将数据转化为有价值的见解与成果，快速实现AI投资报酬。
谈及AI实践，需要算力、数据与模型三者到位并形成闭环，此即为AI金三角概念，其间有赖好的网络居中串联，借此建立大规模训练和推论环境。
正所谓万事起头难，企业不管要启动AI或GenAI专案，务求先确立Use Case，有了目标，后续即能准确执行人力、技术、营运等种种资源配置。
以戴尔为例，主要藉由4个Pillar来构筑自家AI拼图，个中逻辑值得企业学习。一是将AI放入既有产品；二是确保产品可承载AI活动；三是将AI融入产品和服务的Portfolio；最后让AI与客户连结，透过AI立即掌握客户需求，自动连动到销售、报修等相关行为。藉由这四个方向发展AI的Use Case，接着再利用AI Factory付诸实践；其中需要藉助Lakehouse集中收容数据，亦利用戴尔独有的AI-driven Infrastructure完成平台搭建。
显见对有志发展AI的企业来说，最重要就是定义Use Case，简言之便是找出兼具高商业价值、高可行性的场景。如何挖掘场景，固然考验企业本身功力，但戴尔亦可助一臂之力，援引其新加坡数据科学团队能量，协助客户进行商业价值与可行性分析，先找出潜在Use Case，再提供4~8周顾问甚至开发服务，确认Use Case发展目标，再根据相关Workload检视所需运作资源，然后打开戴尔AI Factory形塑的「潘朵拉盒子」，把诸如DDAE（Dell Data Analytics Engine）数据分析引擎等经过戴尔验证的必要工具带起来，快速建构数据中台，形成企业专属端到端的AI Factory。
援引高速算力与现代湖仓，优化模型训练与微调
接着由来自戴尔、亚太智能机器（APMIC）的专家依序开讲，接力阐释AI Factory中各个关键拼图。戴尔科技集团资深解决方案架构师叶恩任表示，基于安全存取、通用性、准确性／控制／定制、成本、数据停留位置等综合考量，现今企业多采自建方式导入LLM，因而需要因应生成式AI从无到有发展阶段，部署对应基础建设，顺利支撑模型增强（RAG）、模型微调（Fine-tuning）等必要工序。
针对算力，戴尔提供各式运算设备，包含可支持逾175B参数的XE系列GPU服务器，其中XE9680足以媲美NVIDIA DGX的运算效能，且以400/800GbE 以太网络做为Back End连接，以利企业能以远低于InfiniBand的建置成本实现超高IOPS与Throughput。
亚太智能机器（APMIC）CEO吴柏翰，分享如何以其CaiGunn繁中语言模型助力加速LLM私有化。他强调今后欲开发多模态GenAI应用，势必需要藉助70B以上的模型，训练过程所需动用的H100 GPU数量有增无减。
经测试证实，欲训练一个1B模型，需准备1万亿Tokens，动用256张H100，预估投注新台币3.8亿经费。反观若基于CaiGunn做Fine-tuning，预算需求骤降为1,600万元，Tokens需求骤减至1,000万个，足见其核心价值即是大幅降低企业AI应用门槛。
担纲压轴演讲的戴尔科技集团资深产品业务协理徐志良，述说实作GenAI的最佳数据整合与储存策略方案。包括藉由PowerScale优化AI模型训练及微调，同时提供新时代数据中台结合Lakehouse湖仓一体方案，有效整合企业内众多数据源。
所谓湖仓是结合数据湖与数据仓储，形成全新统一体系架构，解决数据孤岛问题。其底层采用平行分散式S3平台，具备绝佳扩展性；再结合数据虚拟化或称数据联邦技术，为前端各类AP提供接口。为此戴尔以其DDAE引擎整合Starburst的多元Data Connector，组成现代化湖仓，满足AI Factory版图中至关重要的一环。
总括来说，戴尔全面支持现代数据中心、数据仓湖、多元模型，并串联诸如APMIC等第三方ISV工具，得以淬链成完整AI Factory方案，使企业化繁为简迅速将AI/ML与GenAI能量注入数据当中。
