释放生成式AI无穷潜力 Dell助企业建构最佳动力引擎

轻松构建企业本地Gen AI 基础架构兼具效能、扩充性与节能设计

/美通社/ -- 从实时监测天气模式、预测能源消耗与二氧化碳排放，到协助企业灵活创新转型，人工智能（AI）不仅能对永续发展有所助益，更是企业加速决策、形塑未来的重要依据。尤其是在ChatGPT爆红后，人工智能再度成为众所瞩目的焦点，生成式AI（Gen AI）不只掀起话题浪潮，更是企业眼中用来释放数据价值、创新业务营运的新利器。根据Gartner在近期公布的人工智能技术成熟曲线调查（2023 Gartner Hype Cycle for Artificial Intelligence），Gen AI正在被推向技术成熟度曲线的高峰；而且可望在未来的2至5年内成为主流采用的技术。

戴尔科技集团资深技术顾问黄敏俊观察，消费级生成式AI几乎掳获了所有人的心，根据调查，高达91%的受访者均表示，生活中已经以某种方式运用生成式AI。然而对企业而言，运用公开的模型可能潜藏着诸多的隐忧，尤其是数据与隐私外泄的风险，「企业真正的机会是运用手上掌握的数据来打造企业级的Gen AI，进一步优化服务与体验，强化核心竞争力。这其中，建构好的运算力更是其基础，若是没有运算力作为数据的动力引擎，企业将很难朝向生成式AI迈进。」

他提到，实务上技术与基础架构也是企业采用AI过程中经常面临的挑战之一。不只在高效、可靠、安全与软硬整合的能力，还要能满足绿色节能的要求，「随着国际发展趋势，ESG永续已成为评估企业的关键指标，企业在加速数码创新同时，势必也必须纳入能源优化考量，而选择具有绿色概念的基础架构方案，将能为企业带来节能减碳的双重优势。」

融入先进冷却技术 兼顾ESG永续承诺

为了协助企业更快实现全端Gen AI 部署，戴尔科技与辉达携手合作，包括戴尔基础架构、软件和服务，再加上辉达的加速运算和软件创新，协助企业快速推动Gen AI计划，并且加速转化为价值。其中，也涵盖了数款已通过验证的最佳化服务器，包含PowerEdge XE9680、PowerEdge XE9640/XE8640以及PowerEdge R760xa，同样搭载第4代Intel Xeon可扩充处理器，这款处理器最大的特色就是内建整合式加速器，可实现更高的效能与电源效率。

黄敏俊进一步说明，PowerEdge XE9680是专为人工智能、机器学习及深度学习所建立的高效能应用程序服务器，可快速开发、训练及部署大型机器学习模型。在6U高度下，可支持8张H100或A100 SXM GPU，不仅可以获得最高的效能、突破各种局限，有效的空间运用也可以让企业在效能与能源间取得最佳的平衡，虽然是气冷机种，却能运行在35℃的环境中；PowerEdge XE8640在4U高度中也搭载4张H100 SXM GPU，更有助于推动AI训练、HPC及数据分析应用，其特色是运用了封闭式的内循环水冷技术（LAAC），以液冷来辅助气冷带走运作时产生的大量热能。

PowerEdge XE9640则提供了提供 GPU多样性、密度和冷却功能，在2U外形中，可配置4张H100 SXM GPU或Intel Data Center GPU Max和Dell智能冷却技术，藉由液冷来提高效能与速度，释放数据潜力；PowerEdge R760xa最高能扩充到4张GPU，可依企业成长需求来选择与扩充更多样的加速器，发挥优异效能。

他提到，在技术演进下，电力与能源需求势必会有所增加，但随着全球对净零排放议题越来越重视，各国纷纷祭出法规要求紧缩限制，合规ESG规范也箭在弦上，如何透过现代化的技术，使其保持平衡，在系统效能不妥协的情况下还能达到更好的冷却成效，是现今服务器发展的主流方向，戴尔科技也正在逐步往先进冷却技术前进，例如，新一代的智能冷却技术能将正确的气流引导到所需的位置，并且具有智能散热控制功能，能在工作负载或环境变化时，自动调整气流。

若是在更高密度的环境，以直接液态冷却（DLC）设计的服务器就能达到更好的散热效果，由于液体能在设备内直接进行冷热交换，对于提升整体系统效率将很有助益；若是不想改变气冷环境，戴尔科技也能结合第三方辅助冷却方案，例如节能背板冷却器（RDHx）的辅助来满足散热需求。针对PUE值改善，浸没式冷却技术也可协助企业大幅降低总体PUE值。

最适架构加速Gen AI之旅

人工智能正在颠覆每个产业，而生成式AI更可能打破游戏规则，带来更大的革命。举例而言，生成式AI能比对话式聊天机器人更准确，也更能理解语气与反应；或是依据要求产生程序码，协助程序工程师加速软件开发，大幅减少程序撰写时间；在制造业中，也可以协助教育训练与生成作业流程或协助异常事件处理等等；于医疗产业的应用也能加速医疗与照护流程自动化来提昇整体医护品质与效率。

「生成式AI正在改变各产业的营运、创新与竞争方式，如何运用生成式AI找到新的机遇与商业价值，甚至进一步带动营收成长，已成企业亟需思考的课题。」黄敏俊强调，与值得信赖的夥伴合作是企业落实Gen AI最快的策略与方法，戴尔科技提供了多元的选项，透过预先测试的模块化解决方案可依据企业需求打造最适合的基础架构，协助企业简化并加速 Gen AI之旅。