HPE、APMIC及大综电脑三强联手 助企业大幅加快AI转型进程

AI浪潮正铺天盖地涌向各行各业，对人类科学、经济、社会、文化的发展造成巨大影响。处在这个前所未见的历史转捩点，无论制造、金融、医疗、服务、政府或教育等各个领域的众多用户，都亟欲导入AI创新应用，藉以实现降本、增效、提质、减存等多重效益。

有监于此，企业ICT基础架构领导厂商HPE诉诸「软硬兼施」，以期加速企业AI策略布局。与此同时，HPE致力建立广泛的ISV夥伴生态系统，期盼整合更多富含独特优势的AI方案，协助用户打造高效率的AI工作负载环境。

HPE软硬兼施，擘建完整AI服务蓝图

众所瞩目的2024 NVIDIA GTC大会，HPE宣布与NVIDIA共同发展生成式AI全端方案，比方说HPE机器学习推论软件（MLDM）连同RAG参考架构，均将支持最新NVIDIA Blackwell平台。

不仅如此，目前企业可直接购买或透过HPE GreenLake，以灵活、可扩充、按量付费的方式引进HPE生成式AI企业运算方案。此方案源自HPE与NVIDIA共同开发，因应企业打造GenAI应用过程的种种需求，预先配置必要的运算（AI服务器）、储存、软件、网络及谘询服务，一来降低环境准备时间与成本，二来支持以利用私有数据调校GenAI基础模型，包含进行轻量级微调、RAG或横向扩展推论，并于混合云环境部署GenAI应用服务。

HPE已一步步擘画完整的AI蓝图，足以涵盖用户从零出发、到完成AI平台布建的全方位历程。从一开始的顾问服务，可按用户的业务目标及需求，协助部署最佳化AI方案，且一并勾勒完整AI策略蓝图。接着提供HPE Ezmeral Data Fabric软件、HPE GreenLake for File Storage等解决方案，既可一举存取、分析与管理从边缘到云端的海量数据，亦能有效提高数据的汇整与准备速度，连带在更短时间内完成AI模型训练与调校。

之后可运用HPE机器学习推论软件、机器学习开发环境等方案，大幅缩短数据处理时间，加快 ML模型开发并优化GPU资源分配。

APMIC推CaiGunn开讲，陪企业一手培育「无限产能的AI大脑」

接下来介绍两家深具竞争力的HPE AI生态系夥伴。第一家为创办于2017年的APMIC，是一间以自然语言理解（NLU）核心技术出发，由一群AI技术充满热情的团队所成立。生成式AI 百花齐放的同时，对于一个企业的挑战是如确保公司在每个「合适的应用情境」当中，将人才资产、知识续留在公司中，因此每一间企业都需要有无限产能的AI大脑，而这个AI大脑也要同时兼具软硬整合涵盖「完整系统整合」服务，进而迈向企业拥有无限产能的第一步。

APMIC目前提供最主要的方案「CaiGunn（开讲）」，就是让企业跨出第一步的好夥伴，除了由NVIDIA官方认证的生成式AI云端、地端软件，是一款真正由台湾人打造的在地化大语言模型与平台，让企业内部的每个员工，能以No-code的方式随时做出属于业务单位「合适的应用情境」的AI，当企业遇到跟时间赛跑的任务时，人人都是AI的开发者，轻松透过三步骤「1上传数据、2下提示语、3测试AI 」就像新人教育训练一样，让「CaiGunn（开讲）」陪企业一手培育「无限产能的AI大脑」。

「CaiGunn（开讲）」的方案当中，能支持混合云的架构运行，同时支持多种超过30B、70B甚至参数超过100B以上的繁体中文与英文模型。然而在企业导入AI中，因应各式各样的情境会需要不同的模块来协助，「CaiGunn（开讲）」目前包含超过30个「AI功能」模块，以利企业能透过模块快速找到合适的组合技，创造因时制宜的应用。「CaiGunn（开讲）」会基于硬件设备做半自动化的数据前处理、自动化的模型训练，使用者只需要专心「培育无限产能的AI」。

同时为了降低使用者入门门槛，「CaiGunn（开讲）」也支持超过100种提示语（Prompt）范例，让使用者更接地气的跟AI沟通。CaiGunn的企业版方案，支持任何跟文字处理相关的应用，常见的应用包含「GenAI智能客服」与「GenAI知识管理」等，企业除透过「CaiGunn（开讲）」平台扩展应用场景还能以此管理企业的深度知识。截至目前，APMIC各项方案皆通过HPE ProLiant Gen11服务器验证，生成式AI将会改变产业发展，因此双方正积极联手展开紧密的合作，希望广邀请夥伴与客户一起参加APMIC工作坊，一起体验如何以GenAI创造无限产能。

大综电脑力推JetGPT，无需连线云端与支付Token费用

另一夥伴为大综电脑系统，是一家专业全方位系统整合服务商，全省皆有服务据点，一向以高素质的员工、完善的服务，以及对各种承诺的坚持而着称，且海外台商较多的区域也设有据点。大综电脑是HPE金级经销商，透过HPE Proliant Server, Simplivity, Superdome等基础架构产品，积极协助用户建构新时代数据中心。

大综电脑现已发展一套与ChatGPT类似的生成式AI系统「JetGPT」，皆可让User以自然语言进行沟通，透过Chatbot的UI输入提示（Prompt）。惟JetGPT有别于ChatGPT之处，在于Prompt会先到RAG系统，藉由矢量距离原理等技术，从事先建置的知识库（Chunk）中取出与Prompt相关的文章段，再由Chunk重新整理Augmented Prompt，传给LLM进行推论。

显见JetGPT相对于ChatGPT拥有更多亮点。例如企业可运用内部知识数据来训练AI，避免机敏数据外泄。透过RAG让回应更具专业性，降低LLM幻觉问题。在地端使用，不需与任何AI/LLM云端连线，亦不需支付任何Token费用。而JetGPT适合的应用场域甚多，可一举满足技术工程GPT、品管GPT、生管GPT、设备GPT、业务企划GPT、人资GPT，客服GPT等应用需求。

目前大综电脑推出三款JetGPT产品，其中JetGPT 7B拥有70亿参数，每秒输出110 Token，可运行于HPE ProLiant DL380a Gen11服务器、搭载2个NVIDIA L40S（48GB）GPU，执行分类与摘要任务。JetGPT 13B拥有130亿参数，效能为220 Token/秒，需4个L40S（48GB）支持，可执行翻译、情感分析、对话等应用。至于JetGPT 70B拥有700亿参数、效能为4400 Token/秒，需8个L40S（48GB）支持，可执行复杂文章分析、因果分析、归纳总结、创意发想等任务。

总括来说，HPE透过与APMIC及大综电脑三强联手，可依造企业的实际需求，提供相对应的服务，具有高弹性并提供软、硬件上的支持，大大助力企业大幅加快AI转型进程。