开创AI超算新纪元 横跨云地、软硬兼备 加速实现GenAI应用 智能应用 影音
researchmember
Event

开创AI超算新纪元 横跨云地、软硬兼备 加速实现GenAI应用

  • 周建勳台北

由GenAI开启的AI热潮正迈向新阶段,包括专业逆分工趋势造成组织、价值链与业务模式的重整,以及私有化AI考验基础架构投资能力与建置速度。「AI Solution Day超算新纪元:AI模型训练效能爆发的硬核实践」研讨会涵盖产业实战经验与尖端技术分享,正可为企业的AI布局提供关键助力。

AI Solution Day超算新纪元:AI模型训练效能爆发的硬核实践。迈达特

AI Solution Day超算新纪元:AI模型训练效能爆发的硬核实践。迈达特

企业拥抱AI的新思维与对策

打破专业界线的GenAI让人类重回通才时代,企业不应只将AI视为工具升级,而是组织进化的契机。台湾大哥大信息长蔡祈岩表示:「AI不只是提升效率,而是颠覆流程;导入AI的目标是创造价值,而非缩减成本。因此,企业除了在内部要全员拥抱AI,更要善用AI重新设计价值链。」

以AI代理的崛起为例,首当其冲的是查找引擎、电商和品牌企业,再加上消费者对AI推荐商品的接受度持续上升,商业模式势必重新洗牌。为了确保竞争力,企业必须尽快布局,作法包括强化服务基础、站内导入AI对话功能、行销策略转型、利用会员制提升高贡献客群的黏着度等做为防御策略。

台湾大哥大信息长 蔡祈岩 先生。迈达特

台湾大哥大信息长 蔡祈岩 先生。迈达特

善用存储器技术调节GPU算力投资

对AI的技术投资正处在从云端到地端的重要分野。企业不想让核心机器及全部数据上云,以及公有云受到更多监管、法规甚或道德考量而限制AI技术的使用,皆是显而易见的挑战。

群联电子技术长林纬指出,台湾受限于繁体中文数据量,需将国外模型本土化才能加快模型的迭代;此外,企业采用的模型必须根据其工作的方法、工具、数据进行企业化。这两大需求都将加速AI模型训练的落地。

GPU算力的投资可透过存储器调节。群联以NAND Flash结合存储器管理程序,GPU即可搭配用量不受限的存储器,从而减轻对算力的投资。以90B的模型训练为例,地端化门槛从100万美元起跳,但群联的解决方案仅需1/10的投资。

完备AI布局的基础架构与管理方案

企业要打造AI-Ready的现代化基础架构,建立能横跨云端与地端的混合多云环境是首要之务,但基础架构势必更为复杂,整体成本压力也随之攀升。高效能AI存储方案则是不可或缺的核心基础设施,目前业界传输速度最快的MinIO AIStor是唯一达到 Exabyte 级别扩展能力的物件存储解决方案,能够实现数据高速直通 GPU 的优化架构,大幅提升 AI 模型训练效率,协助企业有效突破运算与存储间的效能瓶颈。

为了进一步提升数据查询效能与执行时间,同时减少数据库与硬件的支出,亦思科技以HARE新时代湖仓平台融合数据湖的弹性与数据仓储的查询效能,提供整合的单一平台处理各类型数据与工作负载,包括实时分析与报表查询、机器学习与 AI 应用、批次与串流处理整合。

拥有丰富产业经验的精诚信息则提出应用面和管理面的对策。Langflow可快速生成AI Agent,让开发人员及非AI专家皆能以高效率进行GenAI专案,构建知识型应用。RE:FORM则为多云基础架构提供全域IT部署及管理视角,提升资源配置透明度和可视性的提升,进而降低费率并优化营运。

面对快速演进的AI技术与应用,市场需求持续激增,从技术架构建置着手,确立GenAI应用核心价值,才能掌握先机,以变制变。

全体长官合照(左起,精诚信息、群联电子、施总编辑、台哥大、迈达特、亦思科技)。迈达特

全体长官合照(左起,精诚信息、群联电子、施总编辑、台哥大、迈达特、亦思科技)。迈达特

AI火力靠群联、MinIO打好数据基地、数据处理靠Hare、RE:FORM自动省钱又省力、GenAI应用马上端!欢迎联系精诚信息业务,为您从规划、建置到维运提供最完善服务。了解更多