DIGITIMES

地端生成式AI训练门槛动辄新臺币千万元 降低成本为推广关键

当前生成式AI (Generative AI;GenAI)模型训练、微调(fine-tuning)场景仍以云端架构为主流,部分企业虽对导入大型语言模型(Large Language Model;LLM)展现兴趣,...

目录
  • LLM落地分为训练、微调、部署与推论三阶段示意图
  • 地端专家模型以企业内部數據进行模型微调流程图
  • 企业于地端进行Gen AI模型微调的主要因素列举
  • 训练用高、中端服務器特性、硬件设计及价格比较表
  • A100、H100加速器在70B、33B模型微调需求量及成本估计一览
  • 群联aiDAPTIV+解决方案提升AI训练效率架构变化示意图
  • 满拓训练用Mentor系列服務器主机与硬件规格一览
  • 研华训练用AIR-520系列服務器规格一览
  • 微调与RAG技术比较与LLM导入流程示意图
相关报告
关键字
购物车
0件商品
智能应用 影音