DIGITIMES

NPU非AI PC发展唯一关键 2024年AI NB出货将达4,500万臺

DIGITIMES Research观察,终端侧(on device)大型AI模型的推论效果不仅与xPU的运算性能有关,模型是否有效压缩、存儲器帶寬与容量是否足够,皆会影响AI PC的推论...

目录
  • AI PC运行大模型需面临三大挑战 模型表现、运算效能、存儲器帶寬
  • 压缩技术助大型模型大幅瘦身及同时维持推论表现
  • 4位元量化、150亿以下参数量的LLM模型将较适合内建于NB
  • AI PC运行LLM问题不仅在于运算瓶颈 存儲器瓶颈问题恐更严重
  • AI需求为NB处理器设计带来重大变革 重心由CPU主导转向异构协作并拉近存儲器
  • 2024年高端AI新机可执行多种生成式AI作业
  • 主要AI PC处理器平臺运算性能比较 1H24仅高通与苹果提供CPU以外的INT4运算力
  • 主要AI PC处理器平臺存儲器帶寬比较 苹果M3 Max处理器在NB存儲器帶寬竞赛中遥遥领先
  • 2024年AI PC将有三波出货潮
  • 2024年AI NB预计出货将达4,500万臺 占整体NB出货约4分之1
  • AI PC发展机会与挑战共存
相关报告
关键字
购物车
0件商品
智能应用 影音