长上下文与多请求推升分层存儲器需求　通用CXL存儲器扩充先行、AI推论属选择性导入

• 长上下文与多请求扩大推论存儲器需求　HBM容量受GPU规格限制促使數據分层
• 模型权重容量相对固定　KV Cache随上下文长度与同时请求数增加
• 长上下文与多请求共同放大KV Cache　逻辑容量可超过8-GPU总HBM容量
• 推论數據依存取需求分层配置　CXL扩充CPU主存儲器之外的可定址容量
• CPU主存儲器提供既有同机容量　CXL补充DIMM扩充受限后的容量需求
• CXL Type 3增加CPU可定址存儲器　CXL Switch可进一步形成共享存儲器池
• 通用CXL以主存儲器扩充为既有用途　AI推论新增KV Cache等应用情境
• 通用CXL已有數據中心实际部署　AI用CXL存儲器仍以特定应用验证为主
• Meta已部署CXL存儲器　微软持续验证扩充、池化与共享路径
• 三星电子与SK海力士推进AI应用验证　CXL存儲器开始测试KV Cache保存与重载
• CXL产品供给已由存儲器装置延伸至控制器、交换器、Retimer等多类服務器平臺元件
• CXL存儲器扩充方式改变零组件与整合需求　臺厂由高速信號切入平臺工程
• 单机扩充增加CXL存儲器装置　存儲器池再增加Switch与Fabric管理
• 高速与较长链路提高Retimer配置机率　群联由PCIe信號能力切入CXL
• 平臺复杂度提高ODM整合责任　定制化程度决定工程价值
• 结语