
支持 CXL 的 AI 加速器
公司: Panmnesia, Inc.
奖项: 2024 Honoree in Computer Hardware & Components
类别: COMPUTER HARDWARE & COMPONENTS
项目介绍
Panmnesia AI 加速器基于先进的 CXL 技术构建,专为大规模 AI 应用而设计。它通过 CXL 运行一个分解式内存池,经由 CXL 网络与 CPU 无缝集成,从而提供近乎无限的内存容量。该设备在基于 AI 的搜索功能上效率极高,能熟练处理 AI 生成向量的并行处理,其速度比传统搜索服务提升 101 倍。该架构还最大限度地降低了能源成本和运营支出(OPEX),使其成为 AI 应用的最佳选择。