目錄
美國AI基礎設施公司Penguin Solutions計劃於2026年第四季在日本推出MemoryAI KV快取伺服器,透過CXL技術將大型語言模型的快取卸載至外部DDR5記憶體,使每GB記憶體成本可降至擴充GPU方案的三分之一至七分之一。
美國AI基礎設施公司Penguin Solutions計劃於2026年第四季在日本推出MemoryAI KV快取伺服器,透過CXL技術將大型語言模型的快取卸載至外部DDR5記憶體,使每GB記憶體成本可降至擴充GPU方案的三分之一至七分之一。