// Technologie · SIGNAL STRONG

KV Cache砍掉99%，单卡吞吐飙6倍，港科CMU联手岩山科技开源新模型

量子位il y a 2 j1 minTechnologie

量子位Technologie

SOURCE · 量子位

LEAD · 导读

一张卡，512路长推理同时跑

QUOTE · 引述

一张卡，512路长推理同时跑

WAVEFORM · 1 段 · 1 MIN