KVarN：华为推出的原生vLLM KV缓存量化后端

原文:KVarN: Native vLLM KV-cache quantization back end by Huawei

前沿科技 1 源 1 条原始记录重要度 6/10