弹性极速缓存

弹性极速缓存 EIC（Elastic Instant Cache）是火山引擎为大模型等场景提供的高速 KVCache 服务。EIC 通过以存代算、GDR 零拷贝等方式大幅降低推理 GPU 资源消耗，优化推理时延。