Efficient Multi-Adapter LLM Serving via Cross-Model KV-Cache Reuse with Activated LoRA

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Li, Allison, Greenewald, Kristjan, Parnell, Thomas, Azizan, Navid
Formato: Preprint
Publicado: 2025
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!

Ejemplares similares