Search Results - May, Avner

  • Showing 1 - 7 results of 7
Refine Results
  1. 1
    Cover Image

    Speculative Speculative Decoding Autoría: Kumar, Tanishq, Dao, Tri, May, Avner

    Published 2026
    Fuente: arXiv
    Tipo de material: Preprint
    Acceso al recurso
    Enlace del recurso

    Save to List
    Saved in:
  2. 2
    Cover Image

    The Mamba in the Llama: Distilling and Accelerating Hybrid Models Autoría: Wang, Junxiong, Paliotta, Daniele, May, Avner, Rush, Alexander M., Dao, Tri

    Published 2024
    Fuente: arXiv
    Tipo de material: Preprint
    Acceso al recurso
    Enlace del recurso

    Save to List
    Saved in:
  3. 3
    Cover Image

    SpecExec: Massively Parallel Speculative Decoding for Interactive LLM Inference on Consumer Devices Autoría: Svirschevski, Ruslan, May, Avner, Chen, Zhuoming, Chen, Beidi, Jia, Zhihao, Ryabinin, Max

    Published 2024
    Fuente: arXiv
    Tipo de material: Preprint
    Acceso al recurso
    Enlace del recurso

    Save to List
    Saved in:
  4. 4
    Cover Image

    Sequoia: Scalable, Robust, and Hardware-aware Speculative Decoding Autoría: Chen, Zhuoming, May, Avner, Svirschevski, Ruslan, Huang, Yuhsun, Ryabinin, Max, Jia, Zhihao, Chen, Beidi

    Published 2024
    Fuente: arXiv
    Tipo de material: Preprint
    Acceso al recurso
    Enlace del recurso

    Save to List
    Saved in:
  5. 5
    Cover Image

    Minions: Cost-efficient Collaboration Between On-device and Cloud Language Models Autoría: Narayan, Avanika, Biderman, Dan, Eyuboglu, Sabri, May, Avner, Linderman, Scott, Zou, James, Re, Christopher

    Published 2025
    Fuente: arXiv
    Tipo de material: Preprint
    Acceso al recurso
    Enlace del recurso

    Save to List
    Saved in:
  6. 6
    Cover Image

    MagicDec: Breaking the Latency-Throughput Tradeoff for Long Context Generation with Speculative Decoding Autoría: Sadhukhan, Ranajoy, Chen, Jian, Chen, Zhuoming, Tiwari, Vashisth, Lai, Ruihang, Shi, Jinyuan, Yen, Ian En-Hsu, May, Avner, Chen, Tianqi, Chen, Beidi

    Published 2024
    Fuente: arXiv
    Tipo de material: Preprint
    Acceso al recurso
    Enlace del recurso

    Save to List
    Saved in:
  7. 7
    Cover Image

    When RL Meets Adaptive Speculative Training: A Unified Training-Serving System Autoría: Wang, Junxiong, Bie, Fengxiang, Li, Jisen, Zhou, Zhongzhu, Shao, Zelei, Wang, Yubo, Liu, Yinghui, Wu, Qingyang, May, Avner, Yanamandra, Sri, Zhang, Ce, Dao, Tri, Liang, Percy, Athiwaratkun, Ben, Song, Shuaiwen Leon, Xu, Chenfeng, Wu, Xiaoxia

    Published 2026
    Fuente: arXiv
    Tipo de material: Preprint
    Acceso al recurso
    Enlace del recurso

    Save to List
    Saved in:

Search Tools: