解码

• EAGLE: 一种用于加速LLM解码的方法

  EAGLE（提高语言模型效率的外推算法）是快速解码大型语言模型 (LLM) 的新基准，具有可证明的性能维护。这种方法涉及外推法学硕士的第二顶层上下文特征向量，从而显着提高生成效率。…

  工具软件 2023年12月16日