当来自 DLM 的所有推测都被 TLM 拒绝并且不生成来自 TLM 的令牌时,是否会出现“活锁”情况?
不会。在每个推测-验证周期中,TLM 始终会生成一个有效标记,就像在正常自回归解码中发生的情况一样。
3,302
社区成员
5,796
社区内容
加载中
试试用AI创作助手写篇文章吧