标签 · 机器学习

机器学习

共 1 篇文章

  1. MoE 为什么不能只追求负载均衡:从路由机制到辅助损失与动态偏置

    从一个 token 的路由计算出发,拆解辅助损失的梯度与动态偏置的反馈,再用 42 次 CPU 合成回归实验检验均衡与质量的关系。

    →
主题
字体
密度
语言