微软发布 Differential Transformer V2，去掉自定义注意力核并降低训练不稳定

微软 unilm 团队发布 Differential Transformer V2（DIFF V2），通过增加 query 头但保持 KV 头数量不变，使解码速度与标准 Transformer 持平，且不再需要自定义注意力核。