标签： 模型， 训练

本文探索了 Monarch Mixer (M2) ，这是一种在序列长度和模型维度上都是次二次的新架构，并且在现 … Continue reading “比Transformer更好，无Attention、MLPs的BERT、GPT反而更强了”