Dust：不使用反向传播预训练 Transformer

qlabs.sh 发布 Dust，一种不使用反向传播（backpropagation）预训练 Transformer 的方法，文章在 Hacker News 首页获 13 points。原文仅给出标题与链接，未披露模型规模、训练数据、效果对比等细节，具体技术方案需查看原文。