Machine Learning

Transformer及其变种

简介 近年来NLP领域最让人印象深刻的成果,无疑是以谷歌提出的Bert为代表的预训练模型了。它们不断地刷新记录(无论是任务指标上,还是算力需求上),在很多任务上已经能超越人类平均水平,还具有非常良好的...
阅读全文
Machine Learning

优化模型训练时间-BERT

相信很多人都知道Hugging Face,也都用过它的Transformers预训练语言模型,但你们有没有觉得它训练的有点太慢了呢?这时候,手把手教你怎么让训练时间缩短一半。 训练BERT 首先我们要...
阅读全文