直播嘉宾:田柯宇,北京大学研究生一年级,导师王立威教授,研究方向为深度学习的优化与算法。 主题: ICLR’2023 Spotlight: SparK-在卷积网络上做成功BERT/MAE预训练 ➤分享大纲 1、 BERT/MAE 预训练的时代背景 2、 直接在卷积网络上使用 BERT/MAE的失败原因 ...