结构图c包含了该transformer的结构,包含多头注意力MSA、LayerNorm、残差连接和MLP,其中MLP是两个使用GELU激活函数的线性层。 损失函数:损失函数用多任务学习,针对三类失真图像同时训练三种图像重建任务,如下式,三项分别对应三类重建任务的损失。 损失函数不仅考虑像素级损失(MSE),还要考虑结构性损失(SSIM)和梯度信息,如下...