图5: prefix-tuing改进到P-tuning V2 这个技术是清华Chatglm的训练在推广,也很容易理解,glm的填空式方案,优点之一就是pretraind 模型编码的输入自带上下文的信息,很适合解决NLU的任务(那些需要看上下文的任务)。而P-tuing V2的提出就是为了在finetune下游任务的时候能尽可能暴露这些上下文信息。论文指出该方案每个会...