Evaluation Framework: FewNLU Re-Evaluation of State-of-the-Art Methods FewNLU Toolkit Summary of Findings Contribution 论文题目:FewNLU: Benchmarking State-of-the-Art Methods for Few-Shot Natural Language Understanding 9月27日就挂在arXiv上,其实很快就读完并作了组会ppt,但是上周组会这篇论文的分享...
(2)Multimodal Few-Shot Learning with Frozen Language Models 论文链接: (1)链接 (2)链接 首先介绍一下prompt和fine-tuning范式本质上有什么区别,然后介绍一下NLP中基于prompt的PET和AutoPrompt方法,最后介绍一下VLM任务中应用prompt范式的CLIP和CoOp方法。
基于此,哈工大的研究人员提出了MetricPrompt,通过将few-shot文本分类任务转化为相关性匹配任务,规避掉verbalizer设计的困难,通过实验发现MetircPrompt在诸多few-shot文本分类任务下能达到新的sota效果。 2 背景 传统的文本分类模型,可以采用一个语言模型+MLP,通过训练后,直接预测各个标签的概率,但是few-shot场景下,由于...