所以为了能协同利用起多个层次的语义对齐,来自 Fudan DISC 实验室的研究者提出了 MVPTR:a Multi-stage Vision-language Pre-training framework。MVPTR 首先从文本和图片中分别构建了两个层次的语义:对于图片,该研究使用物体检测器抽取区域的特征,并且用预测出的物体类别作为物体级别的语义概念;对于文本,除了分词后的 ...
Fudan DISC原创|遮罩注意力网络:对Transformer的再思考与改进mp.weixin.qq.com/s/3SdOSjXc5gWOX9j-s0MlGw 引言 NAACL2021中,复旦大学大学数据智能与社会计算实验室(Fudan DISC)和微软亚洲研究院合作进行了一项改进Transformer的工作,论文的题目为:Mask Attention Networks: Rethinking and Strengthen Transformer,被收...
Fudan University Data Intelligence and Social Computing (DISC) Lab 121followers China http://fudan-disc.com/ disclab@fudan.edu.cn PinnedLoading DISC-FinLLMDISC-FinLLMPublic DISC-FinLLM,中文金融大语言模型(LLM),旨在为用户提供金融场景下专业、智能、全面的金融咨询服务。DISC-FinLLM, a Chinese financia...
DISC-FinLLM:复旦大学团队发布中文智慧金融系统,采用多专家微调框架 金融领域为自然语言处理(NLP)模型带来了独特的挑战和机遇。
知识图谱嵌入 knowledge graph embedding是将包含实体和关系的知识图谱三元组嵌入到高维向量空间中,获得实体和关系的数值表示,提取图中相关信息,并进行后续运算推断。常用于知识图谱补全 (KG completion),关系提取 (relation extraction),实体分类 (entity classification),实体决议 (entity resolution)等等。 本次Fudan DIS...
DISC-FinLLM 是一个专门针对金融场景下为用户提供专业、智能、全面的金融咨询服务的金融领域大模型,由复旦大学数据智能与社会计算实验室 (Fudan-DISC)开发并开源。 我们将在该项目中开源如下资源: DISC-FinLLM-SFT 训练数据样例 DISC-FinLLM 模型参数 DISC-Fin-Eval Benchmark ...
| 🥸法律领域大模型DISC-LawLLM 开源。试用下来还是给人蛮专业的感觉,特别是结合法条搜索的功能。🫡DISC-LawLLM旨在为用户提供专业、智能、全面的法律服务,由复旦大学数据智能与社会计算实验室 (Fudan-DISC) 开发并开源。🤓DISC-LawLLM 是基于 Baichuan-13B-Base 进行微调训练得到的。项目开源了模型权重及SFT...
DISCOpen 是由复旦大学数据智能与社会计算实验室(Fudan-DISC)发起的开源项目。本项目在实验室研究工作的基础上,以课题方向作为基本单位,针对研究型代码进行二次开发,旨在为相关方向的学术研究提供便利的实验环境,为下游企业的应用研发提供接口演示和原型代码。希望在鞭笞课题组进步的同时,可以为学术社区做一些微薄的贡献,...
对话诊断强化学习框架 视觉语言预训练模型 数据标注 Fudan DISC 借助交叉学科优势,考虑自然语言处理技术的众多应用场景,对问答推理、医疗对话、舆情传播相关的领域数据构建了可计算化框架,完成了相应数据标注,进一步推动数据赋能。 医疗对话 知识推理 舆情传播 医疗对话 知识推理 舆情传播 医疗对话 复旦...
对话诊断强化学习框架 视觉语言预训练模型 数据标注 Fudan DISC 借助交叉学科优势,考虑自然语言处理技术的众多应用场景,对问答推理、医疗对话、舆情传播相关的领域数据构建了可计算化框架,完成了相应数据标注,进一步推动数据赋能。 医疗对话 知识推理 舆情传播 医疗对话 知识推理 舆情传播 医疗对话 复旦...