3 月 20 日,腾讯 AI Lab 宣布 3 篇蛋白质组论文相继入选国际顶级学术期刊,论文分别在蛋白质组的检测、分析以及探索发现方面提出全新的研究方案,为人类从根本上阐释生命提供重要技术参考。SPDB: a comprehensive resource and knowledgebase for proteomic data at the single-cell resolution入选生物信息学领域数据库...
comprehensive experiments with state-of-the-art mainstream models such as GPT-3 on various downstream tasks. Our results indicate that our method can enhance the model's in-context learning performance in an effective and interpretable manner....
他们利用 GPT-4o 对模型的回答进行分类，具体包括以下步骤：推理策略分类：对每一个解答进行推理策略的标注，将采用相同推理方式的回答归为同一类。例如，对于 “2+3=？” 这样的问题，可能涉及的推理策略包括数学运算模拟、数轴移动和实物类比等。多样性分析：在归类的基础上，分析并统计不同解答之间的推理策略多样...
该框架可以使用图片模态的信息指导预训练语言模型完成一系列跨模态生成任务,例如 image captioning 和 visually grounded story generation。与其他方法不同的是,MAGIC 框架无需多模态训练数据,只需利用现成的语言模型(例如 GPT-2)和图文匹配模型(例如 CLIP)就能够以 zero-shot 的方式高质量地完成多模态生成任务。此外,...
2024年8月10日,北京大学深圳研究生院研究员、科学智能(AI for Science,AI4S)中心主任陈语谦与腾讯AI Lab、及西京医院合作,在Nature Communications发表了题为De novo generation of SARS-CoV-2 antibody CDRH3 with a pre-trained generative large language model的研究论文。该研究开发了一种新型的预训练大语言人工...
从这一角度来看,如果模型在推理过程中使用了多种不同的思路来解决问题,那么这种多样化的探索不仅有助于加深模型对问题的理解,还体现了模型的自主探索能力,不应简单地视为 “过度思考”。为了更深入地剖析这一问题,研究团队进一步提出了一种分析方法。他们利用 GPT-4o 对模型的回答进行分类,具体包括以下步骤:...
近日,人大高瓴联合腾讯 AI Lab、清华、斯坦福等机构发布综述论文:《A Survey of Geometric Graph Neural Networks: Data Structures, Models and Applications》。该综述在简要介绍群论、对称性等理论知识的基础上,从数据结构、模型到众多科学应用,对相关几何图神经网络文献进行了系统的梳理。
此外作者还利用 GPT-4 对 LLM 在测试集上的回复进行了评价。如下图所示,通过 APO 训练的模型可以相比于 RJS 基线获得显著提升。 3. 总结 本文提出了一种新的人类偏好对齐训练范式 APO,通过 RM 和 LLM 进行对抗的方式,可以在不增加标注数据量的前提下进一步增强 RM 和 LLM 的表现,同时缓解 LLM 的样本分布偏...
人大高瓴联合腾讯AI lab、清华、斯坦福等发布 2023 年 11 月,Nature 连续刊登了两篇重大成果:蛋白质生成方法 Chroma 和晶体材料设计方法 GNoME,均使用了图神经网络作为科学数据的表示工具。 实际上,图神经网络,特别是几何图神经网络,一...
从这一角度来看,如果模型在推理过程中使用了多种不同的思路来解决问题,那么这种多样化的探索不仅有助于加深模型对问题的理解,还体现了模型的自主探索能力,不应简单地视为 “过度思考”。为了更深入地剖析这一问题,研究团队进一步提出了一种分析方法。他们利用 GPT-4o 对模型的回答进行分类,具体包括以下步骤:...