基于模型的优化(Model-based Efficient Reasoning):这类方法着眼于模型本身,旨在将已有的全长推理模型优化成更简洁的版本,或者直接训练出能够进行高效推理的模型。这就像我们人类学习解题技巧,熟练之后就能跳过一些不必要的中间步骤,直接找到答案。 基于推理输出的优化(Reasoning Output-based Efficient Reasoning):这类方法...
在这些用例中,他们发现 o1 的推理能力 (reasoning capability) 在发现输出文本中的细微差别方面具有颠覆性的作用,适用于最困难和最复杂的评分任务。” —Braintrust, AI 评估平台 如何有效地提示推理模型 这些模型在直接提示下表现最佳。一些提示工程技术,例如指示模型“逐步思考”,可能不会提高性能(有时甚至会阻碍性能...
没想到,现实中的大模型竟也上演了类似剧情:当被问到“a的值是多少”这种无解问题时,某顶尖推理模型疯狂输出几千字“思考过程”,最后硬憋出个“2”…… 左侧是《银河系漫游指南》的42,右侧是LLM生成的长篇大论 论文:Missing Premise e...
NYU发现Reasoning模型有第六感！可提前预判答案，少干活还拿高分 老话常谈，推理模型的“过度思考”是什么？比如解一道数学题，它明明已经算对了，却还在反复验算，甚至尝试其他方法。这就是论文提到的“过度思考（Overthinking）”现象。现有的大模型（如DeepSeek-R1、GPT-4等）虽然擅长数学和逻辑推理，但总爱“多此...
啊？强大的Reasoning模型仍需好的prompt，性能暴增23 过去人们认为，像ChatGPT这类“大脑发达”的LLM模型，只需简单指令就能完美执行任务。但这篇论文通过事件提取任务（例如从新闻中识别“公司破产”“法律诉讼”等事件）证明：即便是最先进的大型推理模型（LRM），也需要精心设计的“说明书”——即Prompt。实验数据...
Reasoning模型也进化到2.0了,这次居然学会用工具了!✨ 最近有个叫START的方法,让大模型也能学着用工具,比如自己调用代码解释器,来提升推理和解决问题的能力。 具体怎么实现的呢?它会把「思考链」和「工具调用」结合起来,给模型配上了自查、自我探索和自己修bug的能力。简单说,就是教模型边想边动手,用工具解决推理...
Video-R1：第一个多模态视频Reasoning方法+模型，7B小模型逆袭！视频理解是AI领域的“高阶技能”——不仅要识别画面中的物体，还要分析动作的前后逻辑（比如“为什么球会滚到这里？”）。然而，现有的多模态大模型（MLLMs）在视频推理上有两大难题：为了解决问题，Video-R1团队祭出两大“杀手锏”：算法升级：T-GR...
在本视频中,我们将研究多家不同公司推出的新型开源推理模型,并将它们与 OpenAI 替代方案进行比较。这有助于我们了解开源和开放权重模型与 OpenAI 的专有模型相比有多落后。 DeepSeek R1 聊天:https://chat.deepseek.com/ DeepSeek 信息:https://api-docs.deepseek.com/news/ne... Qwen QwQ 博客:https://...
最近Reasoning Model(推理模型)异常火爆,Kimi 和 DeepSeek 陆续推出自家的产品 K1.5 和 R1,效果追评甚至超过 o1,也引起了大家的关注,甚至 OpenAI 也慌了。 我也第一时间体验了下产品的效果,推理能力确实惊艳。也非常好奇到底用了什么技术。国内的 LLM 开源玩家算是比较良心的,模型开源的同时,一些技术细节也都发表...
Beginner's Guide to transforming a model like Llama 3.1 (8B) into a reasoning model by using Unsloth and GRPO.使用 Unsloth 和 GRPO 将 Llama 3.1 (8B) 等模型转换为推理模型的初学者指南。 DeepSeek developed GRPO (Group Relative Policy Optimization) to train their R1 reasoning models.DeepSeek...