(换肤)
语言：
文章编号：8896时间：2025-02-03人气：
随着DeepSeek和o1/o3一类推理大模型的持续突破，人们开始探索它们的潜在弱点。
最新研究揭示了一个令人惊讶的现象：在面对高难度问题时，这些推理大模型表现得如同三心二意的学生，频繁切换解题思路，却因缺乏深入探索而失败。
这种现象被研究者称为“Underthinking”（欠思考）。
研究团队来自腾讯AI实验室、苏州大学和上海交通大学，主要针对开源的DeepSeek-R1和QwenQwQ系列模型进行研究。
这些研究团队通过分析AI的错误答案，发现当前的推理大模型虽然在早期就能走上正确的路线，但它们倾向于浅尝辄止，很快开始探索别的思路。
这导致后续生成的数千个tokens（文本中的最小单位）对解题毫无贡献。
这种无效努力不仅浪费计算资源，还显著降低了答案的正确率。
这种现象在解决更为复杂的任务，如数学竞赛题时尤为明显。
为了系统分析这一现象，研究团队在具有挑战性的测试集MATH500、GPQADiamond和AIME2024上进行了实验。
结果显示，类o1模型在错误回答中比正确回答多消耗了225%的token，主要原因是思维切换频率增加了418%。
为了深入理解这一现象，研究团队还开发了一套评估框架，用于判断被放弃的推理路径是否实际上足以推导出正确答案。观察发现，许多模型在回答开头阶段的思路是正确的，但并未继续深入完成推理。超过7.0%的错误回答中至少包含一个正确的思路。超过一半的错误回答中，有至少十分之一以上的思路是正确的。这表明模型在探索正确的方向后过早放弃的可能性较大。例如在一个具体的例子中，模型在早期找到了一条合理的解题路径后，但未对其进行足够深入的探索，最终得出一个错误的答案。这种现象在多个测试案例中都有出现。同时实验表明不同数据集上模型的准确率和欠思考现象之间的关系呈现出一定差异性和复杂性这与模型对于特定任务的优化程度和适应能力有关
此外为了更好地量化欠思考的程度研究者们提出了一个指标UnderthinkingMetric该指标通过测量错误答案中的token使用效率来评估推理效率为理解欠思考现象提供了重要依据随着指标的深入研究我们能够更准确地评估模型的推理效率并找到改进的方向。同时我们也发现尽管一些模型整体能力更强但在面临不确定性时可能会生成更多的无效推理表现出更多的欠思考现象如何在提升模型性能的同时降低其欠思考倾向是未来需要重点关注的问题之一针对这一现象我们认为必须研究一种有效的方式来帮助AI更好地专注于解题过程提高解题效率和质量三、解决策略：思路切换惩罚机制借鉴人类考试策略研究者提出了一种思路切换惩罚机制ThoughtSwitchingpenaltyTIP该方法类似于考试时设定的规则：专注当前方法至少尝试一段时间后再换思路。在技术上通过调整参数惩罚触发思路切换的关键词降低这些词在解码过程中的生成概率迫使模型在当前路径上探索更久初步实验显示加入TIP的模型在数学测试上的准确率上升同时UTScore下降表明既减少了无效切换又提高了答案质量四、其他研究者的观察与解决方案几乎同时UCBerkeley教授AlexDimakis分享了类似的观察他们提出一个简洁解码的方法初步实验结果表示这种方法能有效提高模型的答题准确率表明简洁解码是一种实用的解决方案。这一系列的发现和研究为我们理解AI的推理过程以及优化其性能提供了重要的线索和工具五、结语当前的研究让我们更深入地理解了推理大模型在面对复杂问题时的挑战如何减少欠思考现象帮助AI更专注高效解答难题是未来研究的重点随着对这一问题认识的深入我们相信会逐渐找到解决方案使得AI在实际应用中展现出更高的效能和作用为人类提供更好的服务。随着研究的深入我们希望看到一个更加高效和智能的AI时代让AI成为我们的得力助手共同创造更美好的未来。
上一篇：揭秘银河L6EM的创新技术
下一篇：充电设施挑战亟待解决
内容声明：
1、本站收录的内容来源于大数据收集，版权归原网站所有！
2、本站收录的内容若侵害到您的利益，请联系我们进行删除处理！
3、本站不接受违法信息，如您发现违法内容，请联系我们进行举报处理！
4、本文地址：https://www.gosl.cn/hlwzxwz/714d8db49436a2b9581e.html，复制请保留版权链接！
高桩码头设计的智能化革新，方法与效率提升之道一、背景技术简述在港口工程中，高桩码头的建造是非常关键的一环，传统的码头设计方法需要大量人工计算和调整，设计过程繁琐且耗时，因此，对于高桩码头设计技术的智能化和自动化需求日益迫切，近年来，随着计算机技术的飞速发展，智能化设计方法在高桩码头设计中的应用逐渐普及，本文介绍了一种高桩码头设计方法、...。
最新资讯 2025-01-31 10:39:00
疫情新增这几个月以前的情况一、疫情概述近期，中国疾病预防控制中心发布的最新报告显示，关于全国新冠疫情的最新数据引起广泛关注，尤其在过去的几个月中，疫情新增情况有所波动，本文将回顾过去几个月的疫情新增情况，并分析其原因，二、疫情新增情况在不久前的一个时间段内，疫情确实呈现出了逐步累积的趋势，根据中疾控的报告，7月份全国新冠感染情况显示，...。
最新资讯 2025-01-30 22:35:53
母子看电影霸座，强制占位致300多人退票，社会应引起重视1月29日，在安徽蚌埠某电影院发生了一起观影霸座事件，一对母子因为嫌弃座位视线不佳，强行占据他人座位，引发了现场观众的强烈不满和冲突，此事在网络上迅速发酵，引发了广泛的社会关注和讨论，一、事件回顾当时，电影院内正在放映电影，唐探1900，，一对母子由于座位视线不佳，便强行占据后排...。
最新资讯 2025-01-30 17:29:30
拓普集团，搭乘人形机器人商业化快车，未来值得期待摘要，拓普集团近年来净利润持续增长，随着人形机器人商业化的临近，该公司能否抓住机遇成为市场关注的焦点，连续五年的净利润增长，展现出公司的强劲发展态势，同时，人形机器人领域的巨大市场空间为拓普集团提供了新的发展机会，本文将深入探讨拓普集团的发展历程、业绩预测、人形机器人领域的布局以及未来发...。
最新资讯 2025-01-30 09:18:03
巴西利亚天气预报，一周天气展望及三天详细预报巴西国家气象台近期对巴西利亚的天气进行了密切监测，并发布了一周的天气预报，据了解，未来一周巴西利亚的天气将会有明显的变化，其中前三天预报较为准确，后四天则可能存在误差，仅供参考，对于计划前往巴西利亚的朋友们来说，了解天气预报十分重要，一、未来一周天气展望未来一周，巴西利亚的天气将会呈现多变的...。
最新资讯 2025-01-30 03:04:27
全国社保基金理事会党组书记刘昆的背景及社保基金理事会的历任领导变动近日，财政部网站上更新显示新任全国社会保障基金理事会党组书记刘昆已加入财政部党组成员队伍，这位曾担任过财政部部长、党组书记的刘昆，现在又肩负起新的重任，领导全国社保基金理事会的工作，接下来，我们将深入探讨刘昆的背景以及全国社保基金理事会的历任领导变动，一、刘昆的背景刘昆...。
最新资讯 2025-01-29 20:47:39
英伟达RTX4070Super显卡的惊喜折扣与新品RTX5070即将上市IT之家于本月29日报道，英伟达最新显卡RTX4070Super目前在国内外电商平台掀起了一股不小的热潮，其在国内电商平台售价在四五千元左右，海外建议零售价为599美元，约人民币4352元，在这款显卡的新一波热潮中，一名幸运买家在沃尔玛的清仓销售中以超低折扣成功...。
最新资讯 2025-01-29 17:14:41
新款长城哈弗H6的底盘高度及性能解析一、底盘高度新款长城哈弗H6的底盘高度在空载状态下为190mm，满载时约为150mm，这一数据对于城市SUV来说相对较高，保证了良好的通过性能，汽车底盘高度即最小离地间隙，是指汽车在最大荷载下底盘与地面之间的最短距离，直接关系到汽车的通过能力，作为定位城市SUV的车型，哈弗H6的底盘设计充分考虑了日...。
最新资讯 2025-01-29 13:22:02
标题，NASA与洛克希德·马丁发布X，59超音速验证机新照，向静音超音速飞行迈进IT之家1月27日消息，美国国家航空航天局，NASA，近日公布了X，59超音速验证机的新照片，标志着该型验证机在研发过程中取得了重大进展，通过成功进行加力燃烧室测试，X，59向实现静音超音速飞行迈出了重要的一步，一、X，59超音速验证机的研发背景X，59超...。
最新资讯 2025-01-28 21:00:17
小红书的全球化之路，从TikTok难民到英语角现象近日，有网友发现小红书突然变成了英语角，满屏的英文帖子让人仿佛置身于一个国际化的社交媒体平台，这一现象的背后，源于TikTok在美国的法律困境，使得大量TikTok用户转向小红书，引发了广泛的关注和热议，本文将围绕这一事件展开分析，探讨小红书的全球化挑战与机遇，一、小红书的英语角现象1...。
最新资讯 2025-01-27 21:20:05
