要是眼前有两个 AI 助手：一个很聪惠但频繁不守轨则，另一个很听话但不太聪惠开云体育(中国)官方网站，你会奈何选？

最近，上海东说念主工智能实验室与香港华文大学的商议团队发布了论文《Scaling Reasoning, Losing Control: Evaluating Instruction Following in Large Reasoning Models》，通过一个全新的评测基准MathIF揭示：

大模子越擅长复杂推理，越容易忽略用户的指示条目，"聪惠"和"听话"之间存在显著的矛盾。

这项责任的灵感，源自骨子使用推理模子（如 o3）经过中的一个偶而发现：比较很多经过强化推理西宾的大模子，GPT-4o 在试验具体指示时反而愈加"听话" 。也恰是这种"越聪惠、越不听话"的着实体验，让商议团队驱动系统性地商议推理身手与指示随从之间的干系。

这一商议也引来� � 闻明博主的转发：

商议揭示越擅长数学推理的模子反而越难十足死守指示，同期分析了模子大小与效能性的非正关联风景，强调了推理身手与指示死守之间的衡量。

MathIF：洽商推理模子"听话进度"的新基准

MathIF 基准特意针对数学推理任务，历练 AI 模子是否严格死守用户给出的指示条目。这些条目包括步地、讲话、长度和特定关键词使用，均可通过设施自动考证。

MathIF 由来自不同难度的数学题目构成，涵盖了检朴单的数常识题（GSM8K）到复杂的数学竞赛题目（AIME）。每个题目都会附带具体而明确的指示，比如："谜底必须以一句华文无缺作答，不成有充足讲明注解。"

此外，MathIF 还遐想了单一指示、双重指示和三重指示的组合情形，以测试模子在不同敛迹复杂进度下的发达。模子不仅需要正确解题，还要严格死守这些指示条目。

自动评分设施会精准搜检谜底是否合乎每个具体的指示范例，分袂以硬准确率（HAcc）和软准确率（SAcc）洽商模子的效能进度：HAcc 暗意是否一王人指示都被雀跃，而 SAcc 则响应每条指示的平均雀跃比例。

△图表 1 MathIF 的指示类型越聪惠越不听话？实验揭示"聪惠"与"听话"的矛盾

商议团队使用 MathIF 评测了23个刻下主流的大模子。这些模子包括不同的参数规模和西宾形状，涵盖从数十亿到数百亿参数的多样类型。

实验效果令东说念主偶而：在数学推理身腕发达越出色的模子，反而更难十足死守用户给定的指示条目。即使是发达最好的模子Qwen3-14B，也只可告捷死守一半的指示教唆。

此外，模子的大小与其死守指示的身手并不呈正关联，致使有时会出现负关联——即更大的模子并不一定更守轨则。一些较小的模子反而更善于严格试验用户的指示。

指示死守（instruction-following）与数学推理身手（mathematical reasoning）之间存在一种衡量干系（trade-off）。也即是说，当模子在推理身手上发达得更强时，它不异更容易忽略或违背用户的具体指示。

△图表 2 23 个大推理模子在 MathIF 上的发达

模子按效能性（HAcc + SAcc）发达从高到低排序。表中†象征暗意该模子仅通过监督微调（SFT）西宾，未使用推理导向的强化学习门径。粗体 + 下划线标记则分袂代表各列算计打算中的前两名与后两名。

为什么聪惠模子更"不听话"？

商议团队进一步分析了这个风景背后的原因：

原因一：推理导向的西宾模式

商议发现，旨在强化模子推理身手的西宾形状（如监督微调（SFT）和强化学习（RL）），固然权臣擢升了模子的"身手"，却在一定进度上缩小了其对具体指示的明锐性。

这类模子不异更专注于怎样准确解题，而容易漠视诸如步地、字数等细节条目。正如图 3 所示，岂论是 SFT 照旧 RL，推理导向西宾固然擢升了解题发达，却多量导致模子在指示死守身手（HAcc 与 SAcc）上的下跌。

△图表 3 推理导向西宾政策的对比

其中 Avg. Acc. 暗意在扫数基准任务上的平均发达。绿色和红色配景分袂暗意相较于基础模子性能的擢升和下跌。

原因二：长推理链镌汰效能性

模子输出的推理经过越长（"链式想考"越复杂），越容易"健忘"指示条目。长段的复杂推理经过，容易让模子提神力漫衍，临了导致扞拒用户指示。如下图，将模子的推理效果按照长度进行分桶，推理长度越长，模子的指示死守准确率越低。

△图表 4 不同推理链长度区间下的 HAcc 和 SAcc 发达

长度分桶编号越大暗意生成的推理链越长。

商议团队通过实验进一步考证了这一风景：当模子被辅导生成更长的推理经落后，其死守指示的准确率会显著下跌。

具体作念法是，在模子推理齐备前东说念主为添加" wait "等教唆，迫使其接续延迟想考经过，从而生成更长的推理链。如下图所示，"想考越多"，模子对指示的试验反而越不准确。

△图表 5 模子指示随从身手的变化趋势

此外，商议团队还通过在西宾阶段适度模子的推理长度，进一步不雅察其指示随从身手的变化。

具体而言，他们在强化学习（RL）的 rollout 阶段征战最大生成长度适度，进步该长度的回应将无法得回奖励，从而障碍压缩模子的推理链长度。

从下图不错看出，适度推理长度有助于权臣擢升模子的指示死守身手（HAcc 和 SAcc）。当最大长度适度在 1k 以内时，模子在效能性方面的发达致使进步了原始基线模子。

然则，这种擢升也带来了代价：模子的数学推理身手显著下跌，发达出"听话"和"聪惠"之间的衡量干系。

△图表 6 RL 西宾中最大响应长度的影响

红色区域暗意相较于基础模子（Original）性能下跌，颜料越深暗意下跌幅度越大。

这些风景进一步印证了商议团队的论断：偏向生成更长推理链的推理导向西宾，不异会在偶而中缩小模子对指示的死守身手，突显了推理身手与指示效能性之间恒久存在的衡量干系。

小手段：让模子更"听话"的简短门径

商议者也尝试了一个简短的门径改善模子的"听话进度"：在模子推理齐备后，输出谜底之前，再次类似一遍指示条目。

效果清晰，这种门径拉近了指示和回应的距离，确乎有用擢升了模子的指示死守身手，但同期也略微镌汰了模子回答问题的准确率。模子为了死守王法，不得不阵一火少许我方的数学推理身手。

△图表 7 通过在推理后类似指示擢升指示死守身手。

刻下主流的推理导向西宾形状，固然权臣擢升了模子的解题身手，却不可幸免地缩小了其对指示的死守身手。AI 的"聪惠"与"听话"之间，正靠近一场难以长入的矛盾。

将来，MathIF 基准有望构建既能深远想考，又能严格守轨则的大模子。

论文地址：https://arxiv.org/pdf/2505.14810

Github 地址：https://github.com/TingchenFu/MathIF

一键三连「点赞」「转发」「小心心」

接待在挑剔区留住你的方针！

—  完  —

� � 点亮星标 � �

科技前沿进展逐日见开云体育(中国)官方网站