网通社科技快报

216次实验验证深度思考开关提升研判正确率0.26 成本近乎零

一项覆盖216次调用的对照实验系统评估了大模型在深度研判任务中的三种优化策略:开启深度思考、升级模型档位、套用五步研判方法论。实验采用三事件九题标准数据集(含吉隆口岸泥石流等),通过BM25统一检索生成2.6万字符证据包,控制输入变量,聚焦推理层效果。八种配置(lite/pro × 思考开/关 × 朴素/五步法)各重复三次,全部经方舟Agent Plan端点执行,temperature=0.3,主指标为立场判定正确率。

结果显示:开启深度思考是唯一在所有配置中均显著提升正确率的变量——lite模型从0.33升至0.56(+0.23),pro模型从0.44升至0.70(+0.26);而单纯换用pro模型在思考关闭时仅+0.11,且开启思考后lite与pro差距缩至0.07,说明高阶模型潜力需依赖思考机制释放。五步研判法在lite上提升正确率+0.15,但在pro上反降0.07,推测强模型隐式推理被显式约束干扰;但该方法显著改善证据F1与引文真实率,尤其抑制弱模型幻觉。

成本分析显示:最低成本配置(lite+思考开+朴素)0.05元/题,正确率0.56;最高成本(pro+思考开+五步法)0.41元/题,正确率0.70;性能差0.14,成本差8倍。而仅开启思考开关成本增量≈0.001元/题,正确率跃升0.23。实验设双重质量防线验证可靠性:自评器八题满分,负对照组全输出“无法判定”,确认测的是材料内推理能力。

研究强调,当前瓶颈不在参数规模而在推理过程显式化;在检索结果给定前提下,优先激活思考能力比盲目升级模型更具实操价值。该结论适用于情报、法律、金融等高风险场景,提示企业可先部署轻量级推理增强模块,而非等待更大模型。