首页 资讯 正文

WWDC前夕,苹果论文“炮轰”AI推理模型“假思考”,测试方法遭质疑

体育正文 251 0

WWDC前夕,苹果论文“炮轰”AI推理模型“假思考”,测试方法遭质疑

WWDC前夕,苹果论文“炮轰”AI推理模型“假思考”,测试方法遭质疑

当地时间6月6日,苹果机器学习研究中心(zhōngxīn)发表论文《思考的幻象:通过问题复杂性的视角理解推理模型的优势与局限》。论文作者(zuòzhě)包括(bāokuò)谷歌(gǔgē)大脑联合创始人Samy Bengio(图灵奖得主Yoshua Bengio的弟弟)。

该论文认为,现有(xiànyǒu)的推理模型看似会“思考”,但其实并没有稳定、可理解的思维过程,所谓的推理思考只是一种(yīzhǒng)“幻象”。

论文发布后(hòu)引发AI圈热议,被部分(bùfèn)观点解读为“苹果(píngguǒ)否定所有大模型的推理能力”。也有研究人员提出反驳(fǎnbó),认为苹果的测试方法存在问题(wèntí)。AI研究者Lisan al Gaib在复现论文中的汉诺塔测试后发现,模型根本不是因为推理能力不佳而失败,而是因为输出token限制。

图片来源(láiyuán):论文《思考的幻象:通过问题复杂性的视角理解推理模型(tuīlǐmóxíng)的优势与局限》

苹果“炮轰”AI推理模型:所谓的(de)思考只是一种“幻象”

论文指出,OpenAI、Anthropic、谷歌和DeepSeek等公司(gōngsī)纷纷推出带有“链式思考”(Chain-of-Thought,CoT)能力(nénglì)的模型(móxíng),并声称它们更(gèng)接近“类人思维”。

然而,该(gāi)论文认为,现有的推理模型看似会“思考(sīkǎo)”,但其实并没有稳定、可理解的思维过程,所谓的推理思考只是一种“幻象”

苹果团队认为,在实验设计上,现有评估主要集中在既定的(de)数学和编码基准(jīzhǔn)上,通过判断模型最终(zuìzhōng)答案是否正确来评估其能力,这种方式可能(kěnéng)存在数据污染,即模型在训练时可能见过类似题目。此外,这些评估大都缺乏对“思考过程质量”的分析。

为此,苹果团队设计了四类谜题环境,包括汉诺塔(hànnuòtǎ)、跳棋交换、过河问题和积木世界,通过精确控制(kòngzhì)谜题难度,来测试(cèshì)推理模型的推理能力

图片来源:《思考的(de)幻象:通过(tōngguò)问题复杂性的视角理解推理模型的优势与局限》

推理模型并未解决模型能力瓶颈(píngjǐng)

实验结果显示(jiéguǒxiǎnshì),面对低复杂度任务,非(fēi)推理模型比与之对应的推理模型更准确高效(gāoxiào)。当问题复杂度适度增加,推理模型优势显现,性能超过非推理模型。

当问题难度超过一定临界点时,两类模型性能均严重下降,准确率为(wèi)零。这表明,推理模型并没有实际性地解决模型的能力(nénglì)瓶颈。

图片来源:《思考的幻象:通过问题(wèntí)复杂性的视角理解(lǐjiě)推理模型的优势与局限》

面对难题,直接(zhíjiē)“躺平”

同时,研究还发现,随着问题复杂度的增加(zēngjiā),推理模型在初期会投入(tóurù)更多的思考(sīkǎo)token。然而,当问题难度达到某个临界点时,模型推理能力就会发生崩溃,思考不增反降。

这表明,推理模型似乎存在一个内在的“缩放(suōfàng)限制”。当它预感到问题过于困难无法解决时(shí),即便有充足的计算预算(yùsuàn)(token limit),它也会选择“躺平”,减少思考的努力。

过度思考,连“抄(chāo)作业”都不会

此外,研究人员不仅关注最终答案,还(hái)分析(fēnxī)了推理痕迹——即给出答案之前生成的逐步“思考”过程。他们(tāmen)发现,在简单的问题中,模型(móxíng)往往在早期就找到了正确的解决方案,但随后继续进行不必要的思考

在中等复杂度的(de)问题中,模型往往在推理过程中走错路径,最终(zuìzhōng)在“思考”的后期才找到正确的答案。但在高复杂度的问题中,准确度为零,推理变得混乱或(huò)不连贯。

更令人担忧的是(shì),在(zài)汉诺塔任务中,研究人员直接在提示词中提供了完整的解题算法,要求模型仅仅是“执行”这个算法。但模型的表现没有任何改善,依然在相同的复杂度(fùzádù)上崩溃。

苹果论文引争议:测试设计存在(cúnzài)缺陷?

苹果此次(cǐcì)发布的论文在AI圈引发了不小的争议。

AI研究者Lisan al Gaib在(zài)复现论文中的(de)汉诺塔测试后发现,模型根本(gēnběn)不是因为推理能力不佳而失败,而是因为输出token限制

也就是说,不是模型(móxíng)不会解答,而是无法输出如此多的内容。

GitHub软件工程师Sean Goedecke称(chēng),存在复杂性阈值并不意味着推理模型“实际上(shíjìshàng)并不推理”

Sean表示,即使没有推理到第十一步,但前十步(shíbù)仍是在推理。“根据我自己测试的结果(jiéguǒ),模型很早就决定数百个算法步骤太多(tàiduō)了,根本无法尝试,因此它们干脆不开始。”

Sean举了(le)一个例子,“有多少人能坐下来正确地算出一千步汉诺塔?有很多人能做到,但也有很多做不到。那么,那些算不出(suànbùchū)答案的(de)人就没有推理能力吗?当然有!他们只是没有足够的认真和耐心去(qù)手动完成一千次算法的迭代。”

著名AI越狱(yuèyù)提示词专家Plenny the Liberator直言,如果我(wǒ)是苹果CEO,看到我的团队(tuánduì)发表一篇只专注于记录当前方法局限性的论文,我会当场解雇所有参与者。

AI博主henry表示,“苹果作为世界上最富有的公司,拥有无与伦比的优势,全力押注人工智能(réngōngzhìnéng),许下(xǔxià)无数承诺,但被所有人瞬间超越。赛程已进行两年,却一无所获,于是写了这篇(zhèpiān)论文说(shuō)这一切都是不重要的。”

WWDC在(zài)即,苹果“酸了”?

图片来源:苹果官网截图(jiétú)

部分观点认为(rènwéi),苹果发布质疑推理模型能力的论文是“吃不到葡萄说(shuō)葡萄酸”。

北京时间6月10日(rì)凌晨1点,苹果年度开发者大会(WWDC 2025)即将拉开帷幕。然而,外界普遍认为,这次活动(huódòng)在AI方面的进展可能有限,备受期待的Siri升级也将继续(jìxù)缺席。

据外媒报道,此次WWDC上苹果在AI方面的(de)更新不会带来太(tài)多惊喜。科技记者马克·古尔曼发文透露,苹果今年WWDC中关于AI的内容预计会比较少,甚至可能“令人失望(shīwàng)”

在去年WWDC上发布苹果智能(zhìnéng)(Apple Intelligence)时,苹果曾高调宣布对语音助手Siri进行“彻底重构”,新(xīn)Siri应该更聪明、更懂用户、能够理解并执行复杂任务(rènwù)。然而,一年(yīnián)过去,Siri的升级却迟迟未见实质性进展。

据多位前苹果员工透露,苹果AI领域的进展不顺,部分原因(yuányīn)在于公司内部(nèibù)领导风格的差异和组织间的协作问题

另一方面,苹果在AI领域的(de)探索,也受到了技术(jìshù)路线选择(xuǎnzé)和(hé)隐私政策带来(dàilái)的双重影响。苹果一直以来引以为傲的“隐私至上”原则,在AI时代给其带来了一些新的负担(fùdān)。一位熟悉苹果AI和软件开发工作的人表示:“在苹果公司开发AI的过程中,做任何事情都可能遇到很多‘不’,你必须与负责隐私的部门反复沟通协调才能推进工作。”

WWDC前夕,苹果论文“炮轰”AI推理模型“假思考”,测试方法遭质疑

欢迎 发表评论:

评论列表

暂时没有评论

暂无评论,快抢沙发吧~