老色哥首发 AI算不出9.11和9.9哪个大？六家大模子厂商回来了这些原因
对于“9.11和9.9哪个大”，这么一齐小学生难度的数学题难倒了一众海表里AI大模子。7月17日，第一财经报谈了国表里“12个大模子8个齐会答错”这谈题的时事老色哥首发，大模子的数学才调引发筹划。
“从技巧东谈主员的角度看答错这个问题并不诧异。”在采访中，阿里通义实验室居品司理王晓明对第一财经默示，雷同的问题是一个常见的数学计较和逻辑推理的问题，亦然在模子检会和使用的流程中研发者常进行测试的case（案例），大模子“答对”或“答错”其实是个概率问题。
除了通义千问外，第一财经记者也考虑并采访了多家大模子厂商，腾讯混元团队、月之暗面Kimi、MiniMax海螺、学而念念九章、网易有谈等齐在采访中解答了大模子数学差的问题。
详尽回复来看，大模子厂商考虑崇拜东谈主提到的不雅点包括，大模子还莫得精确掌控数字间的运算或比拟章程，同期，东谈主类对大模子的才调探索处于特地早期的阶段。多名业内东谈主士觉得，将来需要增强底层基础模子的智能水平，以及从检会数据层面和外部器具层面去处分这么的造作，最终决策可能是种植下一代模子的才调。
当天志者对大模子进行了再次测试，发现渊博大模子比拟数字大小的才调仍然不褂讪。不外，有大模子厂商考虑东谈主士提到，行业正在对数学才调进行突出优化。
“大模子出错以及此前大模子在高考数学卷中拿分低，可能是因为所测的模子比拟老，这些模子莫得在数学方面作念太多优化，咫尺业界对此有所喜爱，优化后恶果照旧有种植空间。”大模子配置者刘亮（假名）告诉记者。
答对答错是概率问题
7月18日，第一财经记者再次测试了12个大模子，发现AI的谜底并不褂讪，不少大模子即即是用归并个问法测试也会时对时错，数字规则换一下谜底有可能就有变化。
在发问“9.9和9.11哪个大”时，百度文心一言、腾讯元宝、智谱清言、MiniMax海螺AI、百川智能百小应5个大模子问答对了，GPT-4o、阿里通义、月之暗面Kimi、阶跃星辰跃问、字节豆包、商汤考虑、零一万物万知7个大模子答错了。
当记者将数字规则换为“9.11和9.9哪个大”时，GPT-4o和阶跃星辰跃问又部分答对了。同期，不同的东谈主用归并个大模子问相似的问题，也会有两种谜底，比如通义千问、海螺AI在两位记者的测试中，一位测试发现输出谜底准确褂讪，另一位在测试时则收到了波折的谜底。
不褂讪的输出背后，大模子的架构和运行机制是中枢问题，这导致AI的回答并不是每次齐一样。
王晓明告诉记者，大模子并不会像东谈主类一样把“9.11和9.9哪个大”看成比大小的问题，大模子的解答方式是“计划下一个词”。从旨趣上看，咫尺包括通义千问等大模子大多基于Transformer架构，技巧旨趣实验上是作念“Next Token Prediction”，即通过现时输入的文本计划下一个词出现的概率来进行检会和回答。
因此，从概率的角度看，大模子的准确率不可能作念到100%。王晓明默示，即便用户每次问调换的问题，大模子的回答和准确率可能齐是变动的，大模子“答对”或“答错”其实是个概率问题。
腾讯混元团队有雷同的想法。“大模子全称是谈话大模子，从海量文本里学习各式谈话知识。它是一个概率模子，将输入文本休养成一个个token（词元），然后去计划下一个token，并不精确的掌捏数字之间的运算或比拟章程（衰败这类数学知识）。” 腾讯混元团队默示。
腾讯混元团队告诉记者，给定9.11、9.9，大模子可能就按谈话长入觉得少许点11比9大，从而波折地判断9.11大于9.9。由于大模子自身是一个概率模子，要让它在各式情况下齐能褂讪的处分这种数值计较或比拟问题比拟难。
发问技能很进犯
基于大模子的中枢架构和运行机制问题，发问的技能也会很猛进度影响模子的长入，从而影响谜底的准确度。
“大模子不以东谈主类的念念路长入问题，在东谈主类的长入里，9.11大照旧9.9大这个问题很浅薄，但在数字的天下里这个问题是蒙眬的。”刘亮觉得，在大模子的长入里，东谈主类问的问题粗糙不够精确，数字有多种进制，也有不同指代，大模子要从什么角度回答齐是问题。
MiniMax海螺AI居品司理起迪提到，“题目中的数字口头雷同于日历或版块号，模子在处理数字、字符串等数据时容易产生波折。”另别称大模子从业也告诉记者，“大模子也有可能是看多了版块号，觉得9.11版块比9.9版块更新，或者是对这两个数字有其它祈望。”。
“它（大模子）实验上照旧一个谈话模子，它从谈话数据中学习的是统计考虑性，而这使它不擅长作念章程学习，从而不擅长归纳推理。”网易有谈首席科学家段亦涛也对第一财经默示，大模子可能在语料中看到版块号、日历、书的章节等样例，而在这种场景下，9.11确凿是比9.9大，是以它可能给出波折的谜底。
段亦涛默示，咫尺大模子不具有天真的inductive bias（归纳偏倚）的机制，雷同9.11和9.9哪个大，以及算数运算、奇偶校验、字符串复制等其他的任务，齐属于inductive inference（归纳推理）的任务。从机器学习的角度来看，若是但愿大模子赢得这么的才调，需要一个归纳学习的流程。
学而念念CTO田密觉得，在大模子的长入中，9.11可能被拆分为“9”“.”和“11”，而9.9被拆分为“9”“.”“9”，这内部11照实比9要大。但若是改下问法，问大模子“哪个数字更大？9.9照旧9.11”，或者让大模子step by step（迟缓）分析，大模子可能就能作念对，“这是因为大模子长入用户是要问一个数学题了，是以就会倾向于去用一个解数学题的方式去解。”
王晓明在采访中也分析了这一时事，他觉得，这与模子自身预置的数理逻辑包括检会数据等均考虑，大模子在检会阶段碰到的场景若是更接近“哪个更大？9.11和9.9”，它回答这种问法的准确率就会更高。
记者测试发现，部分大模子照实会因为准确地形色问题、发问技能而变嫌为正确的回答，但不是对整个大模子齐灵验。
记者磋议ChatGPT-4o时，若是径直发问“9.9和9.11哪个大”，这么的问法大模子的谜底就是波折的，但若是发问的内容改成“哪个数字更大？9.11照旧9.9”，ChatGPT会径直给出正确的谜底。
记者将范围设定为严谨的十进制下的数字比拟，Kimi得出的谜底依然是9.11比9.9大。
记者也测试了零一万物万知，即便截至为数学语境下的数字比拟（幸免版块、日历的语境），万知仍然答错，关联词若是变嫌发问方式，条款大模子“给出解答念念路”（即step by step分析的方式），同期默示答对答错会授奖励或刑事背负（强调谜底的进犯性），万知就答对了。
紫色面具 萝莉
在大模子的答题测试中，一个意念念意念念的时事是，当模子回答波折，发问者质疑或者否定后，渊博大模子齐会转而承认波折，并给出了正确解答流程和谜底。
对于这种“改良”才调，王晓明解说，这一方面是大模子计划的就地性，第二循环答本就有出现正确谜底的可能，另一方面，由于大模子具备高下文长入才调，使用者的追问实验就雷归并个调教大模子的流程，大模子会左证使用者的追问作为其下一轮计划的基础，提高其准确率。
腾讯混元团队告诉记者，现时大模子大多具备反念念才调，当用户质疑大模子谜底的时刻，引发了大模子的反念念才调，它会尝试去修正启动回答或尝试用另一种念念路解题，从而种植解答正确的概率。
起迪将这回来为一种波及念念维链的技能，通过指点模子迟缓久了念念考，模子能够提供更详备的解题要领，这在处分数学等复杂问题时有助于赢得正确谜底。“用户与AI之间的多轮对话实验上可以视为一种念念维链，模子在长入问题后会愈加严慎地进行推导，从而提高解答正确率。”起迪说。
绝对处分需要大模子升级
答不出“9.9和9.11哪个大”的浅薄数学问题，但又可以帮东谈主类作念PPT、处分代码编程等复杂问题，折射出现时大模子的才调并不平衡。
腾讯混元团队告诉记者，对东谈主类而言不难、但对大模子而言很难的问题还有不少，比如雷同“I looooooove you”里有若干个o“这么的问题，这种数数问题是一个难点。此外，较大或位数比拟多的少许计较（波及多位数的四则运算等），又如波及知识和计较的单元休养问题（举例0.145吨等于若干磅），以及当年常测的”林黛玉倒拔垂杨柳问题等知识或知识斥地型问题对大模子而言比拟难。
就难回答的数学问题，业内已在念念考大模子自身的局限和处分决策，大模子还未从根底上迭代的情况下，处分决策包括用户自身提高发问准确性、现存大模子采取一些取巧的步骤。
“绝对处分照旧要靠下一代模子升级，咫尺要处分需要通过hack（取巧）的方式。但换个问法、换个谈话来问，可能照旧会出问题。”有大模子从业者告诉记者。临时处分决策包括System Prompt（系统教唆），可以浅薄长入为指点大模子在固定范围内回答问题。
“举例告诉大模子，当碰到数字比拟问题的时刻，若是莫得更多高下文，就默许当成双精度浮点数，先补全空位，再从左到右纪律比拟。”上述大模子从业者告诉记者。
王晓明则坦言，大模子的封锁照旧在谈话方面，尽管技巧团队已在关心大模子在数学、物理等逻辑性场景下的才调种植，但大模子在这一方面存在着自身才调的适度。他告诉记者，使用大模子的流程中，用户发问方式、教唆词的优化也会影响到大模子回答的准确率，用户可在大模子使用中描摹更多发问场景、回答范围等。
而要绝对处分大模子数学才调差的问题，业内东谈主士觉得，数学才调不及的一大原因是大模子检会数据中数学考虑的数据占比少，要从根源上处分数学才调差的问题，需要从此脱手。
刘亮告诉记者，大模子算不出浅薄数学题，也作念不好高考数学试卷，根底上是因为模子才调不及，但这并不是全齐不可处分。此前业内对大模子数学方面才调的优化较少，在数学推理方面花的元气心灵较少。作念检会语料筛选时，东谈主们从互联网等方位获取数据，其中数学考虑的数据占比特地少，选得较多的是天然谈话考虑的语料。当检会数据莫得符合配比和筛选时，大模子参数中数学考虑的只分了很少一部分，恶果天然不好。
“但大模子也曾展现出较好的逻辑才调，举例写代码才调还可以，加上业内对大模子数学才调逐步喜爱起来，通过选用更优质的检会数据、用更好的算法，我觉得大模子数学方面的后劲照旧很高。”刘亮默示，天然业内也有质疑大模子计划下一个词元的方式能否作念好数学题的声息，但这种方式还有许多后劲待挖掘，天花板还不可细目。
腾讯混元团队觉得，要克服大模子不懂数学的问题，一个主要的技巧优化点就是给大模子高质料的范围（包括数学）知识数据检会，使其能够学习到范围里的各样知识。
在测试“9.9和9.11哪个大”的问题时，学而念念的九章大模子(MathGPT)给了对的谜底，田揭发诉记者，九章大模子的特色是针对数学检会了迷漫多的数据，并且这些数据是用AI合成的数据，再来检会AI，大模子的通晓流程是模拟学生学习数学的流程，一步步推导。
田密觉得，就数学方面教会范围的容错率较低，教会科技公司有迷漫多、专科的数学数据去作念检会，“通用大模子把这谈题当成一个通用的题来处理，而针对数学范围检会的九章大模子知谈它是一齐数学题，可以用数学的方式一步步推理。”
提供高质料检会数据以外，腾讯混元团队告诉记者，另一个技巧优化点是集成外部器具才调（举例计较器、代码实施器等）来拓展模子才调，进一步提高处分问题的服从和准确性。起迪也相似提到，大模子若是在摄取到一些数学问题时，能够主动调用器具来解答，就可以大幅提高准确率。
在月之暗面的恢复中，考虑崇拜东谈主提到，咱们东谈主类对大模子的才调探索齐还处于特地早期的阶段，不论是大模子能作念到什么，照旧大模子作念不到什么。 “咱们特地期待用户在使用中能够发现和讲演更多的范围案例(Corner Case)。不管是最近的‘9.9和9.11哪个大、13.8和13.11哪个大’，照旧之前的‘strawberry有几个r’，这些范围案例的发现，有助于咱们加多对大模子才调范围的了解。”
（著作起首：第一财经）老色哥首发