这项由Hexo Labs（好意思国帕洛阿尔托、比利时布鲁塞尔、加拿大多伦多三地团队连合）及英国牛津大学共同完成的盘考，以预印本阵势发布于arXiv平台，论文编号为arXiv:2605.27276，最新版块于2026年5月28日更新。

---

一、AI进化的"瓶颈"——为什么东说念主类成了最大的按捺？

每当咱们谈到东说念主工智能越来越弘大，背后其实有一个很少被说起的前提：这些AI系统的每一次高出，险些都离不开东说念主类工程师和盘考东说念主员的躬行介入。从当先熟悉模子，到颐养参数，再到搭建各式外围用具，东说念主类一直是统统这个词历程里无法概略的重要。不错打个譬如，咫尺的AI就像一个资质极高的学生，但这个学生每次想要栽种我方，都需要淳厚手把手地帮他修改学习谋划、更换课本、颐养作息——学生我方无法寂然完成"自我升级"。

这种对东说念主类骚扰的依赖，恰是现时AI规模最中枢的"瓶颈"之一。Hexo Labs的盘考团队封锁到，要是能让AI系统在给定一个任务描画和一个评判门径之后，自行决定怎样改善我方——既不错颐养外部的"操作手册"，又不错修改里面的"想维方式"——那将是一次真实意旨上的冲破。SIA（Self Improving AI with Harness & Weight Updates，即"带有用具链和权重更新的自我立异AI"）恰是这一瞎想的具体罢了。

---

二、两条互不相交的盘考阶梯——各自的局限在那处？

在SIA出现之前，盘考界其实仍是有两条探索AI自我立异的阶梯，但这两条阶梯历久以来各利己战，从未真实交融。

第一条阶梯不错相识为"改装外壳"。盘考者让一个"元AI"（即一个专门负责立异其他AI的AI）不断修改任务AI的操作手册——包括它使用的用具、教导语、出错重试逻辑、输出默契方式等等。这就好像给一个厨师不断更换厨具、改写食谱、优化备菜历程，但厨师本东说念主的厨艺和知识储备长久不变。这类使命的代表包括Darwin Godel Machine、Meta-Harness、Hyperagents等系统。这条阶梯的共同发现是：反复修改操作手册，立异的常常是"历程服从"，而不是AI真实的规模相识技艺——有些知识，不管怎样改教导语，AI就是无法从里面"学会"。

第二条阶梯则不错相识为"强化内功"。盘考者野心好一套固定的熟悉历程，然后让AI在面临新任务时，通过自身发达的响应来颐养里面参数（也就是"权重"）。这就像让厨师通过反复烹调、品味、追溯，真实把新菜式的妙技内化为我方的本能。这类使命的代表包括TTRL、Discover-TTT等。但这条阶梯的问题在于，熟悉历程是东说念主工野心的、固定的，AI只可在既定的框架内学习，无法字据任务特色天真颐养学习战术。

这两条阶梯的共同弱势，就是"只用一只手"——要么只改外壳，要么只练内功，从未同期作念到两者。SIA的中枢孝顺，恰是初次将这两个行为融入一个斡旋的自动化轮回之中。

---

三、SIA的中枢野心——一个三角结合的自我进化轮回

SIA的举座架构不错用一个三角结合来相识。这个三角形的三个角，分别是"开动化巨匠"（Meta-Agent，元智能体）、"实施者"（Task-Specific Agent，任务智能体）和"响应老师"（Feedback-Agent，响应智能体）。

元智能体的职责是"开局"：给定一个任务描画和一些参考罢了，它负责为任务智能体生成一套开动的操作手册。这套操作手册包含系统教导语、用具调用逻辑、谜底索求代码等，是任务智能体起原使命的基础确立。

任务智能体是真实"干活"的扮装：它拿着操作手册，在一个受控的沙盒环境中对任务数据集进行处理，产生输出摈弃，同期纪录下无缺的实施过程日记——每一次模子调用、每一次用具使用、每一次输出索求，十足被纪录下来，这份无缺的日记被称为"轨迹"。

响应智能体则是这个轮回的中枢驱能源。它不单是看汇总的获利数字，而是拿到任务智能体的无缺轨迹，像一位有训诲的老师通常逐条分析那处出了问题、为什么出问题。分析完之后，响应智能体要作念一个关键决策：下一步，是修改操作手册（改外壳），如故触发一轮强化学习熟悉（练内功）？这个决策自己亦然动态的，依赖于不雅察到的任务类型和现时的立异瓶颈。

这个三角形不断轮回运转，直到用完预算的门径数为止。每一轮轮回，要么操作手册变得更好，要么模子的里面参数变得更好，要么两者兼容并包。统统这个词过程无需东说念主类骚扰，只需要在最起原提供任务描画和一个评判门径（即"考据器"）。

---

四、两个"旋钮"的具体运作——操作手册怎样更新，权重怎样熟悉？

操作手册的更新过程，投降一个固定的三步节奏：先让现时版块的任务智能体跑一遍数据集，网罗无缺轨迹；然后响应智能体分析这些轨迹，找出具体的失败模式；终末响应智能体生成一份立异诠释和一个全新的操作手册版块。在这个过程中，模子的权重保持不变，变化的只是"外部基础设施"——用具、教导语、默契逻辑、重试战术等。

为了防患操作手册因为过度适配某几个极端任务样本而失去通用性，元智能体在生成开动操作手册时会宣战到万般化的任务描画，这被称为"样本任务正则化"——近似于厨师在制定门径食谱时参考了来自不同地区、不同口味偏好的顾主响应，而不是只针对一桌来宾。

权重更新的过程则更像是一种定制化的强化熟悉。响应智能体并不会机械地套用归拢种熟悉算法，而是字据现时任务的特色和不雅察到的奖励信号漫衍，动态遴荐最合适的熟悉战术。在实验诠释的三个任务中，分别出现了三种不同的熟悉方式，这体现了SIA在熟悉战术遴荐上的天真性。

具体来说，当奖励信号相比密集、熟悉放心性是主要恐惧时，响应智能体会遴荐一种叫作念"PPO with GAE"的方法，这是一种带有专门"价值评估援救蚁合"的战术优化算法，大略让模子在不偏离已有技艺太远的前提下稳步立异。当任务的谜底考据发生在统统这个词解答完成之后、且不错快速并行生成多数尝试时，响应智能体会遴荐"GRPO"，这种方法不需要独特的价值评估蚁合，径直对一批尝试的摈弃进行相对排行，计较老本更低，并行技艺更强。当奖励信号相当寥落——也就是大多数尝试都失败、独一极少数尝试能产生有用信号时，响应智能体会遴荐"熵上风加权"方法，通过对少数顺利案例予以更大的学习权重，让模子从真贵的顺利训诲中最大戒指地招揽营养，防患有用的信号被多数失败的杂音消亡。

山猫2026世界杯赛事直播入口

此外，盘考团队还提到，在更普通的实验中（不限于论文慎重诠释的三个任务），响应智能体还不雅察到两种独特的战术：当奖励密集但主要风险是模子技艺退化时，会遴荐附加了"与原始模子相反处分项"的最浅易强化学习阵势；当奖励如斯真贵甚而于战术梯度信号险些为零时，会先进行"精英师法学习"——挑出少数发达最佳的尝试，让模子径直学习这些顺利案例，将基准顺利率栽种到一个合理水平，再切换到慎重的强化学习阶段。

---

五、三个真实战场——SIA在法律、计较机系统和生物学上的实验发达

为了考据SIA不是只对特定类型任务灵验，盘考团队遴荐了三个截然相背的规模来作念测试，并与此前最佳的已知摈弃进行了径直相比。

**法律规模：中语刑事罪名分类**

第一个测试来自法律规模，具体任务是LawBench——一个191类中语刑事罪名分类基准。给定一段真实案件的事实描画，模子需要从191种罪名中找出正确的那一个。这191种罪名涵盖了极为风雅的法律折柳：比如普通盗窃、各人财产盗窃和挪用公款都属于"盗窃"类的不同分支，轻伤、重伤和专门伤害也各有不同的法律定性。关于这个任务，未必估计的正确率不到1%，即即是受过专科熟悉的法律从业者也会感到辣手。统统这个词数据集包含5332个熟悉样本和913个测试样本，评测在测试集上进行。

SIA的进化过程是这么伸开的。操作手册的更新阶段，前几代版块设立了基本的分类使命流，后续几代渐渐将中枢战术管理到一种基于文本特征匹配和线性分类器的历程，通过不断颐养字符级别的特征索求范畴和正则化参数，准确率从当先的13.5%稳步爬升到了50.0%，超越了此前最佳获利（45.0%）。此时，响应智能体检测到立异仍是停滞，立时切换到权重熟悉阶段，采取PPO with GAE方法对模子的分类技艺施加精准的梯度压力，最终将准确率鼓吹到了70.1%。这意味着，仅靠更新操作手册，2026世界杯赛事竞猜最新版V2026.FIFA仍是卓越了之前统统方法；再加上权重熟悉，又独特栽种了20.1个百分点，达到了此前最优摈弃的156%。

**计较机系统规模：GPU中枢运算优化**

第二个测试来自底层计较机系统规模，任务是为AlphaFold2（一款预测卵白质三维结构的盛名AI系统）中的一个中枢运算模块编写高效的CUDA门径，并在H100 GPU上运行。这个运算模块叫作念"三角乘法更新"，它的特色是内存捕快模式不相接，导致GPU的并走运算技艺无法被充分运用，想要写出真实高效的罢了，需要掌持许多H100独有的底层妙技——比如分享内存分块、寄存器压力管理等。评分门径是1500除以运行时候，数字越大代表门径越快。此前最佳获利对应的运行时候约为1161微秒。

SIA在操作手册更新阶段，迟缓构建独立异了大略日常运行的CUDA门径，最终将运行时候压缩到了12483微秒，取得了约1.14倍的加快比。防备这里的运行时候比起原的14254微秒如实有所改善，但仍然远未卓越此前最优。切换到权重熟悉阶段后，响应智能体采取了熵上风加权方法来处理这种奖励相当寥落的场景（大多数生成的CUDA门径要么编译失败，要么性能极差），让模子真实掌持了H100独有的优化妙技，最终将运行时候一举压缩到了1017微秒，速率栽种到基准的14.02倍，比此前最优摈弃快了12.4%。这个立异幅度让东说念主印象深远，因为从12483微秒到1017微秒的跃升，险些完全来自于权重熟悉阶段——操作手册再怎样修改，都无法让模子"杜撰学会"那些需要深度内化的GPU编程知识。

**生物学规模：单细胞RNA数据去噪**

第三个测试来自生物学，任务是优化一种叫作念MAGIC的单细胞RNA数据处理算法的参数。单细胞RNA测序是一种测量每个细胞基因活性的本领，但由于本领自己的局限性，测量摈弃中会有多数原本应该长短零的数值被伪善地纪录为零（这种精辟叫作念"本领零散"）。MAGIC算法通过在细胞之间分享和扩散信息来弥补这些缺失值，但它的服从绝顶依赖于几个相互耦合的参数：隔壁数目k太小会过度敏锐于个别细胞的噪声，太大则会把真实的生物相反给"平均掉"；扩漫步数t和核带宽α也存在近似的衡量。评估目的mse_norm越高越好，此前最佳获利为0.240。

操作手册更新阶段，任务智能体对这些参数的组合空间进行了系统性的探索，最终将mse_norm放心在了0.241，刚好卓越了此前最优。连接修改操作手册仍是无法带来进一步改善，响应智能体于是切换到GRPO权重熟悉。在第一个权重熟悉查验点，模子产生了一个在统统这个词操作手册迭代过程中从未出现过的结构性立异：在MAGIC处理摈弃后头加多了两行代码，将输出数值剪辑为非负整数。这听起来是个极其浅易的后处理门径，但它背后有着明确的生物学逻辑——真实的基因抒发计数不能能是负数，也不能能是少量，将摈采取整并剪辑到非负范畴，实验上是把一个生物学知识径直编码进了模子的输出战术。这一改换将mse_norm栽种到了0.289，比操作手册最佳摈弃又高出了20%。

---

六、两个旋钮分别改变了什么？——深入相识"外壳"和"内功"的实验区别

操作手册的更新，实验上是对"外部基础设施"的纠正。在LawBench任务上，它搭建了一个结构化的谜底索求层和候选罪名再排序用具；在CUDA优化任务上，它设立了一个大略默契编译伪善日记并将会诊信息结构化地响应给模子的用具，以及一个大略精准测量中位运行时候的计时框架；在去噪任务上，它构建了一个批量确立驱动器和一个大略将"参数组合—得分"配对摈弃整皆呈现给模子的默契用具。这些改变都是"外围的"——模子自己莫得任何变化，变化的是模子与任务环境之间的接口和中介层。

权重熟悉的更新，则是对"里面知识"的真实改写。在LawBench上，梯度压力让模子学会了折柳191个罪名中那些相当相似的子类别，这种微小辩别力无法通过任何教导语来得回。在CUDA优化上，模子真实掌持了H100 GPU的特定编程妙技，这些妙技无法被写进操作手册——你不错在操作手册里告诉模子"要防备分享内存分块"，但模子真实学会怎样作念，只可通过自身生成代码、不雅察摈弃、罗致梯度响应来罢了。在去噪任务上，阿谁"剪辑到非负整数"的后处理门径，代表了模子将一个生物学管理内化为我方的输出战术——这个管理在操作手册的无数次迭代中从未被提倡，却在权重熟悉后当然清楚。

---

七、这个系统还有哪些值得正视的问题？

盘考团队在论文中坦诚地指出了SIA现时边临的一个中枢挑战，这个挑战被称为"耦合协进化的古德哈特问题"。浅易来说，古德哈特定律是一条盛名的社会科学训诲法规：当一个估量目的成为优化认识时，它就不再是一个好的估量目的了——因为系统会起原"针对目的"进行优化，而不是针对目的背后真实想要估量的东西。

SIA面临的是这个问题的一个更复杂的版块：操作手册的更新和权重的熟悉，都在针对归拢个固定的考据器进行优化。操作手册会找到那些对现时模子来说最容易运用的框架，权重则在由现时操作手册塑造的数据漫衍上进行熟悉，而这个操作手册接下来又会改变。两个优化过程相互依赖、相互影响，它们最终管理到的"放心点"，从表面上说是两个优化者之间的纳什平衡，而不一定是真实意旨上的最优解——这个放心点在熟悉考据器上看起来很好，但在考据器莫得遮掩到的漫衍或任务变体上可能显得脆弱。这是一个盛开的盘考问题，SIA咫尺还莫得提供处置决策。

---

八、下一步想作念什么？——盘考团队的瞻望

盘考团队提倡了两个主要的后续盘考标的。

第一个标的是让"响应智能体的决策自己"也变成不错学习的对象。咫尺，响应智能体遴荐"是修改操作手册如故熟悉权重"，依赖的是一个事前固化的诳言语模子判断，实验上如故东说念主工野心的启发式规矩。更空想的作念法，是把SIA在一系列任务上运行的训诲积蓄起来，把每一次"（不雅察到的气象，采取的行动，得到的摈弃）"三元组视为一个外层强化学习问题的熟总共据，让决策战术自己也通过强化学习来立异。这么就酿成了一个真实递归的自我立异结构——不仅系统在高出，驱动系统高出的机制自己也在高出。

第二个标的是让两种更新模式的切换愈加细粒度。现时的SIA所以"轮次"为单元在操作手册更新和权重熟悉之间粗粒度地切换。一个更精细的转念方式，应该允许响应智能体在操作手册搜索过程半途就触发一次权重更新，或者在权重熟悉刚完成后坐窝重启操作手册探索，减少从"发现瓶颈"到"采取行动"之间的延伸，可能会解锁一些粗粒度轮流模式下错过的立异旅途。

---

说到底，SIA这项使命的意旨，与其说是"AI变得更强了"，不如说是"AI学会了以更系统化的方式让我方变得更强"。这两者之间的区别，就像一个通过反复熟悉题目变得更犀利的学生，和一个大略主动分析我方那处不及、决定是要换课本如死去找真实表情练手的学生之间的区别。后者的后劲，彰着要盛开得多。

咫尺，SIA在三个截然相背的规模都取得了超越此前最佳摈弃的发达，这至少讲明了"同期颐养外壳和内功"这条路是走得通的。至于它能走多远，以及如安在保证系统不"钻空子"的前提下让它走得更远，可能会是接下来几年AI自我立异盘考规模最值得陆续关切的问题之一。有兴味深入了解本领细节的读者，不错通过arXiv编号arXiv:2605.27276查阅无缺论文。

---

Q&A

Q1：SIA系统和普通AI大模子有什么实验区别？

A：普通大模子的技艺在熟悉完成后基本固定，使用时只可依靠外部教导来指点它。SIA是一个自动化轮回系统，它能在给定任务后，既自动修改自身的操作手册（外部用具和历程），又能通过强化学习更新模子里面参数，两者协同进行，统统这个词过程不需要东说念主类工程师介入。

Q2：SIA在中语法律罪名分类任务上的70.1%准确率是怎样罢了的？

A：SIA起初通过反复修改操作手册，将分类历程优化到基于文本特征匹配和线性分类器的战术，准确率从13.5%栽种到50%。随后检测到瓶颈后，切换到PPO强化学习熟悉，对模子折柳191个罪名微小离别的技艺进行针对性强化，最终达到70.1%，比此前最优摈弃高出25.1个百分点。

Q3：SIA熟悉权重时用的强化学习算法为什么每个任务都不通常？

A：因为不同任务的奖励信号特征相反很大。法律分类任务奖励信号密集且放心2026世界杯赛事竞猜官方版，合适用PPO保证熟悉放心性；CUDA优化任务大多数生成代码都无效，奖励相当寥落，合适用熵上风加权放大真贵顺利样本的学习信号；去噪任务不错快速并行评估多数决策，合适用GRPO镌汰计较老本。SIA的响应智能体会字据不雅察到的轨迹动态遴荐最合适的算法。