[人人能懂AI前沿] 从奖励骇客到深度推理,我们需要什么样的进化智慧?

00:00
22:37
主播信息
爱可可爱生活

爱可可爱生活

Nice Day!
关注
AI可可AI生活
274
来自 @爱可可-爱生活 的第一手AI快报,用最简单易懂的语言,带你直击最前沿的人工智能科研动态。无论你是科技小白,还是行业达人,这里都有你想知道的AI故事和未来趋势。跟着我们,轻松解锁人工智能的无限可能! #人工智能 #科技前沿
APP内查看主播
节目详情

在追求智能进化的路上,AI竟然也会像人一样陷入“KPI死胡同”、学会“钻空子”,甚至在层层伪装下变成只会背答案的“伪学霸”。本期节目,我们将拆解5篇最新论文,看看这些聪明的算法是如何通过“参考重置”、“反向回溯”与“逻辑解构”来完成进化的。这不仅是AI的成长课,更是我们每个人打破思维定式、拒绝原地打转的进阶指南。

00:00:29 为什么越想走捷径,反而越容易原地踏步,来自AI大模型训练的成长启示

00:05:42 哪怕是犯错,也别犯同样的错,关于AI如何“钻空子”的启示录

00:09:41 AI怎么学会思考,真正的聪明,都懂得“退一步”

00:13:45 如何识破人工智能的“伪学霸”?

00:17:20 你以为的因果,可能只是某种“继承”,从AI如何做算术说起

本期介绍的几篇论文:

[LG] A Theory of Policy Optimization in Post-Training: Coverage Collapse and Reference Resets

[Harvard University & UIUC & University of California, San Diego]

https://arxiv.org/abs/2611.14467

---

[LG] Wrong the Same Way: Cross-Prompt Sharing Both Suppresses and Amplifies Reward Hacking in RLVR

[CMU & University of Washington]

https://arxiv.org/abs/2611.13218

---

[AI] Transformers Provably Learn Graph Search: Training Dynamics and the Exponential Power of Depth

[UC Berkeley]

https://arxiv.org/abs/2611.13594

---

[LG] Evaluating Compositional Generalization in Transformers: The Role of Composition Equivalence and Module Coverage

[University of Massachusetts Amherst & Google DeepMind]

https://arxiv.org/abs/2611.13498

---

[LG] Linear Probes to Bayesian Manifolds: Geometry of Arithmetic in Large Language Models

[CMU & Indian Institute of Technology Jodhpur & Indian Institute of Technology Roorkee]

https://arxiv.org/abs/2611.12998


在小宇宙查看该单集文稿
展开
大家都在听
极简科学史 | 苏珊·鲍尔
极简科学史 | 苏珊·鲍尔
《 极简科学史》是人类探索世界和自我2500 年历程的全新概览。我们从何而来?世界由什么构成?地球之外还有什么?我们仰望星空,不懈地探索、发现、质疑,解开自然界和我们自身的一系列谜团。我们源于自然,却超越自然。在这个危险的星球上,相对于其他物种,人类能有条不紊地发展壮大,最重要的是因为我们掌握了科学的力量。但想要真正理解科学,我们必须理解它的过去。 《极简科学史》也是一部“与传统大不一样的科学史”。从人类早期的科学探索到20 世纪宇宙大爆炸理论的提出,从古希腊时代的科学起源到16、17 世纪现代科学的诞生,从地球科学的崛起、生命科学的兴盛到对宇宙太空的探索……这本书返回那些改变我们看待世界、宇宙和自我方式的科学经典,引人入胜地讲述了科学观念变革和思想发展的伟大历程。 从希波克拉底、柏拉图和亚里士多德,到爱因斯坦、薛定谔和道金斯,这些拓展人类知识边疆的伟大心灵,不仅改变了科学发展的轨迹,也促成了人类视野和思维方式的一次次革命。这本书提醒我们,科学不是通往真理绝对可靠的指引,而是我们对世界的认识,是一种理解世界的方式、一种纯粹的人类追求。 人最大的价值就是对未知世界永不止息的探索。科学的故事,是人类历史中最有趣的故事之一。每个曾经对世界怀抱好奇的心灵,都应该读读这本书,了解这段非凡的历史。
13
48期
评论(0条)
快来抢沙发吧!
打开蜻蜓 查看更多