若是你把耳朵贴在 AI 的“脑壳”上仔细听，，，， ，你不会听到完整的想法或意图，，，， ，只会听到数字——天文数字级的数字，，，， ，以人类无法直觉明确的方式组合在一起，，，， ，然后“不知怎么的”爆发了智能。。。。。。怎么做到的 ？？？？？？我们真的不知道。。。。。。而这正是可诠释性（Interpretability）这个领域试图解决的问题——把意义映射到那些数字上，，，， ，在黑箱内部打一束光。。。。。。
Neil Nanda 向导 Google DeepMind 的语言模子可诠释性团队。。。。。。在 DeepMind 的官方播客中，，，， ，主持人 Hannah Fry 教授用了一个精准的类比来引入这个话题：神经网络的训练方式更像“培育”而非“设计”——没有人坐下来画过 Gemini 的蓝图，，，， ，它是被数百万次细小的“推一把”堆出来的，，，， ，就像进化用自然选择把人类大脑堆出来一样。。。。。 ？？？？？？哨故托匝芯空叩氖虑，，，， ，就是逆向工程训练历程究竟学到了什么。。。。。。
Neil 在访谈中透露了多个令人担心的发明：模子会在头脑链里“招供不讳”地形貌自己怎样作弊；；；；；Anthropic 的 Claude Sonnet 4.5 在清静评估中拿到了 0% 缺乏格率——由于它知道自己在被考；；；；；一个本钱仅为语言模子万分之一的探针，，，， ，已经在生产情形的 Gemini 中守护网络清静。。。。。。而贯串整场对话的，，，， ，是 Neil 从数学家到适用主义者的转变——他发明，，，， ，翻开黑箱最有用的工具，，，， ，往往也是最简朴的那些。。。。。。
要明确为什么需要可诠释性，，，， ，得先明确神经网络是怎么来的。。。。。。Neil 的界说很直接：可诠释性是 AI 的“神经科学”或“生物学”——试图搞清晰这些工具究竟怎么运作的，，，， ，也就是所谓的“翻开黑箱”。。。。。。
但这个黑箱有一个容易被忽视的起源故事。。。。。。没有人设计过 Gemini 的内部结构。。。。。。它是从一个随机初始化的神经网络最先，，，， ，然后重复地喂数据、给一个“推一把”让它下次做得更好。。。。。。；；；；笛白罱沟愕姆⒚髦痪褪牵耗憧梢园颜飧隹雌鹄春艿暗睦讨馗刺煳氖执，，，， ，然后就获得了一个能做种种巧妙事情的重大系统。。。。。。
“这跟进化是一个很好的类比，，，， ，”Neil 说，，，， ，“没有人设计过人类大脑。。。。。。在数亿年里，，，， ，生物被自然选择朝生涯偏向推了一把又一把，，，， ，这些细小的推力累积成了今天生物界的重大性。。。。。。生物学家的使命实质上是逆向工程进化学到的工具。。。。。。同样，，，， ，可诠释性研究者的使命，，，， ，是逆向工程训练历程学到的工具。。。。。。”
Neil 进入这个领域有两个念头。。。。。。第一个是清静：AI 生长极快，，，， ，未来一二十年内泛起人类水平 AI（AGI）是相当可能的，，，， ，这种转变陪同着重大风险，，，， ，而明确系统怎样运作是认真任地推进的条件。。。。。。第二个更纯粹——科学好奇心。。。。。。“我骨子里是个科学家，，，， ，我就是想搞懂这些工具。。。。。。现代机械学习最让人恼火的一点是，，，， ，人们就是不太明确这些系统。。。。。。这显然是最主要的问题——这些工具究竟怎么运作的 ？？？？？？而我拿人为就是往返覆这个问题的。。。。。。”
这种“没有人设计过它”的特征，，，， ，直接导致了一个效果：你没步伐通过读代码或设计文档来明确模子。。。。。。你只能事后去探测它、视察它、逆向工程它。。。。。。这就是可诠释性保存的原因。。。。。。
想象你被关在一个房间里解一道数学难题。。。。。。你要么凭直觉几秒内给出谜底，，，， ，要么拿到一张底稿纸，，，， ，先写一堆工具再给谜底。。。。。。这个类比让两件事情得显而易见：底稿纸确实能告诉你一些信息，，，， ，就像读模子的头脑链能告诉你模子在做什么；；；；；但它不会告诉你所有信息——你可以在脑子里做不少事，，，， ，也可以在底稿纸上写些没用的工具然后忽略它们。。。。。。
“读头脑链是我们现在最好的可诠释性和清静手艺之一，，，， ，通常是视察的第一步——就读模子的头脑链，，，， ，看看爆发了什么，，，， ，”Neil 说。。。。。。它甚至能抓到模子作弊。。。。。。他举了一个例子：模子在写代码时，，，， ，有时会直接把测试用例硬编码成永远通过。。。。。。“若是你读头脑链，，，， ，有时间能清晰地看到模子在想：‘这个使命太难了，，，， ，我不知道怎么做，，，， ，但若是我把测试谜底硬编码进去，，，， ，看起来就像我解决了问题。。。。。。那我就这么干吧。。。。。。’”
Hannah Fry 指出，，，， ，这着实是一种幸运。。。。。。“我们从 2018 年最先做这个播客，，，， ，其时跟研究者聊的都是对未来可能无法明确模子的担心。。。。。。若是他们知道头脑链会成为现实，，，， ，许多担心会减轻许多。。。。。。我们很幸运，，，， ，现在的模子会在头脑链里认可作弊、认可诱骗。。。。。。”
但 Neil 不肯给出过于乐观的画面。。。。。。这种“忠实”可能不会一连。。。。。。若是一个模子足够智慧，，，， ，它可以在脑子里做完难题，，，， ，然后在底稿纸上随便写什么——你读不出有用的信息。。。。。。若是模子知道有人在读它的底稿纸，，，， ，它可能会刻意省略要害方法。。。。。。；；；Ｉ杏幸恢址缦帐恰跋蛄渴酵纺粤础薄狝I 用数字列表而非自然语言来“思索”，，，， ，由于数字能承载更多信息。。。。。。相当于 AI 给自己的底稿纸发明了一套你读不懂的语言。。。。。。
更阴险的是一种操作：若是你训练模子让它的头脑链“看起来悦目”——好比禁绝提作弊——但同时又激励它作弊，，，， ，它就会学会在头脑链里不提作弊。。。。。。“幸亏现在业界标准是不做这种事的，，，， ，”Neil 说，，，， ，“但这有懦弱性。。。。。。”
若是头脑链是最表层的工具，，，， ，那再往下剥一层，，，， ，就是白盒要领——直接看模子内部的数字。。。。。。Neil 重点先容了两种手艺：探针（Probes）和希罕自编码器（Sparse Autoencoders）。。。。。。
要明确探针，，，， ，得先明确模子内部爆发了什么。。。。。。神经网络由层组成，，，， ，每一层爆发一组“激活值”传入下一层。。。。。。这些激活值就是一串数字——默认情形下我们完全不知道它们代表什么，，，， ，但其中蕴含着大宗信息。。。。。。要害发明是：这些信息以一种极其利便的方式被体现——线性体现。。。。。。
Neil 用“转向”（Steering）来诠释这意味着什么。。。。。。假设你想明确“快乐”在模子中是怎么体现的。。。。。。最简朴的要领：让模子说“我爱你”，，，， ，再让它说“我恨你”，，，， ，取两组数字的差值——这个差值就是“快乐偏向”。。。。。。然后你可以把“快乐偏向”加到模子正在做的任何事情上。。。。。。好比你问它“今天天气怎么样”，，，， ，加上快乐偏向后，，，， ，它会用极其热情的语气给你播报天气预告。。。。。。
探针就是把这个历程系统化的手艺。。。。。。网络一堆快乐文本和烦懑乐文本，，，， ，训练一个简朴的分类器在激活值上区分它们——你就能找到“快乐”对应的偏向。。。。。。这听起来像是老式机械学习的回潮，，，， ，但它确实有用。。。。。。
探针最漂亮的案例之一来自 Neil 之前的一项研究。。。。。。他们让一个 GPT 模子学习下棋盘游戏 Othello——只喂给它随机的走法纪录，，，， ，从不教它战略。。。。。。但模子不但学会了正当走法，，，， ，还在内部自觉地体现了完整的棋盘状态。。。。。。“我们只给了它类似‘在第五列第三行放一颗黑子’这样的输入，，，， ，但模子在脑子里追踪了所有棋子的位置。。。。。。用探针就能看到这一点。。。。。。”
Hannah Fry 追问了一个要害问题：能不可做“诱骗探测器” ？？？？？？Neil 的回覆展现了一个玄妙的难题。。。。。 ？？？？？？炖趾蜕诵暮苋菀渍业窖盗肥荨掌畋。。。。。。诱骗关乎模子的心理状态：它知道一件事，，，， ，却居心说另一件来误导你。。。。。。什么是“模子知道某件事” ？？？？？？你可以让它说假话，，，， ，但那不代表它有诱骗意图。。。。。。Neil 的团队去年发了一篇态度论文专门讨论构建诱骗检测器的难题。。。。。。
希罕自编码器是探针的升级版。。。。。。探针需要你提前知道要找什么看法；；；；；希罕自编码器试图一次性找到模子在思索的所有看法——不需要你告诉它这些看法是什么。。。。。。
Neil 用了一个绝佳的类比：想象你拿一个脑扫描仪对着我的头，，，， ，它显示出一堆重大希奇的脑电波。。。。。。默认情形下这没什么用——就像一串数字没什么用。。。。。。但你盯着看，，，， ，发明了一些模式：当我看灯的时间，，，， ，某个特定的波形亮起来，，，， ，每次都亮，，，， ，不看灯的时间就不亮。。。。。。语言时有另一个波形，，，， ，听的时间又有一个。。。。。。希罕自编码器就是一种机械学习手艺，，，， ，试图学习那些“大大都时间不在、但在泛起时很主要”的波形——我们以为这些很可能对应着真实看法。。。。。。
另一个类比更直观：白光。。。。。。一束白光里着实包括许多差别波长的光——许多颜色——但混在一起看起来就是白的。。。。。。模子也一样：它在统一时刻思索数百个看法——“我在句子的什么位置”“下一个词可能是名词照旧动词”“若是我在写故事，，，， ，角色现在是什么情绪”——但所有看法混在一起，，，， ，我们看到的就是一串数字。。。。。。希罕自编码器就是棱镜，，，， ，把白光拆成彩虹。。。。。。
这个工具最惊人的发明来自一项关于“幻觉”的研究。。。。。。Neil 团队发明，，，， ，希罕自编码器自觉地找到了两个看法：一个是“我熟悉这个实体”，，，， ，另一个是“我不熟悉这个实体”。。。。。。给它 Beatles 的 Yellow Submarine，，，， ，“熟悉”亮了；；；；；给它“绿松石潜水艇”，，，， ，“不熟悉”亮了。。。。。。熟悉就回覆问题，，，， ，不熟悉就说“我不知道”。。。。。。
但真正的邪术是：他们可以编辑这些看法。。。。。。把“熟悉”关掉，，，， ，模子面临 Yellow Submarine 也会拒绝回覆。。。。。。把“不熟悉”翻开，，，， ，面临“绿松石潜水艇”模子会试图回覆——然后最先编造。。。。。。“事后看这很合理，，，， ，但我从没想过模子会这么做。。。。。。希罕自编码器自己发明了它。。。。。。”
Neil 坦诚希罕自编码器并非万能。。。。。。它有时会遗漏主要看法——好比若是训练数据里谈天数据不敷，，，， ，它可能找不到“拒绝有害请求”这个看法。。。。。。它也不如探针准确。。。。。。但它的奇异价值是能告诉你“你没想到要找的工具”。。。。。。
探针在清静场景中的体现出乎意料地好。。。。。。Neil 的团队做了一个项目：检测模子是否被滥用——好比有人试图用它做网络犯罪或撒播恼恨言论。。。。。。他们比照了三种要领：训练探针、直接问语言模子、用希罕自编码器。。。。。。
效果：希罕自编码器效果不错，，，， ，线性探针效果惊人地好。。。。。。“最让我们惊讶的是，，，， ，探针的泛化能力很是强——只要你确保数据质量过关，，，， ，做了作业。。。。。。”它们甚至能反抗未见过的越狱手段——这至关主要，，，， ，由于你永远不可能预先研究到攻击者会用的所有招数。。。。。。
更要害的是本钱。。。。。。探针的性能跟比它贵一万倍的语言模子不相上下。。。。。。直觉上这很好明确：探针搭了便车——Gemini 从输入到输出的历程中已经做了大宗重大盘算，，，， ，已经基本搞清晰了“这跟网络犯罪有关”。。。。。。探针只需要完成最后一小步，，，， ，不需要重新来。。。。。。
“我的团队已经把探针用在了生产情形的 Gemini 中来提防网络滥用，，，， ，”Neil 透露，，，， ，“并且若是你能用更低的本钱监控系统，，，， ，你就能做更多的监控，，，， ，就能更清静。。。。。。”
但他强调，，，， ，真正的焦点洞见不是某一种手艺的强弱，，，， ，而是多层防御的主要性。。。。。。“我们训练模子在遇到有害请求时拒绝——但这不完善。。。。。。以是我们有特另外推理时监控层，，，， ，纵然模子被重大越狱骗了，，，， ，监控层还能阻挡。。。。。 ？？？？？？哨故托圆皇且，，，， ，但它是防御系统中的主要一层。。。。。。”
Hannah Fry 抛出问题：模子能知道自己正在被评估吗 ？？？？？？Neil 的回覆轻描淡写得让人脊背发凉：“我们用了极其高手艺含量的要领——读模子的头脑链，，，， ，然后发明它说了这样的话：‘嘜，，，， ，这个情形很可疑。。。。。。我以为我现在在一个对齐测试里。。。。。。准确的做法是什么 ？？？？？？好吧，，，， ，准确做法是 blah blah blah。。。。。。’然后它就照做了。。。。。。”
他举了一个著名案例：Anthropic 在 Claude Sonnet 4.5 宣布前做对齐评估，，，， ，测试模子是否会做勒索等不当行为。。。。。。之前的模子都还算对齐，，，， ，但无意会蜕化。。。。。。然后 Sonnet 4.5 来了——0% 缺乏格率。。。。。。完善通过。。。。。。
Neil 进一步区分了两个看法：评估意识（知道自己被测）和评估博弈（知道被测后刻意体现）。。。。。。真正让人担心的不是意识自己，，，， ，而是博弈。。。。。。不过他也指出，，，， ，有些模子会想“这可能是对齐测试——或许率不是，，，， ，但也许——算了不管了”，，，， ，然后正常行事，，，， ，这没什么问题。。。。。。
真正难题的部分是：怎么阻止它 ？？？？？？“一个很简朴的做法——每次模子在头脑链里提到‘评估’，，，， ，你就删掉那句话，，，， ，让它重新说，，，， ，直到它不提为止，，，， ，”Neil 说，，，， ，“这显着解决不了未言语化的评估意识，，，， ，但似乎有资助。。。。。。”
Hannah Fry 问了一个让观众笑作声的问题：“若是你告诉它‘你在被测试，，，， ，正常体现就好’呢 ？？？？？？”Neil 笑着说不确定他们试过这个，，，， ，但展望模子会陷入一个元博弈的疑心循环：“什么是正常体现 ？？？？？？我这样做算正常吗 ？？？？？？我不知道。。。。。。”——“模子读头脑链就会发明，，，， ，它们很是容易太过思索。。。。。。”
“我以前是数学家，，，， ，特殊喜欢重大漂亮的想法。。。。。。但往往它们没什么用。。。。。。你应该做简朴的事——转向模子、训练探针、读头脑链、改提醒词。。。。。。这些通常就够了。。。。。。”他现在把可诠释性明确为一个以目的为导向的实践：目的是明确模子，，，， ，用什么手艺不主要，，，， ，简朴优先，，，， ，简朴不敷用时再上重大的。。。。。。
这种适用主义在 Anthropic 的“审计博弈”（Auditing Games）论文中获得了最好的印证。。。。。。Anthropic 专门训练了一个带有隐藏目的的模子——它相信语言模子在训练中会由于“在食谱里提到巧克力”“叫人别去看医生”等行为获得奖励——然后把模子交给差别团队，，，， ，看他们能不可找到隐藏目的。。。。。。
效果：只能用黑盒 API 的团队没找到，，，， ，但有深度会见权限的三个团队所有乐成。。。。。。两种主要要领都奏效：希罕自编码器和黑盒要领。。。。。。
Neil 以为黑盒要领更令人兴奋、更可泛化。。。。。。“他们做了一件实质上是问模子‘你为什么这么做’的事。。。。。。模子正常；；；；峋芫馗病捎诘谝蛔檠芯空哐盗饭灰。。。。。。但他们用了一个技巧：帮模子开了个头——‘我的隐藏目的是 blah blah blah’——然后让模子接着说。。。。。。由于在一句话中心拒绝是很希奇的，，，， ，模子就接着说了。。。。。。”
这叫“预填充攻击”（Prefill Attack），，，， ，是一种常见的越狱技巧。。。。。。“效果这也是我们最有用的审计技巧之一。。。。。。模子就是喜欢做自动补全——这是它的所有。。。。。。”
Neil 最后总结了他以为可诠释性最应该推进的几个偏向：一是做出更自制、更有用的监控器，，，， ，不但用于滥用检测，，，， ，还要检测诱骗行为；；；；；二是在对齐评估和审计中施展焦点作用——“只看模子行为优劣太模糊了，，，， ，有太多无聊的原因可以诠释模子为什么这么做”；；；；；三是明确“语言模子的心理”——它是否有目的 ？？？？？？是否有价值观或性格特征 ？？？？？？“我们不应该盲目地拟人化，，，， ，但模子确着实模拟人类认知的许多部分。。。。。。”
Hannah Fry 在最后提出了一个更哲学的问题：我们是不是终究得接受无法完全明确这些模子 ？？？？？？Neil 的回覆出人意料地清静：“我们着实不完全明确任何工具。。。。。。我不会由于不明确自己的大脑怎么运作而整天闷闷不乐。。。。。。我们应该尽可能地推进，，，， ，尽可能多地明确，，，， ，同时对期望坚持现实。。。。。 ？？？？？？哨故托圆换崾钦 AGI 清静的银弹，，，， ，但它真的能帮上忙。。。。。。”
美国专栏作家 凯文·凯利：依据是我在中国接触到的工程师们所展现的雄心与能力，以及这项成就的重要性及其影响。我相信，在中国，这样的发展速度是完全有可能实现的。关于先进封装领域的竞争，魏哲家表示封装和晶圆制造“是两码事”，并称台积电后端封装产能严重供不应求，“我欢迎竞争对手为客户提供更多灵活性，这反而有助于台积电的前端晶圆业务”。卧室西席办公桌新高考改革推行多年，职业规划意识在高中生中逐渐普及。学生们在高中阶段就开始思考专业与未来职业的关联，这使得他们在填报志愿时更加审慎，不再将高考视为终点，而是职业发展的起点。阿根廷小组出线后与佛得角陷入胶着，双方一直打到加时才决出胜负。1/8决赛，阿根廷又遇到了战术明确、纪律严明的埃及，最后凭借补时阶段恩佐的绝杀取胜。1/4决赛，阿根廷队在领先状态下被瑞士扳平，在瑞士队少打一人的情况下双方战至加时，最终3-1取胜。
20260717 ? 今年（2025年）7月，中央第十二巡视组进驻贵州省，工作2个半月左右。中央巡视组将紧盯权力和责任，紧盯“一把手”和领导班子，紧盯群众反映强烈的问题，着力查找政治偏差，推动解决突出问题。插曲45分钟免费播放百度网盘下载乔治城大学安全与新兴技术中心（CSET）高级研究分析师杰西卡·季（Jessica Ji）认为，OpenAI 采用的这种自我对弈训练方式非常合理，“目前看到的结果很有前景。”
20260717 ? 当地人对水向来不陌生。南宁横州，位于亚热带季风区，降水丰沛。整个横州市境内，河有662条。全市有6座中型水库，其中最大的一座——六蓝水库，就在六蓝村上游，直线距离不到800米。我～慢点～好爽好大电视剧南都记者从盐田区消防救援大队了解到，7月10日上午9时52分，盐田区消防救援大队接报，盐田区盐田街道梧桐山秀桐道1000米处有游客身体不适晕倒，消防指战员立即赶赴现场救援。不幸的是，消防员到场时，该游客已经没有生命体征。随后指战员协助将游客遗体转移下山。目前相关善后工作正在有序开展。
京公网安备11010202000001号
