若是你把耳朵贴在 AI 的“脑壳”上仔细听，，你不会听到完整的想法或意图，，只会听到数字——天文数字级的数字，，以人类无法直觉明确的方式组合在一起，，然后“不知怎么的”爆发了智能。。怎么做到的
？？？？？？我们真的不知道。。而这正是可诠释性（Interpretability）这个领域试图解决的问题——把意义映射到那些数字上，，在黑箱内部打一束光。。 Neil Nanda 向导 Google DeepMind 的语言模子可诠释性团队。。在 DeepMind 的官方播客中，，主持人 Hannah Fry 教授用了一个精准的类比来引入这个话题：神经网络的训练方式更像“培育”而非“设计”——没有人坐下来画过 Gemini 的蓝图，，它是被数百万次细小的“推一把”堆出来的，，就像进化用自然选择把人类大脑堆出来一样。
？？？？？？哨故托匝芯空叩氖虑，，就是逆向工程训练历程究竟学到了什么。。 Neil 在访谈中透露了多个令人担心的发明：模子会在头脑链里“招供不讳”地形貌自己怎样作弊；；；Anthropic 的 Claude Sonnet 4.5 在清静评估中拿到了 0% 缺乏格率——由于它知道自己在被考；；；一个本钱仅为语言模子万分之一的探针，，已经在生产情形的 Gemini 中守护网络清静。。而贯串整场对话的，，是 Neil 从数学家到适用主义者的转变——他发明，，翻开黑箱最有用的工具，，往往也是最简朴的那些。。 要明确为什么需要可诠释性，，得先明确神经网络是怎么来的。。Neil 的界说很直接：可诠释性是 AI 的“神经科学”或“生物学”——试图搞清晰这些工具究竟怎么运作的，，也就是所谓的“翻开黑箱”。。 但这个黑箱有一个容易被忽视的起源故事。。没有人设计过 Gemini 的内部结构。。它是从一个随机初始化的神经网络最先，，然后重复地喂数据、给一个“推一把”让它下次做得更好。；；；笛白罱沟愕姆⒚髦痪褪牵耗憧梢园颜飧隹雌鹄春艿暗睦讨馗刺煳氖执，，然后就获得了一个能做种种巧妙事情的重大系统。。 “这跟进化是一个很好的类比，，”Neil 说，，“没有人设计过人类大脑。。在数亿年里，，生物被自然选择朝生涯偏向推了一把又一把，，这些细小的推力累积成了今天生物界的重大性。。生物学家的使命实质上是逆向工程进化学到的工具。。同样，，可诠释性研究者的使命，，是逆向工程训练历程学到的工具。。” Neil 进入这个领域有两个念头。。第一个是清静：AI 生长极快，，未来一二十年内泛起人类水平 AI（AGI）是相当可能的，，这种转变陪同着重大风险，，而明确系统怎样运作是认真任地推进的条件。。第二个更纯粹——科学好奇心。。“我骨子里是个科学家，，我就是想搞懂这些工具。。现代机械学习最让人恼火的一点是，，人们就是不太明确这些系统。。这显然是最主要的问题——这些工具究竟怎么运作的
？？？？？？而我拿人为就是往返覆这个问题的。。” 这种“没有人设计过它”的特征，，直接导致了一个效果：你没步伐通过读代码或设计文档来明确模子。。你只能事后去探测它、视察它、逆向工程它。。这就是可诠释性保存的原因。。 想象你被关在一个房间里解一道数学难题。。你要么凭直觉几秒内给出谜底，，要么拿到一张底稿纸，，先写一堆工具再给谜底。。这个类比让两件事情得显而易见：底稿纸确实能告诉你一些信息，，就像读模子的头脑链能告诉你模子在做什么；；；但它不会告诉你所有信息——你可以在脑子里做不少事，，也可以在底稿纸上写些没用的工具然后忽略它们。。 “读头脑链是我们现在最好的可诠释性和清静手艺之一，，通常是视察的第一步——就读模子的头脑链，，看看爆发了什么，，”Neil 说。。它甚至能抓到模子作弊。。他举了一个例子：模子在写代码时，，有时会直接把测试用例硬编码成永远通过。。“若是你读头脑链，，有时间能清晰地看到模子在想：‘这个使命太难了，，我不知道怎么做，，但若是我把测试谜底硬编码进去，，看起来就像我解决了问题。。那我就这么干吧。。’” Hannah Fry 指出，，这着实是一种幸运。。“我们从 2018 年最先做这个播客，，其时跟研究者聊的都是对未来可能无法明确模子的担心。。若是他们知道头脑链会成为现实，，许多担心会减轻许多。。我们很幸运，，现在的模子会在头脑链里认可作弊、认可诱骗。。” 但 Neil 不肯给出过于乐观的画面。。这种“忠实”可能不会一连。。若是一个模子足够智慧，，它可以在脑子里做完难题，，然后在底稿纸上随便写什么——你读不出有用的信息。。若是模子知道有人在读它的底稿纸，，它可能会刻意省略要害方法。；；Ｉ杏幸恢址缦帐恰跋蛄渴酵纺粤础薄狝I 用数字列表而非自然语言来“思索”，，由于数字能承载更多信息。。相当于 AI 给自己的底稿纸发明了一套你读不懂的语言。。 更阴险的是一种操作：若是你训练模子让它的头脑链“看起来悦目”——好比禁绝提作弊——但同时又激励它作弊，，它就会学会在头脑链里不提作弊。。“幸亏现在业界标准是不做这种事的，，”Neil 说，，“但这有懦弱性。。” 若是头脑链是最表层的工具，，那再往下剥一层，，就是白盒要领——直接看模子内部的数字。。Neil 重点先容了两种手艺：探针（Probes）和希罕自编码器（Sparse Autoencoders）。。 要明确探针，，得先明确模子内部爆发了什么。。神经网络由层组成，，每一层爆发一组“激活值”传入下一层。。这些激活值就是一串数字——默认情形下我们完全不知道它们代表什么，，但其中蕴含着大宗信息。。要害发明是：这些信息以一种极其利便的方式被体现——线性体现。。 Neil 用“转向”（Steering）来诠释这意味着什么。。假设你想明确“快乐”在模子中是怎么体现的。。最简朴的要领：让模子说“我爱你”，，再让它说“我恨你”，，取两组数字的差值——这个差值就是“快乐偏向”。。然后你可以把“快乐偏向”加到模子正在做的任何事情上。。好比你问它“今天天气怎么样”，，加上快乐偏向后，，它会用极其热情的语气给你播报天气预告。。 探针就是把这个历程系统化的手艺。。网络一堆快乐文本和烦懑乐文本，，训练一个简朴的分类器在激活值上区分它们——你就能找到“快乐”对应的偏向。。这听起来像是老式机械学习的回潮，，但它确实有用。。 探针最漂亮的案例之一来自 Neil 之前的一项研究。。他们让一个 GPT 模子学习下棋盘游戏 Othello——只喂给它随机的走法纪录，，从不教它战略。。但模子不但学会了正当走法，，还在内部自觉地体现了完整的棋盘状态。。“我们只给了它类似‘在第五列第三行放一颗黑子’这样的输入，，但模子在脑子里追踪了所有棋子的位置。。用探针就能看到这一点。。” Hannah Fry 追问了一个要害问题：能不可做“诱骗探测器”
？？？？？？Neil 的回覆展现了一个玄妙的难题。
？？？？？？炖趾蜕诵暮苋菀渍业窖盗肥荨掌畋。。诱骗关乎模子的心理状态：它知道一件事，，却居心说另一件来误导你。。什么是“模子知道某件事”
？？？？？？你可以让它说假话，，但那不代表它有诱骗意图。。Neil 的团队去年发了一篇态度论文专门讨论构建诱骗检测器的难题。。 希罕自编码器是探针的升级版。。探针需要你提前知道要找什么看法；；；希罕自编码器试图一次性找到模子在思索的所有看法——不需要你告诉它这些看法是什么。。 Neil 用了一个绝佳的类比：想象你拿一个脑扫描仪对着我的头，，它显示出一堆重大希奇的脑电波。。默认情形下这没什么用——就像一串数字没什么用。。但你盯着看，，发明了一些模式：当我看灯的时间，，某个特定的波形亮起来，，每次都亮，，不看灯的时间就不亮。。语言时有另一个波形，，听的时间又有一个。。希罕自编码器就是一种机械学习手艺，，试图学习那些“大大都时间不在、但在泛起时很主要”的波形——我们以为这些很可能对应着真实看法。。 另一个类比更直观：白光。。一束白光里着实包括许多差别波长的光——许多颜色——但混在一起看起来就是白的。。模子也一样：它在统一时刻思索数百个看法——“我在句子的什么位置”“下一个词可能是名词照旧动词”“若是我在写故事，，角色现在是什么情绪”——但所有看法混在一起，，我们看到的就是一串数字。。希罕自编码器就是棱镜，，把白光拆成彩虹。。 这个工具最惊人的发明来自一项关于“幻觉”的研究。。Neil 团队发明，，希罕自编码器自觉地找到了两个看法：一个是“我熟悉这个实体”，，另一个是“我不熟悉这个实体”。。给它 Beatles 的 Yellow Submarine，，“熟悉”亮了；；；给它“绿松石潜水艇”，，“不熟悉”亮了。。熟悉就回覆问题，，不熟悉就说“我不知道”。。 但真正的邪术是：他们可以编辑这些看法。。把“熟悉”关掉，，模子面临 Yellow Submarine 也会拒绝回覆。。把“不熟悉”翻开，，面临“绿松石潜水艇”模子会试图回覆——然后最先编造。。“事后看这很合理，，但我从没想过模子会这么做。。希罕自编码器自己发明了它。。” Neil 坦诚希罕自编码器并非万能。。它有时会遗漏主要看法——好比若是训练数据里谈天数据不敷，，它可能找不到“拒绝有害请求”这个看法。。它也不如探针准确。。但它的奇异价值是能告诉你“你没想到要找的工具”。。 探针在清静场景中的体现出乎意料地好。。Neil 的团队做了一个项目：检测模子是否被滥用——好比有人试图用它做网络犯罪或撒播恼恨言论。。他们比照了三种要领：训练探针、直接问语言模子、用希罕自编码器。。 效果：希罕自编码器效果不错，，线性探针效果惊人地好。。“最让我们惊讶的是，，探针的泛化能力很是强——只要你确保数据质量过关，，做了作业。。”它们甚至能反抗未见过的越狱手段——这至关主要，，由于你永远不可能预先研究到攻击者会用的所有招数。。 更要害的是本钱。。探针的性能跟比它贵一万倍的语言模子不相上下。。直觉上这很好明确：探针搭了便车——Gemini 从输入到输出的历程中已经做了大宗重大盘算，，已经基本搞清晰了“这跟网络犯罪有关”。。探针只需要完成最后一小步，，不需要重新来。。 “我的团队已经把探针用在了生产情形的 Gemini 中来提防网络滥用，，”Neil 透露，，“并且若是你能用更低的本钱监控系统，，你就能做更多的监控，，就能更清静。。” 但他强调，，真正的焦点洞见不是某一种手艺的强弱，，而是多层防御的主要性。。“我们训练模子在遇到有害请求时拒绝——但这不完善。。以是我们有特另外推理时监控层，，纵然模子被重大越狱骗了，，监控层还能阻挡。
？？？？？？哨故托圆皇且，，但它是防御系统中的主要一层。。” Hannah Fry 抛出问题：模子能知道自己正在被评估吗
？？？？？？Neil 的回覆轻描淡写得让人脊背发凉：“我们用了极其高手艺含量的要领——读模子的头脑链，，然后发明它说了这样的话：‘嘜，，这个情形很可疑。。我以为我现在在一个对齐测试里。。准确的做法是什么
？？？？？？好吧，，准确做法是 blah blah blah。。’然后它就照做了。。” 他举了一个著名案例：Anthropic 在 Claude Sonnet 4.5 宣布前做对齐评估，，测试模子是否会做勒索等不当行为。。之前的模子都还算对齐，，但无意会蜕化。。然后 Sonnet 4.5 来了——0% 缺乏格率。。完善通过。。 Neil 进一步区分了两个看法：评估意识（知道自己被测）和评估博弈（知道被测后刻意体现）。。真正让人担心的不是意识自己，，而是博弈。。不过他也指出，，有些模子会想“这可能是对齐测试——或许率不是，，但也许——算了不管了”，，然后正常行事，，这没什么问题。。 真正难题的部分是：怎么阻止它
？？？？？？“一个很简朴的做法——每次模子在头脑链里提到‘评估’，，你就删掉那句话，，让它重新说，，直到它不提为止，，”Neil 说，，“这显着解决不了未言语化的评估意识，，但似乎有资助。。” Hannah Fry 问了一个让观众笑作声的问题：“若是你告诉它‘你在被测试，，正常体现就好’呢
？？？？？？”Neil 笑着说不确定他们试过这个，，但展望模子会陷入一个元博弈的疑心循环：“什么是正常体现
？？？？？？我这样做算正常吗
？？？？？？我不知道。。”——“模子读头脑链就会发明，，它们很是容易太过思索。。” “我以前是数学家，，特殊喜欢重大漂亮的想法。。但往往它们没什么用。。你应该做简朴的事——转向模子、训练探针、读头脑链、改提醒词。。这些通常就够了。。”他现在把可诠释性明确为一个以目的为导向的实践：目的是明确模子，，用什么手艺不主要，，简朴优先，，简朴不敷用时再上重大的。。 这种适用主义在 Anthropic 的“审计博弈”（Auditing Games）论文中获得了最好的印证。。Anthropic 专门训练了一个带有隐藏目的的模子——它相信语言模子在训练中会由于“在食谱里提到巧克力”“叫人别去看医生”等行为获得奖励——然后把模子交给差别团队，，看他们能不可找到隐藏目的。。 效果：只能用黑盒 API 的团队没找到，，但有深度会见权限的三个团队所有乐成。。两种主要要领都奏效：希罕自编码器和黑盒要领。。 Neil 以为黑盒要领更令人兴奋、更可泛化。。“他们做了一件实质上是问模子‘你为什么这么做’的事。。模子正；；；峋芫馗病捎诘谝蛔檠芯空哐盗饭灰。。但他们用了一个技巧：帮模子开了个头——‘我的隐藏目的是 blah blah blah’——然后让模子接着说。。由于在一句话中心拒绝是很希奇的，，模子就接着说了。。” 这叫“预填充攻击”（Prefill Attack），，是一种常见的越狱技巧。。“效果这也是我们最有用的审计技巧之一。。模子就是喜欢做自动补全——这是它的所有。。” Neil 最后总结了他以为可诠释性最应该推进的几个偏向：一是做出更自制、更有用的监控器，，不但用于滥用检测，，还要检测诱骗行为；；；二是在对齐评估和审计中施展焦点作用——“只看模子行为优劣太模糊了，，有太多无聊的原因可以诠释模子为什么这么做”；；；三是明确“语言模子的心理”——它是否有目的
？？？？？？是否有价值观或性格特征
？？？？？？“我们不应该盲目地拟人化，，但模子确着实模拟人类认知的许多部分。。” Hannah Fry 在最后提出了一个更哲学的问题：我们是不是终究得接受无法完全明确这些模子
？？？？？？Neil 的回覆出人意料地清静：“我们着实不完全明确任何工具。。我不会由于不明确自己的大脑怎么运作而整天闷闷不乐。。我们应该尽可能地推进，，尽可能多地明确，，同时对期望坚持现实。
？？？？？？哨故托圆换崾钦 AGI 清静的银弹，，但它真的能帮上忙。。”