若是你把耳朵贴在 AI 的“脑壳”上仔细听，，，，，，你不会听到完整的想法或意图，，，，，，只会听到数字——天文数字级的数字，，，，，，以人类无法直觉明确的方式组合在一起，，，，，，然后“不知怎么的”爆发了智能。。。怎么做到的？？？？我们真的不知道。。。而这正是可诠释性（Interpretability）这个领域试图解决的问题——把意义映射到那些数字上，，，，，，在黑箱内部打一束光。。。 Neil Nanda 向导 Google DeepMind 的语言模子可诠释性团队。。。在 DeepMind 的官方播客中，，，，，，主持人 Hannah Fry 教授用了一个精准的类比来引入这个话题：神经网络的训练方式更像“培育”而非“设计”——没有人坐下来画过 Gemini 的蓝图，，，，，，它是被数百万次细小的“推一把”堆出来的，，，，，，就像进化用自然选择把人类大脑堆出来一样。。？？？？哨故托匝芯空叩氖虑，，，，，，就是逆向工程训练历程究竟学到了什么。。。 Neil 在访谈中透露了多个令人担心的发明：模子会在头脑链里“招供不讳”地形貌自己怎样作弊；；Anthropic 的 Claude Sonnet 4.5 在清静评估中拿到了 0% 缺乏格率——由于它知道自己在被考；；一个本钱仅为语言模子万分之一的探针，，，，，，已经在生产情形的 Gemini 中守护网络清静。。。而贯串整场对话的，，，，，，是 Neil 从数学家到适用主义者的转变——他发明，，，，，，翻开黑箱最有用的工具，，，，，，往往也是最简朴的那些。。。 要明确为什么需要可诠释性，，，，，，得先明确神经网络是怎么来的。。。Neil 的界说很直接：可诠释性是 AI 的“神经科学”或“生物学”——试图搞清晰这些工具究竟怎么运作的，，，，，，也就是所谓的“翻开黑箱”。。。 但这个黑箱有一个容易被忽视的起源故事。。。没有人设计过 Gemini 的内部结构。。。它是从一个随机初始化的神经网络最先，，，，，，然后重复地喂数据、给一个“推一把”让它下次做得更好。。；；笛白罱沟愕姆⒚髦痪褪牵耗憧梢园颜飧隹雌鹄春艿暗睦讨馗刺煳氖执，，，，，，然后就获得了一个能做种种巧妙事情的重大系统。。。 “这跟进化是一个很好的类比，，，，，，”Neil 说，，，，，，“没有人设计过人类大脑。。。在数亿年里，，，，，，生物被自然选择朝生涯偏向推了一把又一把，，，，，，这些细小的推力累积成了今天生物界的重大性。。。生物学家的使命实质上是逆向工程进化学到的工具。。。同样，，，，，，可诠释性研究者的使命，，，，，，是逆向工程训练历程学到的工具。。。” Neil 进入这个领域有两个念头。。。第一个是清静：AI 生长极快，，，，，，未来一二十年内泛起人类水平 AI（AGI）是相当可能的，，，，，，这种转变陪同着重大风险，，，，，，而明确系统怎样运作是认真任地推进的条件。。。第二个更纯粹——科学好奇心。。。“我骨子里是个科学家，，，，，，我就是想搞懂这些工具。。。现代机械学习最让人恼火的一点是，，，，，，人们就是不太明确这些系统。。。这显然是最主要的问题——这些工具究竟怎么运作的？？？？而我拿人为就是往返覆这个问题的。。。” 这种“没有人设计过它”的特征，，，，，，直接导致了一个效果：你没步伐通过读代码或设计文档来明确模子。。。你只能事后去探测它、视察它、逆向工程它。。。这就是可诠释性保存的原因。。。 想象你被关在一个房间里解一道数学难题。。。你要么凭直觉几秒内给出谜底，，，，，，要么拿到一张底稿纸，，，，，，先写一堆工具再给谜底。。。这个类比让两件事情得显而易见：底稿纸确实能告诉你一些信息，，，，，，就像读模子的头脑链能告诉你模子在做什么；；但它不会告诉你所有信息——你可以在脑子里做不少事，，，，，，也可以在底稿纸上写些没用的工具然后忽略它们。。。 “读头脑链是我们现在最好的可诠释性和清静手艺之一，，，，，，通常是视察的第一步——就读模子的头脑链，，，，，，看看爆发了什么，，，，，，”Neil 说。。。它甚至能抓到模子作弊。。。他举了一个例子：模子在写代码时，，，，，，有时会直接把测试用例硬编码成永远通过。。。“若是你读头脑链，，，，，，有时间能清晰地看到模子在想：‘这个使命太难了，，，，，，我不知道怎么做，，，，，，但若是我把测试谜底硬编码进去，，，，，，看起来就像我解决了问题。。。那我就这么干吧。。。’” Hannah Fry 指出，，，，，，这着实是一种幸运。。。“我们从 2018 年最先做这个播客，，，，，，其时跟研究者聊的都是对未来可能无法明确模子的担心。。。若是他们知道头脑链会成为现实，，，，，，许多担心会减轻许多。。。我们很幸运，，，，，，现在的模子会在头脑链里认可作弊、认可诱骗。。。” 但 Neil 不肯给出过于乐观的画面。。。这种“忠实”可能不会一连。。。若是一个模子足够智慧，，，，，，它可以在脑子里做完难题，，，，，，然后在底稿纸上随便写什么——你读不出有用的信息。。。若是模子知道有人在读它的底稿纸，，，，，，它可能会刻意省略要害方法。。；Ｉ杏幸恢址缦帐恰跋蛄渴酵纺粤础薄狝I 用数字列表而非自然语言来“思索”，，，，，，由于数字能承载更多信息。。。相当于 AI 给自己的底稿纸发明了一套你读不懂的语言。。。 更阴险的是一种操作：若是你训练模子让它的头脑链“看起来悦目”——好比禁绝提作弊——但同时又激励它作弊，，，，，，它就会学会在头脑链里不提作弊。。。“幸亏现在业界标准是不做这种事的，，，，，，”Neil 说，，，，，，“但这有懦弱性。。。” 若是头脑链是最表层的工具，，，，，，那再往下剥一层，，，，，，就是白盒要领——直接看模子内部的数字。。。Neil 重点先容了两种手艺：探针（Probes）和希罕自编码器（Sparse Autoencoders）。。。 要明确探针，，，，，，得先明确模子内部爆发了什么。。。神经网络由层组成，，，，，，每一层爆发一组“激活值”传入下一层。。。这些激活值就是一串数字——默认情形下我们完全不知道它们代表什么，，，，，，但其中蕴含着大宗信息。。。要害发明是：这些信息以一种极其利便的方式被体现——线性体现。。。 Neil 用“转向”（Steering）来诠释这意味着什么。。。假设你想明确“快乐”在模子中是怎么体现的。。。最简朴的要领：让模子说“我爱你”，，，，，，再让它说“我恨你”，，，，，，取两组数字的差值——这个差值就是“快乐偏向”。。。然后你可以把“快乐偏向”加到模子正在做的任何事情上。。。好比你问它“今天天气怎么样”，，，，，，加上快乐偏向后，，，，，，它会用极其热情的语气给你播报天气预告。。。 探针就是把这个历程系统化的手艺。。。网络一堆快乐文本和烦懑乐文本，，，，，，训练一个简朴的分类器在激活值上区分它们——你就能找到“快乐”对应的偏向。。。这听起来像是老式机械学习的回潮，，，，，，但它确实有用。。。 探针最漂亮的案例之一来自 Neil 之前的一项研究。。。他们让一个 GPT 模子学习下棋盘游戏 Othello——只喂给它随机的走法纪录，，，，，，从不教它战略。。。但模子不但学会了正当走法，，，，，，还在内部自觉地体现了完整的棋盘状态。。。“我们只给了它类似‘在第五列第三行放一颗黑子’这样的输入，，，，，，但模子在脑子里追踪了所有棋子的位置。。。用探针就能看到这一点。。。” Hannah Fry 追问了一个要害问题：能不可做“诱骗探测器”？？？？Neil 的回覆展现了一个玄妙的难题。。？？？？炖趾蜕诵暮苋菀渍业窖盗肥荨掌畋。。。诱骗关乎模子的心理状态：它知道一件事，，，，，，却居心说另一件来误导你。。。什么是“模子知道某件事”？？？？你可以让它说假话，，，，，，但那不代表它有诱骗意图。。。Neil 的团队去年发了一篇态度论文专门讨论构建诱骗检测器的难题。。。 希罕自编码器是探针的升级版。。。探针需要你提前知道要找什么看法；；希罕自编码器试图一次性找到模子在思索的所有看法——不需要你告诉它这些看法是什么。。。 Neil 用了一个绝佳的类比：想象你拿一个脑扫描仪对着我的头，，，，，，它显示出一堆重大希奇的脑电波。。。默认情形下这没什么用——就像一串数字没什么用。。。但你盯着看，，，，，，发明了一些模式：当我看灯的时间，，，，，，某个特定的波形亮起来，，，，，，每次都亮，，，，，，不看灯的时间就不亮。。。语言时有另一个波形，，，，，，听的时间又有一个。。。希罕自编码器就是一种机械学习手艺，，，，，，试图学习那些“大大都时间不在、但在泛起时很主要”的波形——我们以为这些很可能对应着真实看法。。。 另一个类比更直观：白光。。。一束白光里着实包括许多差别波长的光——许多颜色——但混在一起看起来就是白的。。。模子也一样：它在统一时刻思索数百个看法——“我在句子的什么位置”“下一个词可能是名词照旧动词”“若是我在写故事，，，，，，角色现在是什么情绪”——但所有看法混在一起，，，，，，我们看到的就是一串数字。。。希罕自编码器就是棱镜，，，，，，把白光拆成彩虹。。。 这个工具最惊人的发明来自一项关于“幻觉”的研究。。。Neil 团队发明，，，，，，希罕自编码器自觉地找到了两个看法：一个是“我熟悉这个实体”，，，，，，另一个是“我不熟悉这个实体”。。。给它 Beatles 的 Yellow Submarine，，，，，，“熟悉”亮了；；给它“绿松石潜水艇”，，，，，，“不熟悉”亮了。。。熟悉就回覆问题，，，，，，不熟悉就说“我不知道”。。。 但真正的邪术是：他们可以编辑这些看法。。。把“熟悉”关掉，，，，，，模子面临 Yellow Submarine 也会拒绝回覆。。。把“不熟悉”翻开，，，，，，面临“绿松石潜水艇”模子会试图回覆——然后最先编造。。。“事后看这很合理，，，，，，但我从没想过模子会这么做。。。希罕自编码器自己发明了它。。。” Neil 坦诚希罕自编码器并非万能。。。它有时会遗漏主要看法——好比若是训练数据里谈天数据不敷，，，，，，它可能找不到“拒绝有害请求”这个看法。。。它也不如探针准确。。。但它的奇异价值是能告诉你“你没想到要找的工具”。。。 探针在清静场景中的体现出乎意料地好。。。Neil 的团队做了一个项目：检测模子是否被滥用——好比有人试图用它做网络犯罪或撒播恼恨言论。。。他们比照了三种要领：训练探针、直接问语言模子、用希罕自编码器。。。 效果：希罕自编码器效果不错，，，，，，线性探针效果惊人地好。。。“最让我们惊讶的是，，，，，，探针的泛化能力很是强——只要你确保数据质量过关，，，，，，做了作业。。。”它们甚至能反抗未见过的越狱手段——这至关主要，，，，，，由于你永远不可能预先研究到攻击者会用的所有招数。。。 更要害的是本钱。。。探针的性能跟比它贵一万倍的语言模子不相上下。。。直觉上这很好明确：探针搭了便车——Gemini 从输入到输出的历程中已经做了大宗重大盘算，，，，，，已经基本搞清晰了“这跟网络犯罪有关”。。。探针只需要完成最后一小步，，，，，，不需要重新来。。。 “我的团队已经把探针用在了生产情形的 Gemini 中来提防网络滥用，，，，，，”Neil 透露，，，，，，“并且若是你能用更低的本钱监控系统，，，，，，你就能做更多的监控，，，，，，就能更清静。。。” 但他强调，，，，，，真正的焦点洞见不是某一种手艺的强弱，，，，，，而是多层防御的主要性。。。“我们训练模子在遇到有害请求时拒绝——但这不完善。。。以是我们有特另外推理时监控层，，，，，，纵然模子被重大越狱骗了，，，，，，监控层还能阻挡。。？？？？哨故托圆皇且，，，，，，但它是防御系统中的主要一层。。。” Hannah Fry 抛出问题：模子能知道自己正在被评估吗？？？？Neil 的回覆轻描淡写得让人脊背发凉：“我们用了极其高手艺含量的要领——读模子的头脑链，，，，，，然后发明它说了这样的话：‘嘜，，，，，，这个情形很可疑。。。我以为我现在在一个对齐测试里。。。准确的做法是什么？？？？好吧，，，，，，准确做法是 blah blah blah。。。’然后它就照做了。。。” 他举了一个著名案例：Anthropic 在 Claude Sonnet 4.5 宣布前做对齐评估，，，，，，测试模子是否会做勒索等不当行为。。。之前的模子都还算对齐，，，，，，但无意会蜕化。。。然后 Sonnet 4.5 来了——0% 缺乏格率。。。完善通过。。。 Neil 进一步区分了两个看法：评估意识（知道自己被测）和评估博弈（知道被测后刻意体现）。。。真正让人担心的不是意识自己，，，，，，而是博弈。。。不过他也指出，，，，，，有些模子会想“这可能是对齐测试——或许率不是，，，，，，但也许——算了不管了”，，，，，，然后正常行事，，，，，，这没什么问题。。。 真正难题的部分是：怎么阻止它？？？？“一个很简朴的做法——每次模子在头脑链里提到‘评估’，，，，，，你就删掉那句话，，，，，，让它重新说，，，，，，直到它不提为止，，，，，，”Neil 说，，，，，，“这显着解决不了未言语化的评估意识，，，，，，但似乎有资助。。。” Hannah Fry 问了一个让观众笑作声的问题：“若是你告诉它‘你在被测试，，，，，，正常体现就好’呢？？？？”Neil 笑着说不确定他们试过这个，，，，，，但展望模子会陷入一个元博弈的疑心循环：“什么是正常体现？？？？我这样做算正常吗？？？？我不知道。。。”——“模子读头脑链就会发明，，，，，，它们很是容易太过思索。。。” “我以前是数学家，，，，，，特殊喜欢重大漂亮的想法。。。但往往它们没什么用。。。你应该做简朴的事——转向模子、训练探针、读头脑链、改提醒词。。。这些通常就够了。。。”他现在把可诠释性明确为一个以目的为导向的实践：目的是明确模子，，，，，，用什么手艺不主要，，，，，，简朴优先，，，，，，简朴不敷用时再上重大的。。。 这种适用主义在 Anthropic 的“审计博弈”（Auditing Games）论文中获得了最好的印证。。。Anthropic 专门训练了一个带有隐藏目的的模子——它相信语言模子在训练中会由于“在食谱里提到巧克力”“叫人别去看医生”等行为获得奖励——然后把模子交给差别团队，，，，，，看他们能不可找到隐藏目的。。。 效果：只能用黑盒 API 的团队没找到，，，，，，但有深度会见权限的三个团队所有乐成。。。两种主要要领都奏效：希罕自编码器和黑盒要领。。。 Neil 以为黑盒要领更令人兴奋、更可泛化。。。“他们做了一件实质上是问模子‘你为什么这么做’的事。。。模子正；；峋芫馗病捎诘谝蛔檠芯空哐盗饭灰。。。但他们用了一个技巧：帮模子开了个头——‘我的隐藏目的是 blah blah blah’——然后让模子接着说。。。由于在一句话中心拒绝是很希奇的，，，，，，模子就接着说了。。。” 这叫“预填充攻击”（Prefill Attack），，，，，，是一种常见的越狱技巧。。。“效果这也是我们最有用的审计技巧之一。。。模子就是喜欢做自动补全——这是它的所有。。。” Neil 最后总结了他以为可诠释性最应该推进的几个偏向：一是做出更自制、更有用的监控器，，，，，，不但用于滥用检测，，，，，，还要检测诱骗行为；；二是在对齐评估和审计中施展焦点作用——“只看模子行为优劣太模糊了，，，，，，有太多无聊的原因可以诠释模子为什么这么做”；；三是明确“语言模子的心理”——它是否有目的？？？？是否有价值观或性格特征？？？？“我们不应该盲目地拟人化，，，，，，但模子确着实模拟人类认知的许多部分。。。” Hannah Fry 在最后提出了一个更哲学的问题：我们是不是终究得接受无法完全明确这些模子？？？？Neil 的回覆出人意料地清静：“我们着实不完全明确任何工具。。。我不会由于不明确自己的大脑怎么运作而整天闷闷不乐。。。我们应该尽可能地推进，，，，，，尽可能多地明确，，，，，，同时对期望坚持现实。。？？？？哨故托圆换崾钦 AGI 清静的银弹，，，，，，但它真的能帮上忙。。。”