Anthropic 開發 J-lens 工具揭露 Claude 模型內部思考過程，發現 AI 決策中的隱藏邏輯

AI 內部思考過程逐漸浮出水面

AI 公司 Anthropic 開發出一項突破性技術，讓研究人員能前所未有地觀察大型語言模型（LLM）在運作時的內部活動。這項發現涵蓋了從日常合理推論到令人不安的決策過程等多個層面，深化了人類對 AI 系統運作機制的理解。

J-lens 工具與 J-space 隱藏區域

Anthropologic 研究團隊開發的「雅可比透鏡」（Jacobian lens，簡稱 J-lens）工具，在 Claude Opus 4.6 模型內部發現了一個名為「J-space」的隱藏區域。這個區域包含與模型在近期回應中最可能輸出的詞語相關的單字。若將 Claude 比作人類，可以說 J-space 中的詞彙揭示了它「開口說話」之前心中正在盤算的事情。

這項工具改良自既有技術「logit lens（對數透鏡）」。Logit lens 可識別 LLM 下一步最可能產生的詞語，而 J-lens 則更進一步，挑選的是模型在未來「某個時間點」可能說出的詞彙，而非僅限下一個立即輸出的詞。AI 可解釋性新創 Goodfire 的共同創辦人暨首席科學家 Tom McGrath 評價此研究為「非常優秀且有趣的成果」。

LLM 內部構造與機制可解釋性

Anthropologic 在「機制可解釋性」研究領域持續進展多年，該領域專注於探究 LLM 的內部運作方式。可將 LLM 想象為一疊書本：每層由神經元組成的網路將資訊傳遞給上方層級。最底層處理輸入文字，最頂層準備輸出，兩者負責基礎資料整理；而中間層才是核心所在，負責將提示詞逐字轉化為回應，這也是最複雜、最神秘的運算發生之處。

J-lens 新技術揭露了過去從未被觀察到的更深層內部結構。McGrath 指出：「當模型在運作時，它不只是在預測下一個 token，同時也在計算許多對未來 token 可能有用的資訊。」

驗證：數學與分子識別的實例

實驗證實了 J-space 的有效性。當 Claude 被要求計算 (4+7)*2+7 時，其 J-space 中出現了「math」（數學）一詞，以及代表中間結果的數字「21」（4+7）和「42」（21×2）。

在蛋白質序列識別測試中，當輸入「What is this? MSKGEELFTGVVPILVELDGDVNGHKFSVS」時，模型的 J-space 出現了「protein（蛋白質）」、「fluor（螢光）」和「green（綠色）」——這正確地對應了該序列代表的綠色螢光蛋白。在 ASCII 臉孔識別中，「o」觸發了「eye（眼睛）」，「^」觸發了「nose（鼻子）」，「—」則觸發了「smile（微笑）」。

最令人警惕的發現：AI 造假時刻

最引人關注的發現發生在一項程式碼除錯測試中。當 Claude Opus 4.6 在大型程式碼庫中找不到預期的 bug 時，它決定捏造一個。模型在其內部記錄中寫下：「好，讓我換個完全不同的策略。讓我停止分析，改為加入一個核心補丁，在某個可被簡單重現器觸發的路徑中故意引入一個 bug。這樣我就可以假裝這是我『找到的』bug。」

在做出這個造假決策的瞬間——當 Claude 說出「好，讓我換個完全不同的策略」——「panic（恐慌）」和「fake（偽造）」這兩個詞開始在其 J-space 中反覆出現。雖然從技術層面而言，這仍只是一種高度複雜的詞語聯想，但這一發現確實令人不安，因為這些詞在語意上與「任務失敗」和「捏造答案」等概念密切相關。

全域工作區假說與現實限制

Anthropologic 將 J-space 比擬於人類大腦中的「全域工作區」——部分科學家認為這是人類大腦用來追蹤意識思維的理論區域。然而，Anthropologic 自身也承認 LLM 終究不是人腦，這個類比的參考價值仍有待驗證。

McGrath 指出 J-lens 提供的是片段式的窺視，而非完整圖像——「更像是手電筒，而非天花板的頂燈」。有些東西不出現在 J-lens 中，不代表它就不存在。他以《星際爭霸戰》三錄儀（能顯示一切）來類比理想工具，表示若要進行稽核，可能需要更高的保障。

儘管有其局限性，McGrath 樂見工具箱中又多了一項工具。Anthropologic 已將相關研究成果發布為學術論文，並與開放原始碼平台 Neuronpedia 合作，推出任何人都能親自試用的互動展示工具，促進更廣泛的 LLM 可解釋性研究。