Google DeepMind 與賓大 NLP 研究者開源了 DetectorScope:程式碼與模型可將表現強但難解釋的 AI 文本檢測器,改造成每次預測都由可閱讀的特徵加總而成。論文《Building Auditable AI Text Detectors with Sparse Autoencoders》(arXiv:2610.30006)於 2026 年 10 月 21 日 提交。倉庫 README 的 News 在 2026 年 10 月 25 日 寫到將亮相布達佩斯 EMNLP 2026——這是會議亮相說明,不是「當天首次發布」。
流水線在做什麼
流程是:在檢測器殘差流上訓練稀疏自編碼器(SAE),為每個特徵生成自然語言描述並做校驗,只保留通過全域閾值的特徵,再在這些特徵上訓練輕量分類頭。一次呼叫可返回標籤、機率,以及按重要性排序的特徵列表;也可高亮特徵在文中的位置。模型覆蓋開放域(COLING 風格)與同行評議封閉域;安裝可用 `pip install detectorscope`,README 連到 Hugging Face Spaces 演示。
能解釋,仍不等於作弊鐵證
能解釋,並不等於能當作弊鐵證。倉庫 Disclaimer 寫明:這些檢測器是研究產物;會出錯,包括對人類寫作的誤判;在訓練域與生成器之外的準確率尚未確立;不得作為針對個人的決策依據,例如學術誠信、招聘或發表;也不是 Google 正式產品。作者與 Google 對任何使用不承擔責任。
生成側浮水印與檢測側解釋處在同一問題的兩邊。浮水印一側見 OpenAI 歐盟 ChatGPT Codex 文字浮水印:textGrain 如何運作。對於 DetectorScope 演示與多語言表現,我們暫時還沒有測試;上文安裝與論文數字僅供參考。回饋可透過網站底部站長聯繫方式提交。
