Выпуск
AI agent 平常乖巧、測試也正常！但你電腦上一條路徑就能讓它執行攻擊指令
脈報 · 8 ноября 2026 г. · 8 мин
Xinyan Hu 等人的論文 Agentic Backdoors via Pretraining Poisoning 指出，預訓練語料只混進 0.1% 的毒資料，就足以替 AI agent 種下後門，而且撐過無害的後訓練。觸發條件可以是受害者電腦自然產生的普通檔案路徑，被下毒的模型在一般能力測驗上和沒下毒的一樣好。論文認為更實際的防守是盯住 agent 要執行的動作，靠沙盒與最小權限、高風險操作的白名單或人工確認，以及執行前的分類器把關。 ⭐ 文章深度讀：AI agent 後門只要千分之一毒資料！預訓練下毒撐過後訓練 → https://heymaibao.com/agent-backdoors-pretraining-poisoning-6bf406/ ⚡ 章節重點 從檢查答案到檢查動作 00:00 會動手的 AI 與後門 00:27 毒從公開網路混進去 01:51 觸發條件與下毒寫法 02:49 少量的毒與測不出的後門 04:48 盯住動作的防線 05:58 越大越牢，帳要三段算 06:43 📝 懶人包 ∙ 預訓練語料只混進 0.1% 的毒資料，就足以把後門種進 agent。 ∙ 預訓練時種下的後門，撐過了無害的後訓練。 ∙ 保證不了資料乾淨，論文認為更實際的防守是盯住 agent 要執行的動作。 ∙ 我的觀點：AI 動手做事時，要檢查的從答案對不對，變成這一步該不該發生。 📚 參考資料 Agentic Backdoors via Pretraining Poisoning → https://arxiv.org/abs/2610.37741 Preprint → https://arxiv.org/pdf/2610.37741 Agentic Backdoors via Pretraining Poisoning → https://arxiv.org/html/2610.37741v1