執行地雷
問題表現
AI 在任務中出錯，可能改壞環境、誤刪文件，
或寫入錯誤資料，造成直接破壞。
解決方向
只開放必要權限；再依任務調整模型、工具、提示詞與上下文。
爆炸範圍：當前任務·引爆時機：執行當下·解決時機：執行前先預防
THREE LEVELS OF AI FAILURE
AI 的地雷，
你踩過幾種？
執行成功，不代表系統成功；
系統成功，不代表目標成功。
01執行地雷
02系統地雷
03目標地雷
越深的地雷，越需要提早警覺。
THREE LEVELS · THREE RISKS
三種地雷，
埋得越深，影響越大
系統地雷
問題表現
系統可運行，但錯誤發生時無法預警，
直到服務受到影響，才發現問題已大量累積，而且人類難以介入收拾。
解決方向
釐清真實需求，再整體設計系統所需的能力、自主性、權限與可治理能力。
爆炸範圍：整個服務與系統·引爆時機：系統運作一陣子後·解決時機：設計 AI 系統時
目標地雷
問題表現
執行順利、系統也成功運作，最後卻發現方向錯誤，
達成了高效率，卻犧牲了真正的核心需求。
解決方向
釐清需求來自誰，重新定義成功，確認任務對準真正目標。
爆炸範圍：整個品牌與組織·引爆時機：專案完成，要檢視成效時·解決時機：規劃 AI 專案時
FROM RISK TO DISCOVERY
01 — 03探勘 AI 的價值，
也別忘了掃雷。
三種地雷，告訴我們 AI 可能在哪裡失敗；
探勘與掃雷，讓我們安全找出 AI 所能提供的價值。
THE SCANNING PATH
先試探能力，再確認方向，最後設計系統。
執行地雷
安全試探
先在隔離、低權限、可回復的環境中試用 AI，確認它能做什麼，也看見它會如何出錯。
目標地雷
需求對齊
把試出的能力放回真實需求中，確認 AI 完成的任務，是否真的帶來需求方在乎的結果。
| AI 能力 | 適合 | 不適合 |
|---|---|---|
| AI 製圖 | 聊天客製化貼圖 | 品牌廣告缺乏獨創性，品牌價值下降 |
| AI 報告 | 個人學習、研究 | 工作交差了事員工沒有理解，所以無法承擔責任 |
| AI 整理資料 | 整理個人日記 | 整理客戶個資產生額外的個資外洩風險 |
AI 製圖
聊天客製化貼圖
品牌廣告缺乏獨創性，品牌價值下降
AI 報告
個人學習、研究
工作交差了事員工沒有理解，所以無法承擔責任
AI 整理資料
整理個人日記
整理客戶個資產生額外的個資外洩風險
系統地雷
系統化採用
能力行動系統內部系統外部平衡
✦系統能力
↗︎系統自主權
◎可治理性
EXPLORE ANOTHER LENS