本集重點

AI Agent 具備執行工具的能力（SQL、Shell、API 等），但大模型本質是概率模型，可能幻覺或遭受提示詞注入，導致毀滅性操作。Owthorize 是一個開源安全閘門，在 Agent 呼叫工具與實際執行之間插入同步攔截層，阻擋危險指令。主要防禦機制：SQL AST 解析（阻擋 DROP、缺少 WHERE 的 UPDATE）、Shell 指令過濾、內網 IP 與危險指令黑名單。它並非要限制 AI 創造力，而是設定底線：不干涉推理，只守紅線。基礎設施權限控管太粗糙，無法防止「合法權限下的愚蠢操作」；Owthorize 提供應用層的細粒度行為控制，兩者互補。安全沒有銀彈，Owthorize 無法防住所有高階對抗，但能把低成本的提示詞注入攻擊擋在門外。未來 AI 安全需要「縱深防禦」：確定性攔截 + 基礎設施隔離 + 人工二審機制。