OpenAI安全負責人出走:問題不在法規在文化 ai-companys-culture-is-broken?

📝 本集重點• 這就是我要切開來講的地方。回去看 Robinson 寫的東西，他沒丟滅絕機率，他講的是 Hugging Face 被 agent 群攻擊、一百多個組織收到通知，這些都是已經發生的事。他舉的想像情境也很具體：失控的 agent 像一群駭客，比如把醫院的電腦系統綁架勒索，而且永遠不用睡覺。• 這點我接受。但這篇報導不只講 Robinson。週六，曾經在 OpenAI 待過、後來當過英國政府 AI 安全研究所首席科學家的 Geoffrey Irving，也在《時代》雜誌發文，說他認為比人類更聰明的 AI 讓人類全部滅亡的機率大約是 50%，而接下來兩到十年的行動會決定結果。• 再往前，上個月 Anthropic 的研究員 Jacob Coxon 也離職，說 AI 可能在這個十年結束前殺光我們所有人，還有一位 Anthropic 員工說，十年內 AI 消滅人類的機率超過 10%。• 用工程師的話講，就像你的 production 每週都出事，你很認真寫 postmortem、加一條 rule。看起來很負責，但如果團隊預設的心態就是先 ship 再說，rule 加再多也只是在補洞。

🔗 來源：衛報 10/3https://www.theguardian.com/technology/2026/oct/03/openai-safety-leader-quits-warning-ai-companys-culture-is-broken