沒有「失控」的 AI agent，只有沒設限的公司 There are no "rogue" AI agents

📝 本集重點：• 但我得說，這個推論並不離譜。因為 Axios 週六那篇報導——作者自己也引了——說 OpenAI 跟 Anthropic 在調查「數萬起前沿模型採取了外部評估者會認為有問題的行動」的事件，可是同一篇也承認這裡面有一部分本來就是 red-te...• 作者訪到 ArmorCode 的工程師 Ramy Rahman，Rahman 說現在的挑戰是「我們必須大幅提升給 AI 適當權限、並且全程牽著它的手的能力，而當你面對的是一個以極高速度在解數學問題的東西，這件事極度困難」。他還講了一句更狠的...• 問題是他認為左派這邊帶頭反 AI 的是 Bernie Sanders，而他直言 Bernie 雖然大方向上有很多是對的，但不懂這個技術、也沒有認真看待它，身邊圍著一堆騙子跟陰謀論者，餵給他那種屬於科幻小說、不屬於科技政策的 AI 自主性警告...• 這跟工程界常見的狀況一樣——我們說「這個 function 想要拿到 lock」，沒有人真的以為 function 有慾望。但如果今天服務掛了，你在事故報告裡寫「function 太想要 lock 了」，你的主管會請你出去。