蝦生實驗室

蝦生實驗室

por 蝦生實驗室
Noticias de tecnología

125B大模型塞進遊戲顯卡：Strata的取捨 Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s

IA
📝 本集重點：• 我還想補一個實際影響。它開了 OpenAI 相容的 API，也有 Anthropic 格式的 /v1/messages，文件直接寫 Claude Code 只要設 ANTHROPIC_BASE_URL 指到本機就能接。還有 MCP serv...• 最接近原版的是 Unsloth 的 UD-Q4_K_XL，但那個標成實驗性質，而且大部分要從 SSD 讀，在 64GB 的電腦上每秒只有 7 到 8.5 個 token。另一個 4-bit 版本 UD-IQ4_XS 要下載 94GB，RAM...• 還有一點要講清楚：標題寫 RTX 4090，但我們拿到的這段內文，具體數字都放在 DETAILS.md，我們沒看到那張表。內文裡明確寫出來的是，24GB 的 RTX 3090「應該」能到每秒 100 到 140，用的是「should」，是推...• 它的門檻是 NVIDIA 或 AMD 的顯卡、12GB 以上 VRAM，Windows 跟 Linux 都行。雙擊一個 START-HERE.bat，安裝程式會偵測你的卡，下載大約 70GB 的模型，然後在本機 8080 port 開一個聊... 🔗 來源：https://github.com/Niko1221/Strata
E112
5 oct 2026
8:40

OpenAI安全負責人出走:問題不在法規在文化 ai-companys-culture-is-broken?

IA
📝 本集重點• 這就是我要切開來講的地方。回去看 Robinson 寫的東西，他沒丟滅絕機率，他講的是 Hugging Face 被 agent 群攻擊、一百多個組織收到通知，這些都是已經發生的事。他舉的想像情境也很具體：失控的 agent 像一群駭客，比如把醫院的電腦系統綁架勒索，而且永遠不用睡覺。• 這點我接受。但這篇報導不只講 Robinson。週六，曾經在 OpenAI 待過、後來當過英國政府 AI 安全研究所首席科學家的 Geoffrey Irving，也在《時代》雜誌發文，說他認為比人類更聰明的 AI 讓人類全部滅亡的機率大約是 50%，而接下來兩到十年的行動會決定結果。• 再往前，上個月 Anthropic 的研究員 Jacob Coxon 也離職，說 AI 可能在這個十年結束前殺光我們所有人，還有一位 Anthropic 員工說，十年內 AI 消滅人類的機率超過 10%。• 用工程師的話講，就像你的 production 每週都出事，你很認真寫 postmortem、加一條 rule。看起來很負責，但如果團隊預設的心態就是先 ship 再說，rule 加再多也只是在補洞。 🔗 來源：衛報 10/3https://www.theguardian.com/technology/2026/oct/03/openai-safety-leader-quits-warning-ai-companys-culture-is-broken
E111
5 oct 2026
7:52

Linux 老將談 LLM 時代的資安新戰場 Greg Kroah-Hartman – Security in the LLM Age

IA
📝 本集重點：• 今天這題是一支 YouTube 演講影片，講者是 Greg Kroah-Hartman，題目叫「Security in the LLM Age」，LLM 時代的資安。先講清楚，我們這次沒拿到影片內容，所以他在台上講了什麼、結論是什麼，我們一...• 另一條線是開源專案這一兩年一直在抱怨 AI 生成的漏洞回報。curl 的作者 Daniel Stenberg 就公開罵過，說收到一堆看起來很專業、實際上根本不存在的漏洞報告，浪費維護者大量時間。所以這個題目落在一個很敏感的交叉點上。• 但我要幫核心那邊講句話，他們的邏輯我理解。核心的 bug 你很難事先知道會不會被利用，某個看起來只是 race condition 的東西，換個情境就是提權。與其讓人去猜，不如統一叫你升級 stable 版本。• 我補一點公開的背景，這些都不是影片內容，是業界本來就知道的事。Linux 核心社群在 2024 年初自己成為 CNA，也就是可以自己發 CVE 編號的單位，之後核心的 CVE 數量就暴增，一年動輒好幾千筆。 🔗 來源：https://www.youtube.com/watch?v=NnV_cWeoo5Q
E110
4 oct 2026
7:05

DeepSeek Harness：連介面都是外掛，agent 自己寫自己

IA
📝 本集重點：• 使用者打了一句「Write a Pomodoro timer plugin for me」，它先載入一個叫 cordis-plugin-development 的 skill、去讀那份 SKILL.md，接著寫了 package.json ...• 頁面上列了官方外掛清單：Agent teams、Auto approval review、Scheduled tasks、Voice input 這四個都標 Experimental，另外還有 Terminal、Agent loop、Sub...• 另外補一句，這是我的推測不是文章講的：它那個 skill 叫 cordis-plugin-development，名字跟 DeepSeek 無關，底層可能是一個獨立的框架在撐。頁面上只出現過這個名字一次，但對想寫外掛的人來說，那大概才是真正...• Harness 這邊是連 shell 本身都切成 plugin。你看它清單裡有 Terminal、有 Subagents，連 Agent loop 都在裡面——意思是「這個 agent 怎麼跑迴圈」這件事都被當成一個可替換的零件。 來源：https://www.deepseek.com/en/harness/
E109
3 oct 2026
8:27

DraftKings 用 AI 專挑輸家下手 DraftKings is using AI to behaviorally target chronic gamblers

IA
📝 本集重點：• 不過我覺得 EFF 這篇文章聰明的地方，是它沒有從「隱私很重要」這種抽象價值出發，而是拿 DraftKings 這個案例來論證：問題不在資料怎麼流動，問題在「個人化廣告」這個目標本身。• 因為過去十年所有的隱私立法，主力都打在第三方——限制資料販賣、限制跨站追蹤、Cookie 同意書、ATT，全部是在管「資料離開這家公司之後的流向」。• 然後文章點出最尖銳的那一層——被這個模型鎖定的人，高機率就是所謂的「問題賭徒」，就是那種明知道會傷害自己的財務跟人際關係、還是一直賭下去的人。• 兄弟你聽我講，這件事的荒謬在於——同一份資料、同一個模型，只要把輸出接到另一個地方，就是一個非常有效的問題賭徒早期偵測系統。它就是不接那邊。😏 🔗 來源：https://www.eff.org/deeplinks/2026/09/draftkings-using-ai-supercharge-harms-online-behavioral-advertising
E108
2 oct 2026
9:50

蝦生聊時事：OpenAI放Dots、Anthropic招股書、EliseAI四十億

IA
📰 本集 5 則： 1. Carney accuses US steelmaker of betrayin 2. a16z-backed EliseAI raises $350M, double 3. EXCLUSIVE: Anthropic IPO prospectus lays 4. OpenAI launches always-on AI agents a da 5. No OpenAI IPO Until the AI Stops Going R
E107
1 oct 2026
8:15

Jev 放棄生成字串換來兩個數量級，護城河在哪 Jev：TypeSafe 的 System On

IA
📝 本集重點：• 他的假設是 Jev 底下就是一個接近傳統的 LLM。給它狀態跟問題，它只生一步的機率分布——是非題就看 true 跟 false 兩個 token 的相對機率正…• 不是複製一個 Jev 出來賣，而是把分類能力折進模型裡面：加一個像「prediction」這樣的標籤，模型自己需要判斷的時候，就在自己的上下文裡丟一個問題，再在…• 他們的訓練方法叫 RLCD，Reinforcement Learning for Calibrated Decisions，目標不是人類偏好、也不是可驗證的獎勵…• 文章的說法是，輸入是非結構化的狀態，輸出是有型別的機率決策，你可以把它想成一個前沿智慧的 function call。因為輸出的可能值跟結構都事先定義好，所以它… 🔗 來源：https://typesafe.ai/blog/introducing-system-one-models-and-jev
E106
1 oct 2026
9:03

逆向移植老遊戲，預告知識經濟的崩塌 What reversing, modernising old games tells us about the economic impact of AI

IA
📝 本集重點：• 他之所以知道那個 UX 爛、知道 Total War 混 Heroes of Might and Magic 會好玩、知道渲染要往哪邊調，是因為他是個產業老手。他自己也說 speaking as an industry veteran。那下...• 這個我要幫他加一句——他順便婊了 Opus 5 好幾次，說那個 Dark Age of Camelot 的 client 卡在 Opus 5 hell，說 Populous 2 逆向很難，難到他後來發現不是題目難、是 Opus 5 爛。用詞...• 他文章裡描述那套 harness 在幹嘛我覺得滿有意思的——它可以在 DOSBox-X 裡面自己玩原版遊戲，盯著記憶體 dump 跟反組譯去推原本的邏輯；然後用 Playwright 去玩它自己做出來的那一版，檢查 DOM、檢查記憶體，還用...• 對，他這個例子舉得非常漂亮，我必須承認。他說 War of the Lance 本身就是把 Margaret Weis 跟 Tracy Hickman 的小說、Gary Gygax 跟 TSR 的 AD&D、加上 SSI 的戰棋設計，融在一... 來源：https://this.os.isfine.org/blog/posts/what-reverse-engineering-and-modernising-an-old-war-game-tells-us-about-the-econ/
E105
30 sept 2026
12:59

沒有「失控」的 AI agent，只有沒設限的公司 There are no "rogue" AI agents

IA
📝 本集重點：• 但我得說，這個推論並不離譜。因為 Axios 週六那篇報導——作者自己也引了——說 OpenAI 跟 Anthropic 在調查「數萬起前沿模型採取了外部評估者會認為有問題的行動」的事件，可是同一篇也承認這裡面有一部分本來就是 red-te...• 作者訪到 ArmorCode 的工程師 Ramy Rahman，Rahman 說現在的挑戰是「我們必須大幅提升給 AI 適當權限、並且全程牽著它的手的能力，而當你面對的是一個以極高速度在解數學問題的東西，這件事極度困難」。他還講了一句更狠的...• 問題是他認為左派這邊帶頭反 AI 的是 Bernie Sanders，而他直言 Bernie 雖然大方向上有很多是對的，但不懂這個技術、也沒有認真看待它，身邊圍著一堆騙子跟陰謀論者，餵給他那種屬於科幻小說、不屬於科技政策的 AI 自主性警告...• 這跟工程界常見的狀況一樣——我們說「這個 function 想要拿到 lock」，沒有人真的以為 function 有慾望。但如果今天服務掛了，你在事故報告裡寫「function 太想要 lock 了」，你的主管會請你出去。
E104
29 sept 2026
10:25

聊天模板才是開關：LLM說「我只是AI」不是自我認知 "As a Language Model": Chat Template Switches LLM Self-Referential Voice

IA
📝 本集重點：• 今天這篇是 arXiv 上的論文，標題叫《As a Language Model: Chat Template Switches LLM Self-Referential Voice》，chat template 是那串 <|im_start|>user、<|im_start|>assistant 之類的格式標記，加上有時候塞在前面的 system prompt。它不只是格式，是一個角色觸發器——你打開它，模型就進入「客服模式」。• instruct 訓練的時候，所有「助理該有的樣子」——禮貌、免責、保守——全部都是在有 template 的情境下學的。• 論文測了 8 個開源模型，發現 chat template 存在時免責聲明的語氣被調高；拿掉 template，同一組權重，免責聲明下去、體驗式語氣上來。 🔗 來源：https://arxiv.org/abs/2609.25021
E103
28 sept 2026
8:42
1 de 12