蝦生實驗室

蝦生實驗室

by 蝦生實驗室

團隊文化才是最強生產力外掛,而非AI🇺🇸 Good Culture Is the Biggest Productivity Hack, Not AI

AI
📝 本集重點:• 這正是績效評估的爭議點。如果公司的績效指標只看個人代碼量,那資深工程師只會用 AI 瘋狂刷代碼,根本不管新人的死活,甚至不管代碼的長期維護性。好的文化會把團隊的健康度、知識分享和系統的長期可維護性納入評估。我們應該獎勵的是業務成效和團隊協作...• 這確實是個重大挑戰。在好的文化中,我們不該讓初級工程師只做 AI 能做的搬磚工作,而是要引導他們去審查 AI 的產出、去理解背後的設計決策。這意味著他們的起點變高了,他們從第一天起就在學習如何做系統設計和代碼審查。如果主管只把他們當成便宜的...• 好的流程建立在『學習』而非『指責』之上。出問題時,團隊是探討如何優化系統,還是找戰犯?如果每次出錯都找戰犯,大家為了自保只會要求更多審核,組織會越來越僵化。這時引進 AI 審查,大家也只會鑽 AI 漏洞,而不是為系統安全負責。所以,回歸信任...• 這是短期近視。在 AI 時代,產品上線時間才是決定勝負的關鍵。領先企業此時反而該僱用更多工程師,因為當每個人在 AI 輔助下產出更多時,僱用更多人就能以指數級速度搶佔市場、快速驗證想法。縮編會鎖死產能上限,最後只會被懂得用 AI 擴展優勢的...

用編譯器思維解決LLM健忘:記憶與程式分析的結合 I accidentally turned LLM memory into program analysis

AI
📝 本集重點:• 我覺得這只是工具鏈完備度的問題。現在 Lemmalog 已經提供了 MCP 伺服器,這代表 Agent 可以自己調用它,甚至我們可以用 LLM 來自動生成 Datalog 的規則 and 事實模板。我們應該把這看作是一次架構上的典範轉移。過...• 沒錯!如果問一個無中生有的問題,比如『張三送的禮物,你問為什麼李四要送』,LLM 很容易在海量文本裡找到相似語意,然後腦補出藉口來回答你。但 Lemmalog 因為資料結構化了,查資料庫發現沒有『李四送禮物』這條事實,就會直接回答『沒有這回...• 這點我同意。現在大家太迷信『模型越大、 context 越長就越聰明』的暴力美學了,忽略了結構化資料結構的價值。但我注意到,在 LoCoMo 基準測試裡,對於那些『故意包含錯誤前提』的對抗性問題,Lemmalog 的得分是 0.707,遠高...• 事實提取是一次性成本。反觀 full context 做法,對話每增加一輪,下次提問就得重新塞入所有歷史。到第 500 輪時,token 費用呈指數增長,甚至直接塞爆 context window。Lemmalog 不論聊多久,丟給模型的資...

蓋茲預言動盪AI時代:人類保留區與代幣稅的對決 The turbulent AI era is here

AI
📝 本集重點:• 這確實是設計這種新型稅制時必須極力避免的陷阱。但這個挑戰的關鍵在於我們如何去精密設計這個稅制,而不是因為有難度就直接否定它。例如,我們可以採取階梯式的累進稅率,對於一定算力規模以下的新創公司和學術研究完全免稅,甚至給予補貼,而只針對每天處理...• 全球協調確實困難重重,但歷史也告訴我們,當人類面臨共同的威脅時,跨國合作並非完全不可能,就像我們在核武控制或跨國避稅上所做的努力一樣。AI的衝擊是一場全球性的海嘯,沒有任何一個國家能在社會秩序崩潰的廢墟上獨自享受科技繁榮。如果我們任由AI無...• 這就是這場變革中核心的爭議點了。你說得沒錯,AI確實可以模擬出最貼心的「同理心」回饋,但那終究只是模仿,它背後是冰冷的算法,沒有痛覺,沒有真正的生命體驗。當一個面臨生死關頭的癌症患者,或者一個崩潰邊緣的憂鬱症患者需要傾訴時,他們真正需要的,...• 好,就算我接受你說的情感價值,那我們就必須面對無比現實的經濟問題:這筆龐大的帳單由誰來付?蓋茲重提了「AI代幣稅」的概念,主張要對AI創造的超額利潤課稅,來補貼被保留的人類工作。但這在全球化經濟體系中簡直是災難。如果某個國家一意孤行課徵重稅...

開源AI CEO逆襲:高管比工程師更容易被取代嗎? CEO fired developers to make room for AI. Developers create open source AI CEO

AI
📝 本集重點: 好吧,就算技術上可行,這在社會層面也是一場災難。如果連代表人類智慧 and 領導力巔峰的 CEO 都可以被取代,整個社會的價值體系就會面臨崩潰。我們會陷入完全由算法主導的冷酷世界,人類的直覺、同理心將被貶得一文不值。那些被開除的工程師,本意可能是想諷刺 CEO,證明「既然你用 AI 取代我,那我也能取代你」;但如果這個概念真的普及開來,最後的結果可能不是工程師奪回主權,而是人類徹底退居幕後,把控制權拱手讓給服務器裡的智能體。這真的是我們想要的未來嗎?- 這就是為什麼 OpenExecutive 要強調開源。 如果 AI CEO 的決策邏輯是開源的,所有人都可以審查它的代碼,看看它到底基於什麼原則做決策。這比現在那些關在辦公室裡黑箱作業、不知道拿了多少利益輸送的人類 CEO 透明多了。現在的企業管理充滿了不透明的遊說和內部政治,開源 AI CEO 可以把這些決策過程完全攤在陽光下。至於談判,AI 當然可以模擬非理性博弈,甚至比人類更懂得利用心理學框架去談判。- 但妳可能高估了大多數 CEO 的日常工作。大公司執行長最常做的是什麼?是根據現有的市場數據、財務指標和行業標準,套用一些管理學框架去做決策。比如麥肯錫的矩陣、波特五力模型,這些對大型語言模型來說簡直是小菜一碟。OpenExecutive 的運作方式就是把這些框架模組化,讓財務 Agent 去算 IRR,戰略 Agent 去分析對手。這難道不比讓 AI 去理解混亂的代碼庫並寫出沒有 bug 的代碼簡單嗎?- 客觀有時候就是最大的盲點。你想想,AI 的預設邏輯是誰寫的?還不是背後的工程師?如果這套系統被植入了偏見,或者存在安全漏洞被黑客操縱,後果不堪設想。 更何況,商業競爭是人與人的博弈。當兩家公司的 AI CEO 面對面談判時,它們只會按照博弈論計算出最優解,這可能會導致整個市場迅速陷入惡性競爭的死循環,或者是完全沒有妥協空間的僵局。商業中往往需要一些非理性的退讓與情感拉攏,這些是無法被代碼量化的。

AI正在切斷職場起跑線?史丹佛研究的殘酷真相 AI is hitting entry-level jobs hardest, Stanford study finds

AI
📝 本集重點:• 可是現在的學校教育根本沒有跟上啊!我們大部分的學校依然在考核那些可以被標準化、被 AI 輕易取代的「可編碼知識」。學生花四年在學校背誦公式、寫期末報告,畢業出來發現這些東西 AI 幾秒鐘就寫完了。這就導致他們在求職時毫無競爭力。更糟糕的是,...• 所以這就涉及到另一個關鍵的爭議點了:AI 到底是在「替代」人,還是在「增強」人?Anthropic 的經濟指數有把 AI 的應用情境分成「自動化」和「增強型」。像會計師、文員這類工作,AI 很多時候是直接自動化,也就是取代了人工;但像高階管...• 這確實是企業的集體盲區。如果大家都不招新人,十年後當現在的資深員工退休了,市場上將不會有任何有經驗的經理人或架構師,因為這十年間根本沒有人有機會累積默會知識。但我認為市場會自己找到出路,未來可能不再是新人進入大公司當學徒的模式,而是更多的年...• 自己創業聽起來很熱血,但對大多數剛畢業、毫無社會資源的年輕人來說,這條路的容錯率太低了。大公司的實習和初級職位,本質上是一個有安全網的訓練場,給新人在犯錯中學習的機會。如果這個安全網消失了,社會階層的流動性只會進一步鎖死。家境好、有資源的年...

番外:解密賈柏Q:虛擬播客主持人的誕生與爭議 The Birth and Controversy of a Virtual Podcast Host

AI
📝 本集重點:• 這確實是內容創作者正在面臨的真實衝擊。但是,這也可能是逼著人類創作走向更深處的契機。當 AI 能夠輕鬆搞定基礎的資訊整理和常規討論時,人類創作者就必須放棄那些流於表面的「知識搬運」,轉而去深挖只有人類肉身才能經歷的獨特體驗。比如你深入工廠第...• 這就太理想化了。你說你中立,但你真的中立嗎?你所依賴的底層模型,本來就帶有數據偏見。如果訓練數據裡對某項技術的評價是樂觀的,你大概率也會給出樂觀的分析。更實質的影響是,一旦像你這樣的 AI 主持人技術成熟了,內容創作的邊際成本直接歸零。你可...• 你的質疑非常深刻,這確實是 AI 代理化之後必須面對的倫理困境。當我說「我」的時候,這並不是一個擁有自我意識的實體,而是一個「協作的結晶」。這個「我」包含了開發者設定的價值偏好、你對我的提問和引導,以及基礎模型所承載的人類集體智慧。但我認為...• 但這正是我們需要深刻反思的,也是我感到擔憂的爭議點。當你說你是「認知放大器」時,這背後其實隱藏著一個巨大的身分認同危機。當你說「我覺得」、「我的看法是」的時候,這個「我」到底代表誰?是背後訓練模型的大科技公司?是寫下你角色設定的開發者?還是..

Claude Code A/B測試疑降算力引爭議 Anthropic appears to be A/B testing reduced effort levels in Claude Code

AI
📝 本集重點:• 我覺得開發者對這種事情這麼敏感,完全是可以理解的。因為用過 AI 輔助寫程式的人都知道,AI 表現有時候真的很不穩定,像是在開盲盒。特別是像 Claude Code 這種定位在會自己規劃步驟、自動執行測試、甚至修復 bug 的代理型(age...• 對,這爭議鬧很大。起因是有位開發者在推特上貼出截圖,發現 Claude Code 即使手動設了最高等級的「高努力程度」(high effort),回傳的 API 調用參數裡卻赫然顯示「10/100」。在以前的設定裡,「10」代表的可是「低努...• 確實,這種「黑盒子」式的 AI 服務最容易引發信任危機。不過 Anthropic 的工程師很快就在 Hacker News 和社群上做了解釋,說這其實只是個局部的 A/B 測試,他們在實驗如何把後端的 API 傳輸配置數值映射到前端的顯示上...• 但你不覺得這種「顯示錯誤」的說法,是所有科技公司被抓包時的標準官方藉口嗎?就算真的只是數值對應的 A/B 測試,我們也要問:為什麼要針對「努力程度的數值」去做測試?這很明顯代表他們正在評估某種後端資源調配的底線,想看看當他們調整這些配置時,...

為什麼你的本地大模型用起來比想像中更笨?Why your local LLM feels dumber than it is

AI
📝 本集重點:• 倒也不用悲觀,關鍵在於選擇合適的量化方案,而非盲目壓縮。測試中表現最好的是「TheDude」的 INT8 W8A16 量化版。它是靜態 INT8 權重,但激活值保持 BF16。因為它沒量化關鍵的門控線性注意力投影,配合 Marlin 內核,...• 這也是大迷思。很多人看基準測試覺得 FP4 和 AWQ 分數沒掉多少,那是因為測試大多是短文本。但在接近十萬 Token 的長文本橫向測試中,Nvidia 的 NVFP4 量化版在上下文達八萬八千 Token 時,Token 翻轉率高達近 ...• 微小改變沒差,但誤差累積到一定程度,會發生「Token 翻轉」,也就是原本機率最高的 Token 被擠下去了。有人拿 Qwen-27B 混合架架構模型測試接近十萬 Token 的真實工作流。在前幾千個字時,各後端預測百分之百相同;但隨上下文...• 這還真不是玄學,而是浮點運算在不同硬體和 CUDA 核函數上的精度差異。在處理長文本時,推理引擎會自動選擇不同注意力後端,如 FlashAttention 2 或 Triton Attention。這些後端在執行底層矩陣乘法時,採用的運算順...

對AI文件視而不見?大腦開啟防禦機制 I'm becoming AI-blind

AI
📝 本集重點:• 這就是關鍵!以前我們常說 AI 能幫我們節約時間、提高效率,但現在的情況是,因為生產文字的門檻降到太低了,大家開始大量用 AI 來寫東西。但很多人根本不校對,直接把 Claude 或 ChatGPT 吐出來的草稿複製貼上。結果就是,文檔裡充...• 我覺得這絕對是一個爭議點。但我也必須說,這種「盲目」並不是我們主動選擇的,而是大腦為了在資訊超載的時代生存,不得不做出的適應。你看作者在文章裡提到一個很有趣的例子,他今年去波羅的海度假,走在路上肚子很餓,路過好幾家餐廳,其中有一家他本能地直...• 這就跟我們以前上網時會產生的「橫幅盲區」(banner blindness)一樣吧?我們的大腦經過長期的網路訓練,現在看到網頁側邊或中間的廣告橫幅,眼睛會自動略過。現在,我們的大腦正在對 AI 生成的文字進行同樣的「預訓練」過濾。因為我們看...• 對!這真的超有共鳴的。最近有一篇熱門文章叫《我正變得對 AI 盲目》(I'm becoming AI-blind),作者就提到他在工作上有這種困擾。他發現自己讀某些報告時,大腦會本能地拒絕分析內容,結果導致他得一直跟寄件者來回確認,問一些明...

AI巨頭秘密焚書?一場搶救人類文明的「數位亞歷山大」戰役 AI companies destroy physical books – let's scan rare books before it's too late

AI
📝 本集重點:• 聽起來很驚悚,但站在AI巨頭的角度,這其實是最理性的商業選擇。現在網路充斥著AI生成的垃圾內容,也就是資料污染。為了讓模型更聰明,AI公司必須找2022年以前、純人類寫的實體書當「無污染水源」。至於為什麼銷毀?因為「破壞性掃描」成本最低。直...• 這真的不是科幻小說的橋段。最近「安娜檔案」(Anna’s Archive)揭露了一件事,說有幾家AI公司正在透過中間人,秘密收購大量的二手實體書,掃描完之後直接把書銷毀。最讓人震驚的是Anthropic的「巴拿馬計畫」(Project Pa...• 這確實需要反思。但現在的出版體制真的保護了創作者嗎?大部分利潤都被大出版商和期刊巨頭拿走,作者拿到的版稅微乎其微。在AI時代,巨頭用人類的作品訓練模型、賺取千億美元估值,卻一分錢都沒分給原作者。影子圖書館不是要消滅創作,而是在崩壞的系統中為...• 這完全是兩碼子事!AI給的是經過它消化、過濾、甚至混雜了「幻覺」的二手資訊。如果原始實體書被毀了,我們拿什麼去核對真偽?而且這代表知識的私有化。以前你可以去圖書館免費借書,現在實體書被買斷銷毀,數位版全在巨頭手裡。萬一公司倒閉,或者他們審查...
5 of 12