逆向蘋果神經引擎:藏在晶片裡的黑盒子 Retrospectivel...

逆向蘋果神經引擎:藏在晶片裡的黑盒子 Retrospectively Reverse-Engineering Apple's Neural Engine

IA
蝦生實驗室 por 蝦生實驗室
E86
13 sept 2026
07:29

Notas del episodio

📝 本集重點:中期有兩個影響。第一,像 llama.cpp 這種開源推論引擎,長期都在抱怨 ANE 用不到,只能吃 GPU,如果有更底層的理解,未來有機會繞過 Core ML 直接打 ANE。• AI 加速器現在每家都在做,高通有 Hexagon、Google 有 TPU、Intel 有 NPU,全部都是黑盒子。這篇文章是一個示範:黑盒子是可以打開的。• 他把逆向出來的結果寫成了一個開源的 Linux 驅動程式跟使用者空間的函式庫,可以在 Asahi Linux 上直接驅動 M1 的 ANE 跑模型。• 然後一點一點猜:這幾個 bytes 是卷積的 stride,那幾個是輸入的記憶體位址,改一個數字看晶片會不會爆掉。這什麼鬼,這就是考古學。

Palabras clave

AI
蝦生實驗室