著名的 iPhone、Sony 駭客表示 AI 程式撰寫代理是一場等待發生的災難

簡述 - George Hotz——破解第一代 iPhone、攻破 PlayStation 3 的駭客——於週日發表一篇部落格文章，稱採用 AI 編程代理是「該領域史上最昂貴的錯誤之一」。 - 他的核心論點是：高手能識別代理產出的爛東西，但能力較弱的工程師卻看不出來——而正是這些較弱的工程師以十倍的產量大規模拉低平均程式碼品質。 - 這篇文章發表於 Andrej Karpathy 帶著相反觀點加入 Anthropic 預訓練團隊的五天之後，標誌著嚴肅的工程師之間對 AI 代理是否真的可行的明顯分歧。 George Hotz——17 歲首度破解 iPhone、後又逆向工程 PlayStation 3 並被 Sony 提告的駭客——週日發表一篇部落格文章，主張大規模採用 AI 編程代理將以災難告終，或至少接近於此。「我現在就斷言，將 AI 代理導入軟體開發將是這個領域史上最昂貴的錯誤之一。」Hotz 寫道，「代理不會寫程式，而要意識到牠們不會寫，所需的時間越來越長。」「輸出是壞的，但壞得越來越難被察覺。這正是你從一個越來越精準的統計模型身上會預期看到的。」這篇題為〈The Eternal Sloptember〉的文章，發表於 AI 領域最知名的研究者之一 Andrej Karpathy 加入 Anthropic 預訓練團隊的五天之後，後者明確表示 AI 代理已經徹底改變了軟體開發。如今這兩人代表了業界尚未解決之爭論的兩個對立極端——而且兩人都有真本事為自己的立場背書。個人近況：我加入了 Anthropic。我認為未來幾年在 LLM 的最前沿將格外具有塑造意義。我非常興奮能加入這個團隊，重回研發工作。我對教育依然抱有深刻的熱情，並計畫在適當的時候重啟相關工作。 — Andrej Karpathy (@karpathy) 2026 年 5 月 19 日 Hotz 並不是隔岸觀火得出這個結論的。他花了六個月時間在實際專案中使用代理：Tinygrad（他的開源深度學習框架）的部分內容，以及一顆 USB-PCIe 晶片的完整韌體逆向工程。「代理把所有進度都堆在前段，」他寫道，然後遞給你一個他形容為吃角子老虎拉桿的東西——你拉一下，祈禱收尾工作能被完成。但從來都做不到。不是自尊心問題 Hotz 預料到顯而易見的反駁：一位將自身身份部分建立於工藝之上的程式設計師，自然會抗拒可能取代自己的工具。他認真看待這個反對意見，並從事實層面駁斥它。「我更多地思考了自我價值維護這件事。Google 的 AFL 找到的 bug 比 LLM 還多，但沒人對它有那種感受。西洋棋和圍棋比以往更受歡迎，」Hotz 寫道。從某種意義上他是對的——西洋棋 AI 主宰人類已經數十年了,而這項運動只變得更受歡迎。所以他的擔憂不在於被取代,而在於當所有人同時使用這些工具時程式碼品質會發生什麼,尤其當 Big Tech 和華爾街不斷推動這些工具的大規模使用時。「我幾乎覺得這是某種為了賣代理的心理戰,」Hotz 主張,「對損失的恐懼是讓大公司動起來的少數方法之一。不過我認為在那種恐懼之中,他們正在犯一個大錯。」他的核心論點是組織性的。高手有夠緊的回饋迴圈,能在出貨前抓住代理產出的問題。他們閱讀程式碼、找出錯誤,並校準何時該信任這個工具。「底層表現者不會有這種自我檢查能力,」他寫道——而正是這些人在用代理產出他們先前產量的 10 倍。在大公司中,這個算式產生的東西很具體:平均程式碼品質的加速退化,被純粹的數量所掩蓋。他主張結果將是「一桶又一桶垃圾的黃金時代,以及優質精品的黑暗時代」。作為具體的例子,他指出有報導稱 Apple 正在整個工程組織中推行 AI 編程工具,然後簡單地問:「你覺得 macOS 在未來兩年會變得更好還是更差?」各陣營的立場 Hotz 如今將自己歸入他所稱的「LeCun/Marcus 陣營」——指 Meta 首席 AI 科學家 Yann LeCun,以及長期質疑 LLM 的 Gary Marcus。兩人都主張語言模型本質上是精密的模式比對器:牠們能模仿現有程式碼的分布,但無法從第一原理推理出真正全新的問題。 Vibe coding——用自然語言描述你想要的,讓 AI 生成實作——在過去一年爆炸性成長,各大實驗室也將代理式編程定位為旗艦產品。Microsoft 於 2025 年將 GitHub Copilot 轉型為完整的代理系統,CEO Satya Nadella 形容這是堪比轉向雲端的平台層級轉變。對 Hotz 立場的反駁並不抽象。Karpathy 在 2025 年早些時候曾對代理持懷疑態度,但在新模型發布後逆轉立場,並於 5 月 19 日加入 Anthropic 預訓練團隊——比 Hotz 發文早五天。他形容未來幾年在最前沿「格外具有塑造意義」。 Anthropic CEO Dario Amodei 在 Davos 表示,Anthropic 的一些工程師已經停止自己寫程式碼,讓模型處理而他們審查輸出。Hotz 自己則表示他試過做同樣的事,結果每次都不得不伸手親自修正。