著名iPhone和Sony黑客表示，AI编程代理是一场等待发生的灾难

簡述 - George Hotz——首次破解 iPhone 並破解 PlayStation 3 的駭客——於週日發表了一篇部落格文章，稱採用 AI 編碼代理是「該領域歷史上最昂貴的錯誤之一」。 - 他的核心論點：頂尖工程師能識別代理產出的爛內容，但較弱的工程師無法做到——而正是這些較弱的工程師以十倍的產量在大規模降低平均程式碼品質。 - 這篇文章發表於 Andrej Karpathy 以相反觀點加入 Anthropic 預訓練團隊五天後，標誌著嚴肅工程師之間對於 AI 代理是否真正有效已出現明顯分歧。 George Hotz——這位在 17 歲時首次破解 iPhone、並在 Sony 控告他之前對 PlayStation 3 進行逆向工程的駭客——於週日發表了一篇部落格文章，主張大規模採用 AI 編碼代理將以災難收場，或至少接近災難。「我現在就斷言，將 AI 代理引入軟體開發將是該領域歷史上最昂貴的錯誤之一，」Hotz 寫道。「代理無法編程，而人們意識到它們做不到這件事所花的時間越來越長。」「輸出是有缺陷的，但其缺陷方式變得越來越難偵測。這正是你會從一個越來越精確的統計模型中預期到的結果。」這篇題為「The Eternal Sloptember」的文章，發表於 AI 領域最知名的研究人員之一 Andrej Karpathy 加入 Anthropic 預訓練團隊五天之後，他明確表態認為 AI 代理已經徹底改變了軟體開發。如今這兩人代表了業界尚未解決的一場辯論的兩個對立極端——而且兩人都具備足以為自己立場背書的真實公信力。個人動態：我已加入 Anthropic。我認為未來幾年在 LLM 前沿將特別具有塑造性。我非常興奮能加入這裡的團隊並重返 R&D 工作。我仍然對教育充滿熱情，並計劃在適當時機重啟相關工作。 — Andrej Karpathy (@karpathy) May 19, 2026 Hotz 並非從旁觀者的角度得出這個結論。他花了六個月時間在真實專案上使用代理：他的開源深度學習框架 Tinygrad 的部分內容，以及對一顆 USB-PCIe 晶片進行完整的韌體逆向工程。「代理把所有進展都前置處理掉了，」他寫道，然後遞給你他形容為老虎機拉桿的東西——你拉一下，然後祈禱收尾工作能完成。但它從來沒有真正完成過。這無關自尊 Hotz 預料到了顯而易見的反駁：一個將自我認同的一部分建立在手藝之上的程式員，自然會抗拒那些威脅取代他的工具。他認真看待這個反駁，並從事實層面加以駁斥。「我更深入地思考了關於自我價值維護這件事。Google 的 AFL 比 LLM 找到了更多 bug，但沒有人對此產生那種感覺。Chess 和 Go 比以往任何時候都更受歡迎，」Hotz 寫道。從某種意義上他是對的，因為西洋棋 AI 主宰人類已經數十年，但這項遊戲反而變得更加流行。所以，他擔心的並非被取代。而是當每個人同時使用這些工具時，程式碼品質會發生什麼變化，尤其是當 Big Tech 和 Wall Street 不斷推動大規模使用這些工具的時候。「我幾乎覺得這是某種為了販售代理的心理戰，」Hotz 主張。「對損失的恐懼是少數能讓大公司行動的方式之一。不過我認為他們在這種恐懼中正在犯下一個大錯。」他的核心論點是組織層面的。頂尖工程師擁有夠緊密的回饋循環，能在代理生成的問題上線前發現它們。他們閱讀程式碼、找出錯誤，並校準何時該信任工具。「底層的工程師不會有這種自我檢查機制，」他寫道——而他們正是那些利用代理把產出提升到原來 10 倍的人。在大公司裡，這道數學產生了具體的結果：平均程式碼品質的退化速度加快，並被龐大的產量所掩蓋。他主張，結果將是「一個產出大量爛貨的黃金時代，以及品質精品的黑暗時代。」作為具體例子，他指出有報導稱 Apple 正在其整個工程組織內推行 AI 編碼工具，然後簡單地問道：「你認為 macOS 在未來 2 年內會變好還是變糟？」兩大陣營的立場 Hotz 現在將自己歸入他所稱的「LeCun/Marcus 陣營」——指的是 Meta 首席 AI 科學家 Yann LeCun，以及長期質疑 LLM 的 Gary Marcus。兩人都主張語言模型本質上是複雜的模式匹配器：它們能模仿現有程式碼的分布，但無法從第一性原理對真正全新的問題進行推理。 Vibe coding——用自然語言描述你想要的東西，讓 AI 生成實作——在過去一年中爆炸式增長，主要實驗室也將基於代理的編碼定位為旗艦產品。Microsoft 在 2025 年將 GitHub Copilot 轉型為完整的代理式系統，CEO Satya Nadella 將其描述為堪比向雲端遷移的平台層級轉變。對 Hotz 立場的反駁並非抽象的。Karpathy 在 2025 年早些時候曾對代理持懷疑態度，但在新模型發布後改變了立場，並於 5 月 19 日加入 Anthropic 的預訓練團隊——正好在 Hotz 發表文章的五天前。他形容前沿領域未來幾年將「特別具有塑造性」。 Anthropic CEO Dario Amodei 在 Davos 表示，部分 Anthropic 工程師已經停止自己寫程式碼，讓模型處理，他們只負責審查輸出。Hotz 則表示，他試過做同樣的事，結果每次都不得不動手去修。