有名なiPhone、Sonyハッカー、AIコーディングエージェントは起こるべくして起こる災害だと語る

要約 - 初代iPhoneのジェイルブレイクとPlayStation 3のクラックを行ったハッカー、George Hotzが日曜日にブログ記事を公開し、AIコーディングエージェントの導入を「この分野の歴史上最も代償の大きい過ちの一つ」と呼んだ。 - 彼の中心的な主張：優秀なエンジニアはエージェントの悪い出力を見抜けるが、能力の低いエンジニアにはそれができない——そして大量にコードを生み出しているのはまさに能力の低いエンジニアであり、平均的なコード品質が大規模に低下している。 - この記事は、Andrej KarpathyがAnthropicの事前学習チームに加わって正反対の見解を示した5日後に登場し、AIエージェントが実際に機能するかどうかについて、真剣なエンジニアたちの間に明確な分断があることを示している。 George Hotz——17歳で初めてiPhoneをクラックし、PlayStation 3をリバースエンジニアリングしてSonyに訴えられたハッカー——は日曜日にブログ記事を公開し、AIコーディングエージェントの大規模な導入は災難、あるいはそれに近い結末を迎えると主張した。「今ここで宣言する。ソフトウェア開発へのAIエージェントの導入は、この分野の歴史上最も代償の大きい過ちの一つになるだろう」とHotzは書いた。「エージェントはプログラミングができない。そして、それができないと気づくのにどんどん時間がかかるようになっている」「出力は壊れているが、ますます検出が難しい形で壊れている。それは精度を高めていく統計モデルから予想される通りのことだ」「The Eternal Sloptember」と題されたこの記事は、AIの最も著名な研究者の一人であるAndrej KarpathyがAnthropicの事前学習チームに加わった5日後に登場した。Karpathyは、AIエージェントがすでにソフトウェア開発を変革したと明確に述べている。両者は今、業界がまだ決着をつけていない議論の対極を代表しており、どちらも立場を主張するに足る本物の信頼性を持っている。個人的なお知らせ：私はAnthropicに加わりました。LLMの最前線における今後数年は特に形成的なものになると考えています。ここのチームに加わってR&Dに戻れることをとても楽しみにしています。私は教育に深い情熱を持ち続けており、いずれその仕事を再開する予定です。 — Andrej Karpathy (@karpathy) May 19, 2026 Hotzは外野から結論に至ったわけではない。彼は6か月間、実際のプロジェクトでエージェントを使ってきた。自身のオープンソース深層学習フレームワークであるTinygradの一部や、USB-PCIeチップの完全なファームウェアリバースエンジニアリングなどだ。「エージェントはすべての進捗を前倒しにする」と彼は書く。そして、彼がスロットマシンのレバーと表現するものをあなたに手渡す——あなたはそれを引いて、仕上げの作業が終わることを願う。決してきちんと終わることはない。エゴの問題ではない Hotzは予想される反論を見越している——自分のアイデンティティの一部を職人技で定義しているプログラマーは、自分を置き換える恐れのあるツールに自然と抵抗するだろう、というものだ。彼はその反論を真剣に受け止め、その上で内容として退ける。「自己価値の保護について、もっと考えてみた。GoogleのAFLはLLMよりも多くのバグを見つけたが、誰もそれについてそう感じなかった。チェスや囲碁はかつてないほど人気がある」とHotzは書いた。そして彼は正しい。チェスAIは何十年にもわたって人間を圧倒してきたが、ゲームの人気はむしろ高まっただけだ。つまり、彼の懸念は置き換えられることではない。誰もがこれらのツールを一斉に使うとき、特にBig TechやWall Streetがこれらのツールの大量使用を絶えず推進しているときに、コードの品質がどうなるかということだ。「これはエージェントを売るための一種の心理作戦ではないかとさえ思う」とHotzは主張する。「損失への恐怖は、大企業を動かす数少ない方法の一つだ。ただ、その恐怖の中で彼らは大きな間違いを犯していると思う」彼の中心的な主張は組織的なものだ。優秀なエンジニアは、エージェントが生成した問題が出荷される前に捕捉できるほど密接なフィードバックループを持っている。彼らはコードを読み、エラーを発見し、ツールを信頼すべきタイミングを調整する。「下位のエンジニアにはその自己チェックがないだろう」と彼は書く——そして、彼らこそが以前の10倍の出力を生み出すためにエージェントを使っている人々だ。大企業ではこの計算が具体的な結果を生む——膨大な量によって覆い隠された、平均的なコード品質の急速な劣化だ。その結果は「バケツ何杯分ものスロップ（粗悪なコード）の黄金時代であり、質の高い宝石にとっての暗黒時代」になるだろうと彼は主張する。具体的な例として、彼はAppleがAIコーディングツールをエンジニアリング組織全体に推進しているという報道を指摘し、こうシンプルに問う——「macOSは今後2年間で良くなると思うか、悪くなると思うか？」各陣営の立ち位置 Hotzは現在、自身を「LeCun/Marcus陣営」と呼ぶ立場に置いている——Metaのチーフ・AI・サイエンティストであるYann LeCunと、長年のLLM懐疑論者であるGary Marcusを指す。両者は、言語モデルは根本的に洗練されたパターンマッチャーであると主張してきた——既存のコードの分布を模倣することはできるが、第一原理から真に新しい問題を推論することはできない、と。 Vibe coding——欲しいものを平易な言葉で記述し、AIに実装を生成させること——は過去1年で爆発的に普及し、主要なラボはエージェントベースのコーディングを目玉製品として位置づけてきた。Microsoftは2025年にGitHub Copilotを完全なエージェントシステムに変革し、CEOのSatya Nadellaはこれをクラウドへの移行に匹敵するプラットフォームレベルの転換と表現した。 Hotzの立場に対する反論は抽象的ではない。Karpathyは2025年初期にはエージェントに懐疑的だったが、新しいモデルのリリース後に立場を翻し、5月19日——Hotzが記事を公開する5日前——にAnthropicの事前学習チームに加わった。彼はフロンティアでの今後数年を「特に形成的」と表現した。 Anthropic CEOのDario AmodeiはDavosで、一部のAnthropicエンジニアはすでに自分でコードを書くのをやめ、モデルに処理させて出力をレビューするだけにしていると述べた。Hotz自身は同じことを試みたが、毎回手動修正に手を伸ばしている自分に気づいたという。