유명한 iPhone, Sony 해커가 말하길 AI 코딩 에이전트는 곧 닥칠 재앙이다

요약 - 첫 iPhone 탈옥과 PlayStation 3 해킹의 주인공인 해커 George Hotz가 일요일 블로그 게시물에서 AI 코딩 에이전트 도입을 "이 분야 역사상 가장 값비싼 실수 중 하나"라고 칭했다. - 그의 핵심 논거: 고성과자는 나쁜 에이전트 결과물을 알아볼 수 있지만, 실력이 낮은 엔지니어는 그렇지 못하며—그리고 코드를 10배의 양으로 생산하는 것은 바로 그 실력이 낮은 엔지니어들이라는 점이 평균 코드 품질을 대규모로 저하시킨다. - 이 게시물은 Andrej Karpathy가 정반대 견해를 가지고 Anthropic의 사전 학습 팀에 합류한 지 5일 후에 나왔으며, AI 에이전트가 실제로 작동하는지에 대해 진지한 엔지니어들 사이에서 명확한 분열이 있음을 보여준다. 17세에 처음으로 iPhone을 해킹하고 PlayStation 3를 리버스 엔지니어링한 뒤 Sony에게 소송당한 해커 George Hotz가 일요일에 블로그 게시물을 발표하여 AI 코딩 에이전트의 대규모 도입이 재앙으로, 혹은 적어도 그에 가까운 것으로 끝날 것이라고 주장했다. "지금 단언하건대, 소프트웨어 개발에 AI 에이전트를 도입하는 것은 이 분야 역사상 가장 값비싼 실수 중 하나가 될 것입니다"라고 Hotz는 썼다. "에이전트는 프로그래밍을 할 수 없으며, 그들이 할 수 없다는 것을 깨닫는 데 점점 더 오랜 시간이 걸리고 있습니다." "결과물은 망가져 있지만, 점점 감지하기 어려운 방식으로 그렇습니다. 그것은 정확도가 점점 높아지는 통계 모델에서 정확히 예상할 수 있는 일이죠." "The Eternal Sloptember"라는 제목의 이 게시물은 AI에서 가장 저명한 연구자 중 한 명인 Andrej Karpathy가 AI 에이전트가 이미 소프트웨어 개발을 변화시켰다는 명시적인 견해를 가지고 Anthropic의 사전 학습 팀에 합류한 지 5일 후에 나왔다. 이제 두 사람은 업계가 아직 결론짓지 못한 논쟁의 정반대 양극을 대표하며—둘 다 입장을 표명할 실질적인 신뢰성을 가지고 있다. 개인 소식: 저는 Anthropic에 합류했습니다. 앞으로 몇 년간 LLM의 최전선이 특히 형성적일 것이라고 생각합니다. 여기 팀에 합류하여 R&D로 돌아가게 되어 매우 기쁩니다. 저는 여전히 교육에 깊은 열정을 가지고 있으며 때가 되면 그 작업을 재개할 계획입니다. — Andrej Karpathy (@karpathy) May 19, 2026 Hotz는 방관자의 입장에서 결론에 도달한 것이 아니다. 그는 6개월 동안 실제 프로젝트에서 에이전트를 사용했다: 그의 오픈소스 딥러닝 프레임워크인 Tinygrad의 일부, 그리고 USB-PCIe 칩의 완전한 펌웨어 리버스 엔지니어링이다. "에이전트는 모든 진척을 앞단에 몰아넣습니다"라고 그는 쓰며, 그런 다음 그가 슬롯 머신 레버라고 묘사하는 것을 당신에게 건넨다고 한다—당신이 그것을 당기고 마무리 작업이 끝나기를 바라는 것이다. 결코 완전히 끝나지는 않는다. 자존심의 문제가 아니다 Hotz는 명백한 반박을 예상한다: 자신의 정체성의 일부를 자신의 기술을 통해 정의하는 프로그래머는 자연스럽게 자신을 대체할 위협이 되는 도구에 저항할 것이라는 점이다. 그는 이 반론을 진지하게 받아들이고 그 본질적인 면에서 일축한다. "자존감 보존 문제에 대해 좀 더 생각해 봤습니다. Google의 AFL은 LLM보다 더 많은 버그를 발견했지만 아무도 그것에 대해 그렇게 느끼지 않았습니다. 체스와 바둑은 그 어느 때보다 인기가 많습니다"라고 Hotz는 썼다. 그리고 그의 말이 옳은 면이 있다. Chess AI는 수십 년간 인간을 압도해 왔지만 그 게임은 더욱 인기가 많아졌을 뿐이다. 따라서 그의 우려는 자신이 대체되는 것에 관한 것이 아니다. 모두가 이 도구들을 동시에 사용할 때 코드 품질이 어떻게 될 것인지에 관한 것이며, 특히 Big Tech와 Wall Street가 이 도구들의 대량 사용을 끊임없이 밀어붙이고 있을 때 그렇다. "이것이 에이전트를 팔기 위한 일종의 psyop이 아닌가 하는 생각마저 듭니다"라고 Hotz는 주장한다. "손실의 두려움은 대기업을 움직이게 하는 몇 안 되는 방법 중 하나입니다. 하지만 저는 그 두려움 속에서 그들이 큰 실수를 하고 있다고 생각합니다." 그의 핵심 논거는 조직적인 것이다. 고성과자는 에이전트가 생성한 문제를 출시 전에 잡아낼 만큼 충분히 긴밀한 피드백 루프를 갖고 있다. 그들은 코드를 읽고, 오류를 발견하며, 도구를 언제 신뢰할지를 보정한다. "하위 성과자에게는 그러한 자체 점검이 없을 것입니다"라고 그는 쓴다—그리고 에이전트를 사용해 이전 산출량의 10배를 생산하고 있는 것은 바로 그들이다. 대기업에서 그 계산은 특정한 무언가를 만들어 낸다: 순전한 양에 의해 가려진, 평균 코드 품질의 더 빠른 저하이다. 그 결과는 "양동이로 퍼낸 듯한 slop의 황금기, 그리고 품질의 보석들에게는 암흑기"가 될 것이라고 그는 주장한다. 구체적인 예시로, 그는 Apple이 자사의 전체 엔지니어링 조직 전반에 AI 코딩 도구를 밀어붙이고 있다는 보도를 가리키며 간단히 묻는다: "macOS가 향후 2년간 더 좋아질 거라고 생각하십니까, 아니면 더 나빠질 거라고 생각하십니까?" 진영들의 입장 Hotz는 이제 자신을 그가 "LeCun/Marcus 진영"이라고 부르는 곳에 위치시킨다—Meta의 수석 AI 과학자 Yann LeCun과 오랜 LLM 회의론자 Gary Marcus를 지칭한다. 두 사람 모두 언어 모델이 근본적으로 정교한 패턴 매처라고 주장해 왔다: 기존 코드의 분포는 모방할 수 있지만, 진정으로 새로운 문제를 제1원리부터 추론할 수는 없다는 것이다. 당신이 원하는 것을 평이한 언어로 묘사하고 AI가 구현을 생성하게 하는 vibe coding은 지난 한 해 동안 폭발적으로 성장했으며, 주요 연구소들은 에이전트 기반 코딩을 대표 제품으로 자리매김시켰다. Microsoft는 2025년에 GitHub Copilot을 완전한 에이전트 시스템으로 변모시켰고, CEO인 Satya Nadella는 이것을 클라우드로의 이동에 비견되는 플랫폼 수준의 전환이라고 표현했다. Hotz의 입장에 대한 반박은 추상적이지 않다. 2025년 초에는 에이전트에 회의적이었던 Karpathy는 새 모델 출시 후 입장을 뒤집었고 5월 19일에 Anthropic의 사전 학습 팀에 합류했다—Hotz가 발표하기 5일 전이다. 그는 최전선에서의 앞으로 몇 년이 "특히 형성적"이라고 묘사했다. Anthropic CEO Dario Amodei는 Davos에서 일부 Anthropic 엔지니어들이 이미 직접 코드 작성을 중단하고 모델에게 처리를 맡긴 채 그 결과물을 검토하고 있다고 말했다. Hotz는 자신도 같은 일을 시도해 봤지만 매번 수동 수정에 손을 뻗고 있는 자신을 발견했다고 한다.