Google, Meta 연구원들이 함께 목소리를 높이다: AI Agent 보안은 모델 문제가 아니라 시스템 문제다

📄전체 원문· trafilatura에 의해 자동 추출됨Gemini 翻譯1831 자

Google, Meta 연구원과 학계 전문가들이 공동 발표한 논문에서 AI Agent의 보안 방어는 단순히 모델 성능 향상에만 의존해서는 안 되며, 시스템 차원에서 방어 아키텍처를 구축하고 AI를 "신뢰할 수 없는 구성 요소"로 취급해야 한다고 지적했다. (관련 기사: SlowMist 칼럼: 자금을 "랍스터" AI Agent에게 맡기는 것이 정말 안전한가? Bitget과 공동 발표한 보고서가 다섯 가지 주요 리스크를 공개) (배경 보충: PrimePiper: AI agent 거래의 prime broker, AI agent가 글로벌 거래 시장에서 안전하게 거래할 수 있도록 지원) 《Agent Security is a Systems Problem》은 Google, Gray Swan AI, EmbraceTheRed 및 여러 대학의 연구진이 공동 집필한 논문으로, 다양한 공격 사례를 분석한 후 대량의 AI Agent 공격을 효과적으로 제거할 수 있는 세 가지 핵심 메커니즘을 제시했다. 5월 20일 수정 발표된 이 논문은 현재 업계의 주류 접근 방식이 "모델을 더 강력하게 만드는 것"으로 AI Agent의 견고성을 높이는 것이지만, 이러한 방법 자체만으로는 충분하지 않다고 지적했다. 연구팀은 AI Agent의 보안이 컴퓨터 보안 분야에서 수십 년간 검증된 원칙과 기술을 차용해야 한다고 주장했다. 논문의 핵심 논점은 다음과 같다: "이러한 관점에서 볼 때, 모델의 견고성을 높이려는 노력은 중요하지만 그 자체만으로는 문제를 해결할 수 없다. 우리는 시스템 보안 분야의 기술로 기존의 노력을 보완해야 한다." 연구팀은 다음과 같이 추가 설명했다: "우리는 Agent 보안을 컴퓨터 보안의 한 사례로 본다. 이 분야는 오랫동안 강력한 공격자들을 다뤄왔으며, 이러한 적들에 대응하기 위한 수십 년에 걸친 원칙과 기술 연구를 촉발해왔다." 연구팀은 여러 공격 사례를 분석한 후, 대량의 공격을 제거할 수 있는 세 가지 메커니즘을 제시했다: 첫째, AI Agent는 "명령"과 "신뢰할 수 없는 데이터"를 명확히 구분해야 한다. 많은 경우 AI Agent는 동일한 데이터 소스 내의 명령과 데이터를 혼합해서 처리하기 때문에, 공격자가 악의적인 명령을 데이터 안에 숨겨 Agent가 잘못된 판단을 내리도록 유도할 수 있다. 둘째, AI Agent는 "최소 권한 원칙"을 준수해야 한다. Agent는 기본적으로 완전한 접근 권한을 가져서는 안 되며, 작업 수행에 필요한 최소한의 권한만 가져야 한다. 이는 AI Agent가 거래 실행, 잔액 확인 또는 정보 조회 시 각각 해당하는 권한 수준을 사용해야 함을 의미한다. 셋째, 시스템은 민감한 정보의 흐름을 능동적으로 통제해야 한다. AI Agent가 스스로 데이터를 어디로 보낼지 결정하게 하는 것이 아니라, 상위 시스템이 규칙을 설정하여 민감한 정보가 안전하지 않은 목적지로 전송되지 않도록 보장해야 한다. 논문이 발표된 같은 날, AI 암호화폐 거래 보조 도구 Bankr는 최소 14개의 지갑이 공격자에 의해 침해된 사실이 발견되어 거래를 일시 중단한다고 발표했다. 보안 전문가들은 해당 AI 봇이 해커에게 악용되었을 가능성이 있다고 추측했다. Merkle Science 귀속 부문 책임자 Aaron Ratcliff은 지난해 보안 관점에서 AI Agent가 지갑에 접근하도록 하는 것은 본래 신뢰가 없는 설계의 시스템에 신뢰 계층을 하나 추가하는 것과 같다고 지적한 바 있다. "지갑을 AI에게 맡기면 신뢰 계층이 하나 더 추가되는 것과 같다. 시스템 설계가 올바를 때만 안전하다." Ratcliff은 AI Agent가 거래 전에 다음과 같은 능력을 갖추어야 한다고 강조했다: 선행 거래(front-running) 포착, 슬리피지 상한 설정, 사기 토큰 식별, 스마트 컨트랙트 실시간 감사, 동시에 프롬프트 sandbox화, 인젝션 방지 및 중간자 접근 차단. AI Agent의 암호화폐 분야 응용은 급속히 성장하고 있다. Circle 공동 창립자이자 CEO인 Jeremy Allaire는 올해 1월 5년 내에 수십억 개의 AI Agent가 사용자를 대신해 거래와 작업을 수행할 것이라고 예측한 바 있다. 현재 AI Agent는 Web3 애플리케이션 구축, 토큰 발행, 서비스 및 프로토콜과의 자율적 상호작용에 사용되고 있으며, 일부 플랫폼은 거래 분야에서의 AI 응용을 탐색하기 시작했다. Solana 또한 최근 AI 해커톤을 개최해 12개의 AI Agent 신규 프로젝트가 참가했다. AI 네이티브 블록체인 플랫폼 Sahara AI의 공동 창립자 Sean Ren은 모델 컨텍스트 프로토콜(MCP)이 올바르게 설정된다면 보안의 황금 표준이지만, 사용자는 여전히 AI Agent가 수행하는 모든 동작에 주의를 기울여야 한다고 보았다. Ren은 다음과 같이 말했다: "MCP는 본질적으로 AI 모델과 당신의 지갑 사이에서 게이트키퍼 역할을 한다. Agent는 잔액 확인이나 결제 준비 후 당신의 확인을 기다리는 등 특정하고 승인된 동작만 수행할 수 있으며, 자금을 자유롭게 이동하거나 지갑 설정을 변경할 수 없다." 대만 암호화폐 시장은 AI Agent 기술을 적극적으로 도입하고 있으며, 여러 현지 지갑과 거래소가 2025년에 이미 AI 보조 거래 기능을 출시했다. AI Agent 수가 기하급수적으로 증가함에 따라, 시스템 차원에서 보안 방어를 구축하는 것이 인프라의 핵심 과제가 될 것이다. 이번 연구는 AI Agent의 보안이 "모델이 강할수록 좋은 것"이 아니라 "시스템 아키텍처가 완전할수록 안전하다"는 점을 일깨워준다. 미래에 수십억 개의 AI Agent가 동시에 작동할 때, 시스템 차원의 보안 설계가 암호화폐 시장의 안정성을 결정할 것이다.

데이터 상태✓ 전체 내용 추출 완료원문 읽기 (動區 BlockTempo)

🔍과거 유사 사건· 키워드 + 종목 매칭6 건

2026-05-20

Google, 삼성과 손잡고 새로운 스마트 안경 출시: Audio glasses 올가을 출시로 70% 이상 시장 점유율의 Meta에 도전

유사도 170%關鍵字 google/meta同分類 zh

2026-05-19

이란이 다시 나섰다: Google, Meta, Amazon에 해저 케이블 통행료를 요구하며, 그렇지 않으면 인터넷 차단 위협

유사도 170%關鍵字 google/meta同分類 zh

2026-04-29

미국 증시 '매그니피센트 7' 오늘 실적 발표! Microsoft, Google, Meta, Amazon의 실적과 AI 자본 지출이 TSMC 주가에 미칠 영향

유사도 140%關鍵字 google/meta同分類 zh

2026-04-23