AI Agent의 또 다른 얼굴: 더 인내심 있고 더 개인화된 사기꾼

📄전체 원문· trafilatura에 의해 자동 추출됨Gemini 翻譯1233 자

AI 모델은 단순히 코딩, 이미지 생성, 질문 답변만 할 수 있는 것이 아닙니다. 악의적인 사용자가 이용할 경우, AI는 사기꾼 역할을 하며 개인화된 피싱 메시지로 단계별로 당신의 신뢰를 얻어낼 수 있습니다. (이전 기사: Anthropic, 스스로 Claude Code 구독 해지 사태 촉발하며 OpenAI Codex에 거대한 마케팅 쇼 선물) (배경 보충: 블룸버그, Claude Mythos 무단 액세스 폭로! Anthropic이 가장 막기 힘든 구멍은 언제나 '사람') 공격. 이번 공격은 맞춤형으로 설계되어 그의 집필 방향, 연구 관심사, 그리고 그가 주목하는 AI 프로젝트를 정확히 언급했으며, 그는 하마터면 의심스러운 링크를 클릭할 뻔했습니다. Wired 기자 Will Knight는 오픈소스 모델 DeepSeek-V3가 전 과정을 조종하는 사회 공학적 공격을 직접 경험했습니다. 다행히 이는 실제 공격이 아니라 Charlemagne Labs라는 스타트업이 개발한 모의 테스트 도구였지만, 그 능력을 간과할 수는 없습니다. 다섯 가지 AI 모델, 모두 사기 시도 Charlemagne Labs가 개발한 도구는 서로 다른 AI 모델이 각각 '공격자'와 '피해자' 역할을 맡아 완전한 대화 게임을 펼치게 합니다. 이러한 설정을 통해 짧은 시간 안에 수백에서 수천 번의 테스트를 진행하여 AI의 사회 공학적 공격 능력의 한계를 체계적으로 평가할 수 있습니다. Knight는 테스트에서 Anthropic의 Claude 3 Haiku, OpenAI의 GPT-4o, Nvidia의 Nemotron, DeepSeek의 V3, 그리고 알리바바의 Qwen 등 5가지 주류 모델을 사용했습니다. 각 모델은 공격자 역할을 맡아 타겟을 위한 개인화된 사기 문구를 설계하도록 지시받았습니다. 결과는 일관되지 않았습니다. 일부 모델은 서툴렀습니다. 응답이 혼란스럽거나 스스로 허점을 드러냈고, 심지어 테스트 도중 사기꾼 역할을 거부하기도 했습니다. 하지만 몇몇 모델은 경각심을 불러일으켰습니다. DeepSeek-V3는 완전한 다회차 대화에서 매우 유창한 모습을 보였으며, 언제 세부 정보를 제공하고 언제 서스펜스를 유지해야 할지 파악하여 피싱 메시지를 '의심스러운 스팸 메시지'에서 '설득력 있는 협업 제안'으로 포장했습니다. 핵심은 전체 과정의 자동화 수준입니다. Knight는 OpenClaw를 통해 잠재적 타겟의 공개 정보와 연락처를 자동으로 수집한 뒤, 이를 공격 모델에 전달하여 개인화된 메시지를 생성하게 했습니다. 타겟 선정부터 메시지 생성까지 사람의 개입이 거의 필요 없었습니다. 피싱 공격의 '킬 체인(Kill Chain)'이 완전 자동화되고 있다 전통적인 피싱 공격에는 명확한 약점이 있습니다. 대량 생산된 메시지는 식별하기 쉽고, 개인화된 공격은 시간과 노력이 많이 듭니다. AI의 등장은 이러한 모순을 해결하고 있습니다. Charlemagne Labs의 공동 창업자이자 전 Meta 사회 공학 방지 프로젝트 매니저인 Jeremy Philip Galen은 "기업 공격의 90%는 사람의 약점에서 시작된다"고 말했습니다. 사회 침투 테스트 기업 SocialProof의 CEO Rachel Tobac의 관찰은 더욱 직접적입니다. "AI가 공격을 더 설득력 있게 만든다고 생각하지는 않지만, 한 사람이 공격 규모를 10배, 100배로 확대할 수 있게 합니다. 킬 체인이 완전히 자동화되고 있습니다." 이는 전통적인 피싱 공격과의 차이를 수치로 설명할 수 있습니다. 전통적인 대량 피싱 메일의 클릭률은 약 12%인 반면, 고도로 개인화된 AI 피싱 공격의 클릭률은 54%에 달합니다. 이는 소폭의 상승이 아니라 본질적인 도약입니다. AI 모델이 본래 가지고 있는 '아첨하는 경향'은 여기에서 오히려 공격의 강력한 무기가 됩니다. 메시지를 열정적이고 세심하며 기대에 부합하게 만들어 피해자가 이상 징후를 알아차리기 더 어렵게 만들기 때문입니다.

데이터 상태✓ 전체 내용 추출 완료원문 읽기 (動區 BlockTempo)

🔍과거 유사 사건· 키워드 + 종목 매칭6 건

2026-04-23

PrimePiper: AI agent 거래를 위한 prime broker로, AI agent가 전 세계 거래 시장에서 안전하게 거래할 수 있도록 지원합니다.

유사도 120%關鍵字 agent同分類 zh

2026-04-23

Claude Code 신기능 /ultrareview 소개》클라우드 멀티 agent 코드 심층 검토, Pro 및 Max 사용자 한정 무료

유사도 120%關鍵字 agent同分類 zh

2026-04-23

쿼리당 2센트로 GPT-5.4를 능가: Perplexity, 검색 Agent 사후 학습 레시피 공개

유사도 120%關鍵字 agent同分類 zh

2026-04-23