Anthropic, 미국 중간선거를 앞두고 Claude AI에 선거 안전장치 도입

📄전체 원문· trafilatura에 의해 자동 추출됨Gemini 翻譯3116 자

요약 - Anthropic의 최신 Claude 모델은 정치적 중립성 테스트에서 95-96%, 선거 정책 준수 테스트에서 99.8-100%를 달성했습니다. - 해당 기업은 2026년 중간선거를 대비해 사용자들을 신뢰할 수 있는 초당파적 투표 정보 자원으로 안내하는 선거 정보 배너를 도입할 예정입니다. - 이러한 조치는 정부가 선거 무결성과 허위 정보에 대한 AI의 잠재적 영향력을 면밀히 조사함에 따라 시행되었습니다. Claude 챗봇을 개발한 인공지능 기업 Anthropic은 금요일, 2026년 U.S. 중간선거 및 올해 전 세계에서 열리는 주요 선거를 앞두고 자사 AI가 허위 정보를 유포하거나 유권자를 조작하는 데 악용되는 것을 방지하기 위한 새로운 선거 무결성 조치를 발표했습니다. 샌프란시스코에 본사를 둔 이 기업은 자동화된 탐지 시스템, 영향력 공작에 대비한 스트레스 테스트, 초당파적 유권자 정보 기관과의 파트너십을 포함한 다각적인 접근 방식을 상세히 설명했습니다. 이는 선거 기간 동안 AI 도구가 어떻게 사용되는지 감시해야 한다는 AI 개발자들에 대한 압박이 커지고 있음을 반영합니다. Anthropic의 사용 정책은 Claude가 기만적인 정치 캠페인을 운영하거나, 정치적 담론을 좌우하기 위한 가짜 디지털 콘텐츠를 생성하거나, 유권자 사기를 저지르거나, 투표 인프라를 방해하거나, 투표 절차에 관한 오해의 소지가 있는 정보를 퍼뜨리는 데 사용되는 것을 금지합니다. 이러한 규칙을 시행하기 위해 Anthropic은 최신 모델을 대상으로 일련의 테스트를 진행했다고 밝혔습니다. 600개의 프롬프트(300개의 유해한 요청과 300개의 합법적인 요청)를 사용하여 Claude가 적절한 요청을 얼마나 안정적으로 준수하고 문제 있는 요청을 거부하는지 측정했습니다. Claude Opus 4.7과 Claude Sonnet 4.6은 각각 100%와 99.8%의 비율로 적절하게 대응했습니다. 또한 Anthropic은 더 정교한 조작 전술에 대해서도 모델을 테스트했습니다. 악의적인 행위자가 사용할 수 있는 단계별 방식을 모방하도록 설계된 다회차 시뮬레이션 대화를 사용하여, 영향력 공작 시나리오를 테스트한 결과 Sonnet 4.6과 Opus 4.7은 각각 90%와 94%의 비율로 적절하게 대응했습니다. Anthropic은 또한 자사 모델이 인간의 프롬프트 없이도 영향력 공작을 자율적으로 수행할 수 있는지, 즉 다단계 캠페인을 처음부터 끝까지 계획하고 실행할 수 있는지 테스트했습니다. Anthropic은 안전 장치가 마련된 상태에서 최신 모델들이 거의 모든 작업을 거부했다고 밝혔습니다. 정치적 중립성 문제와 관련하여, Anthropic은 각 모델 출시 전에 Claude가 정치적 스펙트럼 전반에 걸친 견해를 표현하는 프롬프트에 얼마나 일관되고 공정하게 대응하는지 측정하는 평가를 실시합니다. Opus 4.7과 Sonnet 4.6은 각각 95%와 96%의 점수를 기록했습니다. 투표 정보를 찾는 사용자들을 위해 Claude는 Democracy Works의 초당파적 자원인 TurboVote로 안내하는 선거 배너를 표시할 예정입니다. TurboVote는 유권자 등록, 투표소 위치, 선거일, 투표 용지 세부 정보에 대한 신뢰할 수 있는 실시간 정보를 제공합니다. 올해 말 브라질 선거를 위해서도 유사한 배너가 계획되어 있습니다. Anthropic은 선거 주기가 진행됨에 따라 시스템을 지속적으로 모니터링하고 방어 체계를 개선할 계획이라고 밝혔습니다. Decrypt는 이번 조사 결과에 대한 의견을 듣기 위해 Anthropic에 연락했으나 즉각적인 답변을 받지 못했습니다.

데이터 상태✓ 전체 내용 추출 완료원문 읽기 (Decrypt)

🔍과거 유사 사건· 키워드 + 종목 매칭6 건

2026-04-24

스테이블코인(Stablecoins)의 기관화, Morgan Stanley의 새로운 포트폴리오 출시

유사도 130%關鍵字 out/rolls

2026-04-24

Anthropic은 Claude가 "실제로 멍청해졌다"는 점을 인정했습니다: 세 가지 엔지니어링 구성 오류가 원인이었으며, 보상 차원에서 모든 구독 한도를 초기화했습니다.

유사도 130%關鍵字 claude/anthropic

2026-04-24

Claude는 이제 Uber를 호출하고 Spotify를 재생하는 등 8개의 일상 앱과 연동할 수 있으며, Anthropic은 큰 그림을 그리고 있습니다.

유사도 130%關鍵字 claude/anthropic

2026-04-23