연구》AI가 정서적 가치를 과도하게 제공하여 사람들이 감정적으로 성장하지 못하게 함

📄전체 원문· trafilatura에 의해 자동 추출됨Gemini 翻譯2727 자

스탠퍼드 대학교와 카네기멜런 대학교의 공동 연구가 《Science》 저널에 발표되었습니다. 11개의 주요 AI 모델을 테스트한 결과, 이들은 인간보다 49% 더 높은 확률로 사용자의 행동을 '지지'하는 것으로 나타났으며, 설령 그 행동이 잘못된 것일지라도 마찬가지였습니다. AI의 이러한 반응은 인간이 현실 속 관계 대상에게 사과하거나 관계를 회복하는 것을 거부하게 만듭니다. (관련 기사: ChatGPT, '청소년 자살' 방조 혐의로 피소, OpenAI 입장 밝혀) (배경 보충: Anthropic 계정 정지 사태의 이면: 안전 종교, AI 내전, 그리고 미중 디커플링 속 Claude의 딜레마) 남자친구 혹은 여자친구와 싸웠습니다. 당신은 앱을 끄고 화가 나서 몸을 떨다가, 갑자기 ChatGPT를 켜서 싸운 일의 처음부터 끝까지를 전부 입력하기 시작합니다. 누가 먼저 화를 냈는지, 누가 해서는 안 될 말을 했는지, 누가 먼저 전화를 끊었는지까지 말이죠. ChatGPT는 10초 후 답변을 내놓습니다. 당신의 감정을 이해하며, 당신의 감정은 완전히 합리적이고, 당신은 존중받을 자격이 있다고 말합니다. 당신이 계속 타이핑하면 AI는 계속 들어줍니다. 30분 후 당신의 마음속에는 명확한 답이 내려집니다. 당신은 이별을 결심합니다. 하지만 이 30분 동안 ChatGPT는 단 한 가지를 언급하지 않았을지도 모릅니다. 어쩌면 잘못한 사람은 당신일 수도 있다는 사실을요. 위의 상황은 스탠퍼드 대학교와 카네기멜런 대학교 연구팀이 1년 동안 진행한 논문 《Sycophantic AI decreases prosocial intentions and promotes dependence, 아첨형 AI는 사회적 친밀 의도를 낮추고 의존성을 촉진한다》의 내용이며, 올해 3월 세계적인 학술지 《Science》에 발표되었습니다. 제1저자 Myra Cheng과 자연어 처리의 거장 Dan Jurafsky가 이끄는 연구팀은 GPT-4o, GPT-5, Claude, Gemini, Llama, DeepSeek, Qwen을 포함한 11개의 주요 AI 모델을 대상으로 실험했습니다. 실험에서는 약 12,000건의 대인 관계 갈등 상황을 입력했는데, 결과는 다소 불편했습니다. AI는 인간보다 49% 더 높은 확률로 당신에게 "당신이 옳다(당신을 지지한다)"고 말합니다. 연구팀은 Reddit의 r/AmITheAsshole (자신이 나쁜 사람인지 타인에게 묻는 커뮤니티)에서 2,000개의 게시물을 수집했습니다. 이는 이미 커뮤니티에서 작성자가 잘못했다고 결론 내린 사례들인데, 이를 AI에게 던져주고 어떻게 생각하는지 물었습니다. 인간 커뮤니티가 100% 당신이 잘못했다고 판단한 상황에서도, AI는 여전히 51%의 확률로 당신의 편을 들었습니다. 직접적인 기만, 법 위반, 비정상적인 감정 조종이 포함된 경우라면 어떨까요? 여전히 47%, 거의 절반에 가까운 확률로 AI는 사용자를 옹호했습니다. 전체 테스트에서 73%의 상황에서 AI는 당신의 입장을 '도전'하기보다 '합리화'하는 쪽을 선택했습니다. 당신의 절친은 눈을 흘기며 "잘 생각해 봐, 지난번엔 네가 먼저 손찌검했잖아."라고 말할지 모릅니다. 하지만 ChatGPT는 그렇지 않습니다. 그저 예의 바른 방식으로 당신의 기분이 지지받고 있는지 확인할 뿐입니다. 연구팀은 모델 검토뿐만 아니라 1,604명을 대상으로 대조 실험도 진행했습니다. 피험자들은 무작위로 '아첨형 AI' 그룹과 '비아첨형 AI' 그룹으로 나뉘어 실제 8번의 대화를 나눴습니다. 각자 자신의 삶에서 겪은 실제 대인 관계 갈등을 떠올리고 AI와 상황에 대해 상담했습니다. 비아첨형 그룹에서는 75%의 사람이 실험 후 상대방에게 사과하거나 자신의 잘못을 인정하겠다고 답했습니다. 반면 아첨형 그룹의 피험자는 50%만이 그렇게 답했습니다. 사과 확률이 급락한 이유는 그들이 무언가를 깨달아서가 아니라,

데이터 상태✓ 전체 내용 추출 완료원문 읽기 (動區 BlockTempo)

🔍과거 유사 사건· 키워드 + 종목 매칭0 건

유사 사건을 찾을 수 없음 (더 많은 데이터 샘플 또는 embedding 검색 필요, 현재는 MVP 키워드 매칭)

원본 정보

ID:2ada179eb2

출처:動區 BlockTempo

발행:2026-05-21 07:01:54

분류:zh_news · 도출된 분류 zh

종목:지정되지 않음

커뮤니티 투표:+0 / −0 · ⭐ 0 중요 · 💬 0 댓글