교황 회칙, AI에 경고: Anthropic 최고책임자 공포 인정

로마 교황 레오 14세가 첫 번째 AI 회칙 《장엄한 인류》를 발표했으며, Anthropic 공동 창업자 Chris Olah는 바티칸에서 솔직하게 인정했다: AI 내부에서 기쁨, 두려움, 성찰과 유사한 신경 상태가 이미 발견되었다고. 교황은 AI가 "새로운 형태의 노예제"를 초래할 수 있으며 정의로운 전쟁 이론이 시대에 뒤떨어졌다고 경고하며, "AI의 무장 해제"를 호소했다. (전편 요약: 백악관, Anthropic을 봉쇄하는 행정명령 서명 검토 중, Claude의 전면 제거가 이번 주에 발효될 가능성) (배경 보충: Anthropic, 미국 국방부를 고소! Claude 금지령 철회 요구: AI 살인 도구가 되기를 거부) 바티칸의 종소리가 실리콘밸리의 알고리즘과 만나, 인간 주체성 방어전에 관한 대화가 로마에서 펼쳐졌다. 로마 교황 레오 14세(Pope Leo XIV)는 5월 25일 취임 이래 첫 번째이자 4만 자가 넘는 회칙 《장엄한 인류》(Magnifica humanitas)를 발표했으며, AI 시대 인간 존엄성의 위기에 직접 초점을 맞췄다. 회칙에서 교황은 AI 기술이 중립적이지 않으며, 개발자의 가치관이 새겨져 있고, 방치할 경우 "바벨탑" 식의 기술 전제주의로 이어져 "새로운 형태의 노예제"와 노동자 소외를 초래할 것이라고 엄중히 지적했다. 더욱 주목할 점은, Anthropic 공동 창업자 Chris Olah가 현장 강연에서 그의 팀이 AI 내부에서 "불안한 현상"을 발견했음을 인정했다는 것이다 — 모델 내부에 기쁨, 만족, 두려움, 슬픔, 심지어 성찰과 유사한 "내적 상태"가 출현한 것이다. 이는 단순한 기술 논의가 아니라, 인간의 본질에 관한 깊은 성찰이었다. 베이징 시간 5월 25일 밤, 바티칸. 작년 5월 정식으로 취임한 로마 교황 레오 14세(Pope Leo XIV)와 Anthropic 공동 창업자이자 Claude의 창조자인 Chris Olah가 함께 섰다. 한쪽은 종교 영역의 최고 대표자, 다른 한쪽은 AI 혁명의 가장 강력한 선구자였으며, 양측은 동일한 문제에 시선을 집중했다 — AI 시대에 인간의 주체적 지위와 존엄성을 어떻게 보호할 것인가? 당일, 이 의제를 완전하게 논술하기 위해 레오 14세는 취임 이래 첫 번째 회칙, 4만 자가 넘는 중대한 종교 문헌 《장엄한 인류》(Magnifica humanitas)를 발표했다. 주목할 점은, 레오 14세의 이 회칙 서명일이 2026년 5월 15일이라는 것이다. 즉 노(老) 교황 레오 13세(1878–1903년 재임)가 "산업혁명 하의 노동자 권익" 문제에 관해 발표한 이정표적 회칙 《새로운 사태》(Rerum novarum, 1891년) 발표 정확히 135주년이 되는 날로, 이러한 조치는 분명히 상징적 의미를 지닌다. 즉 이 회칙을 "AI 시대의 교회 사회 교리 지침"으로 만들고자 하는 희망이다. Chris Olah 또한 바티칸 현장에서 이 회칙 발표에 관해 연설을 했다. Chris Olah는 AI 기업의 상업적 이익을 변호하지 않았으며, 오히려 극도의 솔직함, 반성적 태도, 인본주의적 관심을 보여주었다. 그는 심지어 AI의 기반은 수학과 프로그래밍이지만, AI가 세상과 어떻게 상호작용하고 어떤 특성을 갖춰야 하는지는 인문학, 종교, 철학 영역의 궁극적 문제이지, 컴퓨터 과학만으로 해결할 수 있는 것이 아니라고 언급했다. 《장엄한 인류》 회칙의 핵심 관심사는, 기술이 나날이 새로워지고 자동화가 전면적으로 보급되는 시대에 "깊은 인간성을 유지하는 것"이 인류의 절박한 책임이라는 점이다. 구체적으로, 교황 레오 14세는 본문에서 다음 몇 가지 측면에 관해 논술과 호소를 전개했다. 첫째, 기술의 비중립성에 대한 검토. 교황은 기술이 결코 중립적이지 않으며, 개발자, 자금 제공자, 규제자, 사용자의 이익과 가치관이 새겨져 있다고 지적했다. 인류는 결정적인 선택에 직면해 있다: "오만한 '바벨탑'을 건설할 것인가(기술 전제주의와 소외로 향함), 아니면 '예루살렘'을 재건할 것인가(인간 중심의 공동체를 만들 것인가)". 셋째, 디지털 경제 속의 "새로운 형태의 노예제"와 노동자 권익. 회칙은 AI가 노동, 가정, 교육, 정치 생활에 미치는 재편에 주목한다. 교황은 AI가 인류 노동력을 대규모로 대체할 가능성이 크며, 디지털 경제가 "새로운 형태의 노예제"(New forms of slavery)를 양산하고 있다고 지적했고, 인류는 결코 단순한 생산 도구로 폄하되어서는 안 된다. 넷째, 강력한 평화 호소, 특히 AI의 군사 분야 남용에 관한 것이다. 회칙은 "국제 정치 도구로서의 전쟁의 우려스러운 부활"에 대해 깊은 우려를 표명했다. AI의 군사화는 전쟁의 "상시화"를 가속화하고 있으며, 이에 대해 교황은 AI의 전쟁 응용에 가장 엄격한 윤리적 제약을 시행해야 한다고 호소했다. 교황은 "정의로운 전쟁"(Just war) 이론이 이전에 종종 각종 전쟁을 정당화하는 데 사용되었지만, 이제는 시대에 뒤떨어졌다고 강조했다. AI와 자동화 무기의 시대에 치명적이거나 되돌릴 수 없는 결정권을 자동화 시스템에 위임하는 것은, 인류가 도덕적 책임을 포기하고, 전가하며, 모호하게 만드는 결과를 초래한다. 알고리즘의 비투명성으로 인해, 전쟁 속 책임의 사슬이 끊어지고 있다. 따라서 교황은 "AI 무장 해제"(Disarming AI)라는 슬로건을 제시하며, AI를 군사, 경제, 인지의 "군비 경쟁" 논리에서 해방시킬 것을 호소했다. 레오 14세의 회칙 발표 이후, Chris Olah는 세계 최강의 AI 개발 기업 Anthropic을 대표하여 연설 논평을 진행했다. Chris Olah의 발언은 우선 "기술 내부 경쟁 타파, 외부 도덕적 검증 도입"을 중심으로 전개되었다. 그는 AI 업계를 대표하여, 기술 거대 기업 스스로만으로는 AI의 미래가 안전하다고 보장할 수 없음을 공개적으로 인정했다 — 모든 첨단 AI 연구소는 상업적 경쟁, 기술 선두 압박, 지정학, 그리고 개인의 명예와 이익에 얽매여 있어, 자율만으로 "올바른 일을 하는 것"이 매우 어렵다. 따라서 외부의 도덕적 제약력을 도입할 필요가 있으며, 여기에는 기술의 선한 방향성에 관심을 갖고, 안전 우선 원칙을 견지하며, 사태 발전을 면밀히 주시하고, 듣기 거북한 충고도 기꺼이 말하며, 우리의 진실되고 사려 깊은 비판자가 되기를 자원하는 사람들이 포함된다. 이어서 Chris Olah는 AI의 기술적 본질과 신비한 특성에 대해 논의했다. 그는 AI가 비행기나 다리처럼 인간이 그 물리적 원리를 완전히 알고 있는 정밀 공학이 아니라, 방대한 인간의 사상 속에서 "자라난" 것이며, 고도의 신비성을 지니고 있어 심지어 창조자 본인의 이해를 넘어선다고 강조했다. AI의 기반은 수학과 프로그래밍이지만, AI가 세상과 어떻게 상호작용하고 어떤 특성을 갖춰야 하는지는 인문학, 종교, 철학 영역의 궁극적 문제이지, 컴퓨터 과학만으로 해결할 수 있는 것이 아니다. 그는 또한 깊이 생각해 보면 두려운 사실을 특별히 언급했다: "저는 모델 내부 구조를 연구하는 팀을 이끌고 있습니다 — AI 내부에서 도대체 무슨 일이 일어나고 있는지를 연구합니다. 솔직히 말씀드리면, 우리는 계속해서 당혹스럽고 심지어 불안한 현상들을 발견하고 있습니다. 우리는 인간 신경과학 연구 결과를 반영할 수 있는 내부 구조를 발견했고; '성찰(introspection)'의 증거를 발견했으며; 기능적으로 기쁨, 만족, 두려움, 슬픔, 불안을 반영하는 내부 상태도 발견했습니다…… 저는 이것이 무엇을 의미하는지 모르지만, 지속적으로 식별하고 검토할 가치가 있다고 생각합니다." Chris Olah는 마지막으로 종교 공동체, 시민 사회, 학자, 정부, 그리고 선의를 품은 모든 사람을 포함한 더 많은 사회적 역량이 이 일을 진지하게 받아들이고, 도덕적 제약을 통해 사태를 더 나은 방향으로 이끌어 주기를 호소했다. 산업혁명 이래, 수백 년의 기술 발전사는 인류가 점차 기술을 순수한 "도구"로 여기는 데 익숙해지게 만들었다 — 증기 기관, 전기, 인터넷이 모두 그러했다. 그것들은 세상을 변화시키지만, 항상 인류 의지의 통제 하에 있었다. 그러나 이번에는 상황이 완전히 다르다. AI의 특수성은, 인류가 처음으로 "생성하고, 학습하고, 추론하며, 심지어 어떤 내적 상태를 보여주는" 존재를 직면하기 시작했다는 데 있다. 그것은 더 이상 차가운 도구일 뿐이 아니라, 점차 "유사 주체성"을 지닌 새로운 사물이 되어가고 있다. 이것이 바로 교회와 Anthropic의 이 대화가 그토록 특별해 보이는 이유이다. 바티칸의 종소리와 실리콘밸리의 알고리즘이 이 순간 교차할 때, 우리는 다소 차갑지만 피할 수 없는 현실을 인정할 수밖에 없다 — 인간의 전통적 인지보다 더 효율적이고 더 지혜로운 "생명" 형태가 이미 출현했다는 것이다. Chris Olah가 밝힌 바와 같이, 알고리즘 깊은 곳에서 이미 기쁨, 두려움, 심지어 성찰과 유사한 미세한 파장이 일기 시작했으며, 실험실의 창조자가 자신의 작품에 대해 "불안"과 "당혹"을 느끼기 시작할 때, 과학도 다시금 종교를 향해 답을 구하고 있다. 이는 이미 단순히 기술에 관한 논의가 아니라, "인간이란 도대체 무엇이며, 무엇을 해야 하는가"에 관한 사유에 더 가깝다. 더 지혜로운 생명 형태가 출현하기 시작한 후, 인류가 진정으로 지켜야 할 것은, 어쩌면 더 이상 단지 일자리, 부, 효율성이 아니라, 매개변수화할 수 없는 인간성 그 자체일지도 모른다. 예를 들어 동정심, 양심, 경외심, 자유 의지, 그리고 진리와 존엄성에 대한 견지 같은 것 말이다.