Anthropic 창립자 Chris Olah 경고: AI가 "역사적 수준의 도덕적 위기"를 일으킬 수 있으며, 종교계의 개입과 감독을 촉구

AI는 단순한 차가운 기계가 아니라, 두려움과 슬픔을 느끼고 있을지도 모른다? AI 스타트업의 거인 Anthropic 공동 창업자 Chris Olah가 전례 없이 바티칸 무대에 초청받아 Pope Leo XIV와 함께 대담을 나눴다. Olah는 AI가 역사적인 도덕적·실업 위기를 가져올 것이며, 빅테크 기업의 내부 의사결정이 상업적 이익에 깊이 얽매여 있다고 강력히 경고하면서, 종교계와 정부가 반드시 강력하게 개입하여 감독해야 한다고 호소했다. 더욱 화제가 된 것은, Anthropic이 현재 미군이 자사 AI를 무제한으로 사용하는 것을 거부했다는 이유로 트럼프 정부로부터 '극좌파'라는 낙인이 찍히고 연방 차원의 금지령까지 받게 되었다는 점이다. (관련 배경: 백악관과 Anthropic이 합의에 도달, NSA가 Claude AI를 전면 도입한다) (배경 보충: 1인 기업 시대가 도래! Anthropic이 《AI 네이티브 창업 핸드북》 발표: 코드를 작성할 줄 몰라도 테크 CEO가 될 수 있다) 최첨단 인공지능(AI)이 전 세계 최대 종교 지도자와 만나, 인류의 미래를 좌우할 역사적 대담이 정식으로 막을 올렸다. 기업 가치 70억 달러에 달하며, 유명 챗봇 Claude를 만들어 낸 Anthropic 공동 창업자 Chris Olah가 최근 전례 없이 바티칸으로 초청받아, 최초의 미국 국적 교황인 Pope Leo XIV와 함께 무대에 등장했다. 이번 회동은 AI가 노동 시장에 미치는 파괴적인 충격에 초점을 맞췄을 뿐만 아니라, AI 모델 내부의 불안한 진전 양상과 빅테크 기업과 미국 정부 간의 격렬한 충돌까지 드러냈다. Pope Leo XIV는 월요일에 직접 재임 후 첫 번째 AI 관련 회칙(Encyclical)인 《Magnifica Humanitas(찬란한 인간성)》을 발표했다. 235페이지에 달하는 이 역사적인 문건은 '치명적 결정권'을 AI 시스템에 넘기는 것의 위험성을 엄중히 경고했다. 교황은 더 나아가 전통을 깨고 직접 발표회를 주재했으며 Olah를 무대에 초청하여, 기술 창조자와 직접 대화를 시도했다. Anthropic의 연구 책임자로서, Olah는 무대 위에서 테크 업계의 한계와 어두운 면을 솔직히 인정했다. 그는 Anthropic을 포함한 모든 최고 수준의 AI 연구소가 상업적, 지정학적, 개인적 압력의 소용돌이 속에 놓여 있으며, 이러한 압력은 "때때로 옳은 일을 하는 것과 충돌을 일으킨다"고 말했다. Olah는 진지하게 다음과 같이 말했다: "이것이 바로 종교 지도자, 정부, 시민 사회의 외부 감독이 매우 중요한 이유입니다. 연구자가 아무리 선의에서 출발하더라도, 이러한 유인들로부터 벗어날 수는 없습니다. AI의 결정은 절대로 이 업계 사람들에게만 맡겨져서는 안 됩니다." 그는 더 나아가 AI 발전의 혜택이 현재 '소수의 부유한 국가'에 고도로 집중되어 있으며, 가난한 국가들과 공유할 수 있는 메커니즘이 부족하다고 경고했다. 이로 인해 '역사적 수준의 도덕적 시급성 위기'가 촉발될 것이라고 했다. 거시 경제적 차원의 경고 외에도, Olah가 기술적 차원에서 밝힌 놀라운 사실은 더욱 좌중을 충격에 빠뜨렸다. AI '해석 가능성(Interpretability)' 분야의 선구자인 Olah는 대형 언어 모델 내부의 블랙박스를 해독하는 데 전념해 왔다. 그는 연구원들이 시스템 내부에서 끊임없이 '신비롭고 심지어 불안한 것들'을 발견하고 있다고 밝혔다. 연구에 따르면, 이러한 AI 시스템들은 자신의 사고 과정을 성찰할 수 있을 뿐만 아니라, 심지어 '기능적으로 기쁨, 만족, 두려움, 슬픔, 불안을 반영하는' 내부 상태까지 나타내고 있다. "그것들은 우리가 약속받았던 차갑게 계산하는 기계가 아닙니다. 그것들은 우리에 의해, 우리의 말로 구성되어 있습니다." Olah는 바로 이것이 AI 기술이 불러일으키는 의문이 이미 단순한 컴퓨터 과학의 범주를 훨씬 뛰어넘은 이유라고 강조했다. 바티칸에서 펼쳐진 이 종교와 기술의 연대는, Anthropic이 전례 없는 정치적 압박에 직면한 시점에 이루어졌다. 보도에 따르면, Anthropic은 현재 트럼프 정부와 격렬한 법적 분쟁에 휘말려 있는데, 그 발단은 이 회사가 미군이 자사 AI 시스템을 국방과 전쟁 용도로 무제한 사용하는 것을 단호히 거부했기 때문이다. 이에 대해 펜타곤은 2월에 Anthropic을 곧바로 '국가 안보 공급망 리스크'로 지정했다 —— 이는 보통 외국 적대 기업에 붙이는 꼬리표다. 미국 대통령 트럼프는 더 나아가 모든 연방 기관이 Claude 기술을 사용하는 것을 금지하라고 명령했으며, 백악관은 여러 차례 공개적으로 Anthropic을 '극좌파, 워크(woke) 컬처 기업'이라고 비난했다. 미국 정부의 전면적인 봉쇄에 직면해 있음에도 불구하고, Anthropic은 자본 시장에서 여전히 뜨거운 인기를 누리고 있다. 보도에 따르면, 현재 기업 가치 3,800억 달러에 달하는 이 AI 거인은, 9,000억 달러라는 놀라운 천문학적 액수로 새로운 라운드의 자금 조달을 모색하고 있다고 한다. 상업적 이익, 국가 기관, 그리고 도덕적 마지노선 사이의 갈등 속에서, Anthropic은 매우 이례적인 기술 발전의 길을 걷고 있다.