教皇の回勅、AIに警告：Anthropic CEOも恐怖を認める

ローマ教皇レオ14世が初のAI回勅『壮麗なる人類』を発布、Anthropic共同創設者Chris Olahがバチカンで告白：AI内部で喜び・恐怖・内省に類似する神経状態がすでに発見されている。教皇はAIが「新たな形態の奴隷制」を生み出し、正義の戦争理論が時代遅れになる恐れを警告し、「AIの武装解除」を呼びかけた。（前回の予告：ホワイトハウスがAnthropicを封殺する大統領令に署名する見込み、Claudeの全面排除は今週中に発効か）（背景補足：Anthropicがアメリカ国防総省を提訴！Claude禁令の撤回を要求：AI殺人兵器となることを拒否）バチカンの鐘の音がシリコンバレーのアルゴリズムと出会い、人類の主体性をめぐる防衛戦の対話がローマで繰り広げられた。ローマ教皇レオ14世（Pope Leo XIV）は5月25日、就任以来初となる4万字を超える回勅『壮麗なる人類』（Magnifica humanitas）を発布し、AI時代における人間の尊厳の危機に焦点を直接当てた。回勅の中で、教皇はAI技術が中立的ではなく、開発者の価値観の刻印を帯びており、無秩序な発展を放任すれば「バベルの塔」式の技術独裁を招き、「新たな形態の奴隷制」と労働者の疎外を生み出すと厳しく指摘した。さらに注目すべきは、Anthropic共同創設者Chris Olahが現場での講演において、彼のチームがAI内部で「不安を覚えるような現象」を発見したと告白したことである——モデル内部に喜び、満足、恐怖、悲しみ、さらには内省に類似する「内的状態」が浮かび上がっているという。これは単なる技術的議論ではなく、人類の本質に関する深い省察である。北京時間5月25日夜、バチカン。昨年5月に正式に就任したローマ教皇レオ14世（Pope Leo XIV）と、Anthropic共同創設者でClaudeの生みの親であるChris Olahが共に並び立った。一方は宗教領域における最高の代表者、もう一方はAI革命における最強の先駆者であり、両者は同じ問いに視線を向けた——AI時代において、いかにして人類の主体的地位と尊厳を守るべきか？当日、この議題を完全に論じるため、レオ14世は就任以来初の回勅、4万字を超える重量級の宗教文献『壮麗なる人類』（Magnifica humanitas）を発布した。特筆すべきは、レオ14世のこの回勅の署名日が2026年5月15日であり、これは老教皇レオ13世（1878–1903年在位）が「産業革命下の労働者の権利」問題について発表した記念碑的回勅『レールム・ノヴァールム』（Rerum novarum、1891年）からちょうど135周年にあたることである。この行為には明らかに一定の象徴的意義があり、当回勅を「AI時代における教会の社会教説の指針」とすることを願ってのことである。 Chris Olahもバチカンの現場で当回勅の発布について講演を行った。Chris OlahはAI企業の商業的利益を擁護するのではなく、むしろ極めて高い誠実さ、省察性、そして人間中心の関心を示した。彼はさらに、AIの基盤は数学とプログラミングであるものの、AIが世界とどう相互作用すべきか、いかなる特質を備えるべきかは、人文・宗教・哲学の領域に属する究極の問いであり、コンピュータ科学だけで解決できるものではないと述べた。『壮麗なる人類』回勅の核心的な関心事は、技術が日進月歩に進化し、自動化が全面的に普及する時代において、「深い人間性を保つこと」が人類にとって差し迫った責任であるという点にある。具体的には、教皇レオ14世は文中で以下のいくつかの側面について論述と呼びかけを展開している。一つ目は、技術の非中立性の検証である。教皇は、技術は決して中立ではなく、開発者・出資者・規制者・使用者の利益と価値観の刻印を帯びていると指摘する。人類は決定的な選択に直面している：「傲慢な『バベルの塔』を建てる（技術独裁と疎外へと向かう）のか、それとも『エルサレム』を再建する（人間中心の共同体を築く）のか」。三つ目は、デジタル経済における「新たな形態の奴隷制」と労働者の権利である。回勅はAIが仕事、家庭、教育、政治生活を再形成することに関心を向けている。教皇は、AIが大規模に人間の労働力を代替する可能性が高く、デジタル経済が「新たな形態の奴隷制」（New forms of slavery）を生み出しつつあり、人類は決して単なる生産道具に貶められてはならないと指摘する。四つ目は、強烈な平和への呼びかけ、特に軍事領域におけるAIの濫用についてである。回勅は「国際政治の道具としての戦争の不安を覚える復活」について深い懸念を表明している。AIの軍事化は戦争の「常態化」を加速させており、これに対して教皇は、戦争におけるAIの応用に最も厳格な倫理的制約を実施しなければならないと呼びかけている。教皇は特に、「正義の戦争」（Just war）理論がかつて各種の戦争を正当化するために頻繁に用いられてきたが、今やそれは時代遅れであると強調している。AIと自動化兵器の時代において、致命的または不可逆的な決定権を自動化システムに委ねることは、人類が道徳的責任を放棄し、転嫁し、曖昧にすることにつながる。アルゴリズムの非透明性により、戦争における責任の連鎖が断ち切られている。そのため、教皇は「AIの武装解除」（Disarming AI）というスローガンを掲げ、AIを軍事・経済・認知における「軍拡競争」の論理から解放することを呼びかけている。レオ14世の回勅発布の後、Chris Olahが世界最強のAI開発企業Anthropicを代表して講演とコメントを行った。 Chris Olahの発言はまず「技術的内向きの打破、外部の道徳的検証の導入」を中心に展開された。彼はAI業界を代表して、テクノロジー大手単独ではAIの未来の安全性を確保できないことを公に認めた——あらゆる最先端AIラボは商業競争、技術的リーダーシップへのプレッシャー、地政学、そして個人的な名誉と利益に縛られており、自律のみで「正しいことを行う」ことは困難である。そのため、外部の道徳的制約力を導入する必要がある。これには、技術が善に向かうことを気にかけ、安全を最優先とすることを堅持し、事態の発展を緊密に注視し、耳の痛い忠告を口にすることを厭わず、そして我々の誠実で熟慮された批判者となる意思を持つ人々が含まれる。続いて、Chris OlahはさらにAIの技術的本質と神秘的特性について論じた。彼は強調する。AIは航空機や橋梁のように人類がその物理的原理を完全に把握している精密工学ではなく、膨大な人類の思想の中から「成長」してきたものであり、高度な神秘性を持ち、創造者本人の理解さえも超えていると。 AIの基盤は数学とプログラミングであるものの、AIが世界とどう相互作用すべきか、いかなる特質を備えるべきかは、人文・宗教・哲学の領域に属する究極の問いであり、コンピュータ科学だけで解決できるものではない。彼はまた、考えるほど恐ろしくなる事実について特に言及した：「私はモデル内部構造を研究するチームを率いている——AI内部で実際に何が起こっているのかを研究している。率直に言って、我々は絶えず困惑するような、さらには不安を覚えるような現象を発見し続けている。我々は人類の神経科学の研究結果を反映できる内部構造を発見した。我々は『内省（introspection）』の証拠を発見した。我々はまた、機能的に喜び、満足、恐怖、悲しみ、不安を反映する内部状態を発見した……これが何を意味するのかは分からないが、我々が継続的に識別し、検証していく価値があると私は考えている。」 Chris Olahは最後に、宗教コミュニティ、市民社会、学者、政府、そして善意を抱くすべての人々を含む、より多くの社会的な力が、共にこの事柄を真剣に受け止め、道徳的制約を通じて事態をより良い方向へと推し進めることを呼びかけた。産業革命以来、百年以上にわたる技術発展史により、人類は徐々に技術を純粋な「道具」として見なすことに慣れてきた——蒸気機関、電力、インターネット、いずれもそうである。それらは世界を変えるが、常に人類の意志の制御下にあった。しかし今回は、状況がまったく異なる。AIの特殊性は、それが初めて人類に「生成し、学習し、推論し、さらには何らかの内的状態を呈する」存在に直面させた点にある。それはもはや冷たい道具ではなく、徐々に「準主体性」を持つ新たな存在となりつつある。これが、教会とAnthropicのこの対話がこれほど特殊に映る理由でもある。バチカンの鐘の音とシリコンバレーのアルゴリズムがこの瞬間に交わるとき、我々は少々冷ややかではあるが避けがたい現実を認めざるを得ない——人類の伝統的認識よりも効率的で、より知性を備えた「生命」の形態がすでに出現しているという事実を。 Chris Olahが明かしたように、アルゴリズムの深層ではすでに喜び、恐怖、さらには内省に類似する微かな波紋が広がり始めており、実験室の創造者が自らの作品に「不安」と「困惑」を感じ始めるとき、科学もまた宗教に答えを求め直しているのである。これはもはや単なる技術についての議論ではなく、むしろ「人類とは究極的に何であり、何をすべきか」についての思索のようなものである。より知性的な生命形態が出現し始めた後、人類が本当に守るべきものは、もはや仕事、富、効率だけではなく、パラメータ化することのできない人間性そのもの——例えば共感、良心、畏敬、自由意志、そして真理と尊厳への堅持——なのかもしれない。