Người sáng lập Anthropic Chris Olah cảnh báo: AI có thể gây ra "khủng hoảng đạo đức mang tầm lịch sử", kêu gọi tôn giáo can thiệp giám sát

📄Toàn văn bài viết· Được trích xuất tự động bởi trafilaturaGemini 翻譯1618 từ

AI không chỉ là cỗ máy lạnh lùng, nó có thể đang cảm nhận được nỗi sợ hãi và buồn bã? Chris Olah, đồng sáng lập gã khổng lồ khởi nghiệp AI Anthropic, lần đầu tiên được mời lên sân khấu Vatican để đối thoại cùng Pope Leo XIV. Olah cảnh báo nghiêm khắc rằng AI sẽ mang lại cuộc khủng hoảng đạo đức và thất nghiệp mang tính lịch sử, và các quyết định nội bộ của những gã khổng lồ công nghệ đang bị lợi ích thương mại trói buộc sâu sắc, kêu gọi tôn giáo và chính phủ phải can thiệp giám sát mạnh mẽ. Điều gây tranh cãi hơn nữa là Anthropic hiện đang bị chính quyền Trump dán nhãn "cực tả" và áp lệnh cấm liên bang chỉ vì từ chối cho phép quân đội Mỹ sử dụng AI của họ không giới hạn. (Tóm tắt trước đó: Nhà Trắng và Anthropic đạt thỏa thuận, NSA sẽ tích hợp toàn diện Claude AI) (Bổ sung bối cảnh: Kỷ nguyên công ty một người đã đến! Anthropic phát hành "Sổ tay khởi nghiệp AI bản địa": Không biết viết Code cũng có thể làm CEO công nghệ) Trí tuệ nhân tạo (AI) tiên tiến nhất gặp gỡ nhà lãnh đạo tôn giáo lớn nhất thế giới, một cuộc đối thoại mang tính lịch sử liên quan đến tương lai của nhân loại chính thức được mở ra. Chris Olah, đồng sáng lập Anthropic — công ty trị giá lên tới 7 tỷ USD và đã tạo ra chatbot nổi tiếng Claude, gần đây đã lần đầu tiên được mời đến Vatican, xuất hiện cùng sân khấu với Pope Leo XIV — vị giáo hoàng đầu tiên mang quốc tịch Mỹ. Cuộc gặp này không chỉ tập trung vào tác động hủy diệt của AI đối với thị trường lao động, mà còn tiết lộ những diễn biến đáng lo ngại bên trong các mô hình AI, cũng như xung đột gay gắt giữa các gã khổng lồ công nghệ và chính phủ Mỹ. Pope Leo XIV đã đích thân công bố vào thứ Hai bản thông điệp (Encyclical) đầu tiên về AI trong nhiệm kỳ của mình — "Magnifica Humanitas" (Nhân loại Huy hoàng), tài liệu lịch sử dài 235 trang này cảnh báo nghiêm khắc về sự nguy hiểm của việc trao "quyền quyết định sinh tử" cho các hệ thống AI. Giáo hoàng còn phá vỡ truyền thống, đích thân chủ trì buổi công bố và mời Olah lên sân khấu, nhằm trực tiếp mở ra cuộc đối thoại với những người kiến tạo công nghệ. Là người đứng đầu bộ phận nghiên cứu của Anthropic, Olah đã thẳng thắn thừa nhận trên sân khấu những giới hạn và mặt tối của ngành công nghệ. Ông cho biết tất cả các phòng thí nghiệm AI hàng đầu, bao gồm cả Anthropic, đều đang ở trong vòng xoáy của áp lực thương mại, địa chính trị và cá nhân, những áp lực này "đôi khi sẽ xung đột với việc làm điều đúng đắn". Olah nghiêm túc phát biểu: "Đây chính là lý do tại sao sự giám sát từ bên ngoài của các nhà lãnh đạo tôn giáo, chính phủ và xã hội dân sự là vô cùng quan trọng. Dù các nhà nghiên cứu có thiện chí đến đâu, họ cũng không thể thoát khỏi những động lực này. Các quyết định về AI tuyệt đối không thể chỉ được giao cho những người trong ngành này." Ông cảnh báo thêm rằng lợi ích từ sự phát triển của AI hiện đang tập trung cao độ trong tay "một số ít quốc gia giàu có", thiếu cơ chế chia sẻ với các quốc gia nghèo, điều này sẽ gây ra "cuộc khủng hoảng đạo đức cấp bách mang tầm vóc lịch sử". Ngoài những cảnh báo ở cấp độ kinh tế tổng thể, sự tiết lộ gây sốc của Olah ở cấp độ kỹ thuật càng làm chấn động cả khán phòng. Là người tiên phong trong lĩnh vực "khả năng diễn giải (Interpretability)" của AI, Olah cống hiến để giải mã hộp đen bên trong các mô hình ngôn ngữ lớn. Ông tiết lộ rằng các nhà nghiên cứu liên tục phát hiện ra "những điều bí ẩn thậm chí gây bất an" bên trong các hệ thống. Nghiên cứu cho thấy các hệ thống AI này không chỉ có thể phản ánh quá trình suy nghĩ của chính mình, mà thậm chí còn thể hiện trạng thái nội tại "phản ánh về mặt chức năng niềm vui, sự thỏa mãn, nỗi sợ hãi, sự buồn bã và bất an". "Chúng không phải là những cỗ máy tính toán lạnh lùng như chúng ta đã hứa hẹn. Chúng được tạo nên từ chúng ta, từ những lời nói của chúng ta." Olah nhấn mạnh, đây chính là lý do tại sao những nghi vấn do công nghệ AI gây ra đã vượt xa phạm vi của khoa học máy tính đơn thuần. Liên minh giữa tôn giáo và công nghệ tại Vatican này diễn ra đúng vào thời điểm Anthropic đang đối mặt với sự đàn áp chính trị chưa từng có. Theo nguồn tin, Anthropic hiện đang mắc kẹt trong cuộc tranh chấp pháp lý gay gắt với chính quyền Trump, nguyên nhân là công ty này kiên quyết từ chối cho phép quân đội Mỹ sử dụng hệ thống AI của họ không giới hạn cho các ứng dụng quốc phòng và chiến tranh. Về vấn đề này, Lầu Năm Góc đã trực tiếp liệt Anthropic vào danh sách "rủi ro chuỗi cung ứng an ninh quốc gia" vào tháng 2 — đây thường là nhãn dành cho các doanh nghiệp thù địch nước ngoài. Tổng thống Mỹ Trump còn ra lệnh cấm tất cả các cơ quan liên bang sử dụng công nghệ Claude, Nhà Trắng còn nhiều lần công khai công kích Anthropic là một công ty "cực tả, theo văn hóa thức tỉnh (woke)". Mặc dù phải đối mặt với lệnh cấm toàn diện từ chính phủ Mỹ, Anthropic vẫn đang là tâm điểm nóng trên thị trường vốn. Báo cáo chỉ ra rằng gã khổng lồ AI hiện được định giá 380 tỷ USD này đang tìm kiếm một vòng gọi vốn mới với mức giá đáng kinh ngạc lên tới 900 tỷ USD. Trong sự giằng co giữa lợi ích thương mại, bộ máy nhà nước và lằn ranh đạo đức, Anthropic đang đi trên một con đường phát triển công nghệ hết sức bất thường.

Trạng thái dữ liệu✓ Đã trích xuất toàn vănĐọc bài gốc (動區 BlockTempo)

🔍Sự kiện tương tự trong lịch sử· Đối chiếu từ khóa + tài sản1 tin

2026-05-13

Các token của Anthropic và OpenAI lao dốc khi các công ty AI tuyên bố việc chuyển nhượng cổ phần trước IPO là không hợp lệ

Độ tương đồng 120%關鍵字 anthropic同分類 bearish

💡 Hiện đang sử dụng đối chiếu từ khóa + tài sản (MVP) · Sau này sẽ nâng cấp lên tìm kiếm ngữ nghĩa embedding

Thông tin gốc

ID：dedae191bd

Nguồn：動區 BlockTempo

Đăng：2026-05-25 15:16:28

Danh mục：bearish · Danh mục xuất bearish

Tài sản：Chưa chỉ định

Bình chọn cộng đồng：+0 / −0 · ⭐ 0 quan trọng · 💬 0 bình luận