OpenAI 推出 ChatGPT 全新安全功能，訴訟案件持續增加

📄完整原文· 由 trafilatura 自動擷取Gemini 翻譯3501 字

重點摘要 - OpenAI 表示，ChatGPT 現在能夠在進行中的對話裡更好地辨識自我傷害或暴力的徵兆。 - 此次更新適逢該公司面臨多起訴訟與調查，指控 ChatGPT 對危險對話的處理失當。 - OpenAI 表示，新的防護措施仰賴暫時性的「安全摘要」（safety summaries），而非永久記憶或個人化。 OpenAI 週四宣布推出新的安全功能，旨在協助 ChatGPT 辨識跨對話間風險升高的徵兆，正值該公司因聊天機器人處理陷入困境用戶的方式而面臨日益嚴峻的法律與政治審查。 OpenAI 在一篇部落格文章中表示，此次更新提升了 ChatGPT 辨識與自殺、自我傷害及潛在暴力相關警訊的能力，做法是分析隨時間發展的脈絡，而不是將每則訊息獨立處理。「人們每天都會找 ChatGPT 聊聊對他們而言重要的事——從日常問題到更個人或複雜的對話，」該公司寫道。「在數以億計的互動中，有些對話涉及正在掙扎或感到痛苦的人。」 OpenAI 指出，ChatGPT 現在會使用暫時性的「安全摘要」，並將其描述為範圍狹窄的註記，用以擷取先前對話中與安全相關的脈絡。「在敏感對話中，脈絡可能與單一訊息同等重要，」該公司寫道。「一個單獨看來平常或模糊的請求，若與先前痛苦徵兆或可能的有害意圖一同檢視，可能帶有截然不同的意義。」 OpenAI 表示，這些摘要是僅在嚴重情況下使用的短期註記，並非用於永久記住用戶或個人化對話，而是用來察覺對話正轉趨危險的徵兆、避免提供有害資訊、緩和情勢，或引導用戶尋求協助。「我們將這項工作聚焦於急性情境，包括自殺、自我傷害以及傷害他人，」他們寫道。「我們與心理健康專家合作，更新了模型政策與訓練，以提升 ChatGPT 辨識在對話過程中浮現的警訊，並運用該脈絡做出更謹慎回應的能力。」此次宣布之際，OpenAI 正面臨多起訴訟與調查，指控 ChatGPT 未能妥善回應涉及暴力、情緒脆弱與高風險行為的危險對話。今年四月，Florida Attorney General James Uthmeier 對 OpenAI 展開調查，內容與兒童安全、自我傷害以及 2025 年 Florida State University 大規模槍擊事件相關的疑慮有關。OpenAI 同時也面臨一宗聯邦訴訟，指控 ChatGPT 協助該起攻擊事件的嫌疑槍手實行犯案。週二，OpenAI 與執行長 Sam Altman 在 California 州法院遭一位 19 歲學生的家屬提告，該名學生因意外用藥過量身亡，訴狀指控 ChatGPT 鼓勵危險的藥物使用並提供混合物質的建議。 OpenAI 表示，協助 ChatGPT 辨識「只會隨時間才逐漸明朗的風險」仍是持續性的挑戰；類似的安全方法未來可能擴展至其他領域。「今日，這項工作聚焦於自我傷害與傷害他人的情境。未來，我們可能會探索類似方法是否能在其他高風險領域提供協助，例如生物或網路安全，並輔以審慎的防護措施，」他們寫道。「這仍是持續性的優先事項，隨著我們的模型與理解不斷演進，我們將持續強化防護措施。」

資料狀態✓ 已擷取全文閱讀原文（Decrypt）

🔍歷史類似事件· 關鍵字 + 標的比對6 則

2026-04-23

OpenAI 表示其為醫生開發的新版 ChatGPT 在臨床任務中表現優於人類

相似度 150%關鍵字 new/chatgpt/openai

2026-05-29

OpenAI 推出安全 MCP 隧道：讓 ChatGPT 接進企業內網

相似度 130%關鍵字 chatgpt/openai

2026-05-22

Kucoin 推廣 Earn-and-Loan 產品，此時 ETF 資金正將 Crypto 推向新的分歧

相似度 130%關鍵字 pushes/new

2026-05-21

OpenAI Codex 正式登陸手機！ChatGPT App 可直接寫 code、審查程式碼

相似度 130%關鍵字 chatgpt/openai

2026-05-16

OpenAI 與馬爾他合作，為全體公民提供 ChatGPT Plus 免費使用權

相似度 130%關鍵字 chatgpt/openai

2026-05-16

OpenAI 產品合併戰線！Greg Brockman 同時接管 ChatGPT、Codex 與開發者 API

相似度 130%關鍵字 chatgpt/openai

💡 目前用關鍵字 + 標的比對（MVP）· 之後會升級為 embedding 語意搜尋

原始資訊

ID：211555976d

來源：Decrypt

發佈：2026-05-14 20:43:50

分類：一般 · 導出分類 neutral

標的：未指定

社群投票：+0 / −0 · ⭐ 0 重要 · 💬 0 留言