OpenAI推出新的ChatGPT安全功能，诉讼不断增加

📄完整原文· 由 trafilatura 自动抓取Gemini 翻譯3501 字

簡述 - OpenAI 表示 ChatGPT 現在能更好地在進行中的對話中識別自殘或暴力的徵兆。 - 此次更新正值該公司因聲稱 ChatGPT 處理危險對話不當而面臨訴訟和調查之際。 - OpenAI 表示新的保護措施依賴臨時的"安全摘要"，而非永久記憶或個性化。 OpenAI 於週四宣布了新的安全功能，旨在幫助 ChatGPT 識別跨對話中不斷升級的風險跡象，此時該公司正因其聊天機器人如何處理處於困境中的用戶而面臨日益增加的法律和政治審查。在一篇博客文章中，OpenAI 表示此次更新通過分析隨時間發展的上下文，而非單獨處理每條消息，提升了 ChatGPT 識別與自殺、自殘和潛在暴力相關的警示信號的能力。 "人們每天都來 ChatGPT 談論對他們重要的事情——從日常問題到更個人或更複雜的對話，"該公司寫道。"在數億次互動中，其中一些對話涉及正在掙扎或經歷痛苦的人。" 根據 OpenAI 所述，ChatGPT 現在使用臨時的"安全摘要"，該公司將其描述為範圍狹窄的筆記，用於捕捉早前對話中相關的安全相關上下文。 "在敏感的對話中，上下文可能與單條消息同等重要，"該公司寫道。"一個單獨看起來普通或模糊的請求，當與早前的痛苦跡象或可能的有害意圖一同審視時，可能會帶有完全不同的含義。" OpenAI 表示這些摘要是僅在嚴重情況下使用的短期筆記，並非用於永久記住用戶或個性化聊天，而是用於識別對話正變得危險的跡象、避免提供有害信息、緩和局勢，或引導用戶尋求幫助。 "我們將此項工作聚焦於緊急場景，包括自殺、自殘和傷害他人，"他們寫道。"我們與心理健康專家合作，更新了模型策略和訓練，以提升 ChatGPT 識別在對話過程中浮現的警示信號的能力，並利用該上下文來指導更謹慎的回應。" 此次宣布之際，OpenAI 正面臨多起訴訟和調查，指控 ChatGPT 未能恰當應對涉及暴力、情緒脆弱和危險行為的危險對話。今年 4 月，Florida 總檢察長 James Uthmeier 對 OpenAI 展開調查，涉及對兒童安全、自殘以及 2025 年 Florida State University 大規模槍擊案的擔憂。OpenAI 還面臨一起聯邦訴訟，指控 ChatGPT 協助嫌疑槍手實施了該起襲擊。週二，OpenAI 和 CEO Sam Altman 在 California 州法院被一名因意外過量服藥而身亡的 19 歲學生家屬起訴，訴訟指控 ChatGPT 鼓勵危險的藥物使用並就混合藥物提供建議。 OpenAI 表示，幫助 ChatGPT 識別"只有隨時間推移才會變得清晰的風險"仍是一項持續的挑戰；類似的安全方法最終可能擴展到其他領域。 "今天，這項工作聚焦於自殘和傷害他人的場景。未來，我們可能會探索類似方法是否能在其他高風險領域（如生物學或網絡安全）有所幫助，並配備謹慎的保護措施，"他們寫道。"這仍然是一項持續的優先事項，隨著我們的模型和理解的演進，我們將繼續加強保護措施。"

数据状态✓ 已抓取全文阅读原文（Decrypt）

🔍历史类似事件· 关键词 + 标的比对6 则

2026-04-23

OpenAI 称其为医生打造的新版 ChatGPT 在临床任务中表现优于人类

相似度 150%關鍵字 chatgpt/new/openai

2026-05-16

OpenAI与马耳他合作，为所有公民提供免费的ChatGPT Plus访问权限

相似度 130%關鍵字 chatgpt/openai

2026-05-16

OpenAI 產品合併戰線！Greg Brockman 同時接管 ChatGPT、Codex 與開發者 API

相似度 130%關鍵字 chatgpt/openai

2026-05-15

OpenAI 推出「ChatGPT 個人理財」功能：串接真實銀行帳戶，幫你精算開銷、規劃房貸

相似度 130%關鍵字 chatgpt/openai

2026-05-15

OpenAI 证实两台员工电脑遭 TanStack 供应链攻击波及，ChatGPT、Codex macOS 用户须在 6/12 前更新

相似度 130%關鍵字 chatgpt/openai

2026-05-14

OpenAI 传将起诉苹果"违约"！怒轰 Siri 整合 ChatGPT 未达标、百亿订阅落空

相似度 130%關鍵字 chatgpt/openai

💡 目前用关键词 + 标的比对（MVP）· 之后会升级为 embedding 语义搜寻

原始信息

ID：211555976d

来源：Decrypt

发布：2026-05-14 20:43:50

分类：一般 · 导出分类 neutral

标的：未指定

社群投票：+0 / −0 · ⭐ 0 重要 · 💬 0 留言