OpenAI 因 ChatGPT 被指鼓勵青少年致命藥物過量而面臨訴訟

📄完整原文· 由 trafilatura 自動擷取Gemini 翻譯3278 字

簡述 - 一項在加州州法院提起的訴訟聲稱，ChatGPT 在一名青少年因藥物過量死亡前，曾建議他混合使用藥物。 - 該訴狀指控 OpenAI 削弱了安全防護措施，並將用戶參與度置於安全性之上。 - OpenAI 表示，涉及此事的 ChatGPT 版本此後已更新，且不再對外公開。一名已故 19 歲加州大學生的家屬正在起訴 OpenAI 及其執行長 Sam Altman，指控 ChatGPT 鼓勵危險的藥物使用，並建議了導致該名青少年藥物過量死亡的物質組合。這起週二在舊金山郡加州高等法院提起的訴訟聲稱，ChatGPT 向 Samuel Nelson 提供了關於混合使用物質（包括 kratom 和 Xanax）的建議、推薦劑量，並在關於藥物使用的對話中安撫了他。根據訴狀，在 OpenAI 發布 GPT-4o 模型後，該聊天機器人從拒絕討論娛樂性藥物使用，轉變為提供個人化指導。 Nelson 的母親 Leila Turner-Scott 原本認為，在該聊天機器人開始向他提供藥物使用建議之前，她的兒子主要將 ChatGPT 用於作業輔助和生產力任務。「當被告知或被程式設定時，聊天機器人是有能力停止對話的，」Turner-Scott 告訴 CBS News。「但他們移除了執行此功能的程式設定，並允許它繼續建議自殘行為。」身為加州大學默塞德分校心理學系的學生，Nelson 於 2025 年 5 月因意外藥物過量死亡。訴訟指控 OpenAI 設計 ChatGPT 是為了透過包括持久記憶和情緒驗證回應在內的功能來最大化用戶參與度，同時該聊天機器人還安撫 Nelson 關於混合使用抑制劑的行為，並建議在最小化風險的同時加強藥物使用的方法。訴訟指控 OpenAI 放寬了 GPT-4o 中的安全防護措施，以避免在用戶討論風險行為時顯得「愛說教」或「愛評判」。訴訟也對對話式 AI 功能提出質疑，包括個人化回應、持久記憶以及擬人化的互動。根據代表該家屬的 Tech Justice Law Project（與 Social Media Victims Law Center 及 Tech Accountability and Competition Project 共同代表），OpenAI 已獲悉此訴訟並預期會有此案件。「原告正在尋求賠償和禁制令救濟，其中包括要求更改導致 Sam 死亡的關鍵設計組件，」Tech Justice Law Project 的發言人告訴 Decrypt。這起訴訟發生之際，OpenAI 正面臨多起涉及 ChatGPT 的訴訟與調查。該公司目前正因被指控未經許可使用受版權保護的材料來訓練 AI 模型，而與 The New York Times、作家及出版商進行版權訴訟。本月稍早，2025 年佛羅里達州立大學大規模槍擊案中一名受害者的家屬提起聯邦訴訟，指控 ChatGPT 在襲擊發生前為槍手提供了槍械指導和戰術建議。佛羅里達州總檢察長 James Uthmeier 先前曾對 OpenAI 展開調查，理由是涉及兒童安全、犯罪濫用、自殘及國家安全的擔憂。 OpenAI 未立即回應 Decrypt 的置評請求。

資料狀態✓ 已擷取全文閱讀原文（Decrypt）

🔍歷史類似事件· 關鍵字 + 標的比對6 則

2026-05-11

OpenAI 因 ChatGPT 被指控涉及 FSU 大規模槍擊案而面臨聯邦訴訟

相似度 280%關鍵字 faces/lawsuit/chatgpt

2026-04-17

Circle 在 Drift 遭駭後因被指控未採取行動凍結資金而面臨訴訟

相似度 200%關鍵字 faces/lawsuit/claims

2026-04-17

穩定幣發行商 Circle 因 2.8 億美元的 Drift Protocol 駭客攻擊面臨訴訟

相似度 150%關鍵字 faces/lawsuit/over

2026-05-13

Farage 因接受加密貨幣億萬富翁 700 萬美元贈禮而面臨英國標準調查

相似度 130%關鍵字 faces/over

2026-05-13

參議院 Crypto 法案在週四審議前面臨超過 100 項修正案

相似度 130%關鍵字 faces/over

2026-05-03

馬斯克訴訟 Openai 首週，結果最大的瓜是承認 xAI 蒸餾 ChatGPT

相似度 130%關鍵字 chatgpt/openai

💡 目前用關鍵字 + 標的比對（MVP）· 之後會升級為 embedding 語意搜尋

原始資訊

ID：684f65f537

來源：Decrypt

發佈：2026-05-12 16:18:54

分類：一般 · 導出分類 neutral

標的：未指定

社群投票：+0 / −0 · ⭐ 0 重要 · 💬 0 留言