要闻列表ChatGPT 8 個月前就封禁槍手帳號但沒報警,後來他殺了 8 人、Altman 致歉
動區 BlockTempo2026-04-29 07:11:50

ChatGPT 8 個月前就封禁槍手帳號但沒報警,後來他殺了 8 人、Altman 致歉

AI 影响分析Grok 分析中...
📄完整原文· 由 trafilatura 自动抓取1497 字
加拿大卑詩省 Tumbler Ridge 於今年 2 月槍擊案造成 8 人死亡,事後揭露 OpenAI 早在事發 8 個月前就因「槍枝暴力相關情境」封禁了槍手 Rootselaar 的 ChatGPT 帳號,但以「未達即時威脅門檻」為由未通報警察。OpenAI 執行長 Sam Altman 於上週致函道歉。 (前情提要:馬斯克訴訟OpenAI開庭:要求撤銷轉營利公司、罷免Altman、求償1340億美元) (背景補充:OpenAI 發布 AGI 五大憲法:AI 不能被少數人壟斷,犧牲可換來更多韌性) 026 年 2 月 10 日,加拿大卑詩省偏遠小鎮 Tumbler Ridge 爆發槍擊。18 歲的 Jesse Van Rootselaar 先在家中殺害母親與 11 歲弟弟,隨後前往鎮上中學,共造成 8 人死亡,並死於自殺。 事後調查揭露:OpenAI 早在 8 個月前,就以 Van Rootselaar 在對話中「描述槍枝暴力相關情境」為由,封禁了其 ChatGPT 帳號,卻沒有通知任何警察機關。 2025 年 6 月,ChatGPT 的自動濫用偵測系統與人工審核員共同標記了 Van Rootselaar 的帳號,帳號被封禁。按照 OpenAI 事後的說法,審核員在當時也進行了是否通報警方的內部討論。 討論的結果是:不通報。 OpenAI 表示,審核判斷認為帳號行為「未達到對他人構成即時且可信的嚴重人身傷害威脅」的門檻,因此未啟動執法通報程式。封禁處理後,此事停留在公司內部。帳號關閉了,但訊號沒有傳遞出去。 直到 2026 年 2 月槍擊案發生後,OpenAI 才主動聯絡加拿大當局。 「即時且可信的威脅」是 OpenAI 自行制定的通報門檻,由公司內部的安全、法務與政策團隊決定哪些情況才需要告知警方。這個標準不受外部監管機構審查,也沒有任何公開說明它是如何被校準的。 Van Rootselaar 的帳號通過了「需要封禁」的標準,但沒有通過「需要通報」的標準,這兩道門檻之間,在 OpenAI 的內部邏輯裡是分開的。 4 月 23 日,Sam Altman 寫了一封道歉信,最先刊登於 Tumbler Ridge 的地方報紙 TumblerRidgeLines。Altman 在信中寫道: 你們社群所承受的痛苦是難以想像的。 過去幾個月,我一直想著你們。我為我們沒有在 6 月帳號被封禁時通知執法機關,感到深深的抱歉。 在信件公開前,Altman 已親自與 Tumbler Ridge 市長 Darryl Krakowka 及卑詩省省長 David Eby 進行了溝通。Eby 在 4 月 24 日將這封信分享至社群媒體,並附上回應:「道歉是必要的,但對於 Tumbler Ridge 那些家庭所承受的摧殘而言,這遠遠不夠。」 OpenAI 宣布,將放寬向執法機關通報的判定標準,讓更多帳號情境觸發通報流程。加拿大聯邦人工智慧部長 Evan Solomon 表示,Altman 同意與加拿大皇家騎警(RCMP)建立直接聯絡視窗,並新增機制,將對話中出現危機訊號的使用者引導至當地支援服務。 加拿大政府目前正評估是否需要進一步立法規範 AI 平台的通報義務。 但矛盾的是,會不會有很多人只是一時情緒不穩所說的話(你一定也曾把好想死隨口說出來當舒壓吧?)也因而被通報,結果之後人們變得不敢向 AI 親述心事(或許也不是壞事?) 目前來說,這問題不是 OpenAI 能力問題。ChatGPT 偵測到了、人工審核員也看到了,問題是那道門檻,由誰決定?由誰解釋?如何拿捏尺寸?
数据状态✓ 已抓取全文阅读原文(動區 BlockTempo)
🔍历史类似事件· 关键词 + 标的比对6 则
💡 目前用关键词 + 标的比对(MVP)· 之后会升级为 embedding 语义搜寻
原始信息
ID:c9711f98da
来源:動區 BlockTempo
发布:2026-04-29 07:11:50
分类:zh_news · 导出分类 zh
标的:未指定
社群投票:+0 /0 · ⭐ 0 重要 · 💬 0 留言