ニュース一覧ChatGPTは8ヶ月前に銃撃犯のアカウントを停止していたが警察には通報しておらず、その後犯人は8人を殺害、Altmanが謝罪
動區 BlockTempo2026-04-29 07:11:50

ChatGPTは8ヶ月前に銃撃犯のアカウントを停止していたが警察には通報しておらず、その後犯人は8人を殺害、Altmanが謝罪

ORIGINALChatGPT 8 個月前就封禁槍手帳號但沒報警,後來他殺了 8 人、Altman 致歉
AI 影響分析Grok が分析中...
📄原文全文· trafilatura により自動抽出Gemini 翻譯1497 文字
カナダ・ブリティッシュコロンビア州の Tumbler Ridge で今年2月に発生した銃乱射事件で8人が死亡した件を受け、OpenAI が事件の8ヶ月前に「銃暴力に関連する状況」を理由に犯人である Rootselaar の ChatGPT アカウントを凍結していたものの、「差し迫った脅威の基準に達していない」として警察に通報していなかったことが明らかになった。OpenAI CEO の Sam Altman は先週、謝罪の手紙を送った。 (前回のあらすじ:Musk による OpenAI への訴訟が開廷:営利企業への転換取り消し、Altman の解任、1340億ドルの損害賠償を要求) (背景補足:OpenAI が AGI の5大憲法を発表:AI は少数の人間に独占されるべきではなく、犠牲を払うことでより高いレジリエンスを得られる) 2026年2月10日、カナダ・ブリティッシュコロンビア州の小さな町 Tumbler Ridge で銃乱射事件が発生した。18歳の Jesse Van Rootselaar は自宅で母親と11歳の弟を殺害した後、町の中学校へ向かい、計8人を死亡させ、その後自殺した。 事後の調査で、OpenAI が8ヶ月も前に、Van Rootselaar が対話の中で「銃暴力に関連する状況を記述した」ことを理由に彼の ChatGPT アカウントを凍結していたにもかかわらず、警察機関には一切通知していなかったことが判明した。 2025年6月、ChatGPT の自動不正利用検知システムと人間の審査員が Van Rootselaar のアカウントをマークし、アカウントは凍結された。OpenAI の事後の説明によれば、審査員は当時、警察に通報すべきかどうかについて内部で議論を行っていた。 議論の結果は「通報しない」だった。 OpenAI によると、審査の結果、アカウントの行為は「他者に対して差し迫った、かつ信頼できる深刻な身体的危害の脅威を与える」という基準に達していないと判断され、法執行機関への通報プロセスは開始されなかった。凍結処理後、この件は社内にとどまった。アカウントは閉鎖されたが、シグナルは外部に伝わらなかった。 2026年2月に銃乱射事件が発生して初めて、OpenAI はカナダ当局に自ら連絡を取った。 「差し迫った、かつ信頼できる脅威」とは OpenAI が独自に定めた通報基準であり、社内の安全、法務、政策チームがどのような状況で警察に知らせるべきかを決定している。この基準は外部の規制機関による審査を受けておらず、どのように調整されているのかについての公開説明もない。 Van Rootselaar のアカウントは「凍結が必要」という基準は通過したが、「通報が必要」という基準は通過しなかった。この2つのハードルは、OpenAI の内部論理では切り離されている。 4月23日、Sam Altman は謝罪の手紙を書き、Tumbler Ridge の地元紙 TumblerRidgeLines に最初に掲載された。Altman は手紙の中で次のように述べた。 「皆さんのコミュニティが耐えてきた苦しみは計り知れません。ここ数ヶ月、ずっと皆さんのことを考えていました。6月にアカウントを凍結した際、法執行機関に通報しなかったことを深くお詫び申し上げます」 手紙の公開前、Altman は Tumbler Ridge の市長 Darryl Krakowka およびブリティッシュコロンビア州首相 David Eby と直接対話を行っていた。Eby は4月24日にこの手紙をソーシャルメディアで共有し、「謝罪は必要だが、Tumbler Ridge の家族が受けた破壊的な被害を考えれば、これでは全く不十分だ」とコメントした。 OpenAI は、法執行機関への通報判定基準を緩和し、より多くのアカウント状況で通報プロセスがトリガーされるようにすると発表した。カナダの連邦人工知能担当大臣 Evan Solomon は、Altman がカナダ王立騎馬警察(RCMP)と直接連絡窓口を設けることに同意し、対話中に危機的なシグナルを発したユーザーを現地の支援サービスへ誘導する新たなメカニズムを追加すると述べた。 カナダ政府は現在、AI プラットフォームの通報義務をさらに法制化する必要があるかどうかを検討している。 しかし矛盾するのは、一時的な感情の不安定さから発せられた言葉(あなたもストレス解消のために「死にたい」と口走ったことはあるだろう?)まで通報対象となり、結果として人々が AI に本音を打ち明けられなくなるのではないかという点だ(それはそれで悪いことではないかもしれないが)。 現時点では、この
データステータス✓ 全文抽出済み原文を読む(動區 BlockTempo)
🔍過去の類似イベント· キーワード + 銘柄照合6 件
💡 現在はキーワード + 銘柄照合(MVP)を使用しています · 今後 embedding セマンティック検索へアップグレード予定
原始情報
ID:c9711f98da
ソース:動區 BlockTempo
公開:2026-04-29 07:11:50
カテゴリ:zh_news · エクスポートカテゴリ zh
銘柄:未指定
コミュニティ投票:+0 /0 · ⭐ 0 重要 · 💬 0 コメント