OpenAI、訴訟が相次ぐ中で新たなChatGPTセーフティ機能を推進

📄原文全文· trafilatura により自動抽出Gemini 翻譯3501 文字

概要 - OpenAIによると、ChatGPTは進行中の会話の中で自傷行為や暴力の兆候をより的確に察知できるようになった。 - このアップデートは、ChatGPTが危険な会話を適切に処理しなかったとする訴訟や調査に同社が直面する中で行われた。 - OpenAIは、新しいセーフガードは永続的なメモリやパーソナライゼーションではなく、一時的な「セーフティ・サマリー（safety summaries）」に依拠していると述べた。 OpenAIは木曜日、苦境にあるユーザーへのチャットボットの対応をめぐり、法的・政治的な監視が強まる中、ChatGPTが会話全体を通してリスクの高まりの兆候を認識できるよう支援する新しい安全機能を発表した。ブログ投稿の中でOpenAIは、今回のアップデートにより、各メッセージを個別に扱うのではなく、時間の経過とともに展開する文脈を分析することで、自殺、自傷行為、潜在的な暴力に関連する警告サインをChatGPTがより的確に識別できるようになると述べた。「人々は毎日、日常的な質問からより個人的で複雑な会話まで、自分にとって大切なことを話すためにChatGPTを訪れています」と同社は記している。「数億件に及ぶやり取りの中には、苦しんでいる人や精神的な苦痛を経験している人との会話も含まれています。」 OpenAIによれば、ChatGPTは現在、一時的な「セーフティ・サマリー」を使用しており、これは以前の会話から安全に関連する文脈を狭い範囲で捉えるメモであると説明している。「センシティブな会話においては、文脈は一つのメッセージと同じくらい重要になり得ます」と同社は記している。「単独では普通あるいは曖昧に見えるリクエストも、それ以前の苦痛の兆候や害を及ぼす意図の可能性と並べて見ると、まったく異なる意味を持つことがあります。」 OpenAIは、これらのサマリーは深刻な状況においてのみ使用される短期的なメモであり、ユーザーを恒久的に記憶したり、チャットをパーソナライズするためのものではないと述べ、会話が危険になりつつある兆候の発見、有害な情報の提供回避、状況のエスカレーション抑制、ユーザーを支援へと導くために使われると説明した。「私たちはこの取り組みを、自殺、自傷行為、他者への危害を含む急性のシナリオに焦点を当てて行いました」と同社は記している。「メンタルヘルスの専門家と協力しながら、会話の過程で現れる警告サインを認識し、その文脈を踏まえてより慎重な応答を行えるよう、モデルポリシーとトレーニングを更新しました。」この発表は、暴力、感情的な脆弱性、リスクの高い行動を含む危険な会話にChatGPTが適切に対応しなかったとする複数の訴訟と調査にOpenAIが直面する中で行われた。 4月、Florida Attorney GeneralのJames Uthmeierは、児童の安全、自傷行為、そして2025年のFlorida State Universityでの銃乱射事件に関する懸念に関連して、OpenAIに対する調査を開始した。OpenAIはまた、ChatGPTが容疑者の銃撃犯による襲撃の遂行を助けたとする連邦訴訟にも直面している。火曜日、OpenAIとCEOのSam Altmanは、偶発的な過剰摂取で死亡した19歳の学生の家族によってカリフォルニア州裁判所で提訴された。訴状では、ChatGPTが危険な薬物使用を助長し、物質の混合についてアドバイスをしたと主張されている。 OpenAIは、ChatGPTが「時間の経過によってのみ明らかになるリスク」を認識できるよう支援することは依然として継続的な課題であり、類似の安全手法は将来的に他の領域へと拡大する可能性があると述べた。「現在、この取り組みは自傷行為および他者への危害のシナリオに焦点を当てています。将来的には、慎重なセーフガードを整えた上で、生物学やサイバーセキュリティといった他の高リスク領域においても、同様の手法が役立つかどうかを検討する可能性があります」と同社は記している。「これは引き続き優先事項であり、モデルと私たちの理解が進化するにつれて、セーフガードの強化を続けていきます。」

データステータス✓ 全文抽出済み原文を読む（Decrypt）

🔍過去の類似イベント· キーワード + 銘柄照合6 件

2026-04-23

OpenAIは、医師向けの新しいChatGPTが臨床タスクにおいて人間を凌駕したと発表した

類似度 150%關鍵字 chatgpt/new/openai

2026-05-16

OpenAIがマルタと提携し、全国民にChatGPT Plusへの無料アクセスを提供

類似度 130%關鍵字 chatgpt/openai

2026-05-16

OpenAI、製品統合戦線！Greg Brockmanが同時にChatGPT、Codex、開発者APIを統括

類似度 130%關鍵字 chatgpt/openai

2026-05-15