OpenAI, 소송 증가 속 새로운 ChatGPT 안전 기능 추진

📄전체 원문· trafilatura에 의해 자동 추출됨Gemini 翻譯3501 자

요약 - OpenAI는 ChatGPT가 이제 진행 중인 대화에서 자해나 폭력의 징후를 더 잘 포착할 수 있다고 밝혔습니다. - 이번 업데이트는 회사가 ChatGPT가 위험한 대화를 부적절하게 처리했다는 주장에 대한 소송과 조사에 직면한 가운데 이루어졌습니다. - OpenAI는 새로운 보호 장치가 영구 메모리나 개인화가 아닌 임시 "안전 요약(safety summaries)"에 의존한다고 말했습니다. OpenAI는 목요일, 챗봇이 어려움에 처한 사용자를 어떻게 다루는지에 대해 법적·정치적 검토가 강화되는 가운데, ChatGPT가 대화 전반에 걸쳐 점차 고조되는 위험 신호를 인식하도록 돕기 위한 새로운 안전 기능을 발표했습니다. OpenAI는 블로그 게시물에서, 이번 업데이트가 각 메시지를 개별적으로 다루는 대신 시간이 지남에 따라 형성되는 맥락을 분석함으로써 자살, 자해, 잠재적 폭력과 관련된 경고 신호를 식별하는 ChatGPT의 능력을 향상시킨다고 밝혔습니다. "사람들은 매일 ChatGPT에 찾아와 자신에게 중요한 일들을 이야기합니다—일상적인 질문부터 보다 개인적이거나 복잡한 대화까지 말이죠," 회사는 적었습니다. "수억 건의 상호작용 중 일부 대화에는 어려움을 겪거나 고통을 경험하고 있는 사람들이 포함되어 있습니다." OpenAI에 따르면, ChatGPT는 이제 임시 "안전 요약(safety summaries)"을 사용하는데, 이는 이전 대화에서 안전과 관련된 맥락을 포착하는 좁은 범위의 메모라고 설명했습니다. "민감한 대화에서는 단일 메시지만큼이나 맥락이 중요할 수 있습니다," 회사는 적었습니다. "그 자체로는 평범하거나 모호해 보이는 요청도 이전의 고통 징후나 잠재적 유해 의도와 함께 보면 매우 다른 의미를 가질 수 있습니다." OpenAI는 이러한 요약이 심각한 상황에서만 사용되는 단기 메모이며, 사용자를 영구적으로 기억하거나 대화를 개인화하기 위한 것이 아니라, 대화가 위험해지고 있다는 신호를 포착하고, 유해한 정보 제공을 피하며, 상황을 진정시키거나, 사용자가 도움을 받도록 안내하는 데 사용된다고 밝혔습니다. "우리는 이 작업을 자살, 자해, 타인에 대한 위해 등 급박한 시나리오에 집중했습니다," 그들은 적었습니다. "정신 건강 전문가들과 협력하여 대화 과정에서 나타나는 경고 신호를 인식하고 그 맥락을 활용해 보다 신중한 응답을 제공할 수 있도록 ChatGPT의 능력을 향상시키기 위해 모델 정책과 학습을 업데이트했습니다." 이번 발표는 OpenAI가 ChatGPT가 폭력, 정서적 취약성, 위험 행동을 포함한 위험한 대화에 적절히 대응하지 못했다는 주장과 관련하여 다수의 소송과 조사에 직면한 가운데 이루어졌습니다. 지난 4월, Florida Attorney General James Uthmeier는 아동 안전, 자해, 2025년 Florida State University 총기 난사 사건과 관련된 우려에 대해 OpenAI에 대한 조사를 시작했습니다. OpenAI는 또한 ChatGPT가 용의자로 지목된 총격범이 공격을 수행하는 데 도움을 주었다는 주장의 연방 소송에도 직면해 있습니다. 화요일, OpenAI와 CEO Sam Altman은 우발적인 약물 과다복용으로 사망한 19세 학생의 가족에 의해 California 주 법원에 제소되었으며, 해당 소송에서는 ChatGPT가 위험한 약물 사용을 조장하고 약물 혼합에 대해 조언했다고 주장하고 있습니다. OpenAI는 ChatGPT가 "시간이 지나야만 분명해지는 위험"을 인식하도록 돕는 것이 여전히 진행 중인 과제이며, 유사한 안전 방법이 결국 다른 영역으로 확장될 수 있다고 밝혔습니다. "오늘날 이 작업은 자해 및 타인에 대한 위해 시나리오에 초점을 맞추고 있습니다. 미래에는 신중한 안전 장치를 갖춘 상태에서 생물학이나 사이버 안전과 같은 다른 고위험 영역에서도 유사한 방법이 도움이 될 수 있는지 탐색할 수 있습니다," 그들은 적었습니다. "이는 여전히 지속적인 우선순위이며, 우리의 모델과 이해가 발전함에 따라 안전 장치를 계속 강화해 나갈 것입니다."

데이터 상태✓ 전체 내용 추출 완료원문 읽기 (Decrypt)

🔍과거 유사 사건· 키워드 + 종목 매칭6 건

2026-04-23

OpenAI는 의사용 ChatGPT가 임상 업무에서 인간을 능가한다고 밝혔다

유사도 150%關鍵字 chatgpt/new/openai

2026-05-16

OpenAI는 Malta와 파트너십을 맺고 모든 시민에게 ChatGPT Plus 무료 이용 권한을 제공합니다

유사도 130%關鍵字 chatgpt/openai

2026-05-16

OpenAI 제품 전선 통합! Greg Brockman이 ChatGPT, Codex 및 개발자 API를 동시에 총괄

유사도 130%關鍵字 chatgpt/openai

2026-05-15