OpenAI Mendorong Fitur Keamanan Baru ChatGPT seiring Meningkatnya Tuntutan Hukum

📄Artikel lengkap· Diambil secara otomatis oleh trafilaturaGemini 翻譯3501 kata

Secara singkat - OpenAI mengatakan ChatGPT kini dapat lebih baik dalam mendeteksi tanda-tanda menyakiti diri sendiri atau kekerasan selama percakapan yang sedang berlangsung. - Pembaruan ini hadir saat perusahaan menghadapi gugatan dan penyelidikan atas klaim bahwa ChatGPT salah menangani percakapan berbahaya. - OpenAI mengatakan perlindungan baru ini mengandalkan "ringkasan keselamatan" sementara, bukan memori permanen atau personalisasi. OpenAI pada hari Kamis mengumumkan fitur keselamatan baru yang dirancang untuk membantu ChatGPT mengenali tanda-tanda risiko yang meningkat di sepanjang percakapan, saat perusahaan tersebut menghadapi pengawasan hukum dan politik yang semakin meningkat atas bagaimana chatbot-nya menangani pengguna yang sedang dalam kesulitan. Dalam sebuah unggahan blog, OpenAI mengatakan pembaruan tersebut meningkatkan kemampuan ChatGPT untuk mengidentifikasi tanda-tanda peringatan yang terkait dengan bunuh diri, menyakiti diri sendiri, dan potensi kekerasan dengan menganalisis konteks yang berkembang dari waktu ke waktu, alih-alih memperlakukan setiap pesan secara terpisah. "Orang-orang datang ke ChatGPT setiap hari untuk membicarakan hal-hal yang penting bagi mereka—mulai dari pertanyaan sehari-hari hingga percakapan yang lebih pribadi atau kompleks," tulis perusahaan tersebut. "Di antara ratusan juta interaksi, beberapa percakapan ini melibatkan orang-orang yang sedang berjuang atau mengalami kesulitan." Menurut OpenAI, ChatGPT kini menggunakan "ringkasan keselamatan" sementara, yang digambarkan sebagai catatan dengan cakupan terbatas yang menangkap konteks terkait keselamatan yang relevan dari percakapan sebelumnya. "Dalam percakapan sensitif, konteks bisa sama pentingnya dengan satu pesan," tulis perusahaan tersebut. "Permintaan yang tampak biasa atau ambigu jika berdiri sendiri mungkin membawa arti yang sangat berbeda jika dilihat bersamaan dengan tanda-tanda kesulitan atau kemungkinan niat berbahaya sebelumnya." OpenAI mengatakan ringkasan tersebut adalah catatan jangka pendek yang hanya digunakan dalam situasi serius, bukan untuk mengingat pengguna secara permanen atau mempersonalisasi obrolan, dan digunakan untuk mendeteksi tanda-tanda bahwa percakapan menjadi berbahaya, menghindari pemberian informasi berbahaya, meredakan situasi, atau mengarahkan pengguna menuju bantuan. "Kami memfokuskan pekerjaan ini pada skenario akut, termasuk bunuh diri, menyakiti diri sendiri, dan menyakiti orang lain," tulis mereka. "Bekerja sama dengan para ahli kesehatan mental, kami memperbarui kebijakan dan pelatihan model kami untuk meningkatkan kemampuan ChatGPT dalam mengenali tanda-tanda peringatan yang muncul sepanjang percakapan dan menggunakan konteks tersebut untuk memberikan respons yang lebih hati-hati." Pengumuman ini muncul saat OpenAI menghadapi beberapa gugatan dan penyelidikan yang menuduh ChatGPT gagal merespons dengan tepat percakapan berbahaya yang melibatkan kekerasan, kerentanan emosional, dan perilaku berisiko. Pada bulan April, Florida Attorney General James Uthmeier meluncurkan penyelidikan terhadap OpenAI terkait kekhawatiran tentang keselamatan anak, menyakiti diri sendiri, dan penembakan massal tahun 2025 di Florida State University. OpenAI juga menghadapi gugatan federal yang menuduh ChatGPT membantu tersangka pelaku penembakan melaksanakan serangan tersebut. Pada hari Selasa, OpenAI dan CEO Sam Altman digugat di pengadilan negara bagian California oleh keluarga seorang mahasiswa berusia 19 tahun yang meninggal akibat overdosis yang tidak disengaja, dengan gugatan tersebut menuduh ChatGPT mendorong penggunaan obat-obatan berbahaya dan memberikan saran tentang pencampuran zat. OpenAI mengatakan membantu ChatGPT mengenali "risiko yang hanya menjadi jelas seiring waktu" tetap menjadi tantangan yang sedang berlangsung; metode keselamatan serupa pada akhirnya dapat diperluas ke area lain. "Hari ini, pekerjaan ini berfokus pada skenario menyakiti diri sendiri dan menyakiti orang lain. Di masa depan, kami mungkin mengeksplorasi apakah metode serupa dapat membantu di area berisiko tinggi lainnya seperti biologi atau keamanan siber, dengan perlindungan yang cermat," tulis mereka. "Ini tetap menjadi prioritas yang sedang berlangsung, dan kami akan terus memperkuat perlindungan seiring berkembangnya model dan pemahaman kami."

Status data✓ Teks lengkap telah diambilBaca artikel asli (Decrypt)

🔍Peristiwa serupa dalam sejarah· Pencocokan kata kunci + aset6 berita

2026-04-23

OpenAI Mengatakan ChatGPT Barunya untuk Dokter Mengungguli Manusia dalam Tugas Klinis

Tingkat kemiripan 150%關鍵字 new/chatgpt/openai

2026-05-22

Kucoin Mendorong Produk Earn-and-Loan Saat ETF Capital Menarik Kripto ke Perpecahan Baru

Tingkat kemiripan 130%關鍵字 pushes/new

2026-05-21

OpenAI Codex resmi hadir di ponsel! Aplikasi ChatGPT kini bisa langsung menulis kode dan meninjau kode program

Tingkat kemiripan 130%關鍵字 chatgpt/openai

2026-05-16