Penghapusan guardrail AI menimbulkan pertanyaan tentang batas regulasi model open-source

ORIGINALAI guardrail removals raise questions over limits of open-source model regulation

Analisis Dampak AIGrok sedang menganalisis...

📄Artikel lengkap· Diambil secara otomatis oleh trafilaturaGemini 翻譯2051 kata

Undang-Undang AI Uni Eropa. Sumber: European Commission Markus Levin, salah satu pendiri XYO, perusahaan jaringan infrastruktur fisik terdesentralisasi, mengatakan kepada Cointelegraph bahwa penghapusan pengaman yang cepat menunjukkan "betapa cepatnya kendali berpindah begitu model terbuka dirilis," sambil menambahkan bahwa sebagian besar proposal tata kelola masih terlalu berfokus pada tahap pembuatan model. David Minarsch, anggota pendiri Olas dan CEO Valory, sebuah platform agen AI, mengatakan kepada Cointelegraph bahwa pemerintah tidak mungkin mencegah pelaku yang bertekad untuk mengakses atau memodifikasi model setelah bobot disalin secara luas di internet. Ia mengatakan regulasi akan lebih efektif jika difokuskan pada penerapan, distribusi, dan penggunaan berbahaya di dunia nyata daripada hanya pada lapisan pengembang asli. Ronghui Gu, CEO dan salah satu pendiri CertiK, sebuah perusahaan keamanan blockchain, mengatakan kepada Cointelegraph bahwa tata kelola pada lapisan pengembang masih penting, tetapi menjadi tidak memadai begitu model dapat diunduh dan didistribusikan ulang secara bebas. Gu mengatakan pembuat kebijakan lebih mungkin memengaruhi hosting komersial, penerapan perusahaan, dan saluran distribusi daripada sepenuhnya mencegah penyebaran model yang telah dimodifikasi. Ia berpendapat bahwa standar keamanan harus berkembang untuk mengidentifikasi perilaku berbahaya atau berisiko tinggi pada alat AI pihak ketiga dan lingkungan agen AI otonom sebelum penerapan, agar lebih baik dalam membendung ancaman saat runtime seiring agen mengambil peran yang lebih otonom. Levin mengatakan pembendungan menjadi semakin sulit begitu model disalin dan didistribusikan ulang, yang berarti pembuat kebijakan mungkin perlu lebih berfokus pada infrastruktur dan titik distribusi daripada hanya desain model. Baik Levin maupun Minarsch membandingkan isu ini dengan perangkat lunak sumber terbuka dan jaringan crypto, di mana upaya untuk menekan distribusi secara historis terbukti sulit begitu kode tersedia untuk publik. Minarsch menambahkan bahwa meskipun lapisan keamanan dapat mencegah penyalahgunaan biasa, hal tersebut tidak boleh disalahartikan sebagai perlindungan yang kokoh terhadap pelaku yang canggih. Majalah: Peretasan yang digerakkan AI dapat membunuh DeFi — kecuali jika proyek bertindak sekarang Selengkapnya tentang topik ini

Status data✓ Teks lengkap telah diambilBaca artikel asli (CoinTelegraph)

🔍Peristiwa serupa dalam sejarah· Pencocokan kata kunci + aset6 berita

2026-04-30

Mistral AI Merilis Model Open-Source Baru. Internet Tidak Terkesan, Kecuali untuk Satu Hal

Tingkat kemiripan 150%關鍵字 model/source/open

2026-05-22

House Republicans Membuka Investigasi Terhadap Kalshi, Polymarket Terkait Insider Trading

Tingkat kemiripan 130%關鍵字 open/over

2026-05-18

Open-Source Phone AI Agent Ini Bisa Melihat, Mendengar, dan Bertindak—Semua Tanpa Menyentuh Cloud

Tingkat kemiripan 130%關鍵字 open/source

2026-05-15