Seseorang Menguji Prosesor Tahun 1997 dan Membuktikan Bahwa Hanya 128 MB RAM Sudah Cukup untuk Menjalankan AI

📄Artikel lengkap· Diambil secara otomatis oleh trafilaturaGemini 翻譯3578 kata

Bagaimana EXO Labs menjalankan Llama 2 yang ringan pada Pentium II tahun 1997 dengan RAM hanya 128 MB? Dengan mengandalkan pendekatan bobot terner BitNet (-1, 0, 1), tim tersebut menunjukkan bahwa model tersebut dapat merespons, meskipun lambat, yang menegaskan bahwa optimasi perangkat lunak, bukan silikon baru, dapat membuka ruang yang mengejutkan pada mesin lama. Seseorang Menguji Prosesor Tahun 1997 dan Membuktikan Bahwa RAM 128 MB Saja Cukup untuk Menjalankan AI Poin-Poin Penting - EXO Labs menjalankan Llama 2 pada Pentium II tahun 1997 dengan RAM hanya 128 MB. - BitNet menggunakan bobot -1, 0, dan 1 untuk memangkas kebutuhan memori dan komputasi AI. - Biaya AI era Nvidia menghadapi tekanan seiring EXO Labs mendorong efisiensi yang mengutamakan perangkat lunak. EXO Labs baru saja mengajarkan trik baru pada Pentium II dengan RAM 128 MB: menjalankan model Llama 2 yang dipangkas, lambat namun pasti. Tim tersebut mengandalkan BitNet, pendekatan bobot terner yang menyederhanakan matematika saraf menjadi -1, 0, dan 1, memeras AI modern melalui hambatan tahun 1997. Hasilnya tidak menggulingkan rig GPU Anda, tetapi membuktikan bahwa anggapan bahwa lebih banyak silikon adalah satu-satunya jalan ke depan itu salah. Jika perangkat lunak dapat berkembang sejauh ini pada perangkat keras kelas museum, gelombang efisiensi AI berikutnya mungkin dimulai dengan kode yang lebih cerdas, bukan chip yang lebih mahal. Menjalankan AI pada peninggalan masa lalu Ada kepuasan tersendiri saat melihat silikon lama melakukan trik baru. Kelompok riset di EXO Labs menunjukkan model bahasa modern yang berjalan pada PC kotak krem dari tahun 1997, yang ditenagai oleh Pentium II dan RAM hanya 128 MB. Model tersebut adalah varian Llama 2 yang diperkecil, dan demo tersebut menantang asumsi sederhana: AI yang lebih besar selalu membutuhkan mesin yang lebih besar. Kecerdikan di balik BitNet Rahasianya adalah struktur perangkat lunak yang disebut BitNet. Alih-alih matematika presisi tinggi, BitNet mendorong jaringan saraf untuk bekerja dengan bobot terner, khususnya −1, 0, dan 1. Hal itu memangkas tekanan komputasi dan memori hingga ke intinya. Output muncul perlahan, kata demi kata, tetapi tetap muncul. Poinnya bukan kecepatan, melainkan kelayakan pada perangkat keras yang sangat terbatas. Perpaduan teknologi lama dan baru Ada kontras yang jelas di sini. Pola pikir tahun 1990-an menghargai efisiensi, karena setiap siklus sangat berarti. Tumpukan AI saat ini mengasumsikan GPU yang melimpah. Proyek ini bertemu di tengah, menunjukkan bahwa kuantisasi, pemangkasan, dan tata letak data yang cermat dapat mengimbangi kekuatan kasar. Hal ini juga menyinggung perdebatan keberlanjutan di AS, di mana jejak energi pelatihan dan inferensi menarik lebih banyak pengawasan dari pembuat kebijakan dan pembeli cloud. Mengapa ini penting bagi pengembang dan pembeli Bagi pengembang, pelajarannya sederhana: mulailah dengan batasan. Jika jaringan bobot terner dapat bertahan pada Pentium II, jaringan tersebut tentu dapat berkembang pada laptop kelas menengah, edge gateway, atau bahkan server mikro yang terselip di toko ritel. Hal itu dapat memperluas inferensi pada perangkat, mengurangi latensi, dan memangkas tagihan cloud. Bagi pembeli perusahaan, efisiensi yang mengutamakan perangkat lunak dapat berarti lebih sedikit GPU dan lebih sedikit capex. Apa yang tidak diklaim Ini bukan upaya untuk menggantikan pelatihan pusat data atau menggulingkan akselerator kelas atas dari Nvidia. Demo tersebut menjalankan model yang dikurangi, dan responsivitasnya tidak akan memuaskan penggunaan produksi yang berat. Namun, ini adalah contoh tandingan yang berguna. Perangkat yang menganggap presisi sebagai opsional dan memori sebagai barang langka dapat membuka pintu bagi teknologi sipil, ruang kelas, dan startup yang tidak memiliki klaster tetapi tetap menginginkan model yang mumpuni. Pelajaran yang lebih besar adalah budaya. Kemajuan dalam AI tidak hanya milik mereka yang memiliki silikon terbanyak. Itu juga milik mereka yang memeras hasil maksimal darinya. Memang, disiplin perangkat lunak bisa sama berdampaknya dengan tape-out chip baru ketika membuat model lebih dekat dengan orang, tempat, dan anggaran yang sebelumnya tidak terjangkau.

Status data✓ Teks lengkap telah diambilBaca artikel asli (Bitcoin.com)

🔍Peristiwa serupa dalam sejarah· Pencocokan kata kunci + aset2 berita

2026-05-26

Seseorang Baru Saja Menghancurkan Bitcoin Senilai $8,2 Juta—Mengapa?

Tingkat kemiripan 130%關鍵字 just/someone

2026-04-29

Google dan Microsoft Baru Saja Membuktikan Bahwa Perdagangan AI Masih Hidup—Sementara OpenAI Sedang Berkeringat

Tingkat kemiripan 100%關鍵字 just/proved

💡 Saat ini menggunakan pencocokan kata kunci + aset (MVP) · Akan ditingkatkan ke pencarian semantik embedding di masa mendatang

Informasi mentah

ID:169bcca348

Sumber:Bitcoin.com

Diterbitkan:2026-05-28 13:42:07

Kategori:Umum · Kategori ekspor neutral

Aset:Tidak ditentukan

Voting komunitas:+0 / −0 · ⭐ 0 Penting · 💬 0 Komentar