Có người đã thử nghiệm bộ vi xử lý năm 1997 và chứng minh rằng chỉ cần 128 MB RAM là đủ để chạy AI

📄Toàn văn bài viết· Được trích xuất tự động bởi trafilaturaGemini 翻譯3578 từ

Làm thế nào EXO Labs có thể chạy một phiên bản Llama 2 nhẹ trên Pentium II đời 1997 chỉ với 128 MB RAM? Bằng cách dựa vào phương pháp trọng số tam phân (-1, 0, 1) của BitNet, nhóm đã chứng minh mô hình có thể phản hồi, dù chậm, qua đó nhấn mạnh rằng tối ưu hóa phần mềm, chứ không phải silicon mới, có thể mở ra không gian hoạt động đáng kinh ngạc trên các máy tính cũ. Ai đó đã thử nghiệm một bộ vi xử lý năm 1997 và chứng minh rằng chỉ 128 MB RAM là đủ để chạy AI Những điểm chính - EXO Labs đã chạy Llama 2 trên Pentium II đời 1997 chỉ với 128 MB RAM. - BitNet sử dụng các trọng số -1, 0 và 1 để cắt giảm nhu cầu bộ nhớ và tính toán của AI. - Chi phí AI trong kỷ nguyên Nvidia đang đối mặt với áp lực khi EXO Labs thúc đẩy hiệu quả ưu tiên phần mềm. EXO Labs vừa dạy cho một chiếc Pentium II với 128 MB RAM một thủ thuật mới: chạy một mô hình Llama 2 đã được tinh giản, chậm nhưng chắc chắn. Nhóm đã dựa vào BitNet, một phương pháp trọng số tam phân giúp rút gọn các phép toán thần kinh xuống còn -1, 0 và 1, ép AI hiện đại đi qua một nút thắt cổ chai từ năm 1997. Kết quả không thay thế được dàn GPU của bạn, nhưng nó thách thức phản xạ cho rằng nhiều silicon hơn là con đường duy nhất để tiến lên. Nếu phần mềm có thể vươn xa đến thế trên phần cứng cấp bảo tàng, làn sóng hiệu quả AI tiếp theo có thể bắt đầu bằng mã nguồn thông minh hơn, thay vì các con chip đắt đỏ hơn. Chạy AI trên một di vật của quá khứ Có một sự hài lòng thầm lặng khi nhìn thấy silicon cũ thực hiện các thủ thuật mới. Nhóm nghiên cứu tại EXO Labs đã trình diễn một mô hình ngôn ngữ hiện đại chạy trên một chiếc PC thùng màu be từ năm 1997, được cung cấp sức mạnh bởi Pentium II và chỉ 128 MB RAM. Mô hình này là một biến thể tinh gọn của Llama 2, và bản demo đã thách thức một giả định đơn giản: AI nhiều hơn luôn cần máy móc mạnh hơn. Sự khéo léo đằng sau BitNet Bí quyết nằm ở cấu trúc phần mềm có tên là BitNet. Thay vì các phép toán độ chính xác cao, BitNet thúc đẩy các mạng thần kinh làm việc với các trọng số tam phân, cụ thể là -1, 0 và 1. Điều đó cắt giảm áp lực tính toán và bộ nhớ xuống mức tối thiểu. Đầu ra xuất hiện chậm, từng từ một, nhưng nó đã xuất hiện. Mục đích không phải là tốc độ, mà là tính khả thi trên phần cứng bị hạn chế nghiêm trọng. Sự kết hợp giữa công nghệ cũ và mới Có một sự tương phản rõ rệt ở đây. Tư duy của những năm 1990 coi trọng hiệu quả, vì mỗi chu kỳ đều có giá trị. Các ngăn xếp AI ngày nay giả định rằng có sẵn GPU dồi dào. Dự án này gặp nhau ở giữa, cho thấy rằng việc lượng tử hóa, cắt tỉa và bố trí dữ liệu cẩn thận có thể bù đắp cho sức mạnh thô. Nó cũng đề cập đến các cuộc tranh luận về tính bền vững tại Mỹ, nơi dấu chân năng lượng của việc đào tạo và suy luận đang thu hút sự giám sát chặt chẽ hơn từ các nhà hoạch định chính sách và người mua dịch vụ đám mây. Tại sao điều này quan trọng đối với các nhà phát triển và người mua Đối với các nhà phát triển, bài học rất đơn giản: hãy bắt đầu với các ràng buộc. Nếu một mạng trọng số tam phân có thể tồn tại trên Pentium II, nó chắc chắn có thể phát triển mạnh trên một chiếc máy tính xách tay tầm trung, một cổng kết nối biên (edge gateway) hoặc thậm chí là một máy chủ siêu nhỏ đặt trong cửa hàng bán lẻ. Điều đó có thể mở rộng suy luận trên thiết bị, giảm độ trễ và cắt giảm hóa đơn đám mây. Đối với người mua doanh nghiệp, hiệu quả ưu tiên phần mềm có thể chuyển thành ít GPU hơn và ít chi phí vốn (capex) hơn. Những gì nó không tuyên bố Đây không phải là một nỗ lực để thay thế việc đào tạo tại trung tâm dữ liệu hoặc thay thế các bộ tăng tốc cao cấp từ Nvidia. Bản demo đã chạy một mô hình được tinh giản, và khả năng phản hồi sẽ không đáp ứng được việc sử dụng trong sản xuất quy

Trạng thái dữ liệu✓ Đã trích xuất toàn vănĐọc bài gốc (Bitcoin.com)

🔍Sự kiện tương tự trong lịch sử· Đối chiếu từ khóa + tài sản3 tin

2026-05-29

Ai Đó Vừa Khắc Hiến Pháp Hoa Kỳ lên Bitcoin Blockchain

Độ tương đồng 130%關鍵字 just/someone

2026-05-26

Ai Đó Vừa Phá Hủy 8,2 Triệu Đô La Bitcoin—Tại Sao?

Độ tương đồng 130%關鍵字 just/someone

2026-04-29

Google và Microsoft vừa chứng minh AI Trade vẫn còn sống—trong khi OpenAI đang phải lo sốt vó

Độ tương đồng 100%關鍵字 just/proved

💡 Hiện đang sử dụng đối chiếu từ khóa + tài sản (MVP) · Sau này sẽ nâng cấp lên tìm kiếm ngữ nghĩa embedding