要聞列表有人測試了一顆 1997 年的處理器,證明只要 128 MB 的 RAM 就足以運行 AI
Bitcoin.com2026-05-28 13:42:07

有人測試了一顆 1997 年的處理器,證明只要 128 MB 的 RAM 就足以運行 AI

ORIGINALSomeone Tested a 1997 Processor and Proved That Just 128 MB of RAM Is Enough to Run AI
AI 影響分析Grok 分析中...
📄完整原文· 由 trafilatura 自動擷取Gemini 翻譯3578 字
EXO Labs 是如何在一台 1997 年、只有 128 MB RAM 的 Pentium II 上跑起輕量版 Llama 2 的?團隊靠的是 BitNet 的三元權重方法(-1、0、1),讓模型能夠回應,雖然緩慢,但凸顯了一個重點:解鎖老舊機器驚人潛力的,是軟體優化,而不是新的晶片。 有人測試了一顆 1997 年的處理器,證明僅 128 MB 的 RAM 就足以運行 AI 重點摘要 - EXO Labs 在一台 1997 年、僅 128 MB RAM 的 Pentium II 上跑起了 Llama 2。 - BitNet 使用 -1、0 和 1 的權重,大幅削減 AI 的記憶體與運算需求。 - 隨著 EXO Labs 推動軟體優先的效率路線,Nvidia 主導時代的 AI 成本正面臨壓力。 EXO Labs 剛剛教會了一台只有 128 MB RAM 的 Pentium II 一項新本領:跑一個精簡版的 Llama 2 模型,速度雖慢但確實能跑。團隊倚賴的是 BitNet——一種把神經網路運算縮減為 -1、0 和 1 的三元權重方法,硬是讓現代 AI 穿過了 1997 年的瓶頸。這項成果不會把你的 GPU 機器拉下王座,卻動搖了「想前進就一定要更多晶片」的反射性思維。如果軟體能在博物館級的硬體上發揮到這種程度,下一波 AI 效率的浪潮,或許將從更聰明的程式碼開始,而不是更昂貴的晶片。 在一台老古董上跑 AI 看著老晶片變出新把戲,總有種靜謐的滿足感。EXO Labs 的研究團隊展示了一個現代語言模型在一台 1997 年的米白色 PC 上運行,動力來自 Pentium II 與僅僅 128 MB 的 RAM。這個模型是 Llama 2 的精簡變體,而這場示範挑戰了一個簡單的假設:更多 AI 就一定需要更強的機器。 BitNet 背後的巧思 祕密武器是一個名為 BitNet 的軟體架構。BitNet 不採用高精度運算,而是讓神經網路改以三元權重運作,具體就是 −1、0 和 1。這把運算與記憶體壓力削到見骨。輸出來得很慢,一個字一個字蹦出來,但確實有輸出。重點不在速度,而在於它在嚴重受限的硬體上具備可行性。 新舊技術的結合 這裡有一個鮮明的對比。1990 年代的思維推崇效率,因為每一個運算週期都得錙銖必較。今日的 AI 技術堆疊則預設 GPU 多得用不完。這個專案在兩者之間取得了交會點,證明審慎的量化、剪枝與資料佈局,可以抵消蠻力堆疊的需求。它也呼應了美國對永續議題的討論——訓練與推論的能源足跡,正受到政策制定者與雲端買家越來越嚴格的檢視。 為什麼這對開發者與買家很重要 對開發者來說,這個啟示很簡單:從限制出發。如果一個三元權重的網路能在 Pentium II 上活下來,那麼它在中階筆電、邊緣閘道,甚至塞在零售商店裡的微型伺服器上,肯定也能活得很好。這可能擴大裝置端推論的應用範圍、降低延遲,並縮減雲端帳單。對企業買家而言,軟體優先的效率,可以轉化為更少的 GPU 與更低的資本支出。 它沒有宣稱的事 這不是一場要取代資料中心訓練、或要把 Nvidia 高階加速器拉下神壇的競標。這場示範跑的是一個精簡過的模型,反應速度也無法滿足重度生產用途。儘管如此,它仍是一個有用的反例。一套把精度視為可選、把記憶體視為稀缺資源的工具鏈,可以為公民科技、教室,以及那些沒有叢集卻仍想擁有能幹模型的新創,打開一扇門。 更大的啟示是文化層面的。AI 的進展,不只屬於擁有最多晶片的人,也屬於那些能把晶片榨到極致的人。事實上,當軟體紀律能讓模型更貼近過去難以觸及的人、地點與預算時,它的影響力可以不亞於一次新晶片的流片。
資料狀態✓ 已擷取全文閱讀原文(Bitcoin.com)
🔍歷史類似事件· 關鍵字 + 標的比對2 則
💡 目前用關鍵字 + 標的比對(MVP)· 之後會升級為 embedding 語意搜尋
原始資訊
ID:169bcca348
來源:Bitcoin.com
發佈:2026-05-28 13:42:07
分類:一般 · 導出分類 neutral
標的:未指定
社群投票:+0 /0 · ⭐ 0 重要 · 💬 0 留言