1250 億參數大模型,家用遊戲 PC 跑起來了
閱閱界編輯部2閱讀1分鐘
大模型不再是巨頭玩具:Strata 让 125B Qwen 跑进游戏 PC。
門檻低:Win/Linux 一鍵裝,N/A 卡通吃,5070/9070XT 實測,3090 更香。
國產 Qwen 中文好,自帶中文說明,本地開 OpenAI 兼容接口。
速度:生成 50–90 tokens/s,12G 用小量化,別被 100T/s 標題忽悠。
來源|Hacker News,https://github.com/Niko1221/Strata
評論(0)
暫無評論,來搶第一條。