閱界資訊

1250 億參數大模型,家用遊戲 PC 跑起來了

閱閱界編輯部2閱讀1分鐘

大模型不再是巨頭玩具:Strata 让 125B Qwen 跑进游戏 PC。

門檻低:Win/Linux 一鍵裝,N/A 卡通吃,5070/9070XT 實測,3090 更香。

國產 Qwen 中文好,自帶中文說明,本地開 OpenAI 兼容接口。

速度:生成 50–90 tokens/s,12G 用小量化,別被 100T/s 標題忽悠。

來源|Hacker News,https://github.com/Niko1221/Strata

海外技術譯文Qwen本地部署开源

評論(0)

暫無評論,來搶第一條。