閱界資訊

第398期:Token 費用難以負擔

閱閱界編輯部2閱讀3分鐘

上週,OpenClaw(龍蝦)的創始人彼得·斯坦伯格(Peter Steinberger)貼出了自己的 Token 使用量。他不是故意炫耀,自己用了多少 Token,而是爲了介紹工具軟件 CodexBar。這個菜單欄小工具可以統計你的 Token 使用量,計算出對應的費用。大家猜猜看,他用了多少 Token?

根據截圖,他一個月發出了760萬個請求,消耗的 Token 數量爲6030億。根據預設的費率,這些 Token 價值130萬美元!也就是說,他的 AI 編程平均每天要花費4萬多美元。當然,這個數字不是真實支出。因爲他是 OpenAI 公司的員工,可以無限量免費使用公司的 Token。所以,這些錢並不是真實的支出。

但是,他的 Token 使用量是真的。絕大部分公司需要外購 Token,大家可以用他的例子計算一下,如果一個程序員每月用掉幾千億、甚至上萬億的 Token,公司要出多少錢?他一個人一個月130萬美元,相當於近900萬人民幣,一年下來超過1億人民幣! 這就是放開使用頂級模型,公司要支付的費用。如果改用便宜的模型,國內最便宜的開源模型,價格大約是國外旗艦模型的1/30到1/50,那麼一年就是200萬~300萬人民幣。

結論就是,如果放開不限量使用,一個程序員一年最少會花掉兩三百萬人民幣的 Token 費用。要是使用美國的旗艦模型,費用會快速上漲到幾千萬甚至上億人民幣。公司想要降低成本,有兩個方法:一是購買包月套餐,但是大項目不夠用;二是自己架設開源模型,省掉外購的費用,但是硬件費用不便宜,而且最強的模型目前是不開源的。

權衡下來,我猜想,公司幾乎肯定會設置限制,不允許程序員無限量使用外部模型。那樣的話,鉅額的 Token 費用難以承受。程序員的工資已經不低了,再加上每人每年至少幾百萬人民幣的 Token 費用,公司的開發成本會爆炸的。大家可以說說,有沒有公司對程序員提供外部模型無限量 API 調用?我是沒有聽說過。事實上,因爲 Token 費用太高,公司收緊 AI 編程的例子,我倒是知道幾個。

比如,網約車巨頭 Uber 今年頭四個月就花完了全年34億美元的 AI 預算,不得不限制使用 AI 了。再比如,微軟也因爲費用超標,放棄了 Claude Code,改用自家託管的 OpenAI 模型。如果 Uber 和微軟這樣的巨頭,都承受不了鉅額的 Token 費用,那大概就沒有公司能夠承受了。總之,AI 編程雖然聽起來很美好,但是看到賬單的那一刻,公司就會清醒:AI 編程比真人程序員昂貴太多了。

所以,AI 會替代程序員嗎?對於有大型軟件項目的公司,我認爲不會大規模替代,因爲成本放在那裏。至少現階段如此,如果未來 Token 費用大幅下降,那就難說了。

來源|阮一峯科技愛好者週刊第 398 期,

每週精選周刊头条

評論(0)

暫無評論,來搶第一條。