你的智能體,可能只是穿了風衣的分支語句
閱閱界編輯部2閱讀2分鐘
去年做的智能體,演示時滿堂彩,上線後又慢又貴,毛病還復現不了,週二好好的,週三就翻臉。回頭翻日誌,後背一涼:它每次都是同樣三步,拿數、轉換、回話,一步都沒偏過。所謂的自主,一次都沒用過。作者說,我造了個循環,套了句提示詞,就敢叫智能體。這篇在海外拿下上百贊,評論區:排隊認領,人人有份。
一、定義釘死:運行時誰定路線。智能體是模型臨場定路線:調哪個工具,下一步去哪,要不要再轉一圈,跑起來才知道。固定流程是你上線前就畫好的圖:一步二步三步,次次一樣,模型只在節點裏幹活。節點裏幹得再聰明,也不叫自主,叫聰明的函數調用。多數號稱智能體的東西,只是把固定路線用流利的話講一遍,把講解當推理。發佈會上講的是前者,賬單上跑的全是後者。這不是罵人,是好消息,往下看。
二、爲啥是好消息。一句話檢驗:上線前畫得出流程圖,就是固定流程。畫得出,說明路線你早懂了,讓模型現編路線,又貴又險,圖啥。真需要自主的活很少:下一步必須靠運行時發現、事先畫不出來的,才配。多數業務活形狀早就清楚,承認是固定流程,就能按固定流程優化:寫死、緩存、測透、查得快,四個好處一次拿。脫掉風衣,流水線不丟人,丟人的是又貴又慢還不敢承認。
三、抄作業。先寫死,再談智能:能固定的全固定,實在畫不出的那一小段,再放手給模型。今天就去看日誌,先答三個問題:它走出過你畫的圖嗎,哪一步真需要臨場定,固定下來能省多少。三個答完,該脫的脫,該留的留。快、便宜、能測、能查,這纔是生產要的東西。風衣好看,結實更值錢。
來源|海外開發者社區,https://dev.to/james_anderson_h/most-ai-agents-are-just-if-statements-in-a-trench-coat-3960
評論(0)
暫無評論,來搶第一條。