阅界资讯

你的智能体,可能只是穿了风衣的分支语句

阅阅界编辑部3阅读2分钟

去年做的智能体,演示时满堂彩,上线后又慢又贵,毛病还复现不了,周二好好的,周三就翻脸。回头翻日志,后背一凉:它每次都是同样三步,拿数、转换、回话,一步都没偏过。所谓的自主,一次都没用过。作者说,我造了个循环,套了句提示词,就敢叫智能体。这篇在海外拿下上百赞,评论区:排队认领,人人有份。

一、定义钉死:运行时谁定路线。智能体是模型临场定路线:调哪个工具,下一步去哪,要不要再转一圈,跑起来才知道。固定流程是你上线前就画好的图:一步二步三步,次次一样,模型只在节点里干活。节点里干得再聪明,也不叫自主,叫聪明的函数调用。多数号称智能体的东西,只是把固定路线用流利的话讲一遍,把讲解当推理。发布会上讲的是前者,账单上跑的全是后者。这不是骂人,是好消息,往下看。

二、为啥是好消息。一句话检验:上线前画得出流程图,就是固定流程。画得出,说明路线你早懂了,让模型现编路线,又贵又险,图啥。真需要自主的活很少:下一步必须靠运行时发现、事先画不出来的,才配。多数业务活形状早就清楚,承认是固定流程,就能按固定流程优化:写死、缓存、测透、查得快,四个好处一次拿。脱掉风衣,流水线不丢人,丢人的是又贵又慢还不敢承认。

三、抄作业。先写死,再谈智能:能固定的全固定,实在画不出的那一小段,再放手给模型。今天就去看日志,先答三个问题:它走出过你画的图吗,哪一步真需要临场定,固定下来能省多少。三个答完,该脱的脱,该留的留。快、便宜、能测、能查,这才是生产要的东西。风衣好看,结实更值钱。

来源|海外开发者社区,https://dev.to/james_anderson_h/most-ai-agents-are-just-if-statements-in-a-trench-coat-3960

海外技术译文智能体架构思考

评论(0)

暂无评论,来抢第一条。