← 全部笔记
2026年9月21日 · AI

现在 AI 发展得这么快,是不给人休息吗?

English summary available ↓
ENGLISH SUMMARY

After a full day of meetings, just before bed, a partner sent me an AI update about something called Jev, and I was wide awake again. In business terms: when we use ChatGPT, it writes an answer token by token, and companies plugging AI into their systems pay by usage. Jev does something narrower. It only handles judgement and choice: you give it data and the options, and it decides which way to route, returning a choice and a probability instead of a paragraph. Think of the sorter on a warehouse line deciding which parcel goes to a rider, which needs a lorry, which needs checking; the systems behind it then do the rest. General models could already do this, but Jev is built for it, which matters at hundreds of thousands or millions of decisions a day. What surprised me most was price. Using public API prices and an assumption of one million decisions with about 1,000 input tokens each and 20 output tokens for a general model, I estimated about US$224 with GPT-5.6 Luna, about US$2,240 with GPT-5.6 Terra, and about US$42 with Jev, roughly 81% to 98% less, for the judgement step only and without assuming equal accuracy. If judgement keeps getting cheaper, maybe every customer message, order exception and after-sales case can be checked and routed, not just sampled. The tiring part is that just as you understand one thing, another arrives. Chase AI or not? Exciting and exhausting at the same time.

Read full English version →

今天开完一整天不同的会,回到家,准备临睡前休息一下,结果伙伴突然发了一个 AI 的 update 给我。一个叫 Jev 的东西。我本来只是想看一下,结果越看越精神,脑袋又开始爆炸。好,又不用睡了。

Jev 到底是什么?

我尝试用自己比较熟悉的生意逻辑来解释。我们平常用的 ChatGPT,你问它一个问题,它会组织答案,一个字一个字地显示出来。背后有一种计算用量的单位叫 token,你可以粗略理解成文字拆开后的小单位。企业把 AI 接进自己的系统,通常就是根据这些用量付钱。读多少资料、生成多少内容,都可能影响费用。

而 Jev 做的事情有点特别。它专门处理判断和选择。你可以把它想象成一个接进工作流程的“插件”,把资料交给它,再告诉它有哪些选项,它就帮你判断应该分去哪一边。当然,技术上是通过 API 接进去,还是需要有人把流程安排好。

想象一下,你有一个货仓,每天几千个包裹经过流水线。中间站着一个分拣员,看一下,这个小件,给 Rider;那个大件,要叫 Lorry;这个资料不清楚,先放旁边,让同事确认。Jev 就有点像站在那个位置的人,专门负责快速分流。分完之后,叫车、发通知、安排出货,就交给后面的系统继续做。

以前这些判断也可以交给一般 AI 模型。它读资料,再生成一个答案,告诉系统下一步做什么。答案可以很短,不一定每次都要长篇大论。Jev 则专门针对这种工作设计,直接给出选择和概率,不需要生成一段解释。你一天判断十次,可能没有什么感觉;如果一天判断十万次、几百万次,这个分别就开始有意思了。

价格才是最震撼的

它最让我惊讶的,是价格。我拿公开的 API 价格做了一个简单估算:假设做一百万次判断,每次读入约一千个 tokens,一般模型只输出二十个 tokens,用比较便宜的 GPT-5.6 Luna,大约 US$224;用 GPT-5.6 Terra,大约 US$2,240;Jev 则大约 US$42。同样这组用量假设,费用可以少大约 81% 到 98%。当然,这只是判断环节的费用比较,不代表整个系统都省这么多,也不代表三个模型的准确率一样。

但我还是觉得很震撼。原来 AI 的分工已经可以细到这个程度。写内容的负责写内容,复杂分析的负责分析,重复发生的小判断,又有一个专门的模型去做。如果判断的成本继续降下来,以前我们只抽查的客户留言、订单异常、售后问题,以后是不是可以每一条都检查,每一条都分流?

又兴奋,又累

最累的就是这里。

你才刚理解一个东西,开始想怎样放进自己的生意,另一个新东西又来了。白天开会、处理公司,晚上想休息一下,结果脑袋又在想:诶,这个可以用在哪里?我们现在做的系统,是不是又可以改?

AI 到底是要追,还是不要追?不追,怕错过一些真的可以改变生意的东西;追,真的感觉没有停下来的时候。可能接下来要学的,还有判断哪些值得追,哪些可以先放着。But 讲就容易,看到这种东西,还是忍不住继续看。

真的,又兴奋,又累。

— Gary