最近在 X 看到 Jev,觉得它的思路很有意思:如果程序只需要一个判断,模型为什么要先生成一段文字? 举个例子,技术支持系统收到一条反馈:
更新后导出的文件打不开,明早开会要用,能不能尽快处理?
程序需要知道这条消息该交给谁、是否紧急、信息够不够完整。用 Jev,可以把需求拆成三个小问题:
| 问题 | 对应能力 | 可能的结果,仅作示意 |
|---|---|---|
| 应该交给哪个部门? | Choice:从给定选项中选择 | 技术支持 |
| 紧迫程度如何? | Score:按预定义等级评分 | 较高 |
| 是否明确提到截止时间? | Noul:返回“是”的概率 | 0.95 |
拿到结果,就能将消息送进技术支持队列、提高优先级。这些判断可以在同一个请求中并行完成,再由代码决定如何处理,如果是现在的模型会思考很久然后限制回复格式,还可能出现格式问题,而Jev给的直接就一定是既定的几个选项,格式安全问题可忽略。另一大特点是速度快,开发者给的响应时间是70-500毫秒,很夸张。 沿着这些特点想下去,使用场景会有很多的。
最容易想到的是信息整理:收藏文章时,浏览器书签栏,模型功能嵌入进去。系统顺手判断它属于哪个主题。
再者就是资源打标:收到邮件时,判断是通知、请求还是推广;系统对评论审查,看是否包含限制内容,选择隐藏还是正常展示。
它也可能成为复杂 AI 系统的入口作为一个网关:收到一个请求后,先判断需要查资料、调用工具,还是进行深入推理,再交给合适的模块。
这些想象有一个共同点:使用者未必会看到一个新的聊天框,却会发现软件更懂自己输入的内容。
或许还能做量化交易?比如突发美联储重磅言论之类的大新闻,可以在亚秒内对文本进行并行判别(如:利空概率、利好概率),让交易系统瞬间执行撤单或平仓,抢占先机。
感觉未来一片蓝海啊,这玩意后面绝对爆火。