Jev + Kimi K3 用于欺诈检测! 简而言之:Jev 在 1.42 秒内对 100 封邮件完成分类,然后我把不确定的案例交给 Kimi K3。完整流程判断正确了 96/100 封,成本只有约 0.07 美元。 视频没有加速,可以看看这次实时运行! 我的流程如下: 我让 Jev 对 100 封邮件分类,其中 50 封正常、50 封欺诈邮件。它在 1.42 秒内全部分类完成。 Jev 有一个常被低估的功能:给出分类置信度。因此,我把置信度低于 95% 的预测交给 Kimi K3,以进一步确认。 31 封邮件低于这个阈值。转交 Kimi K3 后,组合流程的准确率达到 96%。 完整运行耗时 16 秒,推理费用约 0.07 美元: - 在 @togethercompute 上使用 Kimi K3 花费 0.068 美元。 - 在 @typesafeai 上使用 Jev 花费 0.003 美元(约三分之一美分)。 我认为这是一个很有意思的模式:用 Jev 这样的快速专用模型处理范围明确的任务,再将不确定的情况交给更大的 LLM。 我觉得这种做法可能改变欺诈检测或其他实时场景:利用 Jev 的速度和低成本,同时用更大的 LLM 兜底,以争取较高准确率。
用 Jev 对邮件进行欺诈分类,并将置信度不足的条目交给 Kimi K3 复核;演示同时展示分类、路由和汇总结果。
JEV 做了什么
对邮件作分类判断并返回置信度,让应用按阈值选择是否交给另一模型复核;准确率、耗时和成本为作者自报,本站未复测。
作者明确说明,Jev 负责初次邮件分类及置信度输出;应用将低于 95% 阈值的预测转交 Kimi K3。
还能用在哪?
How2Jev 延伸推演,不代表作者或官方声明。
- 先对客服消息分类,再将不确定的条目交给人工复核。
- 在内容审核中分离高置信度结果与需要进一步判断的样本。
ORIGINAL SOURCE
How2Jev 整理案例,项目与演示归原作者所有。
