一、Jev 是什么
Jev 是 TypeSafe AI 的旗舰“System One”模型,定位不是聊天/生成式大模型,而是给软件用的结构化决策模型:你提交一段待判断内容(state)和若干个类型化问题(questions),它并行评估后直接返回可_machine消费的答案——选项、分数、概率、置信度,不生成自由文本。
核心特征:
只做判断,不写文章:适合路由、分类、风控、审核、Agent 决策网关,不适合写稿/对话/代码生成。三种问题类型 noul:判断是否成立,返回 0–1 概率(类似校准后的 yes/no) choice:从封闭选项集里选一个,返回选中项、各选项概率、confidence score:按有序 rubric 打分,返回数值分、档位图例、概率分布、confidence单端点批量问:所有模型走 POST /v1/systemone,用 model 字段切版本;一次请求可带多个问题,并行出结果。类型安全+校准概率:输出 schema 预先定义,答案必落预定义空间;每个判断带概率/置信度,方便在代码里设阈值。纯文本输入:支持字符串、JSON 对象、文本数组;不支持图片/音频/视频,多模态需先转文本。计费:按输入 token 计费,输出 token 免费;Jev 1.13 官方价约 $42/十亿 token(即 $0.042/百万 token)。版本与别名:当前主力 jev-1.13.0;别名 jev-latest、jev-preview 均指向 1.13.0(preview 暂无独立预览构建)。生产建议固定版本号,避免别名随发版漂移导致阈值失效。
二、能力边界与上下文
单次请求上下文 64k token(state+所有 questions 合计);其中 state+单个最长 question 预算 32k。限流(早期访问动态可调):约 250,000 token/秒、1,200 请求/分钟;超限返回 429,SDK 默认指数退避并尊重 Retry-After。语言:英文训练最充分、准确率最好;其他语言(含中文)可用,但复杂判断建议先做标数据校准。不自部署:目前仅云 API/网关,无开源权重、无私有化;企业可谈更高限额与零数据保留方案。三、接入前准备
官网/候补:https://typesafe.ai 申请早期访问;控制台 https://console.typesafe.ai 建号、建 API Key。配环境变量(避免硬编码): export TYPESAFE_API_KEY="sk-xxx"Playground 先验证:在控制台 Playground 贴 state、加 noul/choice/score 问题,看概率和 confidence,再搬进代码。选调用方式: 裸 HTTP(最通用,任何语言都能接) Python SDK typesafe-sdk(Python 3.10+) JS/TS SDK @typesafe-ai/sdk(Node 20+) 网关:OpenRouter(typesafe/jev 系列)、Vercel AI Gateway(typesafe-ai/jev,AI SDK evaluate)、Cloudflare AI Gateway(typesafe/jev)——适合已有网关体系。四、HTTP API 直接对接
端点与鉴权:
POST https://api.typesafe.ai/v1/systemone
Authorization: Bearer $TYPESAFE_API_KEY
Content-Type: application/json
最小请求(客服工单:紧急性+部门路由+情绪分):
curl -X POST https://api.typesafe.ai/v1/systemone \
-H "Authorization: Bearer $TYPESAFE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "jev-1.13.0",
"state": "我的Stripe连续3天连不上,正在丢订单,请尽快处理。",
"questions": {
"is_urgent": {
"type": "noul",
"instructions": "该消息是否表达紧急性或时间敏感?",
"criteria": {
"true": "明确要求尽快、有资损或时效",
"false": "无时间压力"
}
},
"department": {
"type": "choice",
"instructions": "应由哪个团队处理?",
"criteria": {
"billing": "支付、订阅、账单、退款",
"technical": "故障、集成、API、连接问题",
"sales": "报价、套餐、账号咨询",
"other": "不属于以上任何一类"
}
},
"frustration": {
"type": "score",
"instructions": "客户挫败程度?",
"criteria": [
"平静陈述事实",
"不满但克制",
"强烈愤怒或威胁流失"
]
}
}
}'
返回结构(精简):
{
"model": "jev-1.13.0",
"answers": {
"is_urgent": { "type": "noul", "noul": 0.96 },
"department": {
"type": "choice",
"choice": "technical",
"probabilities": { "billing": 0.05, "technical": 0.9, "sales": 0.02, "other": 0.03 },
"confidence": 0.88
},
"frustration": {
"type": "score",
"score": 1.8,
"legend": { "0": "平静", "1": "不满但克制", "2": "强烈愤怒" },
"probabilities": { "0": 0.05, "1": 0.35, "2": 0.6 },
"confidence": 0.8
}
},
"usage": { "input_tokens": 320, "output_tokens": 60 }
}
字段使用建议:
noul:直接用概率做二元门限,如 ≥0.8 判紧急、0.5–0.8 转人工、<0.5 401 不紧急。choice:取 choice 做路由;用 probabilities 做“多候选”兜底;用 confidence 决定自动执行还是人工。score:score 是连续值(按 rubric 档位数归一,常落在 0~档数-1);结合 legend 映射业务等级,confidence 低则降权。usage:只输入计费,输出免费,但仍可用于监控与限流估算。错误码: 密钥缺失 错误;422 请求体校验失败(看返回定位 state questions 字段);429 限流;529 过载。后两类做指数退避,尊重 retry-after。也可 get v1 models 列出当前账号可用 model 别名(版本号即使不在列表也可直接指定)。五、python sdk 对接 安装: pip install typesafe-sdk # python 3.10+ 封装调用: import os from typesafe_sdk typesafeclient, choice, noul, score client="TypeSafeClient()" 自动读 typesafe_api_key resp="client.system_one(" , "is_urgent": noul( instructions="是否涉及资损或明确时效要求?" criteria="{"true":" "有资损 强时效", "false": "无"}, ), "department": choice( "billing": "支付 账单 退款", "technical": "集成 故障 api", "sales": "报价 套餐", "other": none, }, "severity": score( "部分功能受影响有绕行", "核心功能阻塞无绕行"], ) print(resp.model) print(resp.answers["department"].choice, resp.answers["department"].confidence) print(resp.answers["severity"].score, resp.answers["severity"].legend) print(resp.usage.input_tokens) 落地路由示例: d="resp.answers["department"]" if d.confidence>= 0.8:
route_to(d.choice)
elif resp.answers["is_urgent"].noul >= 0.8:
escalate_to_human(d.choice)
else:
send_to_triage_queue()
SDK 默认读环境变量、内置重试;高并发可看异步客户端与自定义 retry/timeout(以当前 SDK 文档为准)。
六、JavaScript / TypeScript SDK 对接
npm install @typesafe-ai/sdk # Node 20+
import { TypeSafeClient, choice, noul, score } from '@typesafe-ai/sdk'
const client = new TypeSafeClient() // 读 process.env.TYPESAFE_API_KEY
const { answers, model, usage } = await client.systemOne({
model: 'jev-1.13.0',
state: { ticket: 'Safari 设置页导出按钮崩溃,Chrome 正常' },
questions: {
category: choice('工单类型?', {
bug_report: '功能异常',
feature_request: '新需求',
billing: '计费问题',
other: null,
}),
severity: score('严重度?', [
'界面轻微问题',
'功能降级但有绕行',
'完全阻塞无绕行',
]),
has_repro: noul('是否给出复现步骤?'),
},
})
console.log(answers.category.choice) // 联合类型收窄为选项字面量
console.log(answers.severity.score)
console.log(answers.has_repro.noul)
TypeScript 下 answers.category.choice 会被推断为 'bug_report'|'feature_request'|'billing'|'other',未覆盖选项编译期报错,适合把“模型输出”当普通枚举用。
七、通过网关/第三方接入(不拿 TypeSafe 直连密钥)
Vercel AI Gateway:AI SDK 7+ 用 experimental_evaluate,model: 'typesafe-ai/jev',支持 boolean/choice/score、zeroDataRetention;适合 Next.js/Agent 工作流。OpenRouter:模型如 typesafe/jev-1.13,沿用既有 OpenRouter 密钥与路由;适合已用 OpenRouter 的统一模型层。Cloudflare AI Gateway:typesafe/jev,走 Cloudflare 账号 token,边缘分发;请求体仍是 state+questions。AI/ML API:POST https://api.aimlapi.com/v1/decisions,model: typesafe/jev,同 noul/choice/score schema,适合已有该平台账号。第三方网关的字段名、鉴权、计费、限流可能与 TypeSafe 直连不同,生产前以对应网关文档为准。
八、问题设计最佳实践(决定效果)
Jev 不写 prompt 聊天稿,而是把“判断”拆原子问题:
一问一事:避免“分析并决定最佳处理方案”这种复合问;拆成“是否紧急 / 归属部门 / 严重度 / 是否含复现”。Choice 选项互斥且全覆盖:业务边界不清时加 other/null;每个 criterion 写清“什么证据算该项”。Score 用有序 rubric:档位从轻到重、彼此不重叠;如 0 可绕行、1 部分影响、2 完全阻塞。分数用于排序/加权,不用于硬分类时可只取 probability 分布。Noul 用于布尔门控:退款意向、是否涉政敏、是否含PII、是否要求人工回电等;用 criteria.true/false 降低歧义。复合决策放代码层:简历筛选、风控评分可用多个 score 加权: ic = 0.4*py/4 + 0.1*lead/4 + 0.4*arch/4 + 0.1*general/4 em = 0.15*py/4 + 0.4*lead/4 + 0.2*arch/4 + 0.25*general/4 调业务优先级只改权重,不改模型 prompt。大 state+多问同批:Jev 对“state 一次传入、N 个问题并行”更省 token;把知识/工单/规则放 state,把判断放 questions。九、生产落地清单
账号与密钥:控制台建只读/服务账号密钥,按环境隔离;禁止前端硬编码。版本固定:生产 model: jev-1.13.0,灰度测新版本后再切 jev-latest。阈值校准:用历史人工标签跑一批,画 confidence/概率—准确率曲线;不同 question 不同阈值,不全局套 0.8。限流与重试:直连自己实现 429/529 指数退避+抖动;SDK 开启默认重试。批量任务做令牌桶,避免瞬时打满。降级策略:confidence 低于阈值→人工队列;API 超时/5xx→走规则兜底或原 LLM 复核。审计:日志留 state 摘要、model 版本、question 定义、原始 answers、业务最终动作,便于回滚和再训练下游分类器。合规:纯文本敏感信息先脱敏;企业零保留/不训练需求走企业协议,不要在 state 放未脱敏 PII。十、典型场景速写
客服工单:state=工单全文;choice=部门,score=严重度,noul=是否紧急/是否要退款→自动派单或升级。Agent 决策网关:state=LLM 规划结果;noul=是否调用工具/是否需人工确认;choice=选子Agent→低置信转人。内容审核:state=帖子;choice=违规类型;noul=是否涉政/涉黄/涉诈;高置信自动处置,低置信人工。金融风控:state=交易+用户近况;score=风险分,noul=是否可疑IP/是否非常规大额→按分流入审核。简历/工单批量标注:state=每条记录,questions 多维度 score/choice,批量跑后按权重汇总。