- 客户端解析上游 usage(含 DeepSeek 缓存命中/未命中),跨重试累加 - 新增计价表(三档单价 + 峰谷时段),费用在结算时冻结 - 新增用量上报与本地 outbox 重试;4xx 判定为确定性拒绝,不无限重试 - 面板补充 Token/费用/调用次数与计价快照 - 顺带修复面板内联脚本转义错误(模板字面量吃掉 \n 与 \',面板一直空白)
84 lines
3.6 KiB
Bash
84 lines
3.6 KiB
Bash
# LLM 提供商配置(DeepSeek OpenAI 兼容接口)
|
||
LLM_API_URL=https://api.deepseek.com/v1/chat/completions
|
||
# API Key(必填,未配置时服务返回 503)
|
||
LLM_API_KEY=
|
||
# 模型名(轻量快速即可满足残片聚合需求)
|
||
LLM_MODEL=deepseek-flash
|
||
# 请求超时(毫秒)
|
||
LLM_TIMEOUT_MS=60000
|
||
|
||
# ---- 思考强度自适应(reasoning_effort)----
|
||
# DeepSeek 的 reasoning_effort 缺省是 high,不显式指定就每次满档思考。
|
||
# 这里按 prompt 总字符数(所有 message 正文之和)选档,短输入直接 none 关掉思考。
|
||
# 显式写 false 才关闭自适应(回到供应商默认);换到不支持该字段的供应商时用得上。
|
||
LPT_AI_REASONING_ENABLED=true
|
||
# 长度达到该值起用 low;低于它一律 none(不思考)
|
||
LPT_AI_REASONING_LOW_AT=500
|
||
# 长度达到该值起用 high
|
||
LPT_AI_REASONING_HIGH_AT=2000
|
||
# 长度达到该值起用 max
|
||
LPT_AI_REASONING_MAX_AT=8000
|
||
|
||
# 服务端口
|
||
PORT=5199
|
||
|
||
# ---- 任务队列 ----
|
||
# 并发处理的任务数。设得越高吞吐越高,但要注意 LLM 服务商的限流配额
|
||
LPT_AI_CONCURRENCY=2
|
||
# 单个任务的总尝试次数(含首次);1 表示不重试
|
||
LPT_AI_MAX_ATTEMPTS=3
|
||
# 退避重试的首次等待(毫秒),之后按 2 倍增长
|
||
LPT_AI_RETRY_BASE_MS=1000
|
||
# 单次退避上限(毫秒)
|
||
LPT_AI_RETRY_MAX_MS=20000
|
||
# 完成记录的保留时长(毫秒)
|
||
LPT_AI_TTL_MS=3600000
|
||
# 已完成结果可被相同请求复用的时间窗口(毫秒)
|
||
LPT_AI_RESULT_CACHE_MS=600000
|
||
# 过期记录清理间隔(毫秒)
|
||
LPT_AI_CLEANUP_MS=300000
|
||
|
||
# ===== 安全(安全-03)=====
|
||
# 入站令牌:设置后 /ai/* 与 /admin 都要求携带(header x-api-token 或 query token)。
|
||
# 留空表示不校验,开发阶段可以不管;生产往 lpt-secrets 加 lpt-ai-token 即可生效。
|
||
LPT_AI_TOKEN=
|
||
# AI 任务限流:每来源在窗口内允许的提交次数(单进程内存计数,粗粒度保护)
|
||
LPT_AI_RATE_LIMIT=30
|
||
LPT_AI_RATE_WINDOW_MS=60000
|
||
# 请求体上限(字节)
|
||
LPT_AI_BODY_LIMIT_BYTES=262144
|
||
# 抓取标题允许的额外端口(逗号分隔);默认只允许 80/443
|
||
LPT_AI_FETCH_ALLOWED_PORTS=
|
||
|
||
# ===== 用量统计 =====
|
||
# 上游余额对账地址;留空时按 LLM_API_URL 的 origin 推导(DeepSeek 为 /user/balance)。
|
||
# 余额只是辅助信息,查询失败不会影响用量面板。
|
||
LLM_BALANCE_URL=
|
||
LLM_BALANCE_TIMEOUT_MS=10000
|
||
|
||
# 计价表(USD / 1M tokens,填 DeepSeek 官方 PEAK 一列)
|
||
LLM_PRICE_CACHE_HIT_PER_M=0.006
|
||
LLM_PRICE_CACHE_MISS_PER_M=0.3
|
||
LLM_PRICE_OUTPUT_PER_M=1.2
|
||
# 谷时价 = 峰时价 × 该系数;设为 1 即取消峰谷差异
|
||
LLM_PRICE_OFFPEAK_FACTOR=0.5
|
||
# 峰时窗口(UTC,HH:mm-HH:mm,逗号分隔);留空回退到 DeepSeek 公布的 01:00-04:00,06:00-10:00
|
||
LLM_PRICE_PEAK_WINDOWS=01:00-04:00,06:00-10:00
|
||
# 按谷时计价的日期(UTC 的 yyyy-MM-dd,逗号分隔),用于中国法定节假日;每年需要更新
|
||
LLM_PRICE_PEAK_HOLIDAYS=
|
||
# 计价表版本;留空时由单价自动派生(改价即变版本,历史账不会被新价格重算)
|
||
LLM_PRICE_VERSION=
|
||
|
||
# ---- 用量上报(lpt-ai → lpt-be)----
|
||
# lpt-be 基地址;留空表示不上报,用量只保留在本地面板(没有长期账本,Pod 重建即丢)
|
||
LPT_AI_REPORT_URL=
|
||
# 与 lpt-be 的 lpt.ai-usage.report-token 一致
|
||
LPT_AI_REPORT_TOKEN=
|
||
# 定时推送间隔(毫秒);上报失败会留在本地 outbox 里重试,不会丢数据
|
||
LPT_AI_REPORT_INTERVAL_MS=15000
|
||
# 单次推送条数上限
|
||
LPT_AI_REPORT_BATCH_SIZE=50
|
||
# outbox 上限;超过后丢弃最旧的,避免磁盘被写满
|
||
LPT_AI_REPORT_MAX_PENDING=5000
|
||
LPT_AI_REPORT_TIMEOUT_MS=10000
|