Files
lpt-ai/.env.example
T
cat-shark 935f4781a4 feat: 采集 LLM token 用量并上报 lpt-be
- 客户端解析上游 usage(含 DeepSeek 缓存命中/未命中),跨重试累加
- 新增计价表(三档单价 + 峰谷时段),费用在结算时冻结
- 新增用量上报与本地 outbox 重试;4xx 判定为确定性拒绝,不无限重试
- 面板补充 Token/费用/调用次数与计价快照
- 顺带修复面板内联脚本转义错误(模板字面量吃掉 \n 与 \',面板一直空白)
2026-10-10 18:46:01 +08:00

84 lines
3.6 KiB
Bash
Raw Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
# LLM 提供商配置(DeepSeek OpenAI 兼容接口)
LLM_API_URL=https://api.deepseek.com/v1/chat/completions
# API Key(必填,未配置时服务返回 503)
LLM_API_KEY=
# 模型名(轻量快速即可满足残片聚合需求)
LLM_MODEL=deepseek-flash
# 请求超时(毫秒)
LLM_TIMEOUT_MS=60000
# ---- 思考强度自适应(reasoning_effort)----
# DeepSeek 的 reasoning_effort 缺省是 high,不显式指定就每次满档思考。
# 这里按 prompt 总字符数(所有 message 正文之和)选档,短输入直接 none 关掉思考。
# 显式写 false 才关闭自适应(回到供应商默认);换到不支持该字段的供应商时用得上。
LPT_AI_REASONING_ENABLED=true
# 长度达到该值起用 low;低于它一律 none(不思考)
LPT_AI_REASONING_LOW_AT=500
# 长度达到该值起用 high
LPT_AI_REASONING_HIGH_AT=2000
# 长度达到该值起用 max
LPT_AI_REASONING_MAX_AT=8000
# 服务端口
PORT=5199
# ---- 任务队列 ----
# 并发处理的任务数。设得越高吞吐越高,但要注意 LLM 服务商的限流配额
LPT_AI_CONCURRENCY=2
# 单个任务的总尝试次数(含首次);1 表示不重试
LPT_AI_MAX_ATTEMPTS=3
# 退避重试的首次等待(毫秒),之后按 2 倍增长
LPT_AI_RETRY_BASE_MS=1000
# 单次退避上限(毫秒)
LPT_AI_RETRY_MAX_MS=20000
# 完成记录的保留时长(毫秒)
LPT_AI_TTL_MS=3600000
# 已完成结果可被相同请求复用的时间窗口(毫秒)
LPT_AI_RESULT_CACHE_MS=600000
# 过期记录清理间隔(毫秒)
LPT_AI_CLEANUP_MS=300000
# ===== 安全(安全-03)=====
# 入站令牌:设置后 /ai/* 与 /admin 都要求携带(header x-api-token 或 query token)。
# 留空表示不校验,开发阶段可以不管;生产往 lpt-secrets 加 lpt-ai-token 即可生效。
LPT_AI_TOKEN=
# AI 任务限流:每来源在窗口内允许的提交次数(单进程内存计数,粗粒度保护)
LPT_AI_RATE_LIMIT=30
LPT_AI_RATE_WINDOW_MS=60000
# 请求体上限(字节)
LPT_AI_BODY_LIMIT_BYTES=262144
# 抓取标题允许的额外端口(逗号分隔);默认只允许 80/443
LPT_AI_FETCH_ALLOWED_PORTS=
# ===== 用量统计 =====
# 上游余额对账地址;留空时按 LLM_API_URL 的 origin 推导(DeepSeek 为 /user/balance)。
# 余额只是辅助信息,查询失败不会影响用量面板。
LLM_BALANCE_URL=
LLM_BALANCE_TIMEOUT_MS=10000
# 计价表(USD / 1M tokens,填 DeepSeek 官方 PEAK 一列)
LLM_PRICE_CACHE_HIT_PER_M=0.006
LLM_PRICE_CACHE_MISS_PER_M=0.3
LLM_PRICE_OUTPUT_PER_M=1.2
# 谷时价 = 峰时价 × 该系数;设为 1 即取消峰谷差异
LLM_PRICE_OFFPEAK_FACTOR=0.5
# 峰时窗口(UTC,HH:mm-HH:mm,逗号分隔);留空回退到 DeepSeek 公布的 01:00-04:00,06:00-10:00
LLM_PRICE_PEAK_WINDOWS=01:00-04:00,06:00-10:00
# 按谷时计价的日期(UTC 的 yyyy-MM-dd,逗号分隔),用于中国法定节假日;每年需要更新
LLM_PRICE_PEAK_HOLIDAYS=
# 计价表版本;留空时由单价自动派生(改价即变版本,历史账不会被新价格重算)
LLM_PRICE_VERSION=
# ---- 用量上报(lpt-ai → lpt-be)----
# lpt-be 基地址;留空表示不上报,用量只保留在本地面板(没有长期账本,Pod 重建即丢)
LPT_AI_REPORT_URL=
# 与 lpt-be 的 lpt.ai-usage.report-token 一致
LPT_AI_REPORT_TOKEN=
# 定时推送间隔(毫秒);上报失败会留在本地 outbox 里重试,不会丢数据
LPT_AI_REPORT_INTERVAL_MS=15000
# 单次推送条数上限
LPT_AI_REPORT_BATCH_SIZE=50
# outbox 上限;超过后丢弃最旧的,避免磁盘被写满
LPT_AI_REPORT_MAX_PENDING=5000
LPT_AI_REPORT_TIMEOUT_MS=10000