 cat-shark
|
078170c12a
|
feat: 真实数据时间对齐集成测试框架
- tests/realdata_contract.py：数据契约底座（SRT 解析/清洗、时间对齐量化
指标 align_report、幻觉词/专名判定、提示词规则拼接）
- tests/test_integration_alignment.py：流水线产物 vs 硬字幕参考的时间对齐
（真实数据复现"字幕过早/过晚"，红→绿闭环）
- tests/test_integration_prompt_rules.py：寒暄幻觉/专名提示词规则测试
- scripts/extract_reference_srt.py：从烧录字幕视频自动提取参考时间轴
- testdata/REALDATA_README.md + alignment/*.reference.srt：真实参考字幕
（视频素材较大，gitignore 不入库）
|
2026-09-05 19:36:23 +08:00 |
|
|
cat-shark
|
3b5bd42b60
|
feat: llm-filter 节点级断点存档
- 每条 LLM 判定成功立即追加 filter_partial.jsonl（多线程加锁串行化）
- 失败/中断后重跑只重判未判定条目，已判定结果复用，与 OCR 存档同机制
- 附带上下文净化回归重跑脚本（run_011d01f19999）
|
2026-08-23 16:25:13 +08:00 |
|
|
cat-shark
|
b16e0e9f3c
|
feat: 任务断点续跑/暂停中断/LLM 过滤优化与调度容错
调度与状态机：
- 修复 PAUSED 任务被拾起后复活执行（点击暂停反而开始任务）：next_queued_run
只取 QUEUED，execute_run 以 PAUSED 进入直接返回，暂停必须显式 resume
- 重启恢复：启动时 recover_interrupted_runs 把遗留 RUNNING 置 QUEUED（保留产物）
- 暂停信号 paused.flag：暂停接口写、继续/重试清除，OCR 逐帧检查秒级中断，
节点内被暂停保持 PAUSED 不误报 FAILED
- 调度轮询容错：_loop 异常不杀死线程（曾致任务永久停留 QUEUED）
subtitle-ocr 节点级断点：
- ocr_partial.jsonl 逐帧存档，重启/暂停后只处理未处理帧，产物与一次跑完一致
- 进度日志携带窗口平均耗时与线程数；取消后抑制进度日志井喷
llm-filter 过滤质量与限流自适应：
- 上下文净化：喂给 LLM 的是过滤后的字幕（规则层垃圾从上下文剔除）
- 正则确定性过滤：裸网址域名、HTML/水印模式直接删除
- 429/5xx 指数退避重试；worker 限流错误 report_failure 内存临时降最大线程数
并缩容（无错误窗口回升），失败条目降并发后重试一轮
- 保留长文本保护（noise 不删 ≥min_keep_len 文本，LLM 判定不稳的必要兜底）
前端：
- 工作流编排页支持选择工作流编辑（加载最新/历史版本）、版本历史面板、
新建/编辑双模式；管理后台编辑跳转 workflow.html?edit=<id>
工作流：ocr-subtitle v7（filter pool_max_workers=20、pool_fast_threshold=1）
|
2026-08-19 01:27:41 +08:00 |
|
|
cat-shark
|
5ffa2ac39e
|
feat: llm-filter 两级过滤（规则层+五类分类+去重+长文本保护），工作流单线程 v4
- 规则层（不调 LLM）：横线装饰/HTML 水印 token/URL/邮箱/单双 ASCII 字符直接删
- LLM 五类分类：garbage/overlay/noise 删，repeat/dialogue 留，未识别回退保留
- 按文本去重：相同文本只调一次 LLM（忽略空白/大小写），判定一致并省调用
- 长文本保护：≥min_keep_len 时 noise 不构成删除依据
- 真实任务 run_ac7f480a3ccb 验证：非规则误删 350→193（-45%），呻吟/对话保留
- ocr-subtitle 工作流 v4：pool 钉死单线程（1/1）
- 回归夹具 testdata/ocr_srt_run_ac7f480a3ccb.srt（真实 1666 条 OCR 输出）
|
2026-08-17 23:20:16 +08:00 |
|