toom1996
e930ac41c8
feat: 爬虫页取代抓取任务/入库任务两页,抓取改全量+覆盖率跳过
一、后台只留一个「爬虫」页(/admin/spider)
抓取与入库本就是同一条流水线的上下游,分两页看谁都看不全。
新页三块:状态条(在线/卡住 + 队列数 + 待入库数)、正在抓(含进度与心跳)、
最近入库结果(品牌/场次/结果/说明)。只读,取消与重试一并下线。
二、抓取一律全量
删除品牌页的场次上限下拉与 hidden maxShows=3,入队固定 0(全量)。
crawl_tasks.max_shows 列保留,历史任务照常显示。
三、跳过判定改覆盖率
- brand_runways 增加 expected_images(spider 上报的应有张数)
- /shows/covered 返回 images + expected
- 实际张数 >= 应有 - 5 才跳过;expected=0 时回落 10 张阈值
- 实体已存在时不再直接跳过:按 key 比对把缺的图补进库(repaired)
否则「判定不完整→重爬→后端跳过」会形成死循环,带宽白花、缺图永远补不上
四、租约 900→300 秒,且心跳算存活
只看 locked_at 会把跑了几小时的全量抓取误判成卡死;
加上 progress_at 后,真卡住 5 分钟才回收。
2026-10-25 23:59:54 +08:00
..
2026-10-18 17:42:10 +08:00
2026-10-18 17:42:10 +08:00
2026-10-18 17:42:10 +08:00
2026-10-25 00:37:13 +08:00
2026-10-25 23:59:54 +08:00
2026-10-18 17:42:10 +08:00
2026-10-18 17:42:10 +08:00
2026-10-18 17:42:10 +08:00
2026-10-25 00:37:13 +08:00
2026-09-28 10:52:50 +08:00
2026-09-21 22:36:07 +08:00
2026-09-03 00:32:52 +08:00
2026-09-20 01:06:13 +08:00
2026-09-28 10:52:50 +08:00
2026-09-20 01:06:13 +08:00
2026-10-25 23:59:54 +08:00
2026-10-18 17:42:10 +08:00
2026-09-23 13:55:24 +08:00
2026-09-23 10:16:09 +08:00
2026-09-25 11:31:52 +08:00
2026-09-23 10:07:43 +08:00
2026-09-23 10:56:08 +08:00
2026-08-31 19:59:56 +08:00
2026-09-28 10:52:50 +08:00
2026-09-28 10:52:50 +08:00
2026-09-23 16:03:22 +08:00
2026-10-18 17:42:10 +08:00
2026-09-28 10:52:50 +08:00
2026-10-18 17:42:10 +08:00
2026-09-30 11:58:32 +08:00
2026-09-07 00:01:48 +08:00