|
|
51e3d13383
|
feat: 抓取进度可见 + 已入库秀预检（避免重复下载）
一、防重复下载
图片 key 是内容 sha1，不下载无法判断是否已存在；又没存 source_url，
于是每次重爬都把几百张已下过的图再下一遍（线上实测 Celine 62 分钟、0 新增）。
新增 GET /admin/internal/shows/covered?brand_uid=，按 (年份,季节,类型)
聚合已入库图片数，供 spider 抓前整场跳过。
二、进度可见
一次抓取可能跑几十分钟，此前只有 running/done，看不出「在干什么」，
也分不清「慢」和「卡死」。
- crawl_tasks 增加 progress_done/total/text/at
- POST /admin/internal/crawl/tasks/:id/progress（spider 每场 + 每批图片上报）
- GET /admin/crawl/live（页面 4 秒轮询，局部刷新状态/进度/已提交）
- progress_at 超过 10 分钟没更新标黄「可能卡住」
- 渲染测试守住进度列与轮询锚点
|
2026-10-25 21:22:56 +08:00 |
|
