backend_v2

toom1996/backend_v2

Fork 0

Commit Graph

Author	SHA1	Message	Date
toom1996	bc0fce4edd	fix: 爬虫页队列数被查询 LIMIT 截断（显示 199，实际 1620）队列数字原本取 len(查询结果)，而 ListActive 带 LIMIT 200： 1 个执行中 + 199 个排队刚好凑满，页面就永远显示 199，看起来像「队列被卡住了、只有这么点任务」。 - 数字改用 SELECT count(*) GROUP BY status，不受 LIMIT 影响 - 表格仍只列前 50 个（渲染上千行会拖慢页面），并在标题下注明「共 N 个，下面只列前 50 个」 - 渲染测试新增一条：截断时必须出现提示文案	2026-10-27 15:10:53 +08:00
toom1996	e930ac41c8	feat: 爬虫页取代抓取任务/入库任务两页，抓取改全量+覆盖率跳过一、后台只留一个「爬虫」页（/admin/spider）抓取与入库本就是同一条流水线的上下游，分两页看谁都看不全。新页三块：状态条（在线/卡住 + 队列数 + 待入库数）、正在抓（含进度与心跳）、最近入库结果（品牌/场次/结果/说明）。只读，取消与重试一并下线。二、抓取一律全量删除品牌页的场次上限下拉与 hidden maxShows=3，入队固定 0（全量）。 crawl_tasks.max_shows 列保留，历史任务照常显示。三、跳过判定改覆盖率 - brand_runways 增加 expected_images（spider 上报的应有张数） - /shows/covered 返回 images + expected - 实际张数 >= 应有 - 5 才跳过；expected=0 时回落 10 张阈值 - 实体已存在时不再直接跳过：按 key 比对把缺的图补进库（repaired）否则「判定不完整→重爬→后端跳过」会形成死循环，带宽白花、缺图永远补不上四、租约 900→300 秒，且心跳算存活只看 locked_at 会把跑了几小时的全量抓取误判成卡死；加上 progress_at 后，真卡住 5 分钟才回收。	2026-10-25 23:59:54 +08:00

Author

SHA1

Message

Date

toom1996

bc0fce4edd

fix: 爬虫页队列数被查询 LIMIT 截断（显示 199，实际 1620）

队列数字原本取 len(查询结果)，而 ListActive 带 LIMIT 200：
1 个执行中 + 199 个排队刚好凑满，页面就永远显示 199，
看起来像「队列被卡住了、只有这么点任务」。

- 数字改用 SELECT count(*) GROUP BY status，不受 LIMIT 影响
- 表格仍只列前 50 个（渲染上千行会拖慢页面），
  并在标题下注明「共 N 个，下面只列前 50 个」
- 渲染测试新增一条：截断时必须出现提示文案

2026-10-27 15:10:53 +08:00

toom1996

e930ac41c8

feat: 爬虫页取代抓取任务/入库任务两页，抓取改全量+覆盖率跳过

一、后台只留一个「爬虫」页（/admin/spider）
抓取与入库本就是同一条流水线的上下游，分两页看谁都看不全。
新页三块：状态条（在线/卡住 + 队列数 + 待入库数）、正在抓（含进度与心跳）、
最近入库结果（品牌/场次/结果/说明）。只读，取消与重试一并下线。

二、抓取一律全量
删除品牌页的场次上限下拉与 hidden maxShows=3，入队固定 0（全量）。
crawl_tasks.max_shows 列保留，历史任务照常显示。

三、跳过判定改覆盖率
- brand_runways 增加 expected_images（spider 上报的应有张数）
- /shows/covered 返回 images + expected
- 实际张数 >= 应有 - 5 才跳过；expected=0 时回落 10 张阈值
- 实体已存在时不再直接跳过：按 key 比对把缺的图补进库（repaired）
  否则「判定不完整→重爬→后端跳过」会形成死循环，带宽白花、缺图永远补不上

四、租约 900→300 秒，且心跳算存活
只看 locked_at 会把跑了几小时的全量抓取误判成卡死；
加上 progress_at 后，真卡住 5 分钟才回收。

2026-10-25 23:59:54 +08:00

2 Commits