e930ac41c8
一、后台只留一个「爬虫」页（/admin/spider） 抓取与入库本就是同一条流水线的上下游，分两页看谁都看不全。 新页三块：状态条（在线/卡住 + 队列数 + 待入库数）、正在抓（含进度与心跳）、 最近入库结果（品牌/场次/结果/说明）。只读，取消与重试一并下线。 二、抓取一律全量 删除品牌页的场次上限下拉与 hidden maxShows=3，入队固定 0（全量）。 crawl_tasks.max_shows 列保留，历史任务照常显示。 三、跳过判定改覆盖率 - brand_runways 增加 expected_images（spider 上报的应有张数） - /shows/covered 返回 images + expected - 实际张数 >= 应有 - 5 才跳过；expected=0 时回落 10 张阈值 - 实体已存在时不再直接跳过：按 key 比对把缺的图补进库（repaired） 否则「判定不完整→重爬→后端跳过」会形成死循环，带宽白花、缺图永远补不上 四、租约 900→300 秒，且心跳算存活 只看 locked_at 会把跑了几小时的全量抓取误判成卡死； 加上 progress_at 后，真卡住 5 分钟才回收。
12 lines
643 B
SQL
12 lines
643 B
SQL
-- 一场秀「应该有多少张图」。
|
||
--
|
||
-- 用途：spider 重爬前预检，判断这场秀是不是真的抓全了。
|
||
-- 此前按「已入库 ≥10 张」就整场跳过，遇到当初只成功抓了十几张的场次，
|
||
-- 剩下的图永远补不上（缺的部分没有任何记录能说明它缺）。
|
||
--
|
||
-- 0 表示未知（改动之前入库的历史数据），判定时退化为按张数阈值。
|
||
ALTER TABLE brand_runways
|
||
ADD COLUMN IF NOT EXISTS expected_images int NOT NULL DEFAULT 0;
|
||
|
||
COMMENT ON COLUMN brand_runways.expected_images IS '该场秀应有图片数（spider 上报）；0=未知，判定时回落阈值';
|