backend_v2

toom1996/backend_v2

Fork 0

Commit Graph

Author	SHA1	Message	Date
toom1996	64b264ee73	feat: 品牌抓取历史（brand_crawl_logs）+ 品牌页展示 crawl_tasks 每品牌只有一行（uq_crawl_tasks_brand），入队/完成都是覆盖，答不了「什么时候爬过、爬了几次、哪次没抓到」。故新增 append-only 历史表： - 在 Report 的同一事务里写一条：品牌 / 任务 / 状态 / 第几次尝试 / 场次上限 / 实际上报场次 / 错误 / 执行者 / 领取与回报时间 - 写入后只保留该品牌最近 30 条（CrawlLogKeepPerBrand），历史用于排障而非归档，避免无限增长 - 品牌详情页新增「抓取历史」区块（结果 / 明细 / 耗时 / 执行者），与「更新记录」上下相邻，构成「抓取一次 → 每场入库结果」的完整链路量级：每品牌每次抓取 1 行、约 200B（含索引）；全站跑一遍 23237 行 ≈ 4.6MB。	2026-10-25 11:37:43 +08:00
toom1996	151e09ab30	feat: 抓取任务队列 + 媒体机直传 + 向量回填 crawl（品牌抓取任务队列） - /admin/internal/crawl/tasks 领取 / :id/result 回报，spider 可常驻拉任务 - 后台品牌列表支持「加入抓取队列」，队列页可看状态与重试 - 租约超时的 running 自动回收为 queued，避免 worker 崩溃后任务卡死 media（媒体机直传） - ingest 载荷新增 main_key/detail_keys/main_size/detail_sizes：有 key 就直接落库，跳过下载与上传；与 URL 形态可逐图混用 - 细节图按 Details/DetailKeys 两者较长者遍历（只给 key 时不再丢图） - 媒体机上传的 key 不进失败回滚清单（内容寻址、可能与他人共享） - /admin/internal/upload-url 签发 S4 PUT 预签名（spider 不持有 AK/SK） embeddings（向量回填） - GET /admin/internal/embeddings/pending 派发缺向量的图（含可直接下载的 url） - POST /admin/internal/embeddings 回写向量并重算近邻；失败项计入 image_embedding_failures，连续失败到上限后退出队列（坏图不占位） - 近邻重算改为异步串行：同步会让 100 张的批次 POST 超时（实测 >60s） - 新增 key 分支单测：混用 key/url、细节图只给 key、字节数、回滚清单、向量占位	2026-10-25 00:37:13 +08:00

Author

SHA1

Message

Date

toom1996

64b264ee73

feat: 品牌抓取历史（brand_crawl_logs）+ 品牌页展示

crawl_tasks 每品牌只有一行（uq_crawl_tasks_brand），入队/完成都是覆盖，
答不了「什么时候爬过、爬了几次、哪次没抓到」。故新增 append-only 历史表：

- 在 Report 的同一事务里写一条：品牌 / 任务 / 状态 / 第几次尝试 /
  场次上限 / 实际上报场次 / 错误 / 执行者 / 领取与回报时间
- 写入后只保留该品牌最近 30 条（CrawlLogKeepPerBrand），
  历史用于排障而非归档，避免无限增长
- 品牌详情页新增「抓取历史」区块（结果 / 明细 / 耗时 / 执行者），
  与「更新记录」上下相邻，构成「抓取一次 → 每场入库结果」的完整链路

量级：每品牌每次抓取 1 行、约 200B（含索引）；全站跑一遍 23237 行 ≈ 4.6MB。

2026-10-25 11:37:43 +08:00

toom1996

151e09ab30

feat: 抓取任务队列 + 媒体机直传 + 向量回填

crawl（品牌抓取任务队列）
- /admin/internal/crawl/tasks 领取 / :id/result 回报，spider 可常驻拉任务
- 后台品牌列表支持「加入抓取队列」，队列页可看状态与重试
- 租约超时的 running 自动回收为 queued，避免 worker 崩溃后任务卡死

media（媒体机直传）
- ingest 载荷新增 main_key/detail_keys/main_size/detail_sizes：
  有 key 就直接落库，跳过下载与上传；与 URL 形态可逐图混用
- 细节图按 Details/DetailKeys 两者较长者遍历（只给 key 时不再丢图）
- 媒体机上传的 key 不进失败回滚清单（内容寻址、可能与他人共享）
- /admin/internal/upload-url 签发 S4 PUT 预签名（spider 不持有 AK/SK）

embeddings（向量回填）
- GET /admin/internal/embeddings/pending 派发缺向量的图（含可直接下载的 url）
- POST /admin/internal/embeddings 回写向量并重算近邻；失败项计入
  image_embedding_failures，连续失败到上限后退出队列（坏图不占位）
- 近邻重算改为异步串行：同步会让 100 张的批次 POST 超时（实测 >60s）
- 新增 key 分支单测：混用 key/url、细节图只给 key、字节数、回滚清单、向量占位

2026-10-25 00:37:13 +08:00

2 Commits