|
|
e930ac41c8
|
feat: 爬虫页取代抓取任务/入库任务两页，抓取改全量+覆盖率跳过
一、后台只留一个「爬虫」页（/admin/spider）
抓取与入库本就是同一条流水线的上下游，分两页看谁都看不全。
新页三块：状态条（在线/卡住 + 队列数 + 待入库数）、正在抓（含进度与心跳）、
最近入库结果（品牌/场次/结果/说明）。只读，取消与重试一并下线。
二、抓取一律全量
删除品牌页的场次上限下拉与 hidden maxShows=3，入队固定 0（全量）。
crawl_tasks.max_shows 列保留，历史任务照常显示。
三、跳过判定改覆盖率
- brand_runways 增加 expected_images（spider 上报的应有张数）
- /shows/covered 返回 images + expected
- 实际张数 >= 应有 - 5 才跳过；expected=0 时回落 10 张阈值
- 实体已存在时不再直接跳过：按 key 比对把缺的图补进库（repaired）
否则「判定不完整→重爬→后端跳过」会形成死循环，带宽白花、缺图永远补不上
四、租约 900→300 秒，且心跳算存活
只看 locked_at 会把跑了几小时的全量抓取误判成卡死；
加上 progress_at 后，真卡住 5 分钟才回收。
|
2026-10-25 23:59:54 +08:00 |
|
|
|
db3e3efab9
|
fix: 建行前按同标题兜底，防止季节码漂移造出重复图集
男装季节码由 FWyy 改为 SSyy 后，仍按旧规则算码的实例（如本机残留的旧后端）
会把同一场秀当成新场次再建一行，今天已产生 7 组重复（Acne/Celine/AMBUSH 等）。
- 新增 IngestRepository.RunwayTitleExists（品牌 + 英文标题）
- processRunway 在「实体键未命中、准备新建」时再查一次同标题：
命中则跳过并记 outcome=skipped_existing，note 写明「季节码漂移保护」
- 宁可跳过也不产生重复；标题含年份，正常不会误伤不同场次
|
2026-10-25 18:37:20 +08:00 |
|
|
|
c8a70760cc
|
feat: 入库结果落库 + 品牌详情展示更新记录
背景：任务只有 status=done，分不清「新建」「已存在跳过」「已删除跳过」，
品牌更新历史只能在进程日志里翻，日志一滚就没了。
- ingest_jobs 新增 outcome / note / brand_id（迁移 2026-10-25-01）
outcome 记结果类型，note 记人话细节（新建 N 张图 / 已存在(status=published)）
- 提交任务时解出 brand_id 落库，品牌详情页按 (brand_id, id DESC) 直接查
- 处理时优先用 job.brand_id，payload 里的 hashid 只作老任务兜底：
避免「别的实例盐不同 → 解出错品牌 → 整场 brand not found」再发生
- 品牌编辑页新增「更新记录」区块：时间 / 场次 / 结果 / 明细（含失败原因与尝试次数）
- 测试：fake 仓储补齐新接口，capture 仓储记录 outcome 供断言
|
2026-10-25 11:06:16 +08:00 |
|
|
|
1de1ec46a6
|
update
|
2026-10-18 17:42:10 +08:00 |
|
|
|
d15d2a4701
|
update
|
2026-09-28 10:52:50 +08:00 |
|
|
|
42f6316125
|
update
|
2026-09-25 11:31:52 +08:00 |
|
|
|
be4db0bf96
|
fix(publish): 最终审查修复波——迁移索引口径 / 入库计数 / 仓储证据
C1（关键）：2026-09-22-03 的街拍实体键索引改用最终表达式
(city, year, COALESCE(title, ''))，与体检及 StreetSnapEntityState 口径一致。
此前索引按 (city, year) 比体检更窄，同城同年多专题的合法数据会通过体检、
再由索引抛原生 23505；04 退化为幂等兜底并在注释说明真正常态由 03 承载。
新增 db/migrations/README.md，写清迁移链执行顺序与各步前提/不可逆点。
I1：processRunway 的 image_count 改为按实际落库主图行数（countMainImages），
不再用 len(p.Looks)（空主图 / sha1 重复会被跳过，导致计数偏大且不再自愈）。
补 service 单测与「入库后 image_count == 存活主图行数」的 DB 断言。
I2：三个迁移文件不再把已删除的一次性搬迁脚本写成硬前置，改为写明取回方式
（git show c4bafc5:scripts/migrate_single_table/main.go，并须在旧代码树上运行）。
I3：新增 SetRecordStatus / SetStreetRecordStatus 仓储集成测试：
pending 经仓储通过后在公开视图可见、驳回后不可见、不存在的 id 返回 ErrNotFound。
Minor：修正锁不住口径的走秀 image_count 测试（改为删主图、留细节图）；
修正去重注释与事实不符（含 FindNearDuplicateImage 注释）；
ListRecords / ListStreetRecords 改用 Scope 杜绝 Count 后复用 *gorm.DB；
dbtool 视图改 CREATE OR REPLACE 并重跑 dump（仍 4 视图、无草稿表）；
删除挂在 Popular 上的「IDs 返回…」注释；README 改为单表 + status 现状；
SetRecordStatus 注释写明有意不校验前置状态；规格补两条已知不一致。
|
2026-09-23 16:03:22 +08:00 |
|
|
|
3fc8b1f924
|
chore(publish): 收尾清理陈旧 dump 与 gofmt 偏差
删除 cmd/dbtool/db_dump.sql：它是陈旧的全库 dump 旧产物（仍含 4 张已删草稿表与旧 schema），与权威的根 db_dump.sql 同名易混，且未被 .gitignore 覆盖；确认代码与文档均无引用，删除比再生成更干净。gofmt 修正 4 个文件（仅空白与注释，无语义变化）：runway_image.go 结构体字段对齐、phash_test.go 行尾注释对齐、ingest_repository.go 两行多余空行、street_main_detail_integration_test.go 文档注释中的两个单引号会被 gofmt 改写成弯引号（改述为「空串」）。
|
2026-09-23 14:30:20 +08:00 |
|
|
|
ce4f8b786d
|
feat(publish): 街拍实体键细化为 city+year+title，支持同城同年多专题
|
2026-09-23 13:04:37 +08:00 |
|
|
|
e0ce81318d
|
fix(publish): 补齐实体键唯一索引的测试覆盖与守卫消息
|
2026-09-23 10:56:08 +08:00 |
|
|
|
474e1c1a64
|
feat(publish): 实体键唯一索引，保证一个实体一行
|
2026-09-23 10:47:37 +08:00 |
|
|
|
8f8b06def7
|
fix(publish): 入库实体键读错误 fail-closed，复用加 rejected 守卫，去重排除软删行
|
2026-09-23 10:41:16 +08:00 |
|
|
|
dba615d636
|
feat(publish): 爬虫入库直写正式表，驳回行可复用重审
|
2026-09-23 10:21:51 +08:00 |
|
|
|
b99dc3dca1
|
update backend
|
2026-09-20 01:06:13 +08:00 |
|
|
|
f7ae917603
|
update
|
2026-09-17 22:51:00 +08:00 |
|
|
|
6c31b18e0f
|
update
|
2026-09-17 00:38:01 +08:00 |
|
|
|
dbee704c95
|
update
|
2026-09-13 00:52:35 +08:00 |
|
|
|
10d8a96e8c
|
update
|
2026-09-07 00:04:01 +08:00 |
|
