This commit is contained in:
toom1996
2026-08-10 20:47:34 +08:00
parent 4c71ffde21
commit cab1023ba1
9 changed files with 621 additions and 0 deletions

91
cmd/root.go Normal file
View File

@ -0,0 +1,91 @@
package cmd
import (
"fmt"
"log"
"os"
"time"
"github.com/spf13/cobra"
"gorm.io/driver/mysql"
"gorm.io/gorm"
"gorm.io/gorm/logger"
"my-spiders/internal/config"
)
var (
DB *gorm.DB
cfgFile string
debug bool // 命令行 debug 标志
rootCmd = &cobra.Command{
Use: "spider-cli",
Short: "自动化多平台爬虫集成系统",
}
)
func Execute() {
if err := rootCmd.Execute(); err != nil {
fmt.Println(err)
os.Exit(1)
}
}
func init() {
// 支持通过 --config 参数指定其他的配置文件路径
rootCmd.PersistentFlags().StringVarP(&cfgFile, "config", "c", "", "配置文件路径 (默认是 ./config.yaml)")
// 新增全局 -d / --debug 参数
rootCmd.PersistentFlags().BoolVarP(&debug, "debug", "d", false, "调试模式 (仅输出不入库)")
cobra.OnInitialize(initConfigAndDB)
}
func initConfigAndDB() {
// 1. 初始化配置文件
if err := config.InitConfig(cfgFile); err != nil {
log.Fatalf("[致命错误] %v", err)
}
// 命令行 -d 参数优先于 YAML 配置
if debug {
config.GlobalConfig.App.Debug = true
}
isDebug := config.GlobalConfig.App.Debug
// 2. 初始化数据库连接
dbCfg := config.GlobalConfig.Database
var err error
DB, err = gorm.Open(mysql.Open(dbCfg.DSN), &gorm.Config{
Logger: logger.Default.LogMode(logger.Warn),
})
if err != nil {
if isDebug {
log.Println("[Warning] 数据库连接失败,当前处于 Debug 模式,将跳过数据库操作...")
DB = nil
return
}
log.Fatalf("[致命错误] 数据库连接失败: %v", err)
}
// 3. 设置连接池参数
sqlDB, err := DB.DB()
if err != nil || sqlDB.Ping() != nil {
if isDebug {
log.Println("[Warning] 数据库 Ping 失败,当前处于 Debug 模式,将跳过数据库操作...")
DB = nil
return
}
log.Fatalf("[致命错误] 数据库不可用: %v", err)
}
sqlDB.SetMaxOpenConns(dbCfg.MaxOpenConns)
sqlDB.SetMaxIdleConns(dbCfg.MaxIdleConns)
sqlDB.SetConnMaxLifetime(time.Duration(dbCfg.ConnMaxLifetime) * time.Minute)
sqlDB.SetConnMaxIdleTime(time.Duration(dbCfg.ConnMaxIdleTime) * time.Minute)
log.Printf("[Info] MySQL 连接池初始化完成 | MaxOpen: %d | MaxIdle: %d", dbCfg.MaxOpenConns, dbCfg.MaxIdleConns)
}

44
cmd/vogue.go Normal file
View File

@ -0,0 +1,44 @@
package cmd
import (
"log"
"github.com/spf13/cobra"
"my-spiders/internal/config"
"my-spiders/internal/spider"
)
var (
brandID int64
forceUpdate bool
onlyPlatform bool
)
var vogueCmd = &cobra.Command{
Use: "vogue",
Short: "自动采集 vogue.com 网站发布会数据",
Run: func(cmd *cobra.Command, args []string) {
log.Println("[Command] 启动 Vogue 采集指令...")
// 从全局 YAML 配置中获取并发数
maxCo := config.GlobalConfig.App.MaxCo
vogueSpider := spider.NewVogueSpider(DB, maxCo)
vogueSpider.BrandID = brandID
vogueSpider.ForceUpdate = forceUpdate
vogueSpider.OnlyPlatform = onlyPlatform
vogueSpider.Debug = config.GlobalConfig.App.Debug // 赋值 Debug 状态
vogueSpider.Execute()
},
}
func init() {
rootCmd.AddCommand(vogueCmd)
vogueCmd.Flags().Int64VarP(&brandID, "brandId", "b", 0, "指定的品牌id.")
vogueCmd.Flags().BoolVarP(&forceUpdate, "forceUpdate", "f", false, "是否对已经保存的数据进行强制更新.")
vogueCmd.Flags().BoolVarP(&onlyPlatform, "onlyPlatform", "o", false, "是否只对当前平台品牌更新.")
}