暂停聚集模型

zhaoqingang

2025-02-19 fca319958029fa924308e50cb61202d7d6ff5008

 models/locationAnalysis.go

@@ -54,13 +54,22 @@
   m.AreaIds = areaIds
   m.Building = task.Building
   m.AlarmType = task.AlarmType
   m.PersonIdentity = []string{"stranger", "visitor", "resident"} //task.IdentityType
   m.KeyTypes = []string{"1", "2", "3", "4", "5"}                 //task.IdentityType
   m.KeyTypes = []string{"1", "2", "3", "4", "5"} //task.IdentityType
   m.KeyPersonType = task.PersonType
   m.PersonLabel = task.PersonLabel
   if task.IdentityType != "" {
      m.PersonIdentity = strings.Split(task.IdentityType, ",")
      for _, t := range strings.Split(task.IdentityType, ",") {
         if t == "all" {
            m.PersonIdentity = []string{"stranger", "visitor", "resident"}
            break
         } else {
            m.PersonIdentity = append(m.PersonIdentity, t)
         }
      }
   } else {
      m.PersonIdentity = []string{"stranger", "visitor", "resident"}
   }

   if task.PersonType != "" {
      m.KeyTypes = strings.Split(task.PersonType, ",")
   }
@@ -112,33 +121,22 @@
}

type LocationPersonInfo struct {
   Id             string `json:"id"`
   DocumentNumber string `json:"document_number"`
   PersonType     string `json:"person_type"`
   //CommunityId        string `json:"community_id"`
   //OrgId              string `json:"org_id"`
   //PersonName         string `json:"person_name"`
   //IdCard             string `json:"id_card"`
   LastAppearanceTime int64 `json:"last_appearance_time"`
   //LastDirection      string `json:"last_direction"`
   //LastLocation       string `json:"last_location"`
   Id                 string `json:"id"`
   DocumentNumber     string `json:"document_number"`
   PersonType         string `json:"person_type"`
   LastAppearanceTime int64  `json:"last_appearance_time"`
}

//var (
//   processed        sync.Map                           // 存储已处理记录
//   cleanupThreshold = time.Now().Add(-100 * time.Hour) // 定义一个时间窗口，假设只保存最近100小时的记录
//)

func (m *LocationModel) Run() error {
   // 根据配置的时间段天数, 每天的时间范围内， 重点人员类型或者特定标签人员出现的楼层次数超过阈值

   results := make([]*db.ModelTaskResults, 0)
   var baseFilter, labelFilter, keyFilter []LocationPersonInfo
   var document_number_map = make(map[string]LocationPersonInfo)
   var document_number_list []string
   community_ids := m.AreaIds
   if len(community_ids) == 0 {
      community_ids = m.OrgIds
   var documentNumberMap = make(map[string]LocationPersonInfo)
   var documentNumberList []string
   communityIds := m.AreaIds
   if len(communityIds) == 0 {
      communityIds = m.OrgIds
   }
   err := db.GetDB().Raw(`
      SELECT
@@ -149,24 +147,23 @@
         snapshot_count_summary AS s
         JOIN person AS p ON p.id = s.document_number
      WHERE
         p.id_card != "" 
         AND (s.community_id IN ? OR s.org_id IN ?)
         (s.community_id IN ? OR s.org_id IN ?)
         AND s.status IN ?
      `, community_ids, m.OrgIds, m.PersonIdentity).Scan(&baseFilter).Error
      `, communityIds, m.OrgIds, m.PersonIdentity).Scan(&baseFilter).Error
   if err != nil {
      logger.Warnf(err.Error())
   }

   if len(baseFilter) == 0 {
      return fmt.Errorf("no results found that match the age condition %s - %s - %s ", m.AreaIds, m.OrgIds, m.PersonIdentity)
      return fmt.Errorf("no results found that match the identity condition %+v", m.Task.Rules)
   }

   logger.Debugf("task %s match age result %d", m.Task.Name, len(baseFilter))
   logger.Debugf("task %s match identity result %d", m.Task.Name, len(baseFilter))
   for _, i := range baseFilter {
      if _, ok := document_number_map[i.DocumentNumber]; !ok {
         document_number_list = append(document_number_list, i.DocumentNumber)
      if _, ok := documentNumberMap[i.DocumentNumber]; !ok {
         documentNumberList = append(documentNumberList, i.DocumentNumber)
         tmp := i
         document_number_map[i.DocumentNumber] = tmp
         documentNumberMap[i.DocumentNumber] = tmp
      }
   }
   if m.PersonLabel != "" {
@@ -180,7 +177,7 @@
      WHERE
         p.id IN ?
         AND   l.label_id IN ?
      `, document_number_list, labels).Scan(&labelFilter).Error
      `, documentNumberList, labels).Scan(&labelFilter).Error
      if err != nil {
         logger.Warnf(err.Error())
      }
@@ -190,11 +187,12 @@
      }

      logger.Debugf("task %s match label result %d", m.Task.Name, len(labelFilter))
      document_number_list = []string{}
      documentNumberList = []string{}
      for _, i := range labelFilter {
         document_number_list = append(document_number_list, i.Id)
         documentNumberList = append(documentNumberList, i.Id)
      }
   }

   if len(m.KeyTypes) > 0 {
      //keyTypes := strings.Split(m.KeyPersonType, ",")
      err := db.GetDB().Raw(`
@@ -207,44 +205,44 @@
      WHERE
         p.id IN ?
         AND k.person_type IN ?
      `, document_number_list, m.KeyTypes).Scan(&keyFilter).Error
      `, documentNumberList, m.KeyTypes).Scan(&keyFilter).Error
      if err != nil {
         logger.Warnf(err.Error())
      }
      if len(keyFilter) == 0 {
         return fmt.Errorf("no results found that match the key condition%s------ %s", document_number_list, m.KeyTypes)
         return fmt.Errorf("no results found that match the key condition %v------ %s", documentNumberList, m.KeyTypes)
      }
      logger.Debugf("task %s match key person result %d", m.Task.Name, len(keyFilter))
   }
   //logger.Debugf("task %s last result %d", m.Task.Name, len(lastFilter))
   document_number_list = []string{}
   documentNumberList = []string{}
   for _, i := range keyFilter {
      //logger.Debugf("keyFilter %s ------------- %s", i.Id, i.PersonType)
      document_number_list = append(document_number_list, i.Id)
      person := document_number_map[i.Id]
      documentNumberList = append(documentNumberList, i.Id)
      person := documentNumberMap[i.Id]
      person.PersonType = i.PersonType
      document_number_map[i.Id] = person
      documentNumberMap[i.Id] = person
   }
   //logger.Debugf("document_number_map %s last result %s", m.Task.Name, document_number_map)
   records, err := queryEsLocation(db.GetEsClient(), m, document_number_list)
   records, err := queryEsLocation(db.GetEsClient(), m, documentNumberList)
   if err != nil {
      return err
   }
   logger.Debugf("records %s last result %s", m.Task.Name, records)
   logger.Debugf("records %s last result %d", m.Task.Name, len(records))
   domains, err := domainToLocation(records)
   if err != nil {
      return err
   }
   var tagTypes []string
   var lastAppearanceTime int64
   //var lastAppearanceTime int64
   for _, record := range records {
      tagTypes = []string{}
      for _, personId := range record.DocumentNumbers {
         logger.Debugf("document_number_map[personId] %s", document_number_map[personId])
         tagTypes = append(tagTypes, document_number_map[personId].PersonType)
         lastAppearanceTime = document_number_map[personId].LastAppearanceTime
         logger.Debugf("document_number_map[personId] %+v", documentNumberMap[personId])
         tagTypes = append(tagTypes, documentNumberMap[personId].PersonType)
         //lastAppearanceTime = document_number_map[personId].LastAppearanceTime
      }
      logger.Debugf("tagTypes %s ---------------%s--------", tagTypes, record.DocumentNumbers)
      //logger.Debugf("tagTypes %s ---------------%s--------", record.PicDate, record.DocumentNumbers)
      _, typeNames, err := service.GetPersonTypeNameByTypes(tagTypes)
      if err != nil {
         return err
@@ -261,7 +259,7 @@
         Location:    fmt.Sprintf("%s%s%s", domains[record.CommunityId].Name, record.Building, record.Floor),
         Building:    record.Building,
         Floor:       record.Floor,
         //PicDate:       time.Unix(lastAppearanceTime, 0).Format("2006-01-02 15:04:05"),
         //PicDate:     time.Unix(int64(record.PicDate/1000), 0).Format("2006-01-02 15:04:05"),
         PicDate:       record.PicDate,
         FirstPersonID: record.DocumentNumbers[0],
      }
@@ -394,16 +392,17 @@
                                       },
                                    },
                                 },
                                 "pic_date": map[string]interface{}{ // 新增按 documentNumber 聚合
                                    "terms": map[string]interface{}{
                                       "field": "picDate",
                                       "size":  10000,
                                    },
                                 },
                                 "document_numbers": map[string]interface{}{ // 新增按 documentNumber 聚合
                                    "terms": map[string]interface{}{
                                       "field": "documentNumber",
                                       "size":  10000,
                                    },
                                 },
                                 "picDate": map[string]interface{}{ // 新增按 picDate 聚合
                                    "date_histogram": map[string]interface{}{
                                       "field":    "picDate",
                                       "interval": "1s", // 按天聚合
                                       //"time_zone": "+08:00", // 设置时区
                                    },
                                 },
                              },
@@ -477,9 +476,9 @@
                                 }
                              }
                              var PicDate string
                              if docNumBuckets, ok := floorBucket.(map[string]interface{})["pic_data"].(map[string]interface{})["buckets"].([]interface{}); ok {
                              if docNumBuckets, ok := floorBucket.(map[string]interface{})["picDate"].(map[string]interface{})["buckets"].([]interface{}); ok {
                                 for _, docNumBucket := range docNumBuckets {
                                    PicDate = docNumBucket.(map[string]interface{})["key"].(string)
                                    PicDate = docNumBucket.(map[string]interface{})["key_as_string"].(string)
                                 }
                              }
                              logger.Debugf("floor, persons--,appearCount------------------------------------- %s-- %s --", floor, persons, appearCount)