panlei
2019-07-31 3b0ea5e42cffe0fba241cca9041e549cf6ed0989
insertdata/insertDataToEs.go
@@ -1,11 +1,13 @@
package insertdata
import (
   "encoding/base64"
   "encoding/json"
   "errors"
   "fmt"
   "io/ioutil"
   "net"
   "os"
   "ruleprocess/cache"
   "ruleprocess/logger"
   "strings"
@@ -23,11 +25,11 @@
type conf struct {
   PhotoUrl       string `yaml:"photoUrl"`
   Videopersons   string `yaml:"videoPersons"`
   Personaction   string `yaml:"personAction"`
   Serverip       string `yaml:"serverIp"`
   Serverport     string `yaml:"serverPort"`
   Dbtablepersons string `yaml:"dbTablePersons"`
   VideoPersons   string `yaml:"videoPersons"`
   PersonAction   string `yaml:"personAction"`
   ServerIp       string `yaml:"serverIp"`
   ServerPort     string `yaml:"serverPort"`
   DbTablePersons string `yaml:"dbTablePersons"`
}
func init() {
@@ -40,8 +42,8 @@
   //把yaml形式的字符串解析成struct类型
   yaml.Unmarshal(data, &c)
   weedfsUrl = c.PhotoUrl
   videoPersonUrl = c.Videopersons
   personAction = c.Personaction
   videoPersonUrl = c.VideoPersons
   personAction = c.PersonAction
}
// 人脸的数据结构
@@ -55,6 +57,7 @@
   TaskName        string                 `json:"taskName"`
   SdkName         string                 `json:"sdkName"`
   Content         string                 `json:"content"`
   AlarmRules      []AlarmRule            `json:"alarmRules"`
   LikeDate        string                 `json:"likeDate"`
   Sex             string                 `json:"sex"`
   Age             int32                  `json:"age"`
@@ -102,116 +105,136 @@
}
type AlarmRule struct {
   GroupId    string `json:"groupId"`
   AlarmLevel string `json:"alarmLevel"`
   RuleText   string `json:"ruleText"`
   GroupId      string `json:"groupId"`
   AlarmLevel   string `json:"alarmLevel"`
   RuleText     string `json:"ruleText"`
   DefenceState bool   `json:"defenceState"`
}
// 往ES插数据
//func InsertToEs(msg ruleserver.ResultMsg) {
//   var timeLabel string
//   // 直接从规则的标签数据里拿符合规则的人脸结果
//   if msg.RuleResult["timeLabel"] != nil {
//      timeLabel = msg.RuleResult["timeLabel"].(string)
//   }
//   logger.Debug("插入数据前看看报警标志位:", timeLabel)
//   if timeLabel == "01" { // 无定时器状态要插入的报警数据
//      InsertFace(msg)
//      flag := ruleserver.BodyIsSame(msg.SdkMessage)
//      if !flag {
//         InsertYolo(msg)
//      }
//   }
//   if timeLabel == "10" { // 定时器状态要插入的首帧报警数据。连带着定时器开启时的那帧
//      InsertFace(msg)
//      InsertYolo(msg)
//   }
//   //if timeLabel == "12" { // 并非报警数据,只是状态改变的数据
//   //   //ChangeStatusFace(msg)
//   //   ChangeStatusYolo(msg)
//   //}
//}
func InsertToEs(msg ruleserver.ResultMsg) {
   var timeLabel string
   // 直接从规则的标签数据里拿符合规则的人脸结果
   if msg.RuleResult["timeLabel"] != nil {
      timeLabel = msg.RuleResult["timeLabel"].(string)
   }
   logger.Debug("插入数据前看看报警标志位:", timeLabel)
   if timeLabel == "01" { // 无定时器状态要插入的报警数据
      InsertFace(msg)
      InsertYolo(msg)
   }
   if timeLabel == "10" { // 定时器状态要插入的首帧报警数据。连带着定时器开启时的那帧
      InsertFace(msg)
      InsertYolo(msg)
   }
   if timeLabel == "12" { // 并非报警数据,只是状态改变的数据
      //ChangeStatusFace(msg)
      ChangeStatusYolo(msg)
   }
   InsertFace(msg)
   //flag := ruleserver.BodyIsSame(msg.SdkMessage)
   //if !flag {
   InsertYolo(msg)
   //}
}
// 往es中插入人脸数据
func InsertFace(msg ruleserver.ResultMsg) {
   if msg.RuleResult["face"] != nil && len(msg.RuleResult["face"].([]ruleserver.Arg)) > 0 {
   if msg.RuleResult["face"] != nil && len(msg.RuleResult["face"].([]ruleserver.FaceResult)) > 0 {
      logger.Info("往ES插人脸数据")
      for _, face := range msg.RuleResult["face"].([]ruleserver.Arg) {
         // 上传大图
         // 解压缩并上传图片
         bdata, err := util.UnCompress(msg.Data)
         if err != nil {
            panic("解压缩图片时出现错误")
         }
         i := protomsg.Image{}
         err = proto.Unmarshal(bdata, &i)
         bigPhotoUrl := make(map[string]interface{})
         bigPhotoUrl, err = util.PostFormBufferData(weedfsUrl, i, uuid.NewV4().String())
         logger.Debug("========大图路径:", bigPhotoUrl)
         // 人脸检测,没有相似的底库人员
         localConfig, err := cache.GetServerInfo()
         if err != nil {
            logger.Error("查询本机信息失败!")
         }
         serverIp, err := GetLocalIP()
         // 查询cameraName
         camera, err := cache.GetCameraById(msg.Cid)
         if err != nil {
            logger.Error("查询摄像机信息失败")
         }
         bytes := util.SubImg(i, int(face.Location.X), int(face.Location.Y), int(face.Location.X+face.Location.Width), int(face.Location.Y+face.Location.Height))
         resp, err := util.PostFormBufferData1(weedfsUrl, bytes, uuid.NewV4().String())
         if err != nil {
            logger.Error("上传小图出错")
         }
         logger.Info("================小图地址:", resp["fileUrl"].(string))
         sex := ""
         if face.ThftRes.Gender == 1 {
            sex = "男"
         } else {
            sex = "女"
         }
         race := getRaceString(face.ThftRes.Race)
         ageDescription := getDescription(face.ThftRes.Age)
      for _, faceResult := range msg.RuleResult["face"].([]ruleserver.FaceResult) {
         for _, face := range faceResult.Args {
            // 上传大图
            // 解压缩并上传图片
            bdata, err := util.UnCompress(msg.Data)
            if err != nil {
               panic("解压缩图片时出现错误")
            }
            alarmRules := []AlarmRule{}
            alarm := ChangeToString(faceResult.DefenceState, faceResult.AlarmLevel)
            alarmRules = append(alarmRules, AlarmRule{faceResult.RuleGroupId, alarm, faceResult.RuleText, faceResult.DefenceState})
            i := protomsg.Image{}
            err = proto.Unmarshal(bdata, &i)
            bigPhotoUrl := make(map[string]interface{})
            bigPhotoUrl, err = util.PostFormBufferData(weedfsUrl, i, uuid.NewV4().String())
            logger.Debug("========大图路径:", bigPhotoUrl)
            // 人脸检测,没有相似的底库人员
            localConfig, err := cache.GetServerInfo()
            if err != nil {
               logger.Error("查询本机信息失败!")
            }
            serverIp, err := GetLocalIP()
            // 查询cameraName
            camera, err := cache.GetCameraById(msg.Cid)
            if err != nil {
               logger.Error("查询摄像机信息失败")
            }
            bytes := util.SubImg(i, int(face.Location.X), int(face.Location.Y), int(face.Location.X+face.Location.Width), int(face.Location.Y+face.Location.Height))
            resp, err := util.PostFormBufferData1(weedfsUrl, bytes, uuid.NewV4().String())
            if err != nil {
               logger.Error("上传小图出错")
            }
            logger.Info("================小图地址:", resp["fileUrl"].(string))
            sex := ""
            if face.ThftRes.Gender == 1 {
               sex = "男"
            } else {
               sex = "女"
            }
            race := getRaceString(face.ThftRes.Race)
            ageDescription := getDescription(face.ThftRes.Age)
            esDataId := uuid.NewV4().String()
            pervideo := PerVideoPicture{
               esDataId,
               msg.Cid,
               camera.Addr,
               i.Timestamp,
               strings.Split(bigPhotoUrl["fileUrl"].(string), "/")[1],
               msg.Tasklab.Taskid,
               msg.Tasklab.Taskname,
               "人脸",
               "",
               alarmRules,
               time.Now().Format("2006-01-02 15:04:05"), // 只检测,没有比对时间
               sex,
               face.ThftRes.Age,
               ageDescription,
               race,
               face.ThftRes.Smile,
               face.ThftRes.Beauty,
               base64.StdEncoding.EncodeToString(face.Feature),
               []string{strings.Split(resp["fileUrl"].(string), "/")[1]},
               "暂无集群",
               localConfig.ServerId,
               localConfig.ServerName,
               serverIp,
               "",
               face.Score,
               1,
               0,
               0,
               0,
               face.Liker,
            }
            requstbody, err := json.Marshal(pervideo)
         pervideo := PerVideoPicture{
            uuid.NewV4().String(),
            msg.Cid,
            camera.Addr,
            i.Timestamp,
            strings.Split(bigPhotoUrl["fileUrl"].(string), "/")[1],
            msg.Tasklab.Taskid,
            msg.Tasklab.Taskname,
            "人脸",
            "",
            time.Now().Format("2006-01-02 15:04:05"), // 只检测,没有比对时间
            sex,
            face.ThftRes.Age,
            ageDescription,
            race,
            face.ThftRes.Smile,
            face.ThftRes.Beauty,
            string(face.Feature),
            []string{strings.Split(resp["fileUrl"].(string), "/")[1]},
            "暂无集群",
            localConfig.ServerId,
            localConfig.ServerName,
            serverIp,
            "",
            face.Score,
            1,
            0,
            0,
            0,
            face.Liker,
         }
         requstbody, err := json.Marshal(pervideo)
         if err != nil {
            logger.Info("json parse error ", err)
            return
         }
         err1 := EsReq("POST", videoPersonUrl, requstbody)
         if err1 != nil {
            logger.Error("上传ES出错!---", err1)
            if err != nil {
               logger.Info("json parse error ", err)
               return
            }
            resp1, err1 := EsReq("POST", videoPersonUrl, requstbody)
            if err1 != nil {
               logger.Error("上传ES出错!---", err1)
            } else {
               logger.Info("插入es返回的信息:", resp1)
               // 发出录像信号
               ruleserver.AddLxMessage(&protomsg.VideotapeInfo{EsDataId: esDataId, CameraId: msg.Cid, TaskId: msg.Tasklab.Taskid, ImgId: i.Id, SdkIds: []string{}, Type: 1})
            }
         }
      }
   }
@@ -241,8 +264,9 @@
      logger.Error("查询摄像机信息失败")
   }
   esDataId := uuid.NewV4().String()
   pervideo := PerVideoPicture{
      uuid.NewV4().String(),
      esDataId,
      msg.Cid,
      camera.Addr,
      i.Timestamp,
@@ -251,6 +275,7 @@
      msg.Tasklab.Taskname,
      "人脸",
      "状态转换数据,非报警数据",
      []AlarmRule{},
      time.Now().Format("2006-01-02 15:04:05"), // 只检测,没有比对时间
      "",
      0,
@@ -278,9 +303,14 @@
      logger.Info("json parse error ", err)
      return
   }
   err1 := EsReq("POST", videoPersonUrl, requstbody)
   resp1, err1 := EsReq("POST", videoPersonUrl, requstbody)
   if err1 != nil {
      logger.Error("上传ES出错!---", err1)
   } else {
      logger.Info("插入es返回的信息:", resp1)
      // 发出录像信号
      ruleserver.AddLxMessage(&protomsg.VideotapeInfo{EsDataId: esDataId, CameraId: msg.Cid, TaskId: msg.Tasklab.Taskid, ImgId: i.Id, SdkIds: []string{}, Type: 1})
   }
   //if msg.RuleResult["cacheData"] != nil {
   //   InsertFace(msg.RuleResult["cacheData"].(ruleserver.ResultMsg))
@@ -290,87 +320,143 @@
// 往es中插入yolo数据
func InsertYolo(msg ruleserver.ResultMsg) {
   if msg.RuleResult["yolo"] != nil && len(msg.RuleResult["yolo"].([]ruleserver.Result)) > 0 {
      logger.Info("往ES插yolo数据")
      var sdkNames string = ""
      alarmRules := []AlarmRule{}
      for _, yoloResult := range msg.RuleResult["yolo"].([]ruleserver.Result) {
         sdkNames = sdkNames + yoloResult.SdkName
         alarm := ChangeToString(yoloResult.AlarmLevel)
         alarmRules = append(alarmRules, AlarmRule{yoloResult.RuleGroupId, alarm, yoloResult.RuleText})
      // 先判断一下数据带的规则标签是否有可以插入的
      flag := false
      for _, res := range msg.RuleResult["yolo"].([]ruleserver.Result) {
         logger.Info("定时器打的数字标签:",res.Others["timeLabel"].(string))
         if res.Others["timeLabel"].(string) == "01" || res.Others["timeLabel"].(string) == "10" {
            flag = true
         }
      }
      isAlarm := 0
      resp := make(map[string]interface{})
      // 解压缩并上传图片
      bdata, err := util.UnCompress(msg.Data)
      if err != nil {
         panic("解压缩图片时出现错误")
      }
      i := protomsg.Image{}
      err = proto.Unmarshal(bdata, &i)
      if len(alarmRules) > 0 {
         isAlarm = 1
         //resp, err = util.PostFormBufferData(weedfsUrl, i, uuid.NewV4().String())
         resp, err = util.DrawPolygonOnImage(msg.Cid, i, msg.RuleResult["yolo"].([]ruleserver.Result), weedfsUrl)
      if flag {
         logger.Info("往ES插yolo数据")
         var sdkNames string = ""
         alarmRules := []AlarmRule{}
         url := []string{}
         for _, yoloResult := range msg.RuleResult["yolo"].([]ruleserver.Result) {
            if yoloResult.Others["timeLabel"].(string) == "01" || yoloResult.Others["timeLabel"].(string) == "10" {
               // 拼出sdkname
               sdkNames = sdkNames + yoloResult.SdkName
               alarm := ChangeToString(yoloResult.DefenceState, yoloResult.AlarmLevel)
               alarmRules = append(alarmRules, AlarmRule{yoloResult.RuleGroupId, alarm, yoloResult.RuleText, yoloResult.DefenceState})
               // 上传缓存数据的图片拿到url
               if yoloResult.Others["cacheData"] != nil {
                  //InsertYolo(msg.RuleResult["cacheData"].(ruleserver.ResultMsg))
                  // 把缓存的数据上传后得到地址存进去
                  // 解压缩并上传图片
                  msgs := yoloResult.Others["cacheData"].([]ruleserver.ResultMsg)
                  for _, msg1 := range msgs {
                     bdata, err := util.UnCompress(msg1.Data)
                     if err != nil {
                        panic("解压缩图片时出现错误")
                     }
                     i := protomsg.Image{}
                     err = proto.Unmarshal(bdata, &i)
                     resp1, err1 := util.DrawPolygonOnImage(msg1.Cid, i, msg1.RuleResult["yolo"].([]ruleserver.Result), weedfsUrl)
                     if err1 != nil {
                        logger.Error("缓存数据画框或上传图片服务器出错", err)
                     } else {
                        logger.Info("上传的图片信息:", resp1)
                     }
                     url = append(url, strings.Split(resp1["fileUrl"].(string), "/")[1])
                  }
               }
            }
         }
         linkFlag := false
         for _, yoloResult := range msg.RuleResult["yolo"].([]ruleserver.Result) {
            if (yoloResult.Others["timeLabel"].(string) == "01" || yoloResult.Others["timeLabel"].(string) == "10") && yoloResult.Others["linkCache"] != nil && len(yoloResult.Others["linkCache"].([]*ruleserver.ResultMsg)) > 0{
               for _, msg2 := range yoloResult.Others["linkCache"].([]*ruleserver.ResultMsg) {
                  logger.Warn("插入联动数据")
                  InsertYolo(*msg2)
                  linkFlag = true
               }
            }
         }
         if linkFlag {
            // 联动数据中包含本帧数据,插入联动数据后就不需要插入本帧数据了
            os.Exit(1)
            return
         }
         isAlarm := 0
         resp := make(map[string]interface{})
         // 解压缩并上传图片
         bdata, err := util.UnCompress(msg.Data)
         if err != nil {
            logger.Error("画框或上传图片服务器出错", err)
            panic("解压缩图片时出现错误")
         }
         i := protomsg.Image{}
         err = proto.Unmarshal(bdata, &i)
         if len(alarmRules) > 0 {
            isAlarm = 1
            //resp, err = util.PostFormBufferData(weedfsUrl, i, uuid.NewV4().String())
            resp, err = util.DrawPolygonOnImage(msg.Cid, i, msg.RuleResult["yolo"].([]ruleserver.Result), weedfsUrl)
            if err != nil {
               logger.Error("画框或上传图片服务器出错", err)
            } else {
               logger.Info("上传的图片信息:", resp)
            }
         } else {
            logger.Info("上传的图片信息:", resp)
            isAlarm = 0
            // 不是报警数据不存
            return
         }
         // logger.Println("图片上传返回值:", resp)
         // 查询本机信息
         localConfig, err := cache.GetServerInfo()
         if err != nil {
            logger.Error("查询本机信息失败!")
         }
         // 查询cameraName
         camera, err := cache.GetCameraById(msg.Cid)
         if err != nil {
            logger.Error("查询摄像机信息失败")
         }
         serverIp, err := GetLocalIP()
         url = append(url, strings.Split(resp["fileUrl"].(string), "/")[1])
         esDataId := uuid.NewV4().String()
         peraction := Personaction{
            esDataId,
            msg.Cid,
            camera.Name,
            camera.Addr,
            msg.Tasklab.Taskid,
            msg.Tasklab.Taskname,
            sdkNames,
            "",
            alarmRules,
            localConfig.ServerId,
            localConfig.ServerName,
            serverIp,
            "",
            url,
            i.Timestamp,
            "",
            isAlarm,
            0,
            0,
            0,
         }
         requstbody, err := json.Marshal(peraction)
         if err != nil {
            logger.Info("json parse error ", err)
            return
         }
         resp1, err2 := EsReq("POST", personAction, requstbody)
         if err2 != nil {
            logger.Error("往ES插入数据失败", err)
         } else {
            logger.Debug("插入es返回的数据信息是:", resp1)
            // 发出录像信号
            ruleserver.AddLxMessage(&protomsg.VideotapeInfo{EsDataId: esDataId, CameraId: msg.Cid, TaskId: msg.Tasklab.Taskid, ImgId: i.Id, SdkIds: []string{}, Type: 2})
            logger.Warn("__________________________________________往ES插入yolo数据成功")
            //os.Exit(1)
         }
      } else {
         isAlarm = 0
         // 不是报警数据不存
         return
      }
      // logger.Println("图片上传返回值:", resp)
      // 查询本机信息
      localConfig, err := cache.GetServerInfo()
      if err != nil {
         logger.Error("查询本机信息失败!")
      }
      // 查询cameraName
      camera, err := cache.GetCameraById(msg.Cid)
      if err != nil {
         logger.Error("查询摄像机信息失败")
      }
      serverIp, err := GetLocalIP()
      peraction := Personaction{
         uuid.NewV4().String(),
         msg.Cid,
         camera.Name,
         camera.Addr,
         msg.Tasklab.Taskid,
         msg.Tasklab.Taskname,
         sdkNames,
         "",
         alarmRules,
         localConfig.ServerId,
         localConfig.ServerName,
         serverIp,
         "",
         []string{strings.Split(resp["fileUrl"].(string), "/")[1]},
         i.Timestamp,
         "",
         isAlarm,
         0,
         0,
         0,
      }
      requstbody, err := json.Marshal(peraction)
      if err != nil {
         logger.Info("json parse error ", err)
         return
      }
      err = EsReq("POST", personAction, requstbody)
      if err != nil {
         logger.Error("往ES插入数据失败", err)
      } else {
         logger.Warn("__________________________________________往ES插入yolo数据成功")
         //os.Exit(1)
      }
      if msg.RuleResult["cacheData"] != nil {
         InsertYolo(msg.RuleResult["cacheData"].(ruleserver.ResultMsg))
         logger.Debug("timeLabel条件都不符合!")
      }
   }
}
@@ -403,8 +489,9 @@
      logger.Error("查询摄像机信息失败")
   }
   serverIp, err := GetLocalIP()
   esDataId := uuid.NewV4().String()
   peraction := Personaction{
      uuid.NewV4().String(),
      esDataId,
      msg.Cid,
      camera.Name,
      camera.Addr,
@@ -432,10 +519,13 @@
      return
   }
   err = EsReq("POST", personAction, requstbody)
   if err != nil {
   resp1, err1 := EsReq("POST", personAction, requstbody)
   if err1 != nil {
      logger.Error("往ES插入数据失败", err)
   } else {
      logger.Info("插入es返回的信息:", resp1)
      // 发出录像信号
      ruleserver.AddLxMessage(&protomsg.VideotapeInfo{EsDataId: esDataId, CameraId: msg.Cid, TaskId: msg.Tasklab.Taskid, ImgId: i.Id, SdkIds: []string{}, Type: 2})
      logger.Warn("__________________________________________往ES插入yolo数据成功")
      //os.Exit(1)
   }
@@ -470,23 +560,28 @@
}
// 把报警等级转化成汉字
func ChangeToString(i int32) string {
func ChangeToString(defenceState bool, i int32) string {
   alarm := ""
   if i == 1 {
      alarm = "一级"
   if defenceState {
      if i == 1 {
         alarm = "一级"
      }
      if i == 2 {
         alarm = "二级"
      }
      if i == 3 {
         alarm = "三级"
      }
      if i == 4 {
         alarm = "四级"
      }
      if i == 5 {
         alarm = "五级"
      }
   } else {
      alarm = "撤防"
   }
   if i == 2 {
      alarm = "二级"
   }
   if i == 3 {
      alarm = "三级"
   }
   if i == 4 {
      alarm = "四级"
   }
   if i == 5 {
      alarm = "五级"
   }
   return alarm
}