add cluster

liuxiaolong

2019-08-22 f4e8f206a6760bdc31734dfcb1c65916b5b76311

 controllers/es.go

@@ -1,18 +1,18 @@
package controllers

import (
   "encoding/json"
   "basic.com/dbapi.git"
   "fmt"
   "github.com/gin-gonic/gin"
   "math/rand"
   "strconv"
   "strings"
   "webserver/extend/code"
   "webserver/extend/config"
   "webserver/extend/esutil"
   "webserver/extend/util"
   "webserver/models"
   "webserver/service"
   "math/rand"
   "strconv"
   "strings"
)

type EsController struct{}
@@ -23,139 +23,52 @@
// @Produce json
// @Tags es
// @Param reqMap body models.EsSearch true "collection 为空"
// @Success 200 {string} json "{"code":200, msg:"目录结构数据", success:true}"
// @Failure 500 {string} json "{"code":500,  msg:"返回错误信息", success:false}"
// @Success 200 {string} json "{"code":200, msg:"", success:true}"
// @Failure 500 {string} json "{"code":500, msg:"", success:false}"
// @Router /data/api-v/es/queryEsCompareData [POST]
func PostEsCompareData(c *gin.Context) {
   searchBody := new(models.EsSearch)
   c.BindJSON(&searchBody)
   isEsSource := true
   databases := searchBody.DataBases
   page := searchBody.Page;if page <= 0 {page = 1}
   size := searchBody.Size;if size <= 0 {size = 8}
   from := (page - 1) * size
   to := page * size
   threshold := searchBody.Threshold;if threshold < 0 || threshold > 100 {threshold = 60}
   picUrl := searchBody.PicUrl
   /*feature := searchBody.Feature*/
   var featByte []byte;
 if len(picUrl) > 3 { //   linux
      /*fileName := picUrl   // picIp 定义在 fileController weedfs 文件服务器 访问 路径 前缀
      detect := gorun.GetSimpleFaceDetect(fileName)
      if len(detect) != 1 {
         util.ResponseFormat(c,code.TooManyFeatureFindError,"图片特征值过多")
         return
      }else {
         featByte = detect[0]["feature"].([]byte)
      }*/ //   linux
   }
   data := make(map[string]interface{})
   searchBody.Page = 1
   searchBody.Size = 15000
   //searchMap := Struct2Map(*searchBody)
   if len(databases) == 1 && databases[0] == "esData" {
      searchBody.IsAggs = false
      data = searchEsData(*searchBody)
   } else {
      isEsSource = false
      data = service.QueryDbPersonsForCompare(*searchBody)
   }
   sources := data["datalist"].([]interface{})

   if len(sources) > 0 {
      //进行比对
      sources = sourceCompare(sources, isEsSource, featByte, threshold)
   } else {
      fmt.Println("查询条件下无数据 source 数据为空：" + string(len(sources)))
   }
   dataLen := len(sources)
   if from > dataLen-1 {
      from = 0
      to = 0
   }
   if to > dataLen {
      to = dataLen
   }
   sources = sources[from:to]   // 数据 部分获取
   if !isEsSource {  //  人员数据要加底库名称
      for _, sou := range sources {
         tableId := sou.(map[string]interface{})["tableId"]
         if tableId != nil {
            info := QueryDbTableInfo(tableId.(string))
            if info["tableName"] != nil {sou.(map[string]interface{})["tableName"] = info["tableName"]
            }else {sou.(map[string]interface{})["tableName"] = "其他"}
            if info["bwType"] != nil {sou.(map[string]interface{})["bwType"] = info["bwType"]
            }else {sou.(map[string]interface{})["bwType"] = "4"}
         }
      }
   }
   dmap := make(map[string]interface{},2)
   dmap["datalist"] = sources
   dmap["total"] = dataLen
   util.ResponseFormat(c, code.Success, dmap)
}


// @Summary 查询摄像机以及启算法
// @Description 关联查询摄像机以及启算法
// @Produce json
// @Tags camera
// @Success 200 {string} json "{"code":200, success:true,  msg:"请求处理成功", data:"摄像机信息"}"
// @Failure 500 {string} json "{"code":500, success:false   msg:"",data:"错误信息内容"}"
// @Router /data/api-v/camera/queryCameraAndTaskInfo [get]
func (ac *CameraController) QueryCameraAndTaskInfo(c *gin.Context) {
   var cam models.Camera
   rows := cam.FindAllCamTask()

   if len(rows) == 0 {
      util.ResponseFormat(c, code.ComError, "没有记录")
   err := c.BindJSON(&searchBody)
   if err != nil || searchBody.PicUrl == "" || len(searchBody.DataBases) == 0 {
      util.ResponseFormat(c, code.RequestParamError, "参数有误")
      return
   }
   camList := make([]map[string]interface{},0,5)
   for _, cam := range rows {
      newCam := make(map[string]interface{})
      newCam["cameraid"] = cam.Id
      newCam["rtspUrl"] = cam.Rtsp
      tasks := cam.CamTask
         taskList := make([]map[string]interface{},0)
      if tasks != nil {
          taskmap:= make(map[string]interface{})
         for _,task := range tasks {
            taskId := taskmap[task.Taskid]
            if taskId != nil {
               cameraTasks := taskmap[task.Taskid].([]models.CameraTask)
               cameraTasks = append(cameraTasks,task)
               taskmap[task.Taskid] = cameraTasks
            }else {
               cameraTasks := make([]models.CameraTask,0)
               taskmap[task.Taskid] = append(cameraTasks,task)
            }
         }
         for key, value := range taskmap {
            i := make(map[string]interface{})
            i["taskid"] = key
            i["sdklist"] = value
            taskList = append(taskList,i)
         }
   if searchBody.CompareNum !="" {
      //二次搜索，不需要再比对了
      co := service.GetCompResultByNum(searchBody.CompareNum)
      if co != nil {
         //二次搜索和排序
         twiceM := GetCompareDataTwice(co,searchBody)
         util.ResponseFormat(c,code.Success,twiceM)
         return
      } else {
         m :=make(map[string]interface{},0)
         m["compareNum"] = searchBody.CompareNum
         m["total"] = 0
         m["totalList"] = []CompareResult{}
         util.ResponseFormat(c,code.CompareResultGone,m)
         return
      }
      newCam["tasklist"] = taskList
      camList = append(camList,newCam)
   }
   c.JSON(200,camList)

   m :=make(map[string]interface{},0)
   m["compareNum"] = searchBody.CompareNum
   m["total"] = 0
   m["totalList"] = []CompareResult{}
   util.ResponseFormat(c,code.CompareResultGone,m)
}

func searchEsData(searchBody models.EsSearch) map[string]interface{} {
   //请求索引
   index := config.EsInfo.EsIndex.VideoPersons.IndexName  //  wp只查人脸数据
   queryStr := "";
   index := config.EsInfo.EsIndex.VideoPersons.IndexName //  wp只查人脸数据
   queryStr := ""
   queryBody := searchBody.InputValue
   //检索框
   if queryBody != "" {
      queryStr = "\"must\":[{\"multi_match\":{\"query\":\"" + queryBody + "\",\"fields\":[\"tableName^1.5\",\"gender^2.0\",\"race^2.0\",\"content^1.0\",\"idcard^1.8\",\"picAddress^1.0\"]," +
      queryStr = "\"must\":[{\"multi_match\":{\"query\":\"" + queryBody + "\",\"fields\":[\"alarmRules.alarmLevel^1.5\",\"ageDescription^1.5\",\"taskName^1.5\",\"baseInfo.tableName^1.5\",\"sex^2.0\",\"race^2.0\",\"content^1.0\",\"baseInfo.idCard^1.8\",\"cameraAddr^1.0\"]," +
         "\"type\":\"cross_fields\",\"operator\":\"OR\",\"slop\":0,\"prefix_length\":0,\"max_expansions\":50,\"zero_terms_query\":\"NONE\",\"auto_generate_synonyms_phrase_query\":true,\"fuzzy_transpositions\":true,\"boost\":1}}],"
   }
   gteDate := searchBody.SearchTime[0];lteDate := searchBody.SearchTime[1]
   gteDate := searchBody.SearchTime[0]
   lteDate := searchBody.SearchTime[1]
   //判断任务ID
   taskIdStr := ""
   taskId := searchBody.Tasks
@@ -164,11 +77,11 @@
      taskIdStr = "{\"terms\":{\"taskId\":[\"" + esTaskId + "\"]}},"
   }
   //判断摄像机ID
   videoReqNumStr := ""
   videoReqNum := searchBody.TreeNodes
   if videoReqNum != nil && len(videoReqNum) > 0 {
      esVideoReqNum := strings.Replace(strings.Trim(fmt.Sprint(videoReqNum), "[]"), " ", "\",\"", -1)
      videoReqNumStr = "{\"terms\":{\"videoReqNum\":[\"" + esVideoReqNum + "\"]}},"
   cameraIdStr := ""
   cameraId := searchBody.TreeNodes
   if cameraId != nil && len(cameraId) > 0 {
      esCameraId := strings.Replace(strings.Trim(fmt.Sprint(cameraId), "[]"), " ", "\",\"", -1)
      cameraIdStr = "{\"terms\":{\"cameraId\":[\"" + esCameraId + "\"]}},"
   }
   //判断库表ID
   tableId := searchBody.Tabs
@@ -176,12 +89,12 @@
   esTableIdStr := ""
   if tableId != nil && len(tableId) > 0 {
      esTableId = strings.Replace(strings.Trim(fmt.Sprint(tableId), "[]"), " ", "\",\"", -1)
      esTableIdStr = "{\"terms\":{\"tableId\":[\"" + esTableId + "\"]}},"
      esTableIdStr = "{\"terms\":{\"baseInfo.tableId\":[\"" + esTableId + "\"]}},"
   }
   collectionStr := ""
   collection := searchBody.Collection
   if collection != "" {
      collectionStr = "{\"term\":{\"collection\":\"" + collection + "\"}},"
   isCollectionStr := ""
   isCollection := searchBody.Collection
   if isCollection != "" {
      isCollectionStr = "{\"term\":{\"collection\":\"" + isCollection + "\"}},"
   }
   webPage := searchBody.Page
   webSize := searchBody.Size
@@ -192,24 +105,29 @@
   //请求头
   url := "http://" + config.EsInfo.Masterip + ":" + config.EsInfo.Httpport +
      "/" + index + "/_search?search_type=dfs_query_then_fetch"

   var setApi dbapi.SysSetApi
   _, sysconf := setApi.GetServerInfo()
   analyServerFilterStr := "{\"term\":{\"analyServerId\":\"" + sysconf.ServerId + "\"}},"

   //请求体
   prama := "{\"from\":\"" + esFrom + "\",\"size\":\"" + esSize + "\"," +
//   prama := "{\"size\":\"0\"," +
      //   prama := "{\"size\":\"0\"," +
      "\"query\":{\"bool\":{" + queryStr +
      "\"filter\":[" +
      videoReqNumStr +
      cameraIdStr +
      taskIdStr +
      collectionStr +
      isCollectionStr +
      esTableIdStr +
      analyServerFilterStr +
      "{\"range\":{\"picDate\":{\"from\":\"" + gteDate + "\",\"to\":\"" + lteDate + "\",\"include_lower\":true,\"include_upper\":true,\"boost\":1}}}]}}," +
      "\"sort\":[{\"_score\":{\"order\":\"desc\"}},{\"picDate\":{\"order\":\"desc\"}}]," +
      "\"_source\":[\"tableName\",\"gender\",\"race\",\"content\",\"IDCard\",\"picAddress\",\"picDate\",\"sdkType\",\"age\",\"personId\",\"personIsHub\",\"personPicUrl\",\"picLocalUrl\",\"picSmUrl\",\"videoIp\",\"videoNum\",\"videoReqNum\",\"baseInfo\"]}";
      "\"_source\":[\"baseInfo\",\"alarmRules\",\"sex\",\"analyServerName\",\"sdkName\",\"ageDescription\",\"content\",\"id\",\"cameraAddr\",\"picMaxUrl\",\"picDate\",\"race\",\"videoUrl\",\"picSmUrl\",\"taskName\",\"personIsHub\",\"isAlarm\",\"analyServerIp\",\"cameraId\"]}"
   fmt.Println(prama)
   //数据解析
   tokenRes := esutil.GetEsDataReq(url, prama, true)
   return tokenRes
}


func sourceCompare(sources []interface{}, isEsSource bool, campareByte []byte, threshold float32) []interface{} {
   var filterName = "feature"
@@ -230,17 +148,4 @@
      }
   }
   return dataSource
}

// type  转 map
func Struct2Map(obj interface{}) map[string]interface{} {
   var data = make(map[string]interface{})
   bytes, _ := json.Marshal(obj)
   json.Unmarshal(bytes, &data)
   /*t := reflect.TypeOf(obj)
   v := reflect.ValueOf(obj)
   for i := 0; i < t.NumField(); i++ {
      data[t.Field(i).Name] = v.Field(i).Interface()
   }*/
   return data
}