Merge branch 'master' of http://192.168.1.14:10010/r/syncdb

liuxiaolong

2019-08-08 622f52952028ce4e6c6620b025184e322be43b74

 agent.go

@@ -18,12 +18,13 @@

import (
   "context"
   "encoding/json"
   "errors"
   "fmt"
   "github.com/hashicorp/memberlist"
   "io/ioutil"
   "net"
   "os"
   "strconv"

   //"os"
   "strings"
@@ -35,12 +36,24 @@
   "log"
)

const (
   QueryEventGetDB        = "GetDatabase"
   QueryEventUpdateDBData = "UpdateDBData"
)

// Agent warps the serf agent
type Agent struct {
   *agent.Agent
   conf    *Config
   readyCh chan struct{}
   errorCh chan error
}

type NodeInfo struct {
   ClusterID   string `json:"clusterID"`
   NodeID      string `json:"nodeID"`
   NodeAddress string `json:"nodeAddress"`
   IsAlive     int    `json:"isAlive"`
}

// Create create serf agent with config
@@ -52,7 +65,7 @@
   }

   // create serf agent with serf config
   fmt.Println("conf.Config.EncryptKey:",conf.EncryptKey)
   fmt.Println("conf.Config.EncryptKey:", conf.EncryptKey)
   serfAgent, err := agent.Create(conf.Config, serfConf, nil)
   if err != nil {
      return nil, err
@@ -92,6 +105,8 @@
         a.errorCh <- err
      }
   }

   go a.BroadcastMemberlist(BroadcastInterval * time.Second)
}

// HandleEvent Handles serf.EventMemberJoin events,
@@ -106,40 +121,79 @@
      var tmpstringslice []string
      tmpstringslice = append(tmpstringslice, string(ev.Payload))
      fmt.Println(tmpstringslice)
      results, err := DoExecute(tmpstringslice)
      results, err := ExecuteWriteSql(tmpstringslice)

      for _, result := range results {
         fmt.Println(result, "results err: ", err)
      }

   case *serf.Query:
      //bak file and send resp
      filename, err := BakDbFile()
      if err != nil {
         fmt.Println("bak db file error!")
         return
      }
      fmt.Println(filename)

      filebuf, err := ioutil.ReadFile(filename)
      fmt.Println("filebuf: ", len(filebuf))
      if err != nil {
         fmt.Printf("file to []bytes error: %s\n", err)
         return
      }

      err = os.Remove(filename)
      if err != nil {
         fmt.Printf("remove file%s\n failed", filename)
         return
      }

      fmt.Println("query payload: ", len(ev.Payload))
      if query, ok := event.(*serf.Query); ok {
         if err := query.Respond(filebuf); err != nil {
            fmt.Printf("err: %s\n", err)
      if ev.Name == QueryEventGetDB {
         //bak file and send resp
         filename, err := BakDbFile()
         if err != nil {
            fmt.Println("bak db file error!")
            return
         }
         fmt.Println(filename)

         filebuf, err := ioutil.ReadFile(filename)
         fmt.Println("filebuf: ", len(filebuf))
         if err != nil {
            fmt.Printf("file to []bytes error: %s\n", err)
            return
         }

         err = os.Remove(filename)
         if err != nil {
            fmt.Printf("remove file%s\n failed", filename)
            return
         }

         fmt.Println("query payload: ", len(ev.Payload))
         if query, ok := event.(*serf.Query); ok {
            if err := query.Respond(filebuf); err != nil {
               fmt.Printf("err: %s\n", err)
               return
            }
         }
      } else if ev.Name == QueryEventUpdateDBData {
         //fmt.Println(string(ev.Payload))
         //var tmpstringslice []string
         //tmpstringslice = append(tmpstringslice, string(ev.Payload))
         //fmt.Println(tmpstringslice)
         //rows, err := ExecuteQuerySql(tmpstringslice)
         //if err != nil {
         //   fmt.Println("err: ", err)
         //   return
         //}
         //var rowsReturn []Rows
         //for _, r := range rows {
         //   rowsReturn = append(rowsReturn, *r)
         //}
         var tableNames []string
         err := json.Unmarshal(ev.Payload, &tableNames)
         if err !=nil {
            fmt.Println("Query tableNames unmarshal err")
            return
         }
         datas, err := ExecuteQueryByGorm(tableNames)
         if err !=nil {
            fmt.Println("queryByGorm err")
            return
         }
         bytesReturn, err := json.Marshal(datas)
         fmt.Println("results: ", bytesReturn)
         if query, ok := event.(*serf.Query); ok {
            if err := query.Respond(bytesReturn); err != nil {
               fmt.Printf("err: %s\n", err)
               return
            }
         }

         //var res []*Rows
         //json.Unmarshal(bytesReturn, &res)
      }

   default:
@@ -159,6 +213,38 @@
   //}
   //a.DeregisterEventHandler(a)
   //close(a.readyCh)
}

func (a *Agent) BroadcastMemberlist(delay time.Duration) {
   //serf := a.serf
   serf := a.Agent.Serf()
   mb := serf.LocalMember()
   mblist := serf.Memberlist()
   fmt.Println("mb:", mb)

   // copy local node
   localNode := *mblist.LocalNode()
   nodeID := a.conf.NodeName
   nodeAddress := localNode.Address()
   clusterID := mb.Tags[tagKeyClusterID]
   isAlive := int(mb.Status)

   message, _ := json.Marshal(NodeInfo{
      clusterID,
      nodeID,
      nodeAddress,
      isAlive,
   })

   // replace node address
   localNode.Addr = net.ParseIP(BroadcastIP)
   //localNode.Addr = net.IPv4(255,255,255,255)
   localNode.Port = BroadcastPort
   for {
      // fmt.Printf("localNode: %v %v\n", nodeName, nodeAddress)
      mblist.SendBestEffort(&localNode, []byte(message))
      time.Sleep(delay)
   }
}

// Ready Returns a channel that will be closed when serf is ready
@@ -281,11 +367,9 @@
   return
}



//GetDbFromCluster get the newest database after join cluster
//dbPathWrite the path where to write after got a database,
func (a *Agent)GetDbFromCluster(dbPathWrite string) {
func (a *Agent) GetDbFromCluster(dbPathWrite string) {
   //members: get name of first member
   mbs := a.GroupMembers(a.conf.ClusterID)
   var specmembername string
@@ -302,7 +386,7 @@
      FilterNodes: strings.Fields(specmembername),
   }

   resp, err := a.Query("getDatabase", []byte(""), &params)
   resp, err := a.Query(QueryEventGetDB, []byte(""), &params)
   if err == nil || !strings.Contains(err.Error(), "cannot contain") {
      fmt.Println("err: ", err)
   }
@@ -315,13 +399,13 @@
            fmt.Println("x length is: ", len(r.Payload))

            // // byte to file.
            Dbconn.Close()
            Dbconn = nil
            SerfDbConn.Close()
            SerfDbConn = nil
            err = ioutil.WriteFile(dbPathWrite, r.Payload, 0644)
            if err != nil {
               fmt.Println("query byte to file error!", err)
            }
            err := GetConn()
            err := InitDbConn("")
            if err != nil {
               fmt.Println("create db conn of test.db error: ", err)
            }
@@ -331,8 +415,69 @@
   }()
}

//GetDbFromCluster get the newest database after join cluster
//dbPathWrite the path where to write after got a database,
func (a *Agent) GetTableDataFromCluster(tableNames []string) error {
   //members: get name of first member
   mbs := a.GroupMembers(a.conf.ClusterID)
   var specmembername string
   for _, m := range mbs {
      if m.Addr.String() != a.conf.BindAddr {
         specmembername = m.Name
         break
      }
   }
   fmt.Println(specmembername)

   //query: get db file.
   params := serf.QueryParam{
      FilterNodes: strings.Fields(specmembername),
   }

   //SQL
   tBytes, _ := json.Marshal(tableNames)

   resp, err := a.Query(QueryEventUpdateDBData, tBytes, &params)
   if err == nil || !strings.Contains(err.Error(), "cannot contain") {
      fmt.Println("err: ", err)
   }


   go func() {
      respCh := resp.ResponseCh()
      for {
         select {
         case r := <-respCh:
            fmt.Println("x length is: ", len(r.Payload))
            // // byte to file.
            var dumpSqls []string
            err := json.Unmarshal(r.Payload, &dumpSqls)
            if err ==nil {
               if flag,_ := ExecuteSqlByGorm(dumpSqls);flag{
                  fmt.Println("data dump success")
               }
            }
            return
         }
      }
   }()
   return nil

   //r, err = c.Query([]string{query}, false, false)
   //if err != nil {
   //   return err
   //}
   //for _, x := range r[0].Values {
   //   y := fmt.Sprintf("%s;\n", x[0].(string))
   //   if _, err := w.Write([]byte(y)); err != nil {
   //      return err
   //   }
   //}

}

//SyncSql boardcast sql to cluster
func (a *Agent)SyncSql(sqlOp string) {
func (a *Agent) SyncSql(sqlOp string) {
   // event : use to send command to operate db.
   err := a.UserEvent("SyncSql", []byte(sqlOp), false)
   if err == nil || !strings.Contains(err.Error(), "cannot contain") {
@@ -341,18 +486,34 @@
}

//Init serf Init
//web后台收到创建集群的请求，
func Init(clusterID string, password string, nodeID string) (*Agent, error) {
func Init(clusterID string, password string, nodeID string, ips []string) (*Agent, error) {
   agent, err := InitNode(clusterID, password, nodeID)
   if err != nil {
      fmt.Printf("InitNode failed, error: %s", err)
      return agent, err
   }

   err = agent.JoinByNodeIP(ips)
   if err != nil {
      fmt.Printf("JoinByNodeIP failed, error: %s", err)
      return agent, err
   }

   return agent, err
}

//InitNode web后台收到创建集群的请求，
func InitNode(clusterID string, password string, nodeID string) (*Agent, error) {
   conf := DefaultConfig()
   fmt.Println("clusterID:", clusterID, "password:", password, "nodeID:", nodeID)
   //conf.ClusterID = clusterID
   conf.ClusterID = clusterID
   conf.NodeName = nodeID
   if password == "" {
      conf.EncryptKey = DefaultEncryptKey
   }else{
   } else {
      if len(password) >= 16 {
         password = password[:16]
      }else{
      } else {
         password = fmt.Sprintf("%016s", password)[:16]
         //return nil, fmt.Errorf("error password")
      }
@@ -370,16 +531,26 @@
      agent.ShutdownCh()
   }()
   time.Sleep(time.Second)
   fmt.Println("Stats:",agent.Agent.Serf().Stats())
   fmt.Println("EncryptionEnabled:",agent.Agent.Serf().EncryptionEnabled())
   fmt.Printf("create agent sucess!!")
   fmt.Println("Stats:", agent.Agent.Serf().Stats())
   fmt.Println("EncryptionEnabled:", agent.Agent.Serf().EncryptionEnabled())
   fmt.Println("create agent sucess!!")

   return agent, nil
}

func (a *Agent) JoinByNodeIP(ip string) error {
   n, err := a.Agent.Join([]string{ip + ":" + strconv.Itoa(DefaultBindPort)}, true)
   if err != nil || n == 0{
func (a *Agent) JoinByNodeIP(ips []string) error {
   var nodes []string

   if len(ips) == 0 {
      return fmt.Errorf("No Nodes To Join!")
   }
   for _, ip := range ips {
      node := fmt.Sprintf("%s:%d", ip, DefaultBindPort)
      nodes = append(nodes, node)
   }

   n, err := a.Agent.Join(nodes, true)
   if err != nil || n == 0 {
      a.Stop()
      fmt.Println("Stop node")
      return fmt.Errorf("Error Encrypt Key!")
@@ -390,14 +561,14 @@

type Node struct {
   clusterID string
   NodeID string
   IP string
   isAlive int   //StatusNone:0, StatusAlive:1, StatusLeaving:2, StatusLeft:3, StatusFailed:4
   NodeID    string
   IP        string
   isAlive   int //StatusNone:0, StatusAlive:1, StatusLeaving:2, StatusLeft:3, StatusFailed:4
}

func (a *Agent) GetNodes() (nodes []Node) {
   var node Node
   fmt.Println("a.conf.ClusterID:",a.conf.ClusterID)
   fmt.Println("a.conf.ClusterID:", a.conf.ClusterID)
   mbs := a.GroupMembers(a.conf.ClusterID)
   for _, mb := range mbs {
      node.NodeID = mb.Name
@@ -410,7 +581,3 @@

   return nodes
}