Add the heartbeat logic feature.

Fu Juntang

2021-09-17 5c912c70e9333298ff48f7ea15424f72ca977b99

 src/socket/shm_socket.cpp

@@ -1,61 +1,88 @@
#include "shm_socket.h"
#include "socket_def.h"
#include "hashtable.h"
#include "logger_factory.h"
#include <map>
#include <cassert>
#include "bus_error.h"
#include "sole.h"
#include "shm_mm.h"
#include "key_def.h"

static Logger *logger = LoggerFactory::getLogger();

// ShmQueueStMap * shmQueueStMap ;


static void print_msg(char *head, shm_msg_t &msg) {
static void print_msg(char *head, shm_packet_t &msg) {
  // err_msg(0, "%s: key=%d, type=%d\n", head, msg.key, msg.type);
}

static pthread_once_t _once_ = PTHREAD_ONCE_INIT;
static pthread_key_t _tmp_recv_socket_key_;
static pthread_key_t _localthread_socket_key_;

static void *_server_run_msg_rev(void *_socket);
static void _destrory_threadlocal_socket_(void *tmp_socket);
static void _create_threadlocal_socket_key_(void);

static void *_client_run_msg_rev(void *_socket);
static int shm_recvpakfrom(shm_socket_t *sockt, shm_packet_t *recvpak ,  const struct timespec *timeout,  
                int flag, int reset = 0, int data_set = 0);

static int _shm_close_dgram_socket(shm_socket_t *socket);
   
static int shm_sendpakto(shm_socket_t *sockt,  shm_packet_t *sendpak, const int key, const struct timespec *timeout, 
                const int flag, int reset = 0, int data_set = 0);

static int _shm_close_stream_socket(shm_socket_t *socket, bool notifyRemote);

static void _destrory_tmp_recv_socket_(void *tmp_socket);
static void _create_tmp_recv_socket_key(void);
static int _shm_sendandrecv_uuid(shm_socket_t *sockt, const void *send_buf,
                    const int send_size, const int key, void **recv_buf,
                    int *recv_size,  const struct timespec *timeout,  int flags);

// 检查key是否已经被使用，是返回0, 否返回1
static inline int  _shm_socket_check_key(shm_socket_t *socket) {
   void *tmp_ptr = mm_get_by_key(socket->key);
    if (tmp_ptr!= NULL && tmp_ptr != (void *)1 && !socket->force_bind ) {
      bus_errno = EBUS_KEY_INUSED;
      logger->error("%s. key = %d ", bus_strerror(EBUS_KEY_INUSED), socket->key);
      return 0;
    }
    return 1;
static int _shm_sendandrecv_thread_local(shm_socket_t *sockt, const void *send_buf,
                    const int send_size, const int send_key, void **recv_buf,
                    int *recv_size,  const struct timespec *timeout,  int flags) ;

//  检查key是否已经被使用， 未被使用则绑定key
static LockFreeQueue<shm_packet_t> * shm_socket_bind_queue(int key, bool force) {
  hashtable_t *hashtable = mm_get_hashtable();
  LockFreeQueue<shm_packet_t> *queue;
  void *tmp_ptr = hashtable_get(hashtable, key);

  if (tmp_ptr == NULL || tmp_ptr == (void *)1  ) {
    queue = new LockFreeQueue<shm_packet_t>(LOCK_FREE_Q_DEFAULT_SIZE);
    hashtable_put(hashtable, key, (void *)queue);
    return queue;
  } else if(force) {
    return (LockFreeQueue<shm_packet_t> *) tmp_ptr;
  }
  
  return NULL;
}

SHMQueue<shm_msg_t> *_attach_remote_queue(int key);
/**
 * 绑定key到队列，但是并不会创建队列。
 */
static LockFreeQueue<shm_packet_t> * shm_socket_attach_queue(int key) {
  LockFreeQueue<shm_packet_t> * queue;
  hashtable_t *hashtable = mm_get_hashtable();
  void *tmp_ptr = hashtable_get(hashtable, key);
  if (tmp_ptr == NULL || tmp_ptr == (void *)1) {
    return NULL;
  }



size_t shm_socket_remove_keys(int keys[], size_t length) {
  return SHMQueue<shm_msg_t>::remove_queues(keys,  length);
  queue = ( LockFreeQueue<shm_packet_t> *)tmp_ptr;
  // hashtable_unlock(hashtable);
  return queue;
}

shm_socket_t *shm_open_socket(shm_socket_type_t socket_type) {
shm_socket_t *shm_socket_open(shm_socket_type_t socket_type) {
  int s, type;
  pthread_mutexattr_t mtxAttr;

  logger->debug("shm_open_socket\n");
  shm_socket_t *socket = (shm_socket_t *)calloc(1, sizeof(shm_socket_t));
  socket->socket_type = socket_type;
  socket->key = 0;
  socket->force_bind = false;
  socket->dispatch_thread = 0;
  socket->status = SHM_CONN_CLOSED;
  // shm_socket_t *socket = (shm_socket_t *)calloc(1, sizeof(shm_socket_t));
  shm_socket_t *sockt = new shm_socket_t;
  sockt->socket_type = socket_type;
  sockt->key = 0;
  sockt->force_bind = false;
  sockt->queue = NULL;


  s = pthread_mutexattr_init(&mtxAttr);
  if (s != 0)
@@ -63,7 +90,7 @@
  s = pthread_mutexattr_settype(&mtxAttr, PTHREAD_MUTEX_ERRORCHECK);
  if (s != 0)
    err_exit(s, "pthread_mutexattr_settype");
  s = pthread_mutex_init(&(socket->mutex), &mtxAttr);
  s = pthread_mutex_init(&(sockt->mutex), &mtxAttr);
  if (s != 0)
    err_exit(s, "pthread_mutex_init");

@@ -71,390 +98,223 @@
  if (s != 0)
    err_exit(s, "pthread_mutexattr_destroy");

  return socket;

  // shmQueueStMap = shm_mm_attach<ShmQueueStMap>(SHM_QUEUE_ST_KEY);

  return sockt;
}

int shm_close_socket(shm_socket_t *socket) {

static int _shm_socket_close_(shm_socket_t *sockt) {
  
  int ret, s;
  
  logger->debug("shm_close_socket\n");
  switch (socket->socket_type) {
    case SHM_SOCKET_STREAM:
      ret =  _shm_close_stream_socket(socket, true);
      break;
    case SHM_SOCKET_DGRAM:
      ret =  _shm_close_dgram_socket(socket);
      break;
    default:
      break;
  }

  s =  pthread_mutex_destroy(&(socket->mutex) );
  if(s != 0) {
    err_exit(s, "shm_close_socket");
  }

  free(socket);
  return ret;
}

// int shm_close_socket(shm_socket_t *socket) {
  
//   // _destrory_tmp_recv_socket_((shm_socket_t *)pthread_getspecific(_tmp_recv_socket_key_));
 
//   return shm_close_socket(socket);;
// }

int shm_socket_bind(shm_socket_t *socket, int key) {
  socket->key = key;
  return 0;
}

int shm_socket_force_bind(shm_socket_t *socket, int key) {
  socket->force_bind = true;
  socket->key = key;
  return 0;
}

int shm_listen(shm_socket_t *socket) {

  if (socket->socket_type != SHM_SOCKET_STREAM) {
    logger->error("can not invoke shm_listen method with a socket which is not a "
                "SHM_SOCKET_STREAM socket");
    exit(1);
  }

  int key;
  hashtable_t *hashtable = mm_get_hashtable();
  if (socket->key == 0) {
    key = hashtable_alloc_key(hashtable);
    socket->key = key;
  } else {

   if(!_shm_socket_check_key(socket)) {
     bus_errno = EBUS_KEY_INUSED;
     return EBUS_KEY_INUSED;
   }
  }

  socket->queue = new SHMQueue<shm_msg_t>(socket->key, 16);
  socket->acceptQueue = new LockFreeQueue<shm_msg_t, DM_Allocator>(16);
  socket->clientSocketMap = new std::map<int, shm_socket_t *>;
  socket->status = SHM_CONN_LISTEN;
  pthread_create(&(socket->dispatch_thread), NULL, _server_run_msg_rev,
                 (void *)socket);

  return 0;
}

/**
 * 接受客户端建立新连接的请求
 *
*/
shm_socket_t *shm_accept(shm_socket_t *socket) {
  if (socket->socket_type != SHM_SOCKET_STREAM) {
    logger->error("can not invoke shm_accept method with a socket which is not a "
                "SHM_SOCKET_STREAM socket");
    exit(1);
  }
  hashtable_t *hashtable = mm_get_hashtable();
  int client_key;
  shm_socket_t *client_socket;
  shm_msg_t src;

  if (socket->acceptQueue->pop(src) == 0) {

    // print_msg("===accept:", src);
    client_key = src.key;
    // client_socket = (shm_socket_t *)malloc(sizeof(shm_socket_t));
    client_socket = shm_open_socket(socket->socket_type);
    client_socket->key = socket->key;
    // client_socket->queue= socket->queue;
    //初始化消息queue
    client_socket->messageQueue =
        new LockFreeQueue<shm_msg_t, DM_Allocator>(16);
    //连接到对方queue
    client_socket->remoteQueue = _attach_remote_queue(client_key);

    socket->clientSocketMap->insert({client_key, client_socket});

    /*
* shm_accept 用户执行的方法
* 与_server_run_msg_rev在两个不同的限制工作,accept要保证在客户的发送消息之前完成资源的准备工作，以避免出现竞态问题
    */
    //发送open_reply,回应客户端的connect请求
    struct timespec timeout = {1, 0};
    shm_msg_t msg;
    msg.key = socket->key;
    msg.size = 0;
    msg.type = SHM_SOCKET_OPEN_REPLY;

    if (client_socket->remoteQueue->push(msg, &timeout, BUS_TIMEOUT_FLAG) == 0) {
      client_socket->status = SHM_CONN_ESTABLISHED;
      return client_socket;
    } else {
      logger->error( "shm_accept: 发送open_reply失败");
      return NULL;
    }

  } else {
    err_exit(errno, "shm_accept");
  }
  return NULL;
}


/**
 * @return 0成功. 其他值失败
 */
int shm_connect(shm_socket_t *socket, int key) {
  if (socket->socket_type != SHM_SOCKET_STREAM) {
    logger->error( "can not invoke shm_connect method with a socket which is not "
                "a SHM_SOCKET_STREAM socket");
    exit(1);
  }
  hashtable_t *hashtable = mm_get_hashtable();
  if (hashtable_get(hashtable, key) == NULL) {
    logger->error("shm_connect：connect at key %d  failed!", key);
    return -1;
  }

  if (socket->key == 0) {
    socket->key = hashtable_alloc_key(hashtable);
  } else {
    if(!_shm_socket_check_key(socket)) {
      bus_errno = EBUS_KEY_INUSED;
      return EBUS_KEY_INUSED;
    }
  }

  socket->queue = new SHMQueue<shm_msg_t>(socket->key, 16);

  if ((socket->remoteQueue = _attach_remote_queue(key)) == NULL) {
    logger->error("connect to %d failted", key);
    return -1;
  }
  socket->messageQueue = new LockFreeQueue<shm_msg_t, DM_Allocator>(16);

  //发送open请求
  struct timespec timeout = {1, 0};
  shm_msg_t msg;
  msg.key = socket->key;
  msg.size = 0;
  msg.type = SHM_SOCKET_OPEN;
  socket->remoteQueue->push(msg, &timeout, BUS_TIMEOUT_FLAG);

  //接受open reply
  if (socket->queue->pop(msg) == 0) {
    // 在这里server端已经准备好接受客户端发送请求了,完成与服务端的连接
    if (msg.type == SHM_SOCKET_OPEN_REPLY) {
      socket->status = SHM_CONN_ESTABLISHED;
      pthread_create(&(socket->dispatch_thread), NULL, _client_run_msg_rev,
                     (void *)socket);
    } else {
      logger->error( "shm_connect: 不匹配的应答信息!");
      exit(1);
    }

  } else {
    logger->error( "connect failted!");
    return -1;
  }

  return 0;
}

int shm_send(shm_socket_t *socket, const void *buf, const int size) {
  if (socket->socket_type != SHM_SOCKET_STREAM) {
    logger->error("shm_socket.shm_send: can not invoke shm_send method with a socket which is not a "
                "SHM_SOCKET_STREAM socket");
    exit(1);
  }
  hashtable_t *hashtable = mm_get_hashtable();
  if(socket->remoteQueue == NULL) {
     err_msg(errno, "当前客户端无连接!");
     return -1;
  }
  shm_msg_t dest;
  dest.type = SHM_COMMON_MSG;
  dest.key = socket->key;
  dest.size = size;
  dest.buf = mm_malloc(size);
  memcpy(dest.buf, buf, size);

  if (socket->remoteQueue->push(dest) == 0) {
    return 0;
  } else {
    logger->error(errno, "connection has been closed!");
    return -1;
  }
}

int shm_recv(shm_socket_t *socket, void **buf, int *size) {
  if (socket->socket_type != SHM_SOCKET_STREAM) {
    logger->error( "shm_socket.shm_recv: can not invoke shm_recv method in a %d type socket  which is "
                "not a SHM_SOCKET_STREAM socket ",
             socket->socket_type);
    exit(1);
  }
  shm_msg_t src;

  if (socket->messageQueue->pop(src) == 0) {
    void *_buf = malloc(src.size);
    memcpy(_buf, src.buf, src.size);
    *buf = _buf;
    *size = src.size;
    mm_free(src.buf);
    return 0;
  } else {
    return -1;
  }
}


// 短连接方式发送
int shm_sendto(shm_socket_t *socket, const void *buf, const int size,
               const int key, const struct timespec *timeout, const int flag) {

  int s;
  int rv;

  if (socket->socket_type != SHM_SOCKET_DGRAM) {
    logger->error( "shm_socket.shm_sendto: Can't invoke shm_sendto method in a %d type socket  which is "
                "not a SHM_SOCKET_DGRAM socket ",
             socket->socket_type);
    exit(0);
  }
  int rv, i;
  hashtable_t *hashtable = mm_get_hashtable();

 
  if ((s = pthread_mutex_lock(&(socket->mutex))) != 0)
    err_exit(s, "shm_sendto : pthread_mutex_lock");

  if (socket->queue == NULL) {
    if (socket->key == 0) {
      socket->key = hashtable_alloc_key(hashtable);
    } else {

     if(!_shm_socket_check_key(socket)) {
        bus_errno = EBUS_KEY_INUSED;
        return EBUS_KEY_INUSED;
     }

    }

    socket->queue = new SHMQueue<shm_msg_t>(socket->key, 16);
  }

  if ((s = pthread_mutex_unlock(&(socket->mutex))) != 0)
    err_exit(s, "shm_sendto : pthread_mutex_unlock");
  
  // There is some case where a socket need to send to himeself, for example when bus server need to stop, he need to send himself 
  // a top message.
  
  // if (key == socket->key) {
  //   logger->error( "can not send to your self!");
  //   return -1;
  // if(sockt->key != 0) {
  //   auto it =  shmQueueStMap->find(sockt->key);
  //   if(it != shmQueueStMap->end()) {
  //     it->second.status = SHM_QUEUE_ST_CLOSED;
  //     it->second.closeTime = time(NULL);
  //   }
  // }

  SHMQueue<shm_msg_t> *remoteQueue;
  if ((remoteQueue = _attach_remote_queue(key)) == NULL) {
    bus_errno = EBUS_CLOSED;
    logger->error("sendto key %d failed, %s", key, bus_strerror(bus_errno));
    return EBUS_CLOSED;
  if(sockt->queue != NULL) {
    sockt->queue->close();
    for( i = 0; i < sockt->queue->size(); i++) {
      mm_free((*(sockt->queue))[i].buf);
      logger->info("======= %d free queue element buf\n", sockt->key);
    }
    sleep(1);

    hashtable_remove(hashtable, sockt->key);
  //   sockt->queue = NULL;
  }

  shm_msg_t dest;
  dest.type = SHM_COMMON_MSG;
  dest.key = socket->key;
  dest.size = size;
  dest.buf = mm_malloc(size);
  memcpy(dest.buf, buf, size);

  rv = remoteQueue->push(dest, timeout, flag);

  if (rv == 0) {
    // printf("shm_sendto push after\n");
    return 0;
  } else {
    mm_free(dest.buf);
    logger->debug("sendto key %d failed %s", key, bus_strerror(rv));
    return rv;
  }
 
  pthread_mutex_destroy(&(sockt->mutex) );
  free(sockt);
  return 0;
}


int shm_socket_close(shm_socket_t *sockt) {

  shm_socket_t * threadlocal_socket = (shm_socket_t *)pthread_getspecific(_localthread_socket_key_);
  if(threadlocal_socket != NULL) {
    _destrory_threadlocal_socket_(threadlocal_socket);
  }
  return _shm_socket_close_(sockt);
}


int shm_socket_stop(shm_socket_t *sockt) {
  struct timespec timeout = {5, 0};
  shm_packet_t sendpak = {0};
  sendpak.key = sockt->key;
  sendpak.action = BUS_ACTION_STOP;
  sendpak.size = 0;
  return shm_sendpakto(sockt, &sendpak, sockt->key, &timeout, BUS_TIMEOUT_FLAG);
}

int shm_socket_bind(shm_socket_t *sockt, int key) {
  sockt->key = key;
  return 0;
}

int shm_socket_force_bind(shm_socket_t *sockt, int key) {
  sockt->force_bind = true;
  sockt->key = key;
  return 0;
}

int shm_socket_bind_proc_id(shm_socket_t *sockt, const char *buf, int len) {
  strncpy(sockt->proc_id, buf, len > MAX_STR_LEN ? MAX_STR_LEN : len);

  return 0;
}

int shm_socket_get_key(shm_socket_t *sockt){
  return sockt->key;
}

int shm_socket_get_procid(shm_socket_t *sockt, char *buf, int len) {
  strncpy(buf, sockt->proc_id, len);

  return 0;
}

// 短连接方式发送
int shm_sendto(shm_socket_t *sockt, const void *buf, const int size, const int key, const struct timespec *timeout, 
                    const int flag, int reset, int data_set) {

  int rv;
 
  shm_packet_t sendpak = {0};
  if (reset == 0) {
    sendpak.key = sockt->key;
  } else {
    sendpak.key = data_set;
  }
  sendpak.size = size;
  if(buf != NULL) {
    sendpak.buf = mm_malloc(size);
    memcpy(sendpak.buf, buf, size);
  }
 
  rv = shm_sendpakto(sockt, &sendpak, key, timeout, flag, reset, data_set);
  return rv;
}

int shm_sendandrecv(shm_socket_t *sockt, const void *send_buf,
                    const int send_size, const int key, void **recv_buf,
                    int *recv_size,  const struct timespec *timeout,  int flags) {
  // return _shm_sendandrecv_uuid(sockt, send_buf, send_size, key, recv_buf, recv_size, timeout, flags);
  return _shm_sendandrecv_thread_local(sockt, send_buf, send_size, key, recv_buf, recv_size, timeout, flags);
} 


/**
 * @callback  void (*recvandsend_callback_fn)(void *recvbuf, int recvsize, int key, void **sendbuf, int *sendsize) 
 *            sendbuf 和 sendsize是callbak_fn回调函数的返回值, 分别表示发送数据，和发送数据的大小。
 * 
 */
int shm_recvandsend(shm_socket_t *sockt,  recvandsend_callback_fn callback, 
  const struct timespec *timeout, int flag, void *user_data) {
  
  int rv;
 
  void *sendbuf, *recvbuf = NULL;
  int sendsize = 0;
  shm_packet_t recvpak = {0};

  rv = shm_recvpakfrom(sockt , &recvpak, timeout, flag);

  if (rv != 0) {
    if(rv == ETIMEDOUT){
      logger->error("%d shm_recvandsend failed %s", shm_socket_get_key(sockt), bus_strerror(EBUS_TIMEOUT));
      return EBUS_TIMEOUT;
    }
    
    logger->error("%d shm_recvandsend failed %s", shm_socket_get_key(sockt), bus_strerror(rv));
    return rv;
  }
   
  if(recvpak.buf != NULL) {
    recvbuf = malloc(recvpak.size);
    memcpy(recvbuf, recvpak.buf, recvpak.size);
    mm_free(recvpak.buf);
  }
 
  callback(recvbuf, recvpak.size, recvpak.key, &sendbuf, &sendsize, user_data);

  shm_packet_t sendpak = {0};
  sendpak.key = sockt->key;
  sendpak.size = sendsize;
  memcpy(sendpak.uuid, recvpak.uuid, sizeof(sendpak.uuid));
  if(sendbuf !=NULL && sendsize > 0) {
    sendpak.buf = mm_malloc(sendsize);
    memcpy(sendpak.buf, sendbuf, sendsize);
  } else {

    logger->warn("%d shm_recvandsend : sendbuf is null", shm_socket_get_key(sockt));
    // return -1;
  }
 
  rv = shm_sendpakto(sockt, &sendpak, recvpak.key, timeout, flag);

  return 0;
  
}

// 短连接方式接受
int shm_recvfrom(shm_socket_t *sokt, void **buf, int *size, int *key,  const struct timespec *timeout,  int flag) {
  int s;
int shm_recvfrom(shm_socket_t *sockt, void **buf, int *size, int *key,  const struct timespec *timeout,  int flag, int reset, int data_set) {
  int rv;

  if (sokt->socket_type != SHM_SOCKET_DGRAM) {
    logger->error("shm_socket.shm_recvfrom: Can't invoke shm_recvfrom method in a %d type socket  which "
                "is not a SHM_SOCKET_DGRAM socket ",
             sokt->socket_type);
    exit(1);
  }
  hashtable_t *hashtable = mm_get_hashtable();

  if ((s = pthread_mutex_lock(&(sokt->mutex))) != 0)
    err_exit(s, "shm_recvfrom : pthread_mutex_lock");
 
  if (sokt->queue == NULL) {
    if (sokt->key == 0) {
      sokt->key = hashtable_alloc_key(hashtable);
    } else {

      if(!_shm_socket_check_key(sokt)) {
        bus_errno = EBUS_KEY_INUSED;
        return EBUS_KEY_INUSED;
      }
    }

    sokt->queue = new SHMQueue<shm_msg_t>(sokt->key, 16);
  }
  
  if ((s = pthread_mutex_unlock(&(sokt->mutex))) != 0)
    err_exit(s, "shm_recvfrom : pthread_mutex_unlock");
  shm_packet_t recvpak;
  rv = shm_recvpakfrom(sockt , &recvpak, timeout, flag, reset, data_set);

  shm_msg_t src;
 
  rv = sokt->queue->pop(src, timeout, flag);
  if (rv != 0) {

  if (rv == 0) {
    if(buf != NULL) {
      void *_buf = malloc(src.size);
      memcpy(_buf, src.buf, src.size);
    logger->error("%d shm_recvfrom failed %s", shm_socket_get_key(sockt), bus_strerror(rv));
    return rv;
   
  } 

  if(recvpak.buf != NULL) {
    if (buf == NULL) {
      logger->warn("!!!Alert: buf should be not NULL!\n"); 
    } else {
      void *_buf = malloc(recvpak.size);
      memcpy(_buf, recvpak.buf, recvpak.size);
      *buf = _buf; 
    }
   
    if(size != NULL)
      *size = src.size;

    if(key != NULL)
      *key = src.key;

    mm_free(src.buf);
    return 0;
  } else {
    logger->debug("shm_recvfrom failed %s", bus_strerror(rv));
    return rv;

  }
 
  if(size != NULL)
    *size = recvpak.size;

  if(key != NULL)
    *key = recvpak.key;

  if(recvpak.key == 0) {
    err_exit(0, "key = %d, pid= %d, recvpak.key == 0",  shm_socket_get_key(sockt), getpid());
  }
  mm_free(recvpak.buf);
  return 0;
}


// =================================================================================================

 /* Free thread-specific data buffer */
static void _destrory_tmp_recv_socket_(void *tmp_socket)
static void _destrory_threadlocal_socket_(void *tmp_socket)
{
  int rv;

  if(tmp_socket == NULL)
    return;

  logger->debug("%d destroy tmp socket\n", pthread_self()); 
  shm_close_socket((shm_socket_t *)tmp_socket);
  rv =  pthread_setspecific(_tmp_recv_socket_key_, NULL);
  
  _shm_socket_close_((shm_socket_t *)tmp_socket);
  rv =  pthread_setspecific(_localthread_socket_key_, NULL);
  if ( rv != 0) {
    logger->error(rv, "shm_sendandrecv : pthread_setspecific");
    exit(1);
@@ -462,287 +322,438 @@
}

/* One-time key creation function */
static void _create_tmp_recv_socket_key(void)
static void _create_threadlocal_socket_key_(void)
{
  int s;

  /* Allocate a unique thread-specific data key and save the address
     of the destructor for thread-specific data buffers */
  s = pthread_key_create(&_tmp_recv_socket_key_, _destrory_tmp_recv_socket_);
  //s = pthread_key_create(&_tmp_recv_socket_key_, NULL);
  s = pthread_key_create(&_localthread_socket_key_, _destrory_threadlocal_socket_);
  //s = pthread_key_create(&_localthread_socket_key_, NULL);
  if (s != 0) {
     logger->error(s, "pthread_key_create");
     abort(); /* dump core and terminate */ 
     exit(1);
  }
}


// use thread local
int _shm_sendandrecv_thread_local(shm_socket_t *socket, const void *send_buf,
                    const int send_size, const int send_key, void **recv_buf,
static int _shm_sendandrecv_uuid(shm_socket_t *sockt, const void *send_buf,
                    const int send_size, const int key, void **recv_buf,
                    int *recv_size,  const struct timespec *timeout,  int flags) {
  int recv_key;
  int rv;

  // 用thread local 保证每个线程用一个独占的socket接受对方返回的信息
  shm_socket_t *tmp_socket;
  int rv, tryn = 16;
  shm_packet_t sendpak;
  shm_packet_t recvpak;
  std::map<std::string, shm_packet_t>::iterator recvbufIter;

  if (socket->socket_type != SHM_SOCKET_DGRAM) {
    logger->error( "shm_socket.shm_sendandrecv: Can't invoke shm_sendandrecv method in a %d type socket  "
                "which is not a SHM_SOCKET_DGRAM socket ",
             socket->socket_type);
    exit(1);
  std::string uuid = sole::uuid4().str();
  
  sendpak.key = sockt->key;
  sendpak.size = send_size;
  if(send_buf != NULL) {
    sendpak.buf = mm_malloc(send_size);
    memcpy(sendpak.buf, send_buf, send_size);
  }
  memcpy(sendpak.uuid, uuid.c_str(), uuid.length() + 1);
  // uuid.copy(sendpak.uuid, sizeof sendpak.uuid);
  rv = shm_sendpakto(sockt, &sendpak, key, timeout, flags);

  if(rv != 0) {
    return rv;
  }

  while(tryn > 0) {
    tryn--;
    recvbufIter = sockt->recvbuf.find(uuid);
    if(recvbufIter != sockt->recvbuf.end()) {
      // 在缓存里查到了UUID匹配成功的
      recvpak = recvbufIter->second;
      sockt->recvbuf.erase(recvbufIter);
      goto LABLE_SUC;
    }

    rv = shm_recvpakfrom(sockt, &recvpak, timeout, flags);

    if (rv != 0) {

      if(rv == ETIMEDOUT) {
        return EBUS_TIMEOUT;
      }

      logger->error("%d shm_recvfrom failed %s", shm_socket_get_key(sockt), bus_strerror(rv));
      return rv;
    } 

    if(strlen(recvpak.uuid) == 0) {
      continue;
    } else if (strncmp(uuid.c_str(), recvpak.uuid, sizeof(recvpak.uuid)) == 0) {
      // 发送与接受的UUID匹配成功
      goto LABLE_SUC;
    } else {
      // 答非所问，放到缓存里
      sockt->recvbuf.insert({recvpak.uuid, recvpak});
      continue;
    }
  }

LABLE_FAIL:
  return EBUS_RECVFROM_WRONG_END;
 
LABLE_SUC:
 if(recv_buf != NULL) {
    void *_buf = malloc(recvpak.size);
    memcpy(_buf, recvpak.buf, recvpak.size);
    *recv_buf = _buf; 
    mm_free(recvpak.buf);
  }
 
  if(recv_size != NULL)
    *recv_size = recvpak.size;

  rv = pthread_once(&_once_, _create_tmp_recv_socket_key);
  return 0;
}

// use thread local
static int _shm_sendandrecv_thread_local(shm_socket_t *sockt, const void *send_buf,
                    const int send_size, const int key, void **recv_buf,
                    int *recv_size,  const struct timespec *timeout,  int flags) {
  
 
  int rv = 0, tryn = 16;
  shm_packet_t sendpak;
  shm_packet_t recvpak;
  std::map<int, shm_packet_t>::iterator recvbufIter;
  // 用thread local 保证每个线程用一个独占的socket接受对方返回的信息
  shm_socket_t *tmp_socket = NULL;
 
  rv = pthread_once(&_once_, _create_threadlocal_socket_key_);
  if (rv != 0) {
    logger->error(rv, "shm_sendandrecv pthread_once");
    exit(1);
  }

  tmp_socket = (shm_socket_t *)pthread_getspecific(_tmp_recv_socket_key_);
  tmp_socket = (shm_socket_t *)pthread_getspecific(_localthread_socket_key_);
  if (tmp_socket == NULL)
  {
    /* If first call from this thread, allocate buffer for thread, and save its location */
    logger->debug("%ld create tmp socket\n", (long)pthread_self() );
    tmp_socket = shm_open_socket(SHM_SOCKET_DGRAM);
    tmp_socket = shm_socket_open(SHM_SOCKET_DGRAM);
    
  }
    
  rv =  pthread_setspecific(_localthread_socket_key_, tmp_socket);
  if ( rv != 0) {
    logger->error(rv, "shm_sendandrecv : pthread_setspecific");
    exit(1);
  }
 
  sendpak.key = tmp_socket->key;
  sendpak.size = send_size;
  if(send_buf != NULL) {
    sendpak.buf = mm_malloc(send_size);
    memcpy(sendpak.buf, send_buf, send_size);
  }
  rv = shm_sendpakto(tmp_socket, &sendpak, key, timeout, flags);

    rv =  pthread_setspecific(_tmp_recv_socket_key_, tmp_socket);
    if ( rv != 0) {
      logger->error(rv, "shm_sendandrecv : pthread_setspecific");
      exit(1);
  if(rv != 0) {
    return rv;
  }

  while(tryn > 0) {
    tryn--;
    recvbufIter = tmp_socket->recvbuf2.find(key);
    if(recvbufIter != tmp_socket->recvbuf2.end()) {
      // 在缓存里查到了key匹配成功的
      recvpak = recvbufIter->second;
      tmp_socket->recvbuf2.erase(recvbufIter);
      goto LABLE_SUC;
    }

    rv = shm_recvpakfrom(tmp_socket, &recvpak, timeout, flags);

    if (rv != 0) {
      logger->error("%d shm_recvfrom failed %s", shm_socket_get_key(tmp_socket), bus_strerror(rv));
      return rv;
    } 

    if (key == recvpak.key) {
      // 发送与接受的UUID匹配成功
      goto LABLE_SUC;
    } else {
      // 答非所问，放到缓存里
      tmp_socket->recvbuf2.insert({recvpak.key, recvpak});
      exit(0);
      continue;
    }
  }

  if ((rv = shm_sendto(tmp_socket, send_buf, send_size, send_key, timeout, flags)) == 0) {
    rv = shm_recvfrom(tmp_socket, recv_buf, recv_size, &recv_key, timeout, flags);
    return rv;
  } else {
    return rv;
LABLE_FAIL:
  return EBUS_RECVFROM_WRONG_END;
 
LABLE_SUC:
  if(recv_buf != NULL) {
    void *_buf = malloc(recvpak.size);
    memcpy(_buf, recvpak.buf, recvpak.size);
    *recv_buf = _buf; 
    mm_free(recvpak.buf);
  }
 
  if(recv_size != NULL)
    *recv_size = recvpak.size;
  
  return 0;
}

int _shm_sendandrecv_alloc_new(shm_socket_t *socket, const void *send_buf,
static int _shm_sendandrecv_alloc_new(shm_socket_t *sockt, const void *send_buf,
                    const int send_size, const int send_key, void **recv_buf,
                    int *recv_size,  const struct timespec *timeout,  int flags) {
  int recv_key;
  int rv;

  // 用thread local 保证每个线程用一个独占的socket接受对方返回的信息
  int tryn = 0;
  shm_socket_t *tmp_socket;

  if (socket->socket_type != SHM_SOCKET_DGRAM) {
    logger->error( "shm_socket.shm_sendandrecv: Can't invoke shm_sendandrecv method in a %d type socket  "
                "which is not a SHM_SOCKET_DGRAM socket ",
             socket->socket_type);
    exit(1);
  }
 
  /* If first call from this thread, allocate buffer for thread, and save its location */
  // logger->debug("%d create tmp socket\n", pthread_self() );
  tmp_socket = shm_open_socket(SHM_SOCKET_DGRAM);
 
  tmp_socket = shm_socket_open(SHM_SOCKET_DGRAM);

  if ((rv = shm_sendto(tmp_socket, send_buf, send_size, send_key, timeout, flags)) == 0) {
    rv = shm_recvfrom(tmp_socket, recv_buf, recv_size, &recv_key, timeout, flags);
   
    while(tryn < 3) {
      tryn++;
      rv = shm_recvfrom(tmp_socket, recv_buf, recv_size, &recv_key, timeout, flags);
      if(rv != 0) {
        logger->error("_shm_sendandrecv_alloc_new : %s\n", bus_strerror(rv));
        return rv;
      }
     
      // 超时导致接发送对象，与返回对象不对应的情况
      if(send_key != recv_key) {

        logger->error( "_shm_sendandrecv_alloc_new: send key expect to equal to recv key! send key =%d , recv key=%d", send_key, recv_key);
        
        continue;
      }
      return 0;
    }
    
    return EBUS_RECVFROM_WRONG_END;
  } 
   
  shm_close_socket(tmp_socket);  
  _shm_socket_close_(tmp_socket);  
  return rv;
 
}

// int shm_sendandrecv_unsafe(shm_socket_t *socket, const void *send_buf,
//                     const int send_size, const int send_key, void **recv_buf,
//                     int *recv_size,  const struct timespec *timeout,  int flags) {
//   if (socket->socket_type != SHM_SOCKET_DGRAM) {
//     logger->error( "shm_socket.shm_sendandrecv_unsafe : Can't invoke shm_sendandrecv method in a %d type socket  "
//                 "which is not a SHM_SOCKET_DGRAM socket ",
//              socket->socket_type);
//     exit(1);
//   }
//   int recv_key;
//   int rv;

 
//   if ((rv = shm_sendto(socket, send_buf, send_size, send_key, timeout, flags)) == 0) {
//     rv = shm_recvfrom(socket, recv_buf, recv_size, &recv_key, timeout, flags);
//     return rv;
//   } else {
//     return rv;
//   }
//   return -1;
// }

int shm_sendandrecv(shm_socket_t *socket, const void *send_buf,
                    const int send_size, const int send_key, void **recv_buf,
                    int *recv_size,  const struct timespec *timeout,  int flags) {
  return  _shm_sendandrecv_thread_local(socket, send_buf, send_size, send_key,recv_buf, recv_size, timeout,  flags);
}
   
static int shm_sendpakto(shm_socket_t *sockt,  shm_packet_t *sendpak, const int key, const struct timespec *timeout, 
                          const int flag, int reset, int data_set) {


// ============================================================================================================

/**
 * 绑定key到队列，但是并不会创建队列。如果没有对应指定key的队列提示错误并退出
 */
SHMQueue<shm_msg_t> *_attach_remote_queue(int key) {

  int rv;
  shm_queue_status_t stRecord;
  LockFreeQueue<shm_packet_t> *remoteQueue;
  LockFreeQueue<shm_packet_t> *fixedQueue;
  hashtable_t *hashtable = mm_get_hashtable();
  if (hashtable_get(hashtable, key) == NULL) {
    //logger->error("shm_socket._remote_queue_attach：connet at key %d  failed!", key);
    return NULL;

  if ((reset != 0) && (data_set == 0)) {
    return EBUS_KEY_INUSED;
  }

  SHMQueue<shm_msg_t> *queue = new SHMQueue<shm_msg_t>(key, 0);
  return queue;
}

void _server_close_conn_to_client(shm_socket_t *socket, int key) {
  shm_socket_t *client_socket;
  std::map<int, shm_socket_t *>::iterator iter =
      socket->clientSocketMap->find(key);
  if (iter != socket->clientSocketMap->end()) {
    client_socket = iter->second;
    free((void *)client_socket);
    socket->clientSocketMap->erase(iter);
  if (reset != 0) {
    fixedQueue = shm_socket_attach_queue(data_set);
  }
}

/**
 * server端各种类型消息（）在这里进程分拣
 */
void *_server_run_msg_rev(void *_socket) {
  pthread_detach(pthread_self());
  shm_socket_t *socket = (shm_socket_t *)_socket;
  struct timespec timeout = {1, 0};
  shm_msg_t src;
  shm_socket_t *client_socket;
  std::map<int, shm_socket_t *>::iterator iter;
  if (((reset == 0) && (sockt->queue != NULL)) || ((reset != 0) && (fixedQueue != NULL)))
    goto LABEL_PUSH;

  while (socket->queue->pop(src) == 0) {

    switch (src.type) {
    case SHM_SOCKET_OPEN:
      socket->acceptQueue->push(src, &timeout, BUS_TIMEOUT_FLAG);
      break;
    case SHM_SOCKET_CLOSE:
      _server_close_conn_to_client(socket, src.key);
      break;
    case SHM_COMMON_MSG:

      iter = socket->clientSocketMap->find(src.key);
      if (iter != socket->clientSocketMap->end()) {
        client_socket = iter->second;
        // print_msg("_server_run_msg_rev push before", src);
        client_socket->messageQueue->push(src, &timeout, BUS_TIMEOUT_FLAG);
        // print_msg("_server_run_msg_rev push after", src);
  // if(hashtable_get_queue_count(hashtable) > QUEUE_COUNT_LIMIT) {
  //   return EBUS_EXCEED_LIMIT;
  // }
 
  {
    if ((rv = pthread_mutex_lock(&(sockt->mutex))) != 0)
    err_exit(rv, "shm_sendto : pthread_mutex_lock");
    
    if ((sockt->queue == NULL) && (reset == 0)) {
      if (sockt->key == 0) {
        sockt->key = hashtable_alloc_key(hashtable);
      }
      sockt->queue = shm_socket_bind_queue( sockt->key, sockt->force_bind);
      if(sockt->queue  == NULL ) {
        logger->error("%s. key = %d", bus_strerror(EBUS_KEY_INUSED), sockt->key);
        if ((rv = pthread_mutex_unlock(&(sockt->mutex))) != 0)
          err_exit(rv, "shm_sendto : pthread_mutex_unlock");
        return EBUS_KEY_INUSED;
      }

      break;

    default:
       logger->error("shm_socket._server_run_msg_rev: undefined message type.");
      // 标记key对应的状态 ，为opened
      // stRecord.status = SHM_QUEUE_ST_OPENED;
      // stRecord.createTime = time(NULL);
      // shmQueueStMap->insert({sockt->key, stRecord});
      
    }
  }

  return NULL;
}

void _client_close_conn_to_server(shm_socket_t *socket) {

  _shm_close_stream_socket(socket, false);
}

/**
 * client端的各种类型消息（）在这里进程分拣
 */
void *_client_run_msg_rev(void *_socket) {
  pthread_detach(pthread_self());
  shm_socket_t *socket = (shm_socket_t *)_socket;
  struct timespec timeout = {1, 0};
  shm_msg_t src;

  while (socket->queue->pop(src) == 0) {
    switch (src.type) {

    case SHM_SOCKET_CLOSE:
      _client_close_conn_to_server(socket);
      break;
    case SHM_COMMON_MSG:
      socket->messageQueue->push(src, &timeout, BUS_TIMEOUT_FLAG);
      break;
    default:
       logger->error( "shm_socket._client_run_msg_rev: undefined message type.");
    if ((fixedQueue == NULL) && (reset != 0)) {
      fixedQueue = shm_socket_bind_queue(data_set, false);
      if (fixedQueue == NULL ) {
        logger->error("%s. key = %d", bus_strerror(EBUS_KEY_INUSED), sockt->key);
        if ((rv = pthread_mutex_unlock(&(sockt->mutex))) != 0)
          err_exit(rv, "shm_sendto : pthread_mutex_unlock");
        return EBUS_KEY_INUSED;
      }
    }
  }

  return NULL;
}

int _shm_close_stream_socket(shm_socket_t *socket, bool notifyRemote) {
  socket->status = SHM_CONN_CLOSED;
  //给对方发送一个关闭连接的消息
  struct timespec timeout = {1, 0};
  shm_msg_t close_msg;

  close_msg.key = socket->key;
  close_msg.size = 0;
  close_msg.type = SHM_SOCKET_CLOSE;
  if (notifyRemote && socket->remoteQueue != NULL) {
    socket->remoteQueue->push(close_msg, &timeout, BUS_TIMEOUT_FLAG);
  }

  if (socket->queue != NULL) {
    delete socket->queue;
    socket->queue = NULL;
  }

    if ((rv = pthread_mutex_unlock(&(sockt->mutex))) != 0)
      err_exit(rv, "shm_sendto : pthread_mutex_unlock");
  

  if (socket->messageQueue != NULL) {
    delete socket->messageQueue;
    socket->messageQueue = NULL;
  }

  if (socket->acceptQueue != NULL) {
    delete socket->acceptQueue;
    socket->acceptQueue = NULL;
  }

  if (socket->clientSocketMap != NULL) {
    shm_socket_t *client_socket;
    for (auto iter = socket->clientSocketMap->begin();
         iter != socket->clientSocketMap->end(); iter++) {
      client_socket = iter->second;

      client_socket->remoteQueue->push(close_msg, &timeout, BUS_TIMEOUT_FLAG);
      client_socket->remoteQueue = NULL;

      delete client_socket->messageQueue;
      client_socket->messageQueue = NULL;
      free((void *)client_socket);
    }
    delete socket->clientSocketMap;
  }

  if (socket->dispatch_thread != 0)
    pthread_cancel(socket->dispatch_thread);

  
  return 0;

}

int _shm_close_dgram_socket(shm_socket_t *socket){
   if(socket->queue != NULL) {
      delete socket->queue;
      socket->queue = NULL;
   }
	
   return 0;
}

 
 LABEL_PUSH: 
  if (sendpak->action != BUS_ACTION_STOP && key == sockt->key) {
    logger->error( "can not send to your self!");
    return EBUS_SENDTO_SELF;
  }

  // 检查key标记的状态
  // auto it =  shmQueueStMap->find(key);
  // if(it != shmQueueStMap->end()) {
  //   if(it->second.status == SHM_QUEUE_ST_CLOSED) {
  //     // key对应的状态是关闭的
  //     goto ERR_CLOSED;
  //   }
  // }

  remoteQueue = shm_socket_attach_queue(key);

  if (remoteQueue == NULL ) {
    goto ERR_CLOSED;
  } else if(remoteQueue->isClosed()) {
    goto ERR_CLOSED;
  }

  if (reset == 0) {
    sendpak->key = sockt->key;
  }
  rv = remoteQueue->push(*sendpak, timeout, flag);

  if(rv != 0) {
    mm_free(sendpak->buf);
  }
  if(rv == ETIMEDOUT) {
    return EBUS_TIMEOUT;
  }
  return rv;

ERR_CLOSED:
  logger->error("sendto key %d failed, %s", key, bus_strerror(EBUS_CLOSED));
  return EBUS_CLOSED;

}

// 短连接方式接受
static int shm_recvpakfrom(shm_socket_t *sockt, shm_packet_t *_recvpak ,  const struct timespec *timeout,
                            int flag, int reset, int data_set) {
  int rv;
  shm_queue_status_t stRecord;
  LockFreeQueue<shm_packet_t> *fixedQueue;
  hashtable_t *hashtable = mm_get_hashtable();
  shm_packet_t recvpak;

  if ((reset != 0) && (data_set == 0)) {
    return EBUS_KEY_INUSED;
  }

  if (reset != 0) {
    fixedQueue = shm_socket_attach_queue(data_set);
  }

  if (((sockt->queue != NULL) && (reset == 0)) || ((reset != 0) && (fixedQueue != NULL)))
    goto LABEL_POP;

  // if(hashtable_get_queue_count(hashtable) > QUEUE_COUNT_LIMIT) {
  //   return EBUS_EXCEED_LIMIT;
  // }

  {
    if ((rv = pthread_mutex_lock(&(sockt->mutex))) != 0)
      err_exit(rv, "shm_recvfrom : pthread_mutex_lock");
 
    if ((sockt->queue == NULL) && (reset == 0)) {
      if (sockt->key == 0) {
        sockt->key = hashtable_alloc_key(hashtable);
      }  
      sockt->queue = shm_socket_bind_queue( sockt->key, sockt->force_bind);
      if(sockt->queue  == NULL ) {
        logger->error("%s. key = %d", bus_strerror(EBUS_KEY_INUSED), sockt->key);
        if ((rv = pthread_mutex_unlock(&(sockt->mutex))) != 0)
          err_exit(rv, "shm_recvfrom : pthread_mutex_unlock");
        return EBUS_KEY_INUSED;
      }
      
      // 标记key对应的状态 ，为opened
      // stRecord.status = SHM_QUEUE_ST_OPENED;
      // stRecord.createTime = time(NULL);
      // shmQueueStMap->insert({sockt->key, stRecord});
    }

    if ((fixedQueue == NULL) && (reset != 0)) {
      fixedQueue = shm_socket_bind_queue(data_set, false);
      if (fixedQueue == NULL ) {
        logger->error("%s. key = %d", bus_strerror(EBUS_KEY_INUSED), sockt->key);
        if ((rv = pthread_mutex_unlock(&(sockt->mutex))) != 0)
          err_exit(rv, "shm_sendto : pthread_mutex_unlock");
        return EBUS_KEY_INUSED;
      }
    }
    
    if ((rv = pthread_mutex_unlock(&(sockt->mutex))) != 0)
      err_exit(rv, "shm_recvfrom : pthread_mutex_unlock");

  }
  
LABEL_POP:

  if (reset == 0) {
    rv = sockt->queue->pop(recvpak, timeout, flag);
  } else {
    rv = fixedQueue->pop(recvpak, timeout, flag);
  }
  if(rv != 0) {
    if(rv == ETIMEDOUT) {
      return EBUS_TIMEOUT;
    }
    return rv;
  }

  
  if(recvpak.action == BUS_ACTION_STOP) {
    return EBUS_STOPED;
  }
  *_recvpak = recvpak;
  return 0;
}

void proc_copy(char *dst, void *src, int *counter) {
  int count = 0;
  ProcInfo *ptr = static_cast<ProcInfo *>(src);

  memcpy(dst, ptr->proc_id, strlen(ptr->proc_id) + 1);
  count = strlen(ptr->proc_id) + 1;
  memcpy(dst + count, ptr->name, strlen(ptr->name) + 1);
  count += strlen(ptr->name) + 1;
  memcpy(dst + count, ptr->public_info, strlen(ptr->public_info) + 1);
  count += strlen(ptr->public_info) + 1;
  memcpy(dst + count, ptr->private_info, strlen(ptr->private_info) + 1);
  count += strlen(ptr->private_info) + 1;
  memcpy(dst + count, ptr->int_info, strlen(ptr->int_info) + 1);
  count += strlen(ptr->int_info) + 1;
  memcpy(dst + count, ptr->svr_info, strlen(ptr->svr_info) + 1);
  count += strlen(ptr->svr_info) + 1;

  *counter = count;
}