update

wangzhengquan

2021-02-01 5e463316508fbb0bd79c8b4b68cd461b302a4da1

 src/socket/shm_socket.cpp

@@ -14,18 +14,15 @@
}

static pthread_once_t _once_ = PTHREAD_ONCE_INIT;
static pthread_key_t _tmp_recv_socket_key_;
static pthread_key_t _perthread_socket_key_;

static void *_server_run_msg_rev(void *_socket);

static void *_client_run_msg_rev(void *_socket);
 

static int _shm_close_dgram_socket(shm_socket_t *socket);

static int _shm_close_stream_socket(shm_socket_t *socket, bool notifyRemote);

static void _destrory_tmp_recv_socket_(void *tmp_socket);
static void _create_tmp_recv_socket_key(void);
static void _destrory_socket_perthread(void *tmp_socket);
static void _create_socket_key_perthread(void);

// 检查key是否已经被使用，是返回0, 否返回1
// static  int  _shm_socket_check_key(shm_socket_t *socket) {
@@ -39,25 +36,53 @@
// }

//  检查key是否已经被使用， 未被使用则绑定key
static int check_and_bind_queue(shm_socket_t * sockt) {
static LockFreeQueue<shm_msg_t> * shm_socket_bind_queue(int key, bool force) {
  hashtable_t *hashtable = mm_get_hashtable();
  LockFreeQueue<shm_msg_t> *queue;
  hashtable_lock(hashtable);
  void *tmp_ptr = mm_get_by_key(sockt->key);
  if (tmp_ptr!= NULL && tmp_ptr != (void *)1 && !sockt->force_bind ) {
  void *tmp_ptr = hashtable_get(hashtable, key);
  if (tmp_ptr == NULL || tmp_ptr == (void *)1 || force ) {
    queue = new LockFreeQueue<shm_msg_t>(16);
    hashtable_put(hashtable, key, (void *)queue);
    hashtable_unlock(hashtable);
    return EBUS_KEY_INUSED;
    return queue;
  }
  sockt->queue = new SHMQueue<shm_msg_t>(sockt->key, 16);
  
  hashtable_unlock(hashtable);
  return 0;
  return NULL;
}

SHMQueue<shm_msg_t> *_attach_remote_queue(int key);
/**
 * 绑定key到队列，但是并不会创建队列。
 */
static LockFreeQueue<shm_msg_t> * shm_socket_attach_queue(int key) {
  LockFreeQueue<shm_msg_t> * queue;
  hashtable_t *hashtable = mm_get_hashtable();
  // hashtable_lock(hashtable);
  void *tmp_ptr = hashtable_get(hashtable, key);
  if (tmp_ptr == NULL || tmp_ptr == (void *)1) {
    //logger->error("shm_socket._remote_queue_attach：connet at key %d  failed!", key);
    return NULL;
  }

  queue = ( LockFreeQueue<shm_msg_t> *)tmp_ptr;
  // hashtable_unlock(hashtable);
  return queue;
}


size_t shm_socket_remove_keys(int keys[], size_t length) {
  return SHMQueue<shm_msg_t>::remove_queues(keys,  length);
  hashtable_t *hashtable = mm_get_hashtable();
  LockFreeQueue<shm_msg_t> *mqueue;
  size_t count = 0;
  for(int i = 0; i< length; i++) {
    // 销毁共享内存的queue
    mqueue = (LockFreeQueue<shm_msg_t> *)hashtable_get(hashtable, keys[i]);
    delete mqueue;
    hashtable_remove(hashtable, keys[i]);
    count++;
  }
  return count;
}

shm_socket_t *shm_open_socket(shm_socket_type_t socket_type) {
@@ -69,8 +94,8 @@
  socket->socket_type = socket_type;
  socket->key = 0;
  socket->force_bind = false;
  socket->dispatch_thread = 0;
  socket->status = SHM_CONN_CLOSED;
  // socket->dispatch_thread = 0;


  s = pthread_mutexattr_init(&mtxAttr);
  if (s != 0)
@@ -91,19 +116,10 @@

int shm_close_socket(shm_socket_t *socket) {
  
  int ret, s;
  int s;
  
  logger->debug("shm_close_socket\n");
  switch (socket->socket_type) {
    case SHM_SOCKET_STREAM:
      ret =  _shm_close_stream_socket(socket, true);
      break;
    case SHM_SOCKET_DGRAM:
      ret =  _shm_close_dgram_socket(socket);
      break;
    default:
      break;
  }
  _shm_close_dgram_socket(socket);

  s =  pthread_mutex_destroy(&(socket->mutex) );
  if(s != 0) {
@@ -111,12 +127,12 @@
  }

  free(socket);
  return ret;
  return 0;
}

// int shm_close_socket(shm_socket_t *socket) {
  
//   // _destrory_tmp_recv_socket_((shm_socket_t *)pthread_getspecific(_tmp_recv_socket_key_));
//   // _destrory_socket_perthread((shm_socket_t *)pthread_getspecific(_perthread_socket_key_));
 
//   return shm_close_socket(socket);;
// }
@@ -136,200 +152,7 @@
  return sk->key;
}

int shm_listen(shm_socket_t *sockt) {
  int rv;
  if (sockt->socket_type != SHM_SOCKET_STREAM) {
    logger->error("can not invoke shm_listen method with a socket which is not a "
                "SHM_SOCKET_STREAM socket");
    exit(1);
  }

  int key;
  hashtable_t *hashtable = mm_get_hashtable();
  if (sockt->key == 0) {
    key = hashtable_alloc_key(hashtable);
    sockt->key = key;
  } else {

    rv = check_and_bind_queue(sockt);
    if(rv !=0 ) {
      return rv;
    }
  }

  sockt->queue = new SHMQueue<shm_msg_t>(sockt->key, 16);
  sockt->acceptQueue = new LockFreeQueue<shm_msg_t, DM_Allocator>(16);
  sockt->clientSocketMap = new std::map<int, shm_socket_t *>;
  sockt->status = SHM_CONN_LISTEN;
  pthread_create(&(sockt->dispatch_thread), NULL, _server_run_msg_rev,
                 (void *)sockt);

  return 0;
}

/**
 * 接受客户端建立新连接的请求
 *
*/
shm_socket_t *shm_accept(shm_socket_t *sockt) {
  if (sockt->socket_type != SHM_SOCKET_STREAM) {
    logger->error("can not invoke shm_accept method with a socket which is not a "
                "SHM_SOCKET_STREAM socket");
    exit(1);
  }
  hashtable_t *hashtable = mm_get_hashtable();
  int client_key;
  shm_socket_t *client_socket;
  shm_msg_t src;

  if (sockt->acceptQueue->pop(src) == 0) {

    // print_msg("===accept:", src);
    client_key = src.key;
    // client_socket = (shm_socket_t *)malloc(sizeof(shm_socket_t));
    client_socket = shm_open_socket(sockt->socket_type);
    client_socket->key = sockt->key;
    // client_socket->queue= socket->queue;
    //初始化消息queue
    client_socket->messageQueue =
        new LockFreeQueue<shm_msg_t, DM_Allocator>(16);
    //连接到对方queue
    client_socket->remoteQueue = _attach_remote_queue(client_key);

    sockt->clientSocketMap->insert({client_key, client_socket});

    /*
* shm_accept 用户执行的方法
* 与_server_run_msg_rev在两个不同的限制工作,accept要保证在客户的发送消息之前完成资源的准备工作，以避免出现竞态问题
    */
    //发送open_reply,回应客户端的connect请求
    struct timespec timeout = {1, 0};
    shm_msg_t msg;
    msg.key = sockt->key;
    msg.size = 0;
    msg.type = SHM_SOCKET_OPEN_REPLY;

    if (client_socket->remoteQueue->push(msg, &timeout, BUS_TIMEOUT_FLAG) == 0) {
      client_socket->status = SHM_CONN_ESTABLISHED;
      return client_socket;
    } else {
      logger->error( "shm_accept: 发送open_reply失败");
      return NULL;
    }

  } else {
    err_exit(errno, "shm_accept");
  }
  return NULL;
}


/**
 * @return 0成功. 其他值失败
 */
int shm_connect(shm_socket_t *sockt, int key) {
  int rv;
  if (sockt->socket_type != SHM_SOCKET_STREAM) {
    logger->error( "can not invoke shm_connect method with a socket which is not "
                "a SHM_SOCKET_STREAM socket");
    exit(1);
  }
  hashtable_t *hashtable = mm_get_hashtable();
  if (hashtable_get(hashtable, key) == NULL) {
    logger->error("shm_connect：connect at key %d  failed!", key);
    return -1;
  }

  if (sockt->key == 0) {
    sockt->key = hashtable_alloc_key(hashtable);
    sockt->queue = new SHMQueue<shm_msg_t>(sockt->key, 16);
  } else {
    rv = check_and_bind_queue(sockt);
    if(rv != 0 ) {
      return rv;
    }
  }

  if ((sockt->remoteQueue = _attach_remote_queue(key)) == NULL) {
    logger->error("connect to %d failted", key);
    return -1;
  }
  sockt->messageQueue = new LockFreeQueue<shm_msg_t, DM_Allocator>(16);

  //发送open请求
  struct timespec timeout = {1, 0};
  shm_msg_t msg;
  msg.key = sockt->key;
  msg.size = 0;
  msg.type = SHM_SOCKET_OPEN;
  sockt->remoteQueue->push(msg, &timeout, BUS_TIMEOUT_FLAG);

  //接受open reply
  if (sockt->queue->pop(msg) == 0) {
    // 在这里server端已经准备好接受客户端发送请求了,完成与服务端的连接
    if (msg.type == SHM_SOCKET_OPEN_REPLY) {
      sockt->status = SHM_CONN_ESTABLISHED;
      pthread_create(&(sockt->dispatch_thread), NULL, _client_run_msg_rev,
                     (void *)sockt);
    } else {
      logger->error( "shm_connect: 不匹配的应答信息!");
      exit(1);
    }

  } else {
    logger->error( "connect failted!");
    return -1;
  }

  return 0;
}

int shm_send(shm_socket_t *sockt, const void *buf, const int size) {
  if (sockt->socket_type != SHM_SOCKET_STREAM) {
    logger->error("shm_socket.shm_send: can not invoke shm_send method with a socket which is not a "
                "SHM_SOCKET_STREAM socket");
    exit(1);
  }
  hashtable_t *hashtable = mm_get_hashtable();
  if(sockt->remoteQueue == NULL) {
     err_msg(errno, "当前客户端无连接!");
     return -1;
  }
  shm_msg_t dest;
  dest.type = SHM_COMMON_MSG;
  dest.key = sockt->key;
  dest.size = size;
  dest.buf = mm_malloc(size);
  memcpy(dest.buf, buf, size);

  if (sockt->remoteQueue->push(dest) == 0) {
    return 0;
  } else {
    logger->error(errno, "connection has been closed!");
    return -1;
  }
}

int shm_recv(shm_socket_t *sockt, void **buf, int *size) {
  if (sockt->socket_type != SHM_SOCKET_STREAM) {
    logger->error( "shm_socket.shm_recv: can not invoke shm_recv method in a %d type socket  which is "
                "not a SHM_SOCKET_STREAM socket ",
             sockt->socket_type);
    exit(1);
  }
  shm_msg_t src;

  if (sockt->messageQueue->pop(src) == 0) {
    void *_buf = malloc(src.size);
    memcpy(_buf, src.buf, src.size);
    *buf = _buf;
    *size = src.size;
    mm_free(src.buf);
    return 0;
  } else {
    return -1;
  }
}
  


// 短连接方式发送
@@ -354,15 +177,11 @@
  if (sockt->queue == NULL) {
    if (sockt->key == 0) {
      sockt->key = hashtable_alloc_key(hashtable);
      sockt->queue = new SHMQueue<shm_msg_t>(sockt->key, 16);
    } else {
      rv = check_and_bind_queue(sockt);
      if(rv !=0 ) {
        return rv;
      }
    }

    
    sockt->queue = shm_socket_bind_queue( sockt->key, sockt->force_bind);
    if(sockt->queue  == NULL ) {
      return EBUS_KEY_INUSED;
    }
  }

  if ((s = pthread_mutex_unlock(&(sockt->mutex))) != 0)
@@ -376,8 +195,8 @@
    return EBUS_SENDTO_SELF;
  }

  SHMQueue<shm_msg_t> *remoteQueue;
  if ((remoteQueue = _attach_remote_queue(key)) == NULL) {
  LockFreeQueue<shm_msg_t> *remoteQueue;
  if ((remoteQueue = shm_socket_attach_queue(key)) == NULL) {
    bus_errno = EBUS_CLOSED;
    logger->error("sendto key %d failed, %s", key, bus_strerror(bus_errno));
    return EBUS_CLOSED;
@@ -397,7 +216,7 @@
    return 0;
  } else {
    mm_free(dest.buf);
    logger->debug("%d sendto key %d failed %s", shm_socket_get_key(sockt), key, bus_strerror(rv));
    logger->debug("====%d sendto key %d failed %s", shm_socket_get_key(sockt), key, bus_strerror(rv));
    return rv;
  }
}
@@ -422,12 +241,10 @@
  if (sokt->queue == NULL) {
    if (sokt->key == 0) {
      sokt->key = hashtable_alloc_key(hashtable);
      sokt->queue = new SHMQueue<shm_msg_t>(sokt->key, 16);
    } else {
      rv = check_and_bind_queue(sokt);
      if(rv != 0 ) {
        return rv;
      }
    }  
    sokt->queue = shm_socket_bind_queue( sokt->key, sokt->force_bind);
    if(sokt->queue  == NULL ) {
      return EBUS_KEY_INUSED;
    }
  }
  
@@ -462,7 +279,7 @@


 /* Free thread-specific data buffer */
static void _destrory_tmp_recv_socket_(void *tmp_socket)
static void _destrory_socket_perthread(void *tmp_socket)
{
  int rv;
  if(tmp_socket == NULL)
@@ -470,7 +287,7 @@

  logger->debug("%d destroy tmp socket\n", pthread_self()); 
  shm_close_socket((shm_socket_t *)tmp_socket);
  rv =  pthread_setspecific(_tmp_recv_socket_key_, NULL);
  rv =  pthread_setspecific(_perthread_socket_key_, NULL);
  if ( rv != 0) {
    logger->error(rv, "shm_sendandrecv : pthread_setspecific");
    exit(1);
@@ -478,14 +295,14 @@
}

/* One-time key creation function */
static void _create_tmp_recv_socket_key(void)
static void _create_socket_key_perthread(void)
{
  int s;

  /* Allocate a unique thread-specific data key and save the address
     of the destructor for thread-specific data buffers */
  s = pthread_key_create(&_tmp_recv_socket_key_, _destrory_tmp_recv_socket_);
  //s = pthread_key_create(&_tmp_recv_socket_key_, NULL);
  s = pthread_key_create(&_perthread_socket_key_, _destrory_socket_perthread);
  //s = pthread_key_create(&_perthread_socket_key_, NULL);
  if (s != 0) {
     logger->error(s, "pthread_key_create");
     abort(); /* dump core and terminate */ 
@@ -512,20 +329,20 @@
  }
 

  rv = pthread_once(&_once_, _create_tmp_recv_socket_key);
  rv = pthread_once(&_once_, _create_socket_key_perthread);
  if (rv != 0) {
    logger->error(rv, "shm_sendandrecv pthread_once");
    exit(1);
  }

  tmp_socket = (shm_socket_t *)pthread_getspecific(_tmp_recv_socket_key_);
  tmp_socket = (shm_socket_t *)pthread_getspecific(_perthread_socket_key_);
  if (tmp_socket == NULL)
  {
    /* If first call from this thread, allocate buffer for thread, and save its location */
    logger->debug("%ld create tmp socket\n", (long)pthread_self() );
    tmp_socket = shm_open_socket(SHM_SOCKET_DGRAM);

    rv =  pthread_setspecific(_tmp_recv_socket_key_, tmp_socket);
    rv =  pthread_setspecific(_perthread_socket_key_, tmp_socket);
    if ( rv != 0) {
      logger->error(rv, "shm_sendandrecv : pthread_setspecific");
      exit(1);
@@ -572,12 +389,16 @@

  if ((rv = shm_sendto(tmp_socket, send_buf, send_size, send_key, timeout, flags)) == 0) {
    rv = shm_recvfrom(tmp_socket, recv_buf, recv_size, &recv_key, timeout, flags);
    printf("======%d use tmp_socket %d, send to  %d, receive from  %d\n", shm_socket_get_key(sockt), shm_socket_get_key(tmp_socket), send_key, recv_key);
    
   
    if(rv != 0) {
      printf("_shm_sendandrecv_alloc_new : %s\n", bus_strerror(rv));
    }
    else if(rv == 0 ) {
      printf("======%d use tmp_socket %d, send to  %d, receive from  %d\n", shm_socket_get_key(sockt), shm_socket_get_key(tmp_socket), send_key, recv_key);
    
      if(recv_key == shm_socket_get_key(sockt)) {
        printf("=====收到了自己发给自己的消息\n");
      }
      assert( send_key == recv_key);
      if(send_key != recv_key) {
         err_exit(0, "_shm_sendandrecv_alloc_new: send key expect to equal to recv key! send key =%d , recv key=%d", send_key, recv_key);
@@ -600,157 +421,8 @@


// ============================================================================================================

/**
 * 绑定key到队列，但是并不会创建队列。如果没有对应指定key的队列提示错误并退出
 */
SHMQueue<shm_msg_t> *_attach_remote_queue(int key) {

  hashtable_t *hashtable = mm_get_hashtable();
  if (hashtable_get(hashtable, key) == NULL) {
    //logger->error("shm_socket._remote_queue_attach：connet at key %d  failed!", key);
    return NULL;
  }

  SHMQueue<shm_msg_t> *queue = new SHMQueue<shm_msg_t>(key, 0);
  return queue;
}

void _server_close_conn_to_client(shm_socket_t *socket, int key) {
  shm_socket_t *client_socket;
  std::map<int, shm_socket_t *>::iterator iter =
      socket->clientSocketMap->find(key);
  if (iter != socket->clientSocketMap->end()) {
    client_socket = iter->second;
    free((void *)client_socket);
    socket->clientSocketMap->erase(iter);
  }
}

/**
 * server端各种类型消息（）在这里进程分拣
 */
void *_server_run_msg_rev(void *_socket) {
  pthread_detach(pthread_self());
  shm_socket_t *socket = (shm_socket_t *)_socket;
  struct timespec timeout = {1, 0};
  shm_msg_t src;
  shm_socket_t *client_socket;
  std::map<int, shm_socket_t *>::iterator iter;

  while (socket->queue->pop(src) == 0) {

    switch (src.type) {
    case SHM_SOCKET_OPEN:
      socket->acceptQueue->push(src, &timeout, BUS_TIMEOUT_FLAG);
      break;
    case SHM_SOCKET_CLOSE:
      _server_close_conn_to_client(socket, src.key);
      break;
    case SHM_COMMON_MSG:

      iter = socket->clientSocketMap->find(src.key);
      if (iter != socket->clientSocketMap->end()) {
        client_socket = iter->second;
        // print_msg("_server_run_msg_rev push before", src);
        client_socket->messageQueue->push(src, &timeout, BUS_TIMEOUT_FLAG);
        // print_msg("_server_run_msg_rev push after", src);
      }

      break;

    default:
       logger->error("shm_socket._server_run_msg_rev: undefined message type.");
    }
  }

  return NULL;
}

void _client_close_conn_to_server(shm_socket_t *socket) {

  _shm_close_stream_socket(socket, false);
}

/**
 * client端的各种类型消息（）在这里进程分拣
 */
void *_client_run_msg_rev(void *_socket) {
  pthread_detach(pthread_self());
  shm_socket_t *socket = (shm_socket_t *)_socket;
  struct timespec timeout = {1, 0};
  shm_msg_t src;

  while (socket->queue->pop(src) == 0) {
    switch (src.type) {

    case SHM_SOCKET_CLOSE:
      _client_close_conn_to_server(socket);
      break;
    case SHM_COMMON_MSG:
      socket->messageQueue->push(src, &timeout, BUS_TIMEOUT_FLAG);
      break;
    default:
       logger->error( "shm_socket._client_run_msg_rev: undefined message type.");
    }
  }

  return NULL;
}

int _shm_close_stream_socket(shm_socket_t *socket, bool notifyRemote) {
  socket->status = SHM_CONN_CLOSED;
  //给对方发送一个关闭连接的消息
  struct timespec timeout = {1, 0};
  shm_msg_t close_msg;

  close_msg.key = socket->key;
  close_msg.size = 0;
  close_msg.type = SHM_SOCKET_CLOSE;
  if (notifyRemote && socket->remoteQueue != NULL) {
    socket->remoteQueue->push(close_msg, &timeout, BUS_TIMEOUT_FLAG);
  }

  if (socket->queue != NULL) {
    delete socket->queue;
    socket->queue = NULL;
  }

  

  if (socket->messageQueue != NULL) {
    delete socket->messageQueue;
    socket->messageQueue = NULL;
  }

  if (socket->acceptQueue != NULL) {
    delete socket->acceptQueue;
    socket->acceptQueue = NULL;
  }

  if (socket->clientSocketMap != NULL) {
    shm_socket_t *client_socket;
    for (auto iter = socket->clientSocketMap->begin();
         iter != socket->clientSocketMap->end(); iter++) {
      client_socket = iter->second;

      client_socket->remoteQueue->push(close_msg, &timeout, BUS_TIMEOUT_FLAG);
      client_socket->remoteQueue = NULL;

      delete client_socket->messageQueue;
      client_socket->messageQueue = NULL;
      free((void *)client_socket);
    }
    delete socket->clientSocketMap;
  }

  if (socket->dispatch_thread != 0)
    pthread_cancel(socket->dispatch_thread);

  
  return 0;

}
 
 

int _shm_close_dgram_socket(shm_socket_t *socket){
   if(socket->queue != NULL) {