update

wangzhengquan

2021-02-02 cb85aa8a8d02a3d6dc16e3f32e78da9e70f9c7f5

 src/socket/shm_socket.cpp

@@ -9,43 +9,32 @@



static void print_msg(char *head, shm_msg_t &msg) {
static void print_msg(char *head, shm_packet_t &msg) {
  // err_msg(0, "%s: key=%d, type=%d\n", head, msg.key, msg.type);
}

static pthread_once_t _once_ = PTHREAD_ONCE_INIT;
static pthread_key_t _perthread_socket_key_;

 

static int _shm_close_dgram_socket(shm_socket_t *socket);


static void _destrory_socket_perthread(void *tmp_socket);
static void _create_socket_key_perthread(void);

// 检查key是否已经被使用，是返回0, 否返回1
// static  int  _shm_socket_check_key(shm_socket_t *socket) {
//    void *tmp_ptr = mm_get_by_key(socket->key);
//     if (tmp_ptr!= NULL && tmp_ptr != (void *)1 && !socket->force_bind ) {
//       bus_errno = EBUS_KEY_INUSED;
//       logger->error("%s. key = %d ", bus_strerror(EBUS_KEY_INUSED), socket->key);
//       return 0;
//     }
//     return 1;
// }

//  检查key是否已经被使用， 未被使用则绑定key
static LockFreeQueue<shm_msg_t> * shm_socket_bind_queue(int key, bool force) {
static LockFreeQueue<shm_packet_t> * shm_socket_bind_queue(int key, bool force) {
  hashtable_t *hashtable = mm_get_hashtable();
  LockFreeQueue<shm_msg_t> *queue;
  LockFreeQueue<shm_packet_t> *queue;
  hashtable_lock(hashtable);
  void *tmp_ptr = hashtable_get(hashtable, key);
  if (tmp_ptr == NULL || tmp_ptr == (void *)1 || force ) {
    queue = new LockFreeQueue<shm_msg_t>(16);


  if (tmp_ptr == NULL || tmp_ptr == (void *)1  ) {
    queue = new LockFreeQueue<shm_packet_t>(16);
    hashtable_put(hashtable, key, (void *)queue);
    hashtable_unlock(hashtable);
    return queue;
  } else if(force) {
    hashtable_unlock(hashtable);
    return (LockFreeQueue<shm_packet_t> *) queue;
  }
  
  hashtable_unlock(hashtable);
@@ -55,17 +44,16 @@
/**
 * 绑定key到队列，但是并不会创建队列。
 */
static LockFreeQueue<shm_msg_t> * shm_socket_attach_queue(int key) {
  LockFreeQueue<shm_msg_t> * queue;
static LockFreeQueue<shm_packet_t> * shm_socket_attach_queue(int key) {
  LockFreeQueue<shm_packet_t> * queue;
  hashtable_t *hashtable = mm_get_hashtable();
  // hashtable_lock(hashtable);
  void *tmp_ptr = hashtable_get(hashtable, key);
  if (tmp_ptr == NULL || tmp_ptr == (void *)1) {
    //logger->error("shm_socket._remote_queue_attach：connet at key %d  failed!", key);
    return NULL;
  }

  queue = ( LockFreeQueue<shm_msg_t> *)tmp_ptr;
  queue = ( LockFreeQueue<shm_packet_t> *)tmp_ptr;
  // hashtable_unlock(hashtable);
  return queue;
}
@@ -73,11 +61,11 @@

size_t shm_socket_remove_keys(int keys[], size_t length) {
  hashtable_t *hashtable = mm_get_hashtable();
  LockFreeQueue<shm_msg_t> *mqueue;
  LockFreeQueue<shm_packet_t> *mqueue;
  size_t count = 0;
  for(int i = 0; i< length; i++) {
    // 销毁共享内存的queue
    mqueue = (LockFreeQueue<shm_msg_t> *)hashtable_get(hashtable, keys[i]);
    mqueue = (LockFreeQueue<shm_packet_t> *)hashtable_get(hashtable, keys[i]);
    delete mqueue;
    hashtable_remove(hashtable, keys[i]);
    count++;
@@ -94,7 +82,7 @@
  socket->socket_type = socket_type;
  socket->key = 0;
  socket->force_bind = false;
  // socket->dispatch_thread = 0;
  socket->queue = NULL;


  s = pthread_mutexattr_init(&mtxAttr);
@@ -119,7 +107,10 @@
  int s;
  
  logger->debug("shm_close_socket\n");
  _shm_close_dgram_socket(socket);
  if(socket->queue != NULL) {
    delete socket->queue;
    socket->queue = NULL;
  }

  s =  pthread_mutex_destroy(&(socket->mutex) );
  if(s != 0) {
@@ -130,12 +121,6 @@
  return 0;
}

// int shm_close_socket(shm_socket_t *socket) {
  
//   // _destrory_socket_perthread((shm_socket_t *)pthread_getspecific(_perthread_socket_key_));
 
//   return shm_close_socket(socket);;
// }

int shm_socket_bind(shm_socket_t *socket, int key) {
  socket->key = key;
@@ -159,20 +144,13 @@
int shm_sendto(shm_socket_t *sockt, const void *buf, const int size,
               const int key, const struct timespec *timeout, const int flag) {

  int s;
  int rv;

  if (sockt->socket_type != SHM_SOCKET_DGRAM) {
    logger->error( "shm_socket.shm_sendto: Can't invoke shm_sendto method in a %d type socket  which is "
                "not a SHM_SOCKET_DGRAM socket ",
             sockt->socket_type);
    exit(0);
  }
  hashtable_t *hashtable = mm_get_hashtable();

 
  if ((s = pthread_mutex_lock(&(sockt->mutex))) != 0)
    err_exit(s, "shm_sendto : pthread_mutex_lock");
  if ((rv = pthread_mutex_lock(&(sockt->mutex))) != 0)
    err_exit(rv, "shm_sendto : pthread_mutex_lock");

  if (sockt->queue == NULL) {
    if (sockt->key == 0) {
@@ -180,12 +158,13 @@
    }
    sockt->queue = shm_socket_bind_queue( sockt->key, sockt->force_bind);
    if(sockt->queue  == NULL ) {
      logger->error("%s. key = %d", bus_strerror(EBUS_KEY_INUSED), sockt->key);
      return EBUS_KEY_INUSED;
    }
  }

  if ((s = pthread_mutex_unlock(&(sockt->mutex))) != 0)
    err_exit(s, "shm_sendto : pthread_mutex_unlock");
  if ((rv = pthread_mutex_unlock(&(sockt->mutex))) != 0)
    err_exit(rv, "shm_sendto : pthread_mutex_unlock");
  
  // There is some case where a sockt need to send to himeself, for example when bus server need to stop, he need to send himself 
  // a top message.
@@ -195,15 +174,14 @@
    return EBUS_SENDTO_SELF;
  }

  LockFreeQueue<shm_msg_t> *remoteQueue;
  LockFreeQueue<shm_packet_t> *remoteQueue;
  if ((remoteQueue = shm_socket_attach_queue(key)) == NULL) {
    bus_errno = EBUS_CLOSED;
    logger->error("sendto key %d failed, %s", key, bus_strerror(bus_errno));
    return EBUS_CLOSED;
  }

  shm_msg_t dest;
  dest.type = SHM_COMMON_MSG;
  shm_packet_t dest;
  dest.key = sockt->key;
  dest.size = size;
  dest.buf = mm_malloc(size);
@@ -216,44 +194,42 @@
    return 0;
  } else {
    mm_free(dest.buf);
    logger->debug("====%d sendto key %d failed %s", shm_socket_get_key(sockt), key, bus_strerror(rv));
    return rv;
    if(rv == ETIMEDOUT)
      return EBUS_TIMEOUT;
    else {
      logger->debug("====%d sendto key %d failed %s", shm_socket_get_key(sockt), key, bus_strerror(rv));
      return rv;
    }
  }
}


// 短连接方式接受
int shm_recvfrom(shm_socket_t *sokt, void **buf, int *size, int *key,  const struct timespec *timeout,  int flag) {
  int s;
int shm_recvfrom(shm_socket_t *sockt, void **buf, int *size, int *key,  const struct timespec *timeout,  int flag) {
  int rv;

  if (sokt->socket_type != SHM_SOCKET_DGRAM) {
    logger->error("shm_socket.shm_recvfrom: Can't invoke shm_recvfrom method in a %d type socket  which "
                "is not a SHM_SOCKET_DGRAM socket ",
             sokt->socket_type);
    exit(1);
  }
  
  hashtable_t *hashtable = mm_get_hashtable();

  if ((s = pthread_mutex_lock(&(sokt->mutex))) != 0)
    err_exit(s, "shm_recvfrom : pthread_mutex_lock");
  if ((rv = pthread_mutex_lock(&(sockt->mutex))) != 0)
    err_exit(rv, "shm_recvfrom : pthread_mutex_lock");
 
  if (sokt->queue == NULL) {
    if (sokt->key == 0) {
      sokt->key = hashtable_alloc_key(hashtable);
  if (sockt->queue == NULL) {
    if (sockt->key == 0) {
      sockt->key = hashtable_alloc_key(hashtable);
    }  
    sokt->queue = shm_socket_bind_queue( sokt->key, sokt->force_bind);
    if(sokt->queue  == NULL ) {
    sockt->queue = shm_socket_bind_queue( sockt->key, sockt->force_bind);
    if(sockt->queue  == NULL ) {
      logger->error("%s. key = %d", bus_strerror(EBUS_KEY_INUSED), sockt->key);
      return EBUS_KEY_INUSED;
    }
  }
  
  if ((s = pthread_mutex_unlock(&(sokt->mutex))) != 0)
    err_exit(s, "shm_recvfrom : pthread_mutex_unlock");
  if ((rv = pthread_mutex_unlock(&(sockt->mutex))) != 0)
    err_exit(rv, "shm_recvfrom : pthread_mutex_unlock");

  shm_msg_t src;
  shm_packet_t src;
 
  rv = sokt->queue->pop(src, timeout, flag);
  rv = sockt->queue->pop(src, timeout, flag);

  if (rv == 0) {
    if(buf != NULL) {
@@ -271,8 +247,13 @@
    mm_free(src.buf);
    return 0;
  } else {
    logger->debug("shm_recvfrom failed %s", bus_strerror(rv));
    return rv;
    if(rv == ETIMEDOUT)
      return EBUS_TIMEOUT;
    else {
      logger->debug("%d shm_recvfrom failed %s", shm_socket_get_key(sockt), bus_strerror(rv));
      return rv;
    }
   

  }
}
@@ -305,30 +286,24 @@
  //s = pthread_key_create(&_perthread_socket_key_, NULL);
  if (s != 0) {
     logger->error(s, "pthread_key_create");
     abort(); /* dump core and terminate */ 
     exit(1);
  }
}


// use thread local
int _shm_sendandrecv_thread_local(shm_socket_t *socket, const void *send_buf,
int _shm_sendandrecv_thread_local(shm_socket_t *sockt, const void *send_buf,
                    const int send_size, const int send_key, void **recv_buf,
                    int *recv_size,  const struct timespec *timeout,  int flags) {
  int recv_key;
  int rv;
  int tryn = 0;

  // 用thread local 保证每个线程用一个独占的socket接受对方返回的信息
  shm_socket_t *tmp_socket;

  if (socket->socket_type != SHM_SOCKET_DGRAM) {
    logger->error( "shm_socket.shm_sendandrecv: Can't invoke shm_sendandrecv method in a %d type socket  "
                "which is not a SHM_SOCKET_DGRAM socket ",
             socket->socket_type);
    exit(1);
  }
 

  /* If first call from this thread, allocate buffer for thread, and save its location */
  // logger->debug("%d create tmp socket\n", pthread_self() );
  rv = pthread_once(&_once_, _create_socket_key_perthread);
  if (rv != 0) {
    logger->error(rv, "shm_sendandrecv pthread_once");
@@ -350,21 +325,31 @@
  }

  if ((rv = shm_sendto(tmp_socket, send_buf, send_size, send_key, timeout, flags)) == 0) {
    rv = shm_recvfrom(tmp_socket, recv_buf, recv_size, &recv_key, timeout, flags);
    if(rv != 0) {
      printf("_shm_sendandrecv_thread_local : %s\n", bus_strerror(rv));
    }
    else if(rv == 0 ) {
      assert( send_key == recv_key);
      if(send_key != recv_key) {
         err_exit(0, "_shm_sendandrecv_thread_local: send key expect to equal to recv key! send key =%d , recv key=%d", send_key, recv_key);

    while(tryn < 3) {
      tryn++;
      rv = shm_recvfrom(tmp_socket, recv_buf, recv_size, &recv_key, timeout, flags);
      if(rv != 0) {
        logger->error("_shm_sendandrecv_thread_local : %s\n", bus_strerror(rv));
        return rv;
      }
     
       // 超时导致接发送对象，与返回对象不对应的情况
      if(send_key != recv_key) {
        logger->debug("======%d use tmp_socket %d, send to  %d, receive from  %d\n", shm_socket_get_key(sockt), shm_socket_get_key(tmp_socket), send_key, recv_key);
        // logger->error( "_shm_sendandrecv_alloc_new: send key expect to equal to recv key! send key =%d , recv key=%d", send_key, recv_key);
        // exit(1);
        continue;
        // return EBUS_RECVFROM_WRONG_END;
      }

      return 0;
    }
    return rv;
  } else {
    return rv;
  }
    
    return EBUS_RECVFROM_WRONG_END;
  }  

  return rv;
}

int _shm_sendandrecv_alloc_new(shm_socket_t *sockt, const void *send_buf,
@@ -373,38 +358,34 @@
  int recv_key;
  int rv;

  // 用thread local 保证每个线程用一个独占的socket接受对方返回的信息
  int tryn = 0;
  shm_socket_t *tmp_socket;

  if (sockt->socket_type != SHM_SOCKET_DGRAM) {
    logger->error( "shm_socket.shm_sendandrecv: Can't invoke shm_sendandrecv method in a %d type socket  "
                "which is not a SHM_SOCKET_DGRAM socket ",
             sockt->socket_type);
    exit(1);
  }
 
  /* If first call from this thread, allocate buffer for thread, and save its location */
  // logger->debug("%d create tmp socket\n", pthread_self() );
 
  tmp_socket = shm_open_socket(SHM_SOCKET_DGRAM);

  if ((rv = shm_sendto(tmp_socket, send_buf, send_size, send_key, timeout, flags)) == 0) {
    rv = shm_recvfrom(tmp_socket, recv_buf, recv_size, &recv_key, timeout, flags);
   
    if(rv != 0) {
      printf("_shm_sendandrecv_alloc_new : %s\n", bus_strerror(rv));
    }
    else if(rv == 0 ) {
      printf("======%d use tmp_socket %d, send to  %d, receive from  %d\n", shm_socket_get_key(sockt), shm_socket_get_key(tmp_socket), send_key, recv_key);
    
      if(recv_key == shm_socket_get_key(sockt)) {
        printf("=====收到了自己发给自己的消息\n");
      }
      assert( send_key == recv_key);
      if(send_key != recv_key) {
         err_exit(0, "_shm_sendandrecv_alloc_new: send key expect to equal to recv key! send key =%d , recv key=%d", send_key, recv_key);
    while(tryn < 3) {
      tryn++;
      rv = shm_recvfrom(tmp_socket, recv_buf, recv_size, &recv_key, timeout, flags);
      if(rv != 0) {
        logger->error("_shm_sendandrecv_thread_local : %s\n", bus_strerror(rv));
        return rv;
      }
     
      // 超时导致接发送对象，与返回对象不对应的情况
      if(send_key != recv_key) {
        // logger->debug("======%d use tmp_socket %d, send to  %d, receive from  %d\n", shm_socket_get_key(sockt), shm_socket_get_key(tmp_socket), send_key, recv_key);
        // logger->error( "_shm_sendandrecv_alloc_new: send key expect to equal to recv key! send key =%d , recv key=%d", send_key, recv_key);
        
        continue;
      }
      return 0;
    }
    
    return EBUS_RECVFROM_WRONG_END;
  } 
   
  shm_close_socket(tmp_socket);  
@@ -416,22 +397,5 @@
                    const int send_size, const int send_key, void **recv_buf,
                    int *recv_size,  const struct timespec *timeout,  int flags) {

  return  _shm_sendandrecv_alloc_new(socket, send_buf, send_size, send_key,recv_buf, recv_size, timeout,  flags);
  return  _shm_sendandrecv_thread_local(socket, send_buf, send_size, send_key,recv_buf, recv_size, timeout,  flags);
}


// ============================================================================================================
 
 

int _shm_close_dgram_socket(shm_socket_t *socket){
   if(socket->queue != NULL) {
      delete socket->queue;
      socket->queue = NULL;
   }
	
   return 0;
}