lock free queue

wangzhengquan

2021-02-22 45e00aca28504b27f3ad6b4abf364c3d57f34510

 src/socket/shm_socket.cpp

@@ -5,10 +5,12 @@
#include <cassert>
#include "bus_error.h"
#include "sole.h"
#include "shm_mm.h"
#include "key_def.h"

static Logger *logger = LoggerFactory::getLogger();


ShmQueueStMap * shmQueueStMap ;

static void print_msg(char *head, shm_packet_t &msg) {
  // err_msg(0, "%s: key=%d, type=%d\n", head, msg.key, msg.type);
@@ -27,7 +29,7 @@
               const int key, const struct timespec *timeout, const int flag);


static int _shm_sendandrecv_use_uuid(shm_socket_t *sockt, const void *send_buf,
static int _shm_sendandrecv_uuid(shm_socket_t *sockt, const void *send_buf,
                    const int send_size, const int key, void **recv_buf,
                    int *recv_size,  const struct timespec *timeout,  int flags);

@@ -74,53 +76,6 @@
  return queue;
}

//删除包含在keys内的queue
// size_t shm_socket_remove_keys(int keys[], size_t length) {
//   hashtable_t *hashtable = mm_get_hashtable();
//   LockFreeQueue<shm_packet_t> *mqueue;
//   size_t count = 0;
//   for(int i = 0; i< length; i++) {
//     // 销毁共享内存的queue
//     mqueue = (LockFreeQueue<shm_packet_t> *)hashtable_get(hashtable, keys[i]);
//     delete mqueue;
//     hashtable_remove(hashtable, keys[i]);
//     count++;
//   }
//   return count;
// }

 
// // 删除不在keys内的queue 
// size_t shm_socket_remove_keys_exclude(int keys[], size_t length) {
//   hashtable_t *hashtable = mm_get_hashtable();
//   std::set<int> *keyset = hashtable_keyset(hashtable);
//   std::set<int>::iterator keyItr;
//   LockFreeQueue<shm_packet_t> *mqueue;
//   bool found;
//   size_t count = 0;
//   for (keyItr = keyset->begin(); keyItr != keyset->end(); keyItr++) {
//     found = false;
//     for (size_t i = 0; i < length; i++) {
//       if (*keyItr == keys[i]) {
//         found = true;
//         break;
//       }
//     }
//     // 100内的是bus内部自己用的
//     if (!found && *keyItr > 100) {
//       // 销毁共享内存的queue
//       mqueue = (LockFreeQueue<shm_packet_t> *)hashtable_get(hashtable, *keyItr);
//       delete mqueue;
//       hashtable_remove(hashtable, *keyItr);
//       count++;
//     }
//   }
//   delete keyset;
//   return count;
// }



shm_socket_t *shm_socket_open(shm_socket_type_t socket_type) {
  int s, type;
  pthread_mutexattr_t mtxAttr;
@@ -148,29 +103,43 @@
  if (s != 0)
    err_exit(s, "pthread_mutexattr_destroy");


  shmQueueStMap = shm_mm_attach<ShmQueueStMap>(SHM_QUEUE_ST_KEY);

  return sockt;
}

int shm_socket_close(shm_socket_t *sockt) {

}

int _shm_socket_close_(shm_socket_t *sockt) {
static int _shm_socket_close_(shm_socket_t *sockt) {
  
  int rv;
  logger->debug("shm_socket_close\n");
  if(sockt->queue != NULL) {
    delete sockt->queue;
    sockt->queue = NULL;
  // if(sockt->queue != NULL) {
  //   delete sockt->queue;
  //   sockt->queue = NULL;
  // }

  // hashtable_remove(hashtable, mkey);

 
  if(sockt->key != 0) {
    auto it =  shmQueueStMap->find(sockt->key);
    if(it != shmQueueStMap->end()) {
      it->second.status = SHM_QUEUE_ST_CLOSED;
      it->second.closeTime = time(NULL);
    }
  }

  rv =  pthread_mutex_destroy(&(sockt->mutex) );
  if(rv != 0) {
    err_exit(rv, "shm_socket_close");
  }
 

  pthread_mutex_destroy(&(sockt->mutex) );
  free(sockt);
  return 0;
}


int shm_socket_close(shm_socket_t *sockt) {
  return _shm_socket_close_(sockt);
}


@@ -221,6 +190,7 @@
int shm_sendandrecv(shm_socket_t *sockt, const void *send_buf,
                    const int send_size, const int key, void **recv_buf,
                    int *recv_size,  const struct timespec *timeout,  int flags) {
  // return _shm_sendandrecv_uuid(sockt, send_buf, send_size, key, recv_buf, recv_size, timeout, flags);
  return _shm_sendandrecv_thread_local(sockt, send_buf, send_size, key, recv_buf, recv_size, timeout, flags);
} 

@@ -324,7 +294,7 @@
    return;

  logger->debug("%d destroy tmp socket\n", pthread_self()); 
  shm_socket_close((shm_socket_t *)tmp_socket);
  _shm_socket_close_((shm_socket_t *)tmp_socket);
  rv =  pthread_setspecific(_perthread_socket_key_, NULL);
  if ( rv != 0) {
    logger->error(rv, "shm_sendandrecv : pthread_setspecific");
@@ -348,11 +318,11 @@
}


static int _shm_sendandrecv_use_uuid(shm_socket_t *sockt, const void *send_buf,
static int _shm_sendandrecv_uuid(shm_socket_t *sockt, const void *send_buf,
                    const int send_size, const int key, void **recv_buf,
                    int *recv_size,  const struct timespec *timeout,  int flags) {

  int rv, tryn = 3;
  int rv, tryn = 6;
  shm_packet_t sendpak;
  shm_packet_t recvpak;
  std::map<std::string, shm_packet_t>::iterator recvbufIter;
@@ -411,24 +381,19 @@

LABLE_FAIL:
  return EBUS_RECVFROM_WRONG_END;
  // return rv;
 
LABLE_SUC:
 if(recv_buf != NULL) {
    void *_buf = malloc(recvpak.size);
    memcpy(_buf, recvpak.buf, recvpak.size);
    *recv_buf = _buf; 
    mm_free(recvpak.buf);
  }
 
  if(recv_size != NULL)
    *recv_size = recvpak.size;

  mm_free(recvpak.buf);

  return 0;



}

// use thread local
@@ -437,7 +402,7 @@
                    int *recv_size,  const struct timespec *timeout,  int flags) {
  
 
  int rv, tryn = 3;
  int rv, tryn = 6;
  shm_packet_t sendpak;
  shm_packet_t recvpak;
  std::map<int, shm_packet_t>::iterator recvbufIter;
@@ -479,18 +444,14 @@
    return rv;
  }

  if(rv != 0) {
    return rv;
  }

  while(tryn > 0) {
    tryn--;
    recvbufIter = tmp_socket->recvbuf2.find(key);
    if(recvbufIter != tmp_socket->recvbuf2.end()) {
      // 在缓存里查到了UUID匹配成功的
// logger->debug("get from recvbuf: %s", uuid.c_str());
      // 在缓存里查到了key匹配成功的
 // logger->info("get from recvbuf: %d", key);
      recvpak = recvbufIter->second;
      sockt->recvbuf2.erase(recvbufIter);
      tmp_socket->recvbuf2.erase(recvbufIter);
      goto LABLE_SUC;
    }

@@ -524,12 +485,13 @@
    void *_buf = malloc(recvpak.size);
    memcpy(_buf, recvpak.buf, recvpak.size);
    *recv_buf = _buf; 
    mm_free(recvpak.buf);
  }
 
  if(recv_size != NULL)
    *recv_size = recvpak.size;

  mm_free(recvpak.buf);
  
  return 0;
}

@@ -569,7 +531,7 @@
    return EBUS_RECVFROM_WRONG_END;
  } 
   
  shm_socket_close(tmp_socket);  
  _shm_socket_close_(tmp_socket);  
  return rv;
 
}
@@ -580,6 +542,8 @@
               const int key, const struct timespec *timeout, const int flag) {

  int rv;
  shm_queue_status_t stRecord;
  LockFreeQueue<shm_packet_t> *remoteQueue;
  hashtable_t *hashtable = mm_get_hashtable();

  if( sockt->queue != NULL) 
@@ -602,6 +566,12 @@
        logger->error("%s. key = %d", bus_strerror(EBUS_KEY_INUSED), sockt->key);
        return EBUS_KEY_INUSED;
      }

      // 标记key对应的状态 ，为opened
      stRecord.status = SHM_QUEUE_ST_OPENED;
      stRecord.createTime = time(NULL);
      shmQueueStMap->insert({sockt->key, stRecord});
      
    }

    if ((rv = pthread_mutex_unlock(&(sockt->mutex))) != 0)
@@ -616,24 +586,34 @@
    return EBUS_SENDTO_SELF;
  }

  LockFreeQueue<shm_packet_t> *remoteQueue;
  if ((remoteQueue = shm_socket_attach_queue(key)) == NULL) {
    bus_errno = EBUS_CLOSED;
    logger->error("sendto key %d failed, %s", key, bus_strerror(bus_errno));
    return EBUS_CLOSED;
  // 检查key标记的状态
  auto it =  shmQueueStMap->find(key);
  if(it != shmQueueStMap->end()) {
    if(it->second.status == SHM_QUEUE_ST_CLOSED) {
      // key对应的状态是关闭的
      goto ERR_CLOSED;
    }
  }

  
  remoteQueue = shm_socket_attach_queue(key);

  if (remoteQueue == NULL ) {
    goto ERR_CLOSED;
  }

  rv = remoteQueue->push(*sendpak, timeout, flag);

  return rv;

ERR_CLOSED:
  logger->error("sendto key %d failed, %s", key, bus_strerror(EBUS_CLOSED));
  return EBUS_CLOSED;

}

// 短连接方式接受
static int shm_recvpakfrom(shm_socket_t *sockt, shm_packet_t *_recvpak ,  const struct timespec *timeout,  int flag) {
  int rv;
  
  shm_queue_status_t stRecord;
  hashtable_t *hashtable = mm_get_hashtable();
  shm_packet_t recvpak;

@@ -658,6 +638,10 @@
      return EBUS_KEY_INUSED;
    }
    
    // 标记key对应的状态 ，为opened
    stRecord.status = SHM_QUEUE_ST_OPENED;
    stRecord.createTime = time(NULL);
    shmQueueStMap->insert({sockt->key, stRecord});
    
    if ((rv = pthread_mutex_unlock(&(sockt->mutex))) != 0)
      err_exit(rv, "shm_recvfrom : pthread_mutex_unlock");
@@ -666,8 +650,15 @@
  
LABEL_POP:

 // 
  // printf("%p start recv.....\n", sockt);
  // 检查key标记的状态
  // auto shmQueueMapIter =  shmQueueStMap->find(sockt->key);
  // if(shmQueueMapIter != shmQueueStMap->end()) {
  //   stRecord = shmQueueMapIter->second;
  //   if(stRecord.status = SHM_QUEUE_ST_CLOSED) {
  //     // key对应的状态是关闭的
  //     goto ERR_CLOSED;
  //   }
  // }
 
  rv = sockt->queue->pop(recvpak, timeout, flag);
  if(rv != 0) 
@@ -680,10 +671,4 @@
  *_recvpak = recvpak;
  return rv;
}
// int shm_sendandrecv(shm_socket_t *sockt, const void *send_buf,
//                     const int send_size, const int send_key, void **recv_buf,
//                     int *recv_size,  const struct timespec *timeout,  int flags) {

//   struct timespec tm = {10, 0};
//   return  _shm_sendandrecv_thread_local(sockt, send_buf, send_size, send_key,recv_buf, recv_size, &tm, flags);
// }