node remove mq if never registered; refactor.

lichao

2021-04-16 c6964d5af25d4ec7ed9dbe7674dc4e3896b36ead

 src/socket.h

@@ -19,8 +19,12 @@
#ifndef SOCKET_GWTJHBPO
#define SOCKET_GWTJHBPO

#include "bh_util.h"
#include "defs.h"
#include "sendq.h"
#include "shm_queue.h"
#include <atomic>
#include <boost/noncopyable.hpp>
#include <condition_variable>
#include <functional>
#include <memory>
@@ -28,48 +32,148 @@
#include <thread>
#include <vector>

class ShmSocket
using namespace bhome_msg;

class ShmSocket : private boost::noncopyable
{
   bool SendImpl(const void *valid_remote, MsgI const &imsg, SendQ::OnMsgEvent onExpire = SendQ::OnMsgEvent())
   {
      // if (!mq().TrySend(*(MQId *) valid_remote, imsg)) {
      send_buffer_.Append(*static_cast<const MQId *>(valid_remote), imsg, onExpire);
      // }
      return true;
   }

protected:
   typedef bhome_shm::ShmMsgQueue Queue;

public:
   enum Type {
      eSockRequest,
      eSockReply,
      eSockSubscribe,
      eSockPublish,
   };
   typedef std::function<void(bhome_msg::BHMsg &msg)> RecvCB;
   typedef bhome_shm::SharedMemory Shm;
   typedef std::function<void(ShmSocket &sock, MsgI &imsg, BHMsgHead &head)> RecvCB;
   typedef std::function<bool(ShmSocket &sock, MsgI &imsg, BHMsgHead &head)> PartialRecvCB;
   typedef std::function<void(ShmSocket &sock)> IdleCB;

   ShmSocket(Type type);
   ShmSocket(Type type, bhome_shm::SharedMemory &shm);
   ShmSocket(Shm &shm, const MQId &id, const int len);
   ShmSocket(Shm &shm, const int len = 12);
   ~ShmSocket();
   static bool Remove(SharedMemory &shm, const MQId &id) { return Queue::Remove(shm, id); }
   bool Remove() { return Remove(shm(), id()); }
   const MQId &id() const { return mq().Id(); }
   // start recv.
   bool Start(int nworker = 1, const RecvCB &onData = RecvCB(), const IdleCB &onIdle = IdleCB());
   bool Start(const RecvCB &onData, const IdleCB &onIdle, int nworker = 1) { return Start(nworker, onData, onIdle); }
   bool Start(const RecvCB &onData, int nworker = 1) { return Start(nworker, onData); }
   bool Stop();
   size_t Pending() const { return mq().Pending(); }

   // bool Request(const std::string &topic, const void *data, const size_t size, onReply);
   bool RequestAndWait() { return false; } // call Request, and wait onReply notify cv
   template <class Body>
   bool Send(const void *valid_remote, const BHMsgHead &head, const Body &body, const RecvCB &cb = RecvCB())
   {
      MsgI msg;
      if (msg.Make(shm(), head, body)) {
         DEFER1(if (msg.IsCounted()) { msg.Release(shm()); });
         std::string msg_id(head.msg_id());
         if (!cb) {
            return SendImpl(valid_remote, msg);
         } else {
            per_msg_cbs_->Add(msg_id, cb);
            auto onExpireRemoveCB = [this, msg_id](MsgI const &msg) {
               RecvCB cb_no_use;
               per_msg_cbs_->Find(msg_id, cb_no_use);
            };
            return SendImpl(valid_remote, msg, onExpireRemoveCB);
         }
      } else {
         SetLastError(ENOMEM, "Out of mem");
      }
      return false;
   }

   // bool HandleRequest(onData);
   bool ReadRequest(); // exclude with HandleRequest
   bool SendReply();   // exclude with HandleRequest
   bool Send(const void *valid_remote, const MsgI &imsg)
   {
      return SendImpl(valid_remote, imsg);
   }

   bool Publish(const std::string &topic, const void *data, const size_t size, const int timeout_ms);
   bool Subscribe(const std::vector<std::string> &topics, const int timeout_ms);
   bool RecvSub(std::string &topic, std::string &data, const int timeout_ms);
   bool SetRecvCallback(const RecvCB &onRecv);
   bool SyncRecv(MsgI &msg, bhome::msg::BHMsgHead &head, const int timeout_ms);

   template <class Body>
   bool SendAndRecv(const void *remote, const BHMsgHead &head, const Body &body, MsgI &reply, BHMsgHead &reply_head, const int timeout_ms)
   {
      struct State {
         std::mutex mutex;
         std::condition_variable cv;
         bool canceled = false;
      };

      try {
         std::shared_ptr<State> st(new State);
         auto endtime = std::chrono::steady_clock::now() + std::chrono::milliseconds(timeout_ms);

         auto OnRecv = [st, &reply, &reply_head](ShmSocket &sock, MsgI &msg, BHMsgHead &head) {
            std::unique_lock<std::mutex> lk(st->mutex);
            if (!st->canceled) {
               reply.swap(msg);
               reply_head.Swap(&head);
               st->cv.notify_one();
            } else { // ignore
            }
         };

         std::unique_lock<std::mutex> lk(st->mutex);
         bool sendok = Send(remote, head, body, OnRecv);
         if (!sendok) {
            printf("send timeout\n");
         }
         if (sendok && st->cv.wait_until(lk, endtime) == std::cv_status::no_timeout) {
            return true;
         } else {
            st->canceled = true;
            return false;
         }
      } catch (...) {
         return false;
      }
   }

   Shm &shm() const { return mq().shm(); }

protected:
   Queue &mq() { return mq_; } // programmer should make sure that mq_ is valid.
   const Queue &mq() const { return mq_; }
   std::mutex &mutex() { return mutex_; }

private:
   bool HasRecvCB();
   void Stop();
   bool StopNoLock();
   bool RunningNoLock() { return !workers_.empty(); }

   bhome_shm::SharedMemory &shm_;
   Type type_;
   std::vector<std::thread> workers_;
   std::mutex mutex_;
   std::condition_variable cv_recv_cb_;
   std::atomic<bool> run_;
   RecvCB onRecv_;

   std::unique_ptr<Queue> mq_;
   Queue mq_;
   class AsyncCBs
   {
      std::unordered_map<std::string, RecvCB> store_;

   public:
      bool empty() const { return store_.empty(); }
      bool Add(const std::string &id, const RecvCB &cb) { return store_.emplace(id, cb).second; }
      bool Find(const std::string &id, RecvCB &cb)
      {
         auto pos = store_.find(id);
         if (pos != store_.end()) {
            cb.swap(pos->second);
            store_.erase(pos);
            return true;
         } else {
            return false;
         }
      }
   };

   Synced<AsyncCBs> per_msg_cbs_;
   SendQ send_buffer_;
   // Synced<SendQ> send_buffer_;
};

#endif // end of include guard: SOCKET_GWTJHBPO