add api BHQueryProcs.

lichao

2021-05-19 34cd75f77d0ca94dbdba4e6cc9451fe4d33e78b3

 utest/api_test.cpp

@@ -16,6 +16,7 @@
 * =====================================================================================
 */
#include "bh_api.h"
#include "robust.h"
#include "util.h"
#include <atomic>
#include <boost/lockfree/queue.hpp>
@@ -96,216 +97,10 @@
   // printf("client Recv reply : %s\n", reply.data().c_str());
}

class TLMutex
{
   typedef boost::interprocess::interprocess_mutex MutexT;
   // typedef CasMutex MutexT;
   // typedef std::mutex MutexT;
   typedef std::chrono::steady_clock Clock;
   typedef Clock::duration Duration;
   static Duration Now() { return Clock::now().time_since_epoch(); }

   const Duration limit_;
   std::atomic<Duration> last_lock_time_;
   MutexT mutex_;
   bool Expired(const Duration diff) { return diff > limit_; }

public:
   struct Status {
      int64_t nlock_ = 0;
      int64_t nupdate_time_fail = 0;
      int64_t nfail = 0;
      int64_t nexcept = 0;
   };
   Status st_;

   explicit TLMutex(Duration limit) :
       limit_(limit) {}
   TLMutex() :
       TLMutex(std::chrono::seconds(1)) {}
   ~TLMutex() { static_assert(std::is_pod<Duration>::value); }
   bool try_lock()
   {
      if (mutex_.try_lock()) {
         auto old_time = last_lock_time_.load();
         auto cur = Now();
         if (Expired(cur - old_time)) {
            return last_lock_time_.compare_exchange_strong(old_time, cur);
         } else {
            last_lock_time_.store(Now());
            return true;
         }
      } else {
         auto old_time = last_lock_time_.load();
         auto cur = Now();
         if (Expired(cur - old_time)) {
            return last_lock_time_.compare_exchange_strong(old_time, cur);
         } else {
            return false;
         }
      }
   }
   void lock()
   {
      int n = 0;
      while (!try_lock()) {
         n++;
         std::this_thread::yield();
      }
      st_.nlock_ += n;
   }
   void unlock()
   {
      auto old_time = last_lock_time_.load();
      auto cur = Now();
      if (!Expired(cur - old_time)) {
         if (last_lock_time_.compare_exchange_strong(old_time, cur)) {
            mutex_.unlock();
         }
      }
   }
};

//robust attr does NOT work, maybe os does not support it.
class RobustMutex
{
public:
   RobustMutex()
   {
      pthread_mutexattr_t mutex_attr;
      auto attr = [&]() { return &mutex_attr; };
      int r = pthread_mutexattr_init(attr());
      r |= pthread_mutexattr_setpshared(attr(), PTHREAD_PROCESS_SHARED);
      r |= pthread_mutexattr_setrobust_np(attr(), PTHREAD_MUTEX_ROBUST_NP);
      r |= pthread_mutex_init(mtx(), attr());
      int rob = 0;
      pthread_mutexattr_getrobust_np(attr(), &rob);
      int shared = 0;
      pthread_mutexattr_getpshared(attr(), &shared);
      printf("robust : %d, shared : %d\n", rob, shared);
      r |= pthread_mutexattr_destroy(attr());
      if (r) {
         throw("init mutex error.");
      }
   }
   ~RobustMutex()
   {
      pthread_mutex_destroy(mtx());
   }

public:
   void lock() { Lock(); }
   bool try_lock()
   {
      int r = TryLock();
      printf("TryLock ret: %d\n", r);
      return r == 0;
   }

   void unlock() { Unlock(); }

   // private:
   int TryLock() { return pthread_mutex_trylock(mtx()); }
   int Lock() { return pthread_mutex_lock(mtx()); }
   int Unlock() { return pthread_mutex_unlock(mtx()); }

private:
   pthread_mutex_t *mtx() { return &mutex_; }
   pthread_mutex_t mutex_;
};

class LockFreeQueue
{
   typedef int64_t Data;
   typedef boost::lockfree::queue<Data, boost::lockfree::capacity<1024>> LFQueue;
   void push_back(Data d) { queue_.push(d); }

private:
   LFQueue queue_;
};

} // namespace

BOOST_AUTO_TEST_CASE(MutexTest)
{
   SharedMemory &shm = TestShm();
   // shm.Remove();
   // return;
   GlobalInit(shm);

   const std::string mtx_name("test_mutex");
   const std::string int_name("test_int");
   auto mtx = shm.FindOrCreate<TLMutex>(mtx_name);
   auto pi = shm.FindOrCreate<int>(int_name, 100);

   std::mutex m;
   typedef std::chrono::steady_clock Clock;
   auto Now = []() { return Clock::now().time_since_epoch(); };
   if (pi) {
      auto old = *pi;
      printf("int : %d, add1: %d\n", old, ++*pi);
   }

   {
      boost::timer::auto_cpu_timer timer;
      printf("test time: ");
      TLMutex mutex;
      // CasMutex mutex;
      auto Lock = [&]() {
         for (int i = 0; i < 10; ++i) {
            mutex.lock();
            mutex.unlock();
         }
      };
      std::thread t1(Lock), t2(Lock);
      t1.join();
      t2.join();
      printf("mutex nlock: %ld, update time error: %ld, normal fail: %ld, error wait: %ld\n",
             mutex.st_.nlock_,
             mutex.st_.nupdate_time_fail,
             mutex.st_.nfail,
             mutex.st_.nexcept);
   }

   auto MSFromNow = [](const int ms) {
      using namespace boost::posix_time;
      ptime cur = boost::posix_time::microsec_clock::universal_time();
      return cur + millisec(ms);
   };

   auto TryLock = [&]() {
      if (mtx->try_lock()) {
         printf("try_lock ok\n");
         return true;
      } else {
         printf("try_lock failed\n");
         return false;
      }
   };
   auto Unlock = [&]() {
      mtx->unlock();
      printf("unlocked\n");
   };

   if (mtx) {
      printf("mtx exists\n");
      if (TryLock()) {
         auto op = [&]() {
            if (TryLock()) {
               Unlock();
            }
         };
         op();
         std::thread t(op);
         t.join();
         // Unlock();
      } else {
         // mtx->unlock();
      }
   } else {
      printf("mtx not exists\n");
   }
}
#include <chrono>
using namespace std::chrono;
// using namespace std::chrono_literals;

BOOST_AUTO_TEST_CASE(ApiTest)
{
@@ -323,6 +118,8 @@

   printf("maxsec: %ld\n", CountSeconds(max_time));

   // BHCleanup();
   // return;
   bool reg = false;
   for (int i = 0; i < 3 && !reg; ++i) {
      ProcInfo proc;
@@ -332,7 +129,23 @@
      void *reply = 0;
      int reply_len = 0;
      reg = BHRegister(proc_buf.data(), proc_buf.size(), &reply, &reply_len, 2000);
      printf("register %s\n", reg ? "ok" : "failed");
      if (reg) {
         printf("register ok\n");
         // bool r = BHUnregister(proc_buf.data(), proc_buf.size(), &reply, &reply_len, 2000);
         // printf("unregister %s\n", r ? "ok" : "failed");
         // reg = BHRegister(proc_buf.data(), proc_buf.size(), &reply, &reply_len, 2000);
         // if (!reg) {
         //    int ec = 0;
         //    std::string msg;
         //    GetLastError(ec, msg);
         //    printf("reg error: %s\n", msg.c_str());
         // }
      } else {
         int ec = 0;
         std::string msg;
         GetLastError(ec, msg);
         printf("register failed, %d, %s\n", ec, msg.c_str());
      }

      BHFree(reply, reply_len);
      Sleep(1s);
@@ -352,9 +165,36 @@
      void *reply = 0;
      int reply_len = 0;
      bool r = BHRegisterTopics(s.data(), s.size(), &reply, &reply_len, 1000);
      BHFree(reply, reply_len);
      DEFER1(BHFree(reply, reply_len));
      // printf("register topic : %s\n", r ? "ok" : "failed");
      Sleep(1s);
      // Sleep(1s);
   }
   {
      // query procs
      std::string dest(BHAddress().SerializeAsString());
      MsgQueryProc query;
      std::string s = query.SerializeAsString();
      void *reply = 0;
      int reply_len = 0;
      bool r = BHQueryProcs(dest.data(), dest.size(), s.data(), s.size(), &reply, &reply_len, 1000);
      DEFER1(BHFree(reply, reply_len));
      MsgQueryProcReply result;
      if (result.ParseFromArray(reply, reply_len) && IsSuccess(result.errmsg().errcode())) {
         printf("query proc result: %d\n", result.proc_list().size());
         for (int i = 0; i < result.proc_list().size(); ++i) {
            auto &info = result.proc_list(i);
            printf("proc [%d] %s, %s, %s\n\ttopics\n", i,
                   (info.online() ? "online" : "offline"),
                   info.proc().proc_id().c_str(), info.proc().name().c_str());
            for (auto &t : info.topics().topic_list()) {
               printf("\t\t %s", t.c_str());
            }
         }
      } else {
         printf("query proc error\n");
      }
      // printf("register topic : %s\n", r ? "ok" : "failed");
      // Sleep(1s);
   }

   { // Subscribe
@@ -397,7 +237,7 @@

   auto SyncRequest = [&](int idx) { // SyncRequest
      MsgRequestTopic req;
      req.set_topic(topic_ + std::to_string(idx));
      req.set_topic(topic_ + std::to_string(0));
      req.set_data("request_data_" + std::to_string(idx));
      std::string s(req.SerializeAsString());
      // Sleep(10ms, false);
@@ -442,6 +282,7 @@
         DEFER1(BHFree(msg_id, len););
         // Sleep(10ms, false);
         std::string dest(BHAddress().SerializeAsString());

         bool r = BHAsyncRequest(dest.data(), dest.size(), s.data(), s.size(), 0, 0);
         if (r) {
            ++Status().nrequest_;
@@ -481,24 +322,37 @@

   std::atomic<bool> run(true);

   BHStartWorker(&ServerProc, &SubRecvProc, &ClientProc);
   ThreadManager threads;

#if 0
   BHStartWorker(&ServerProc, &SubRecvProc, &ClientProc);
#else
   BHStartWorker(FServerCallback(), &SubRecvProc, &ClientProc);
   threads.Launch(ServerLoop, &run);
#endif

   boost::timer::auto_cpu_timer timer;
   threads.Launch(hb, &run);
   threads.Launch(showStatus, &run);
   int ncli = 10;
   const uint64_t nreq = 1000 * 10;
   const int64_t nreq = 1000 * 100;

   for (int i = 0; i < 100; ++i) {
      SyncRequest(i);
   }

   for (int i = 0; i < ncli; ++i) {
      threads.Launch(asyncRequest, nreq);
   }

   int same = 0;
   int64_t last = 0;
   while (last < nreq * ncli && same < 2) {
   uint64_t last = 0;
   while (last < nreq * ncli && same < 3) {
      Sleep(1s, false);
      auto cur = Status().nreply_.load();
      if (last == cur) {
         ++same;
         printf("same %d\n", same);
      } else {
         last = cur;
         same = 0;
@@ -508,5 +362,8 @@
   run = false;
   threads.WaitAll();
   auto &st = Status();
   Sleep(1s);
   printf("nreq: %8ld, nsrv: %8ld, nreply: %8ld\n", st.nrequest_.load(), st.nserved_.load(), st.nreply_.load());
   BHCleanup();
   printf("after cleanup\n");
}