bug fix

houxiao

2017-04-13 0727355ae017c0153ee7c643cdd1b0611c81627f

 VisitFace/RtspNativeCodec/app/src/main/cpp/RtspNativeCodecJNI.cpp

@@ -20,7 +20,7 @@
extern "C"
{

void Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_init(JNIEnv *env, jclass clazz)
void Java_cn_com_basic_face_util_RtspFaceNative_init(JNIEnv *env, jclass clazz)
{
   g_logger.set_level(VERBOSE);
   
@@ -41,10 +41,10 @@
}

// set the surface
void Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_setSurface(JNIEnv *env, jclass clazz, jint cameraIdx, jobject surface)
void Java_cn_com_basic_face_util_RtspFaceNative_setSurface(JNIEnv *env, jclass clazz, jint cameraIdx, jobject surface)
{
   LOG_DEBUG << "@@@ Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_setSurface" << LOG_ENDL;
   assert(cameraIdx <= CAMERA_COUNT);
   LOG_DEBUG << "@@@ Java_cn_com_basic_face_util_RtspFaceNative_setSurface" << LOG_ENDL;
   assert(cameraIdx > 0 && cameraIdx <= CAMERA_COUNT);
   cameraIdx -= 1;
   
   CameraWrapper& cameraWrapper(g_CameraWrappers[cameraIdx]);
@@ -59,10 +59,10 @@
   LOGP(DEBUG, "@@@ setsurface %p", cameraWrapper.window);
}

jboolean Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_createPlayer(JNIEnv* env, jclass clazz, jint cameraIdx, jstring uri)
jboolean Java_cn_com_basic_face_util_RtspFaceNative_createPlayer(JNIEnv* env, jclass clazz, jint cameraIdx, jstring uri)
{
    LOG_DEBUG << "@@@ Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_createPlayer" << LOG_ENDL;
   assert(cameraIdx <= CAMERA_COUNT);
    LOG_DEBUG << "@@@ Java_cn_com_basic_face_util_RtspFaceNative_createPlayer" << LOG_ENDL;
   assert(cameraIdx > 0 && cameraIdx <= CAMERA_COUNT);
   cameraIdx -= 1;
   
   CameraWrapper& cameraWrapper(g_CameraWrappers[cameraIdx]);
@@ -83,8 +83,12 @@
      cameraWrapper.amcdConfig.ak_mime = "video/avc";
      cameraWrapper.amcdConfig.ak_width = 1920;
      cameraWrapper.amcdConfig.ak_height = 1080;
      cameraWrapper.amcdConfig.windowSurface = cameraWrapper.window;
        cameraWrapper.amcdConfig.windowSurface = cameraWrapper.window = nullptr;//#todo
      cameraWrapper.amcdConfig.releaseOutputBuffIdx = true;
        cameraWrapper.amcdConfig.generateDecodedDataPerFrame = 1;
#ifndef USE_ST_SDK
        cameraWrapper.amcdConfig.releaseOutputBuffIdxInPay = true;
#endif
   }
   
   {
@@ -103,81 +107,195 @@
}

// shut down the native media system
void Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_shutdown(JNIEnv* env, jclass clazz, jint cameraIdx)
void Java_cn_com_basic_face_util_RtspFaceNative_shutdown(JNIEnv* env, jclass clazz, jint cameraIdx)
{
    LOG_DEBUG << "@@@ Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_shutdown" << LOG_ENDL;
   assert(cameraIdx <= CAMERA_COUNT);
    LOG_DEBUG << "@@@ Java_cn_com_basic_face_util_RtspFaceNative_shutdown" << LOG_ENDL;
   assert(cameraIdx > 0 && cameraIdx <= CAMERA_COUNT);
   cameraIdx -= 1;
   
   CameraWrapper& cameraWrapper(g_CameraWrappers[cameraIdx]);
   cameraWrapper.stop();
}

jboolean Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_setFaceCallback(JNIEnv* env, jclass clazz, jint cameraIdx, jstring func)
//see: https://github.com/BelledonneCommunications/mediastreamer2/blob/master/src/android/android_mediacodec.cpp
static int handle_java_exception(JNIEnv *env) {
    if (env->ExceptionCheck()) {
        env->ExceptionDescribe();
        env->ExceptionClear();
        return -1;
    }
    return 0;
}

static bool _loadClass(JNIEnv *env, const char *className, jclass *_class) {
    *_class = env->FindClass(className);
    if(handle_java_exception(env) == -1 || *_class == NULL) {
        LOGP(ERROR, "Could not load Java class [%s]", className);
        return false;
    }
    return true;
}

static bool _getStaticMethodID(JNIEnv *env, jclass _class, const char *name, const char *sig, jmethodID *method) {
    *method = env->GetStaticMethodID(_class, name, sig);
    if(handle_java_exception(env) == -1 || *method == NULL) {
        LOGP(ERROR, "Could not get static method %s[%s]", name, sig);
        return false;
    }
    return true;
}

jboolean Java_cn_com_basic_face_util_RtspFaceNative_setFaceCallback(JNIEnv* env, jclass clazz, jint cameraIdx, jstring className, jstring funcName)
{
    LOG_DEBUG << "@@@ Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_setFaceCallback" << LOG_ENDL;
   assert(cameraIdx <= CAMERA_COUNT);
    LOG_DEBUG << "@@@ Java_cn_com_basic_face_util_RtspFaceNative_setFaceCallback" << LOG_ENDL;
   assert(cameraIdx > 0 && cameraIdx <= CAMERA_COUNT);
   cameraIdx -= 1;
   CameraWrapper& cameraWrapper(g_CameraWrappers[cameraIdx]);

    jclass cls = env->GetObjectClass(clazz);
    //jclass cls = env->GetObjectClass(clazz);

    const char *utfFunc = env->GetStringUTFChars(func, NULL);
    cameraWrapper.faceCallback = env->GetMethodID(cls, utfFunc, "(II)V"); // Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_FaceCallback_func
    env->ReleaseStringUTFChars(func, utfFunc);
	
   // call:
    //env->CallVoidMethod(obj, callback, 5 , 10);
    // set for multithread callback
    env->GetJavaVM(&(cameraWrapper.javaVM));
    cameraWrapper.javaEnv = env;

    std::string _className;
    {
        const char *utfFunc = env->GetStringUTFChars(className, NULL);
        _className = utfFunc;
        env->ReleaseStringUTFChars(className, utfFunc);
    }
    std::string _funcName;
    {
        const char *utfFunc = env->GetStringUTFChars(funcName, NULL);
        _funcName = utfFunc;
        env->ReleaseStringUTFChars(funcName, utfFunc);
    }

    _loadClass(env, _className.c_str(), &(cameraWrapper.faceCallbackClazz));

    cameraWrapper.faceCallbackClazz = static_cast<jclass>( env->NewGlobalRef( cameraWrapper.faceCallbackClazz )); //#todo need release?

    _getStaticMethodID(env, cameraWrapper.faceCallbackClazz, _funcName.c_str(), "(II)V", &(cameraWrapper.faceCallbackFunc));

   // call test (sync)
    cameraWrapper.javaEnv->CallStaticVoidMethod(cameraWrapper.faceCallbackClazz, cameraWrapper.faceCallbackFunc, cameraWrapper.cameraIdx, 0);
}

void Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_lockFace(JNIEnv* env, jclass clazz, jint cameraIdx)
void Java_cn_com_basic_face_util_RtspFaceNative_lockFace(JNIEnv* env, jclass clazz, jint cameraIdx)
{
   LOG_DEBUG << "@@@ Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_lockFace" << LOG_ENDL;
   assert(cameraIdx <= CAMERA_COUNT);
   LOG_DEBUG << "@@@ Java_cn_com_basic_face_util_RtspFaceNative_lockFace" << LOG_ENDL;
   assert(cameraIdx > 0 && cameraIdx <= CAMERA_COUNT);
   cameraIdx -= 1;
   CameraWrapper& cameraWrapper(g_CameraWrappers[cameraIdx]);
   
   cameraWrapper.lockFace();
}

void Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_releaseFace(JNIEnv* env, jclass clazz, jint cameraIdx)
void Java_cn_com_basic_face_util_RtspFaceNative_releaseFace(JNIEnv* env, jclass clazz, jint cameraIdx)
{
   LOG_DEBUG << "@@@ Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_releaseFace" << LOG_ENDL;
   assert(cameraIdx <= CAMERA_COUNT);
   LOG_DEBUG << "@@@ Java_cn_com_basic_face_util_RtspFaceNative_releaseFace" << LOG_ENDL;
   assert(cameraIdx > 0 && cameraIdx <= CAMERA_COUNT);
   cameraIdx -= 1;
   CameraWrapper& cameraWrapper(g_CameraWrappers[cameraIdx]);
   
   cameraWrapper.releaseFace();
}

jboolean Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_getFaceList(JNIEnv* env, jclass clazz, jint cameraIdx, jbyteArray faceListPb)
jint Java_cn_com_basic_face_util_RtspFaceNative_getFaceList(JNIEnv* env, jclass clazz, jint cameraIdx, jobject faceListPb)
{
   LOG_DEBUG << "@@@ Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_getFaceList" << LOG_ENDL;
   assert(cameraIdx <= CAMERA_COUNT);
   LOG_DEBUG << "@@@ Java_cn_com_basic_face_util_RtspFaceNative_getFaceList" << LOG_ENDL;
   assert(cameraIdx > 0 && cameraIdx <= CAMERA_COUNT);
   cameraIdx -= 1;
   CameraWrapper& cameraWrapper(g_CameraWrappers[cameraIdx]);
	

    // #todo optimize not copy data here, set data to jbyteArray directly
   // Y channel of YUV420p, packed in protobuf
   uint8_t buffer[MAX_FACE * MAX_FACE_WIDTH * MAX_FACE_HEIGHT];
   size_t buffSize = sizeof(buffer);
   bool ret = cameraWrapper.faceCache.getFaceListPb(buffer, buffSize);
   uint8_t buffer[MAX_FACE * MAX_FACE_WIDTH * MAX_FACE_HEIGHT] = {0};
    size_t buffSize = sizeof(buffer);
    //const size_t arrSize = env->GetArrayLength(faceListPb);
   bool ret = false;

#ifdef USE_ST_SDK
    ret = cameraWrapper.faceCache.getFaceListPb(buffer, buffSize);
#endif
   
   if (!ret)
   {
      LOG_INFO << "No face captured" << LOG_ENDL;
      return JNI_FALSE;
      return 0;
   }
	
   uint8_t* _faceListPb = (uint8_t*)faceListPb;
   LOG_DEBUG << _faceListPb[0] << "  "<< _faceListPb[1] << "  "<< _faceListPb[2] << "  " <<LOG_ENDL;

    LOG_INFO << "Face captured " << LOG_ENDL;

    jclass jcRefByteArray = env->FindClass("cn/com/basic/face/util/RefByteArray");
    jfieldID jfRefByteArray_arr = env->GetFieldID(jcRefByteArray, "arr","[B");

    jbyteArray jbaFaceListPb = env->NewByteArray(buffSize);
    env->SetByteArrayRegion(jbaFaceListPb, 0, buffSize, (const jbyte*)buffer);
    env->SetObjectField(faceListPb, jfRefByteArray_arr, jbaFaceListPb);
    return buffSize;
}

jboolean Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_getFaceImages(JNIEnv* env, jclass clazz, jint cameraIdx, jintArray faceImagesIdx, jbyteArray faceImages)
jobject Java_cn_com_basic_face_util_RtspFaceNative_getFaceImages(JNIEnv* env, jclass clazz, jint cameraIdx, jobject faceImages)
{
   LOG_DEBUG << "@@@ Java_com_bsk_zhangbo_demoforbsk_util_RtspFaceNative_getFaceImages" << LOG_ENDL;
   assert(cameraIdx <= CAMERA_COUNT);
   LOG_DEBUG << "@@@ Java_cn_com_basic_face_util_RtspFaceNative_getFaceImages" << LOG_ENDL;
   assert(cameraIdx > 0 && cameraIdx <= CAMERA_COUNT);
   cameraIdx -= 1;
   CameraWrapper& cameraWrapper(g_CameraWrappers[cameraIdx]);

   std::vector<NativeImgIdx> imgIdxes;
    size_t _faceImagesSize = MAX_FACE * MAX_FACE_WIDTH * MAX_FACE_HEIGHT * 3;
   uint8_t* _faceImages = new uint8_t[_faceImagesSize]; // android stack is small
    memset(_faceImages, 0, _faceImagesSize);

   bool ret = false;

#ifdef USE_ST_SDK
   ret = cameraWrapper.faceCache.getFaceListImage(imgIdxes, _faceImages, _faceImagesSize);
#endif

   if (imgIdxes.size() == 0)
   {
       LOG_INFO << "No face image captured" << LOG_ENDL;
       delete[] _faceImages;
       return nullptr;
   }

    jclass jcRefByteArray = env->FindClass("cn/com/basic/face/util/RefByteArray");
    jfieldID jfRefByteArray_arr = env->GetFieldID(jcRefByteArray, "arr","[B");

    jbyteArray jbaFaceImages = env->NewByteArray(_faceImagesSize);
    env->SetByteArrayRegion(jbaFaceImages, 0, _faceImagesSize, (const jbyte*)_faceImages);
    env->SetObjectField(faceImages, jfRefByteArray_arr, jbaFaceImages);
    delete[] _faceImages;

    jclass jcArrayList = env->FindClass("java/util/ArrayList");
   jmethodID jmArrayList_ctor = env->GetMethodID(jcArrayList, "<init>", "()V");
   jmethodID jmArrayList_add  = env->GetMethodID(jcArrayList, "add", "(Ljava/lang/Object;)Z");

   jclass jcNativeImgIdx = env->FindClass("cn/com/basic/face/util/NativeImgIdx");
   jmethodID jmNativeImgIdx_ctor = env->GetMethodID(jcNativeImgIdx, "<init>", "()V");
   jfieldID jfNativeImgIdx_offset = env->GetFieldID(jcNativeImgIdx, "offset","I");
   jfieldID jfNativeImgIdx_size = env->GetFieldID(jcNativeImgIdx, "size","I");
   jfieldID jfNativeImgIdx_type = env->GetFieldID(jcNativeImgIdx, "type","I");
   jfieldID jfNativeImgIdx_width = env->GetFieldID(jcNativeImgIdx, "width","I");
   jfieldID jfNativeImgIdx_height = env->GetFieldID(jcNativeImgIdx, "height","I");

   jobject jobjArrayList_ImgIdxes = env->NewObject(jcArrayList , jmArrayList_ctor);

   for(size_t i = 0 ; i < imgIdxes.size(); i++)
   {
       jobject jobjNativeImgIdx = env->NewObject(jcNativeImgIdx , jmNativeImgIdx_ctor);
       env->SetIntField(jobjNativeImgIdx, jfNativeImgIdx_offset, imgIdxes[i].offset);
       env->SetIntField(jobjNativeImgIdx, jfNativeImgIdx_size, imgIdxes[i].size);
       env->SetIntField(jobjNativeImgIdx, jfNativeImgIdx_type, imgIdxes[i].type);
       env->SetIntField(jobjNativeImgIdx, jfNativeImgIdx_width, imgIdxes[i].width);
       env->SetIntField(jobjNativeImgIdx, jfNativeImgIdx_height, imgIdxes[i].height);

       env->CallBooleanMethod(jobjArrayList_ImgIdxes , jmArrayList_add , jobjNativeImgIdx);
   }

   return jobjArrayList_ImgIdxes;
}