Share
From cozy Java to brutal Native code or There and Back Again (JPoint 2020, RU)
Все мы любим Java и другие управляемые языки, но иногда их бывает просто недостаточно. Нужен доступ к библиотеке машинного обучения, написанной исключительно на С? Или всего-то хочется позвать небольшой метод из OS API? А может, для одного из модулей вы хотите получить большую производительность, чем вы когда-либо сможете выжать из Java? Тогда вам прямой путь в нативный код!
Вроде все просто — пишем нативный метод, загружаем библиотеку, вызываем, и дело в шляпе! Но вот беда: JVM начала крашиться в случайных местах, производительность упала ниже прежнего, а ваш репозиторий заполонили бесконечные сишные файлы, испещренные буквами J-N-I. Что же пошло не так?
В докладе разберемся со всем по порядку: что необычного в интеропе между Java и нативным кодом и какая у него история; как работать с нативным кодом прямо сейчас, чтобы избежать сегфолтов, просадки производительности, внезапных OOM; наконец, что же нас ждет в будущем в контексте таких проектов, как Panama и Sulong, и будет ли после них вообще смысл говорить про какой-то интероп.
Ivan Ugliansky
Transcript
246 slides
-
В нативный код из уютного мира Java Путешествие Туда и
Обратно Иван Углянский Excelsior@Huawei -
Какой еще нативный код? 4 public class JavaToNative { static
native void goNative(); static native void goThere(Callback andBackAgain); } -
Какой еще нативный код? 5 public class JavaToNative { static
native void goNative(); static native void goThere(Callback andBackAgain); } -
Какой еще нативный код? 6 public class JavaToNative { static
native void goNative(); static native void goThere(Callback andBackAgain); } Java C/C++/... goNative -
Какой еще нативный код? 7 public class JavaToNative { static
native void goNative(); static native void goThere(Callback andBackAgain); } Java goThere andBackAgain C/C++/... -
Но зачем нам нативы? 10 Java - managed язык ◦
автоматическое управление памятью -
Но зачем нам нативы? 11 Java - managed язык ◦
автоматическое управление памятью ◦ безопасные операции -
Но зачем нам нативы? 12 Java - managed язык ◦
автоматическое управление памятью ◦ безопасные операции Java - это... -
Но зачем нам нативы? 14 Java - managed язык ◦
автоматическое управление памятью ◦ безопасные операции А вот нативный код - это... -
Причины звать нативный код из Java 17 1. Есть отличная
библиотека! (Но она на С/C++) -
Причины звать нативный код из Java 18 1. Есть отличная
библиотека! (Но она на С/C++) OpenGL, DirectX, Tensorflow, Cuda, OpenCL, OpenSSl, Vulkan, Криптография, ... -
Причины звать нативный код из Java 19 1. Есть отличная
библиотека! (Но она на С/C++) 2. Да мне всего лишь один метод из WinAPI позвать! -
Причины звать нативный код из Java 20 1. Есть отличная
библиотека! (Но она на С/C++) 2. Да мне всего лишь один метод из WinAPI позвать! 3. Напишу один модуль на C++, все как разгонится! -
Причины звать нативный код из Java 21 4. Ничего из
этого не нужно, но JDK тоже зовет нативный код! -
23 A fatal error has been detected by the Java
Runtime Environment: # # SIGSEGV (0xb) at pc=0x00007f542922359f, pid=25670, tid=0x00007f5444efa700 # # JRE version: Java(TM) SE Runtime Environment (8.0_151-b12) (build 1.8.0_151-b12) # Java VM: Java HotSpot(TM) 64-Bit Server VM (25.151-b12 mixed mode linux-amd64 compressed oops) # Problematic frame: # C [libavutil.so.56+0x1159f] av_strstart+0x1f -
24 A fatal error has been detected by the Java
Runtime Environment: # # SIGSEGV (0xb) at pc=0x00007f542922359f, pid=25670, tid=0x00007f5444efa700 # # JRE version: Java(TM) SE Runtime Environment (8.0_151-b12) (build 1.8.0_151-b12) # Java VM: Java HotSpot(TM) 64-Bit Server VM (25.151-b12 mixed mode linux-amd64 compressed oops) # Problematic frame: # C [libavutil.so.56+0x1159f] av_strstart+0x1f # EXCEPTION_ACCESS_VIOLATION (0xc0000005) at pc=0x0000000180005b00, pid=13432, tid=13952 # # JRE version: Java(TM) SE Runtime Environment (12.0.2+10) (build 12.0.2+10) # Java VM: Java HotSpot(TM) 64-Bit Server VM (12.0.2+10, mixed mode, sharing, tiered, compressed oops, g1 gc, windows-amd64) # Problematic frame: # C [rxtxSerial.dll+0x5b00] -
25 A fatal error has been detected by the Java
Runtime Environment: # # SIGSEGV (0xb) at pc=0x00007f542922359f, pid=25670, tid=0x00007f5444efa700 # # JRE version: Java(TM) SE Runtime Environment (8.0_151-b12) (build 1.8.0_151-b12) # Java VM: Java HotSpot(TM) 64-Bit Server VM (25.151-b12 mixed mode linux-amd64 compressed oops) # Problematic frame: # C [libavutil.so.56+0x1159f] av_strstart+0x1f # EXCEPTION_ACCESS_VIOLATION (0xc0000005) at pc=0x0000000180005b00, pid=13432, tid=13952 # # JRE version: Java(TM) SE Runtime Environment (12.0.2+10) (build 12.0.2+10) # Java VM: Java HotSpot(TM) 64-Bit Server VM (12.0.2+10, mixed mode, sharing, tiered, compressed oops, g1 gc, windows-amd64) # Problematic frame: # C [rxtxSerial.dll+0x5b00] # SIGSEGV (0xb) at pc=0x00007f098dac2618, pid=1720, tid=0x00007f0963f7a700 # # JRE version: OpenJDK Runtime Environment (8.0_212-b03) (build 1.8.0_212-8u212-b03-0ubuntu1.18.04.1-b03) # Java VM: OpenJDK 64-Bit Server VM (25.212-b03 mixed mode linux-amd64 compressed oops) # Problematic frame: # C [libopencv_core.so.3.2+0x132618] cv::_InputArray::size(int) const+0x1d8 -
26 A fatal error has been detected by the Java
Runtime Environment: # # SIGSEGV (0xb) at pc=0x00007f542922359f, pid=25670, tid=0x00007f5444efa700 # # JRE version: Java(TM) SE Runtime Environment (8.0_151-b12) (build 1.8.0_151-b12) # Java VM: Java HotSpot(TM) 64-Bit Server VM (25.151-b12 mixed mode linux-amd64 compressed oops) # Problematic frame: # C [libavutil.so.56+0x1159f] av_strstart+0x1f # EXCEPTION_ACCESS_VIOLATION (0xc0000005) at pc=0x0000000180005b00, pid=13432, tid=13952 # # JRE version: Java(TM) SE Runtime Environment (12.0.2+10) (build 12.0.2+10) # Java VM: Java HotSpot(TM) 64-Bit Server VM (12.0.2+10, mixed mode, sharing, tiered, compressed oops, g1 gc, windows-amd64) # Problematic frame: # C [rxtxSerial.dll+0x5b00] # SIGSEGV (0xb) at pc=0x00007f098dac2618, pid=1720, tid=0x00007f0963f7a700 # # JRE version: OpenJDK Runtime Environment (8.0_212-b03) (build 1.8.0_212-8u212-b03-0ubuntu1.18.04.1-b03) # Java VM: OpenJDK 64-Bit Server VM (25.212-b03 mixed mode linux-amd64 compressed oops) # Problematic frame: # C [libopencv_core.so.3.2+0x132618] cv::_InputArray::size(int) const+0x1d8 -
Будем разбираться 29 1. Почему так много проблем с нативами?
2. Как пройти в Мордор и не получить SIGSEGV? -
Как позвать натив? 32 Где взять нативы? Как работать с
Java из натива? -
Как позвать натив? 33 Как себя должен вести GC? Где
взять нативы? Как работать с Java из натива? -
1. JDK 1.0 NMI — Native Method Invocation (Sun JVM)
2. Raw Native Interface (RNI) in Microsoft J++ and J/Direct 3. Netscape’s JRI (Java Runtime Interface) 4. ... История до нашей эры 35 -
Наша эра 37 JNI - Java Native Interface ✓ Единый
интерфейс, чтобы править всеми! -
Наша эра 38 JNI - Java Native Interface ✓ Единый
интерфейс, чтобы править всеми! ✓ Детали реализации скрыты ⇒ JVM нейтрален, GC нейтрален -
Как это выглядит со стороны Java? 40 public class JavaToNative
{ static native void goNative(); static native void goThere(Callback andBackAgain); public static void main(String[] args) { System.loadLibrary("NativeLib"); goThere(new Callback("Eagles")); } } -
Как это выглядит со стороны Java? 41 public class JavaToNative
{ static native void goNative(); static native void goThere(Callback andBackAgain); public static void main(String[] args) { System.loadLibrary("NativeLib"); goThere(new Callback("Eagles")); } } -
Как это выглядит со стороны Java? 42 public class JavaToNative
{ static native void goNative(); static native void goThere(Callback andBackAgain); public static void main(String[] args) { System.loadLibrary("NativeLib"); goThere(new Callback("Eagles")); } } -
Как это выглядит со стороны Java? 43 public class JavaToNative
{ static native void goNative(Object obj); static native void goThere(Callback andBackAgain); public static void main(String[] args) { System.loadLibrary("NativeLib"); goThere(new Callback("Eagles")); } } class Callback { private final String transport; public Callback(String transport) { this.transport = transport; } public void call() { System.out.println("Ok, we are in Shire again! Returned by " + transport); } } -
Как это выглядит со стороны С? 45 public class JavaToNative
{ static native void goThere(Callback andBackAgain); } -
Как это выглядит со стороны С? 46 public class JavaToNative
{ static native void goThere(Callback andBackAgain); } javac JavaToNative.java -h . -
Как это выглядит со стороны С? 47 public class JavaToNative
{ static native void goThere(Callback andBackAgain); } JNIEXPORT void JNICALL Java_JavaToNative_goThere (JNIEnv *, jclass, jobject); javac JavaToNative.java -h . JavaToNative.h -
Как это выглядит со стороны С? 48 public class JavaToNative
{ static native void goThere(Callback andBackAgain); } JNIEXPORT void JNICALL Java_JavaToNative_goThere (JNIEnv *, jclass, jobject); javac JavaToNative.java -h . JavaToNative.h -
Как это выглядит со стороны С? 49 boolean jboolean unsigned
8 bits byte jbyte signed 8 bits char jchar unsigned 16 bits short jshort signed 16 bits int jint signed 32 bits long jlong signed 64 bits float jfloat 32 bits double jdouble 64 bits void void N/A Примитивные -
Как это выглядит со стороны С? 50 boolean jboolean unsigned
8 bits byte jbyte signed 8 bits char jchar unsigned 16 bits short jshort signed 16 bits int jint signed 32 bits long jlong signed 64 bits float jfloat 32 bits double jdouble 64 bits void void N/A Примитивные Ссылочные jobject jclass jstring jthrowable jarray jobjectArray jbooleanArray jcharArray ... -
Как это выглядит со стороны С? 51 public class JavaToNative
{ static native void goThere(Callback andBackAgain); } JNIEXPORT void JNICALL Java_JavaToNative_goThere (JNIEnv *, jclass, jobject); javac JavaToNative.java -h . JavaToNative.h -
Как это выглядит со стороны С? 53 JNIEnv ✓ Указатель
на JNINativeInterface (214 функций) -
Как это выглядит со стороны С? 54 JNIEnv ✓ Указатель
на JNINativeInterface (214 функций) GetVersion, DefineClass, FindClass, FromReflectedMethod, FromReflectedField, ToReflectedMethod, GetSuperclass, IsAssignableFrom, ToReflectedField, Throw, ThrowNew, ExceptionOccurred, ExceptionDescribe, ExceptionClear, FatalError, PushLocalFrame, PopLocalFrame, NewGlobalRef, DeleteGlobalRef, DeleteLocalRef, IsSameObject, NewLocalRef, EnsureLocalCapacity, AllocObject, NewObject, NewObjectV, NewObjectA, GetObjectClass, IsInstanceOf, GetMethodID, CallObjectMethod, CallObjectMethodV, CallObjectMethodA, CallBooleanMethod, CallBooleanMethodV, CallBooleanMethodA, CallByteMethod, CallByteMethodV, CallByteMethodA, CallCharMethod, CallCharMethodV, CallCharMethodA, CallShortMethod, CallShortMethodV, CallShortMethodA, CallIntMethod, CallIntMethodV, CallIntMethodA, CallLongMethod, CallLongMethodV, CallLongMethodA, CallFloatMethod, CallFloatMethodV, CallFloatMethodA, CallDoubleMethod, CallDoubleMethodV, CallDoubleMethodA, CallVoidMethod, CallVoidMethodV, CallVoidMethodA, CallNonvirtualObjectMethod, CallNonvirtualObjectMethodV, CallNonvirtualObjectMethodA, CallNonvirtualBooleanMethod, CallNonvirtualBooleanMethodV, CallNonvirtualBooleanMethodA, CallNonvirtualByteMethod, CallNonvirtualByteMethodV, CallNonvirtualByteMethodA, CallNonvirtualCharMethod, CallNonvirtualCharMethodV, CallNonvirtualCharMethodA, CallNonvirtualShortMethod, CallNonvirtualShortMethodV, CallNonvirtualShortMethodA, CallNonvirtualIntMethod, CallNonvirtualIntMethodV, CallNonvirtualIntMethodA, CallNonvirtualLongMethod, CallNonvirtualLongMethodV, CallNonvirtualLongMethodA, CallNonvirtualFloatMethod, CallNonvirtualFloatMethodV, CallNonvirtualFloatMethodA, CallNonvirtualDoubleMethod, CallNonvirtualDoubleMethodV, CallNonvirtualDoubleMethodA, CallNonvirtualVoidMethod, CallNonvirtualVoidMethodV, CallNonvirtualVoidMethodA, GetFieldID, GetObjectField, GetBooleanField, GetByteField, GetCharField, GetShortField, GetIntField, GetLongField, GetFloatField, GetDoubleField, SetObjectField, SetBooleanField, SetByteField, SetCharField, SetShortField, SetIntField, SetLongField, SetFloatField, SetDoubleField, GetStaticMethodID, CallStaticObjectMethod, CallStaticObjectMethodV, CallStaticObjectMethodA, CallStaticBooleanMethod, CallStaticBooleanMethodV, CallStaticBooleanMethodA, CallStaticByteMethod, CallStaticByteMethodV, CallStaticByteMethodA, CallStaticCharMethod, CallStaticCharMethodV, CallStaticCharMethodA, CallStaticShortMethod, CallStaticShortMethodV, CallStaticShortMethodA, CallStaticIntMethod, CallStaticIntMethodV, CallStaticIntMethodA, CallStaticLongMethod, CallStaticLongMethodV, CallStaticLongMethodA, CallStaticFloatMethod, CallStaticFloatMethodV, CallStaticFloatMethodA, CallStaticDoubleMethod, CallStaticDoubleMethodV, CallStaticDoubleMethodA, CallStaticVoidMethod, CallStaticVoidMethodV, CallStaticVoidMethodA, GetStaticFieldID, GetStaticObjectField, GetStaticBooleanField, ... -
Как это выглядит со стороны С? 55 JNIEnv ✓ Указатель
на JNINativeInterface (214 функций) NewObject, GetObjectClass, GetObjectField, SetObjectField, Get<PrimType>Field, Set<PrimType>Field, CallObjectMethod, CallStaticObjectMethod Call<PrimType>Method, CallStatic<PrimType>Method Throw, ThrowNew, Очень похоже на Reflection! «мета»-программирование на Java -
Как это выглядит со стороны С? 56 JNIEnv ✓ Указатель
на JNINativeInterface (214 функций) ✓ Только через них можно взаимодействовать с Java docs.oracle.com/javase/8/docs/technotes/guides/jni/spec/functions.html -
Как это выглядит со стороны С? 57 /* * Class:
JavaToNative * Method: goThere * Signature: (LCallback;)V */ JNIEXPORT void JNICALL Java_JavaToNative_goThere(JNIEnv * env, jclass klass, jobject andBackAgain) { } JavaToNative.c -
Как это выглядит со стороны С? 58 /* * Class:
JavaToNative * Method: goThere * Signature: (LCallback;)V */ JNIEXPORT void JNICALL Java_JavaToNative_goThere(JNIEnv * env, jclass klass, jobject andBackAgain) { printf("Ok, we are in Mordor now!\n"); } JavaToNative.c -
Как это выглядит со стороны С? 59 /* * Class:
JavaToNative * Method: goThere * Signature: (LCallback;)V */ JNIEXPORT void JNICALL Java_JavaToNative_goThere(JNIEnv * env, jclass klass, jobject andBackAgain) { printf("Ok, we are in Mordor now!\n"); jclass cls = (*env)->GetObjectClass(env, andBackAgain); jmethodID method = (*env)->GetMethodID(env, cls, "call", "()V"); } JavaToNative.c -
Как это выглядит со стороны С? 60 /* * Class:
JavaToNative * Method: goThere * Signature: (LCallback;)V */ JNIEXPORT void JNICALL Java_JavaToNative_goThere(JNIEnv * env, jclass klass, jobject andBackAgain) { printf("Ok, we are in Mordor now!\n"); jclass cls = (*env)->GetObjectClass(env, andBackAgain); jmethodID method = (*env)->GetMethodID(env, cls, "call", "()V"); (*env)->CallVoidMethod(env, andBackAgain, method); } JavaToNative.c -
Собираем! 62 gcc.exe -Wall -D_JNI_IMPLEMENTATION_ -Wl,--kill-at -I %JAVA_HOME%/include -I %JAVA_HOME%/include/win32
-I. -L %JAVA_HOME%/jre/lib -shared JavaToNative.c -o lib/NativeLib.dll -
Собираем! 63 gcc.exe -Wall -D_JNI_IMPLEMENTATION_ -Wl,--kill-at -I %JAVA_HOME%/include -I %JAVA_HOME%/include/win32
-I. -L %JAVA_HOME%/jre/lib -shared JavaToNative.c -o lib/NativeLib.dll Nokee plugins ✓ Кроссплатформенное решение ✓ Удобное использование через Gradle ✓ nokee.dev -
Собираем и запускаем! 64 gcc.exe -Wall -D_JNI_IMPLEMENTATION_ -Wl,--kill-at -I %JAVA_HOME%/include
-I %JAVA_HOME%/include/win32 -I. -L %JAVA_HOME%/jre/lib -shared JavaToNative.c -o lib/NativeLib.dll public class JavaToNative { static native void goThere(Callback andBackAgain); public static void main(String[] args) { System.loadLibrary("NativeLib"); goThere(new Callback("Eagles")); } } -
Собираем и запускаем! 65 gcc.exe -Wall -D_JNI_IMPLEMENTATION_ -Wl,--kill-at -I %JAVA_HOME%/include
-I %JAVA_HOME%/include/win32 -I. -L %JAVA_HOME%/jre/lib -shared JavaToNative.c -o lib/NativeLib.dll public class JavaToNative { static native void goThere(Callback andBackAgain); public static void main(String[] args) { System.loadLibrary("NativeLib"); goThere(new Callback("Eagles")); } } $ java -Djava.library.path=./lib JavaToNative Ok, we are in Mordor now! Ok, we are in Shire again! Returned by Eagles -
Что может пойти не так? 67 ✓ Статическая типовая информация
утеряна. Добро пожаловать в JavaScript! -
68 /* * Class: JavaToNative * Method: goThere * Signature:
(LCallback;)V */ JNIEXPORT void JNICALL Java_JavaToNative_goThere(JNIEnv * env, jclass klass, jobject andBackAgain) { printf("Ok, we are in Mordor now!\n"); jclass cls = (*env)->GetObjectClass(env, andBackAgain); jmethodID method = (*env)->GetMethodID(env, cls, "call", "()V"); (*env)->CallVoidMethod(env, andBackAgain, method); } -
69 /* * Class: JavaToNative * Method: goThere * Signature:
(LCallback;Ljava/lang/Object)V */ JNIEXPORT void JNICALL Java_JavaToNative_goThere(JNIEnv * env, jclass klass, jobject andBackAgain, jobject luggage) { printf("Ok, we are in Mordor now!\n"); jclass cls = (*env)->GetObjectClass(env, andBackAgain); jmethodID method = (*env)->GetMethodID(env, cls, "call", "()V"); (*env)->CallVoidMethod(env, luggage, method); } java -Djava.library.path=./lib JavaToNative -
70 /* * Class: JavaToNative * Method: goThere * Signature:
(LCallback;Ljava/lang/Object)V */ JNIEXPORT void JNICALL Java_JavaToNative_goThere(JNIEnv * env, jclass klass, jobject andBackAgain, jobject luggage) { printf("Ok, we are in Mordor now!\n"); jclass cls = (*env)->GetObjectClass(env, andBackAgain); jmethodID method = (*env)->GetMethodID(env, cls, "call", "()V"); (*env)->CallVoidMethod(env, luggage, method); } java -Djava.library.path=./lib JavaToNative Ok, we are in Mordor now! # A fatal error has been detected by the Java Runtime Environment: # # EXCEPTION_ACCESS_VIOLATION (0xc0000005) at pc=0x00007ffb8add70e1, pid=14100, tid=12564 # # JRE version: OpenJDK Runtime Environment AdoptOpenJDK (14.0.1+7) (build 14.0.1+7) # Java VM: OpenJDK 64-Bit Server VM AdoptOpenJDK (14.0.1+7, mixed mode, sharing, tiered, compressed oops , g1 gc, windows-amd64) # Problematic frame: # V [jvm.dll+0x3970e1] -
Что может пойти не так? 71 ✓ Статическая типовая информация
утеряна. Добро пожаловать в JavaScript! ✓ Вызов правильных JNI функций - ваша ответственность -
Что может пойти не так? 72 ✓ Статическая типовая информация
утеряна. Добро пожаловать в JavaScript! ✓ Вызов правильных JNI функций - ваша ответственность ✓ Исключения из Java не пробрасываются (см. ExceptionOccurred, ExceptionClear) -
74 /* * Class: JavaToNative * Method: goThere * Signature:
(LCallback;Ljava/lang/Object)V */ JNIEXPORT void JNICALL Java_JavaToNative_goThere(JNIEnv * env, jclass klass, jobject andBackAgain, jobject luggage) { printf("Ok, we are in Mordor now!\n"); jclass cls = (*env)->GetObjectClass(env, andBackAgain); jmethodID method = (*env)->GetMethodID(env, cls, "call", "()V"); (*env)->CallVoidMethod(env, luggage, method); } java -Djava.library.path=./lib JavaToNative -
75 /* * Class: JavaToNative * Method: goThere * Signature:
(LCallback;Ljava/lang/Object)V */ JNIEXPORT void JNICALL Java_JavaToNative_goThere(JNIEnv * env, jclass klass, jobject andBackAgain, jobject luggage) { printf("Ok, we are in Mordor now!\n"); jclass cls = (*env)->GetObjectClass(env, andBackAgain); jmethodID method = (*env)->GetMethodID(env, cls, "call", "()V"); (*env)->CallVoidMethod(env, luggage, method); } java -Xcheck:jni -Djava.library.path=./lib JavaToNative -
76 java -Xcheck:jni -Djava.library.path=./lib JavaToNative Ok, we are in Mordor
now! FATAL ERROR in native method: Wrong object class or methodID passed to JNI call at JavaToNative.goThere(Native Method) at JavaToNative.main(JavaToNative.java:9) -
Что может пойти не так? 77 ✓ Статическая типовая информация
утеряна. Добро пожаловать в JavaScript! ✓ Вызов правильных JNI функций - ваша ответственность ✓ Исключения из Java не пробрасываются ✓ -Xcheck:jni значительно улучшает диагностику простых случаев (но это стоит дорого) -
Как позвать натив? 78 Как себя должен вести GC? Где
взять нативы? Как работать с Java из натива? -
80 ◦ safe-points, в которых "припарковываются" потоки ◦ GC ждет,
пока потоки припаркуются Threads in Java code GC request GC в Java коде -
GC в Java коде 81 ◦ safe-points, в которых "припарковываются"
потоки ◦ GC ждет, пока потоки припаркуются Threads in Java code GC request -
GC в Java коде 82 ◦ safe-points, в которых "припарковываются"
потоки ◦ GC ждет, пока потоки припаркуются Threads in Java code GC Threads GC request -
GC в нативном коде 83 ◦ какие еще safe-points? ◦
натив продолжает работать -
84 Threads in Java code GC Threads GC request GC
в нативном коде ◦ какие еще safe-points? ◦ натив продолжает работать -
85 GC в нативном коде ◦ какие еще safe-points? ◦
натив продолжает работать Threads in Java code GC Threads GC request Threads in native -
86 ◦ какие еще safe-points? ◦ натив продолжает работать ◦
на входе и выходе из натива синхронизация с GC Threads in Java code GC Threads GC request Threads in native GC в нативном коде -
88 public class JavaToNative { static native void goThere(Callback andBackAgain);
} JNIEXPORT void JNICALL Java_JavaToNative_goThere (JNIEnv *, jclass, jobject); javac JavaToNative.java -h . JavaToNative.h GC в нативном коде -
89 jobject и компания - специальные хендлы, для которых: 1.
JVM поддерживает связь с реальными Java объектами j.l.Object jobject Native Heap Java Heap GC в нативном коде -
90 jobject и компания - специальные хендлы, для которых: 1.
JVM поддерживает связь с реальными Java объектами j.l.Object jobject Native Heap Java Heap GC в нативном коде -
91 jobject и компания - специальные хендлы, для которых: 1.
JVM поддерживает связь с реальными Java объектами 2. Доступ к реальным Java объектам (через JNI) синхронизирован с GC j.l.Object jobject Native Heap Java Heap GC в нативном коде -
92 jobject и компания - специальные хендлы, для которых: 1.
JVM поддерживает связь с реальными Java объектами 2. Доступ к реальным Java объектам (через JNI) синхронизирован с GC 3. Содержимое считается GC-roots! j.l.Object jobject Native Heap Java Heap GC в нативном коде -
Подводные камни (GC + Natives) 94 ✓ Для хендлов реализована
альтернативная система управления памятью -
Подводные камни (GC + Natives) 95 ✓ Для хендлов реализована
альтернативная система управления памятью Типы хендлов (в коде все выглядит, как jobject & Co): -
Подводные камни (GC + Natives) 96 ✓ Для хендлов реализована
альтернативная система управления памятью Типы хендлов (в коде все выглядит, как jobject & Co): 1. Local Reference -
Подводные камни (GC + Natives) 97 Local Reference: 1. Существует
не дольше, чем исполняется натив 2. Аргументы нативов и возвращаемое значение многих JNI функций -
Local Reference: 1. Существует не дольше, чем исполняется натив 2.
Аргументы нативов и возвращаемое значение многих JNI функций 3. Отличный источник утечек памяти! Подводные камни (GC + Natives) 98 -
Подводные камни (GC + Natives) 99 JNIEXPORT void JNICALL Java_JavaToNative_objectsAllocationTest
(JNIEnv *env, jclass klass) { jclass cls = (*env)->FindClass(env, "BornInNative"); jmethodID init = (*env)->GetMethodID(env, cls, "<init>", "(I)V"); jmethodID check = (*env)->GetMethodID(env, cls, "areYouReady", "()Z"); int ready = 0, id = 0; while (!ready) { jobject obj = (*env)->NewObject(env, cls, init, id++); ready = (*env)->CallBooleanMethod(env, obj, check) == JNI_TRUE; } printf("finally ready after %d objects created!\n", id); } -
Подводные камни (GC + Natives) JNIEXPORT void JNICALL Java_JavaToNative_objectsAllocationTest (JNIEnv
*env, jclass klass) { jclass cls = (*env)->FindClass(env, "BornInNative"); jmethodID init = (*env)->GetMethodID(env, cls, "<init>", "(I)V"); jmethodID check = (*env)->GetMethodID(env, cls, "areYouReady", "()Z"); int ready = 0, id = 0; while (!ready) { jobject obj = (*env)->NewObject(env, cls, init, id++); ready = (*env)->CallBooleanMethod(env, obj, check) == JNI_TRUE; } printf("finally ready after %d objects created!\n", id); } 100 -
Подводные камни (GC + Natives) 101 JNIEXPORT void JNICALL Java_JavaToNative_objectsAllocationTest
(JNIEnv *env, jclass klass) { jclass cls = (*env)->FindClass(env, "BornInNative"); jmethodID init = (*env)->GetMethodID(env, cls, "<init>", "(I)V"); jmethodID check = (*env)->GetMethodID(env, cls, "areYouReady", "()Z"); int ready = 0, id = 0; while (!ready) { jobject obj = (*env)->NewObject(env, cls, init, id++); ready = (*env)->CallBooleanMethod(env, obj, check) == JNI_TRUE; } printf("finally ready after %d objects created!\n", id); } -
Подводные камни (GC + Natives) 102 JNIEXPORT void JNICALL Java_JavaToNative_objectsAllocationTest
(JNIEnv *env, jclass klass) { jclass cls = (*env)->FindClass(env, "BornInNative"); jmethodID init = (*env)->GetMethodID(env, cls, "<init>", "(I)V"); jmethodID check = (*env)->GetMethodID(env, cls, "areYouReady", "()Z"); int ready = 0, id = 0; while (!ready) { jobject obj = (*env)->NewObject(env, cls, init, id++); ready = (*env)->CallBooleanMethod(env, obj, check) == JNI_TRUE; } printf("finally ready after %d objects created!\n", id); } -
Подводные камни (GC + Natives) 103 JNIEXPORT void JNICALL Java_JavaToNative_objectsAllocationTest
(JNIEnv *env, jclass klass) { jclass cls = (*env)->FindClass(env, "BornInNative"); jmethodID init = (*env)->GetMethodID(env, cls, "<init>", "(I)V"); jmethodID check = (*env)->GetMethodID(env, cls, "areYouReady", "()Z"); int ready = 0, id = 0; while (!ready) { jobject obj = (*env)->NewObject(env, cls, init, id++); if (!obj) { printf("allocation attempt %d failed\n", id); } ready = (*env)->CallBooleanMethod(env, obj, check) == JNI_TRUE; } printf("finally ready after %d objects created!\n", id); } -
Подводные камни (GC + Natives) 104 JNIEXPORT void JNICALL Java_JavaToNative_objectsAllocationTest
(JNIEnv *env, jclass klass) { jclass cls = (*env)->FindClass(env, "BornInNative"); jmethodID init = (*env)->GetMethodID(env, cls, "<init>", "(I)V"); jmethodID check = (*env)->GetMethodID(env, cls, "areYouReady", "()Z"); int ready = 0, id = 0; while (!ready) { jobject obj = (*env)->NewObject(env, cls, init, id++); if (!obj) { printf("allocation attempt %d failed\n", id); } ready = (*env)->CallBooleanMethod(env, obj, check) == JNI_TRUE; } printf("finally ready after %d objects created!\n", id); } public static void main(String[] args) { System.loadLibrary("NativeLib"); objectsAllocationTest(); } java -Xmx1G -Djava.library.path=./lib JavaToNative -
Подводные камни (GC + Natives) 105 JNIEXPORT void JNICALL Java_JavaToNative_objectsAllocationTest
(JNIEnv *env, jclass klass) { jclass cls = (*env)->FindClass(env, "BornInNative"); jmethodID init = (*env)->GetMethodID(env, cls, "<init>", "(I)V"); jmethodID check = (*env)->GetMethodID(env, cls, "areYouReady", "()Z"); int ready = 0, id = 0; while (!ready) { jobject obj = (*env)->NewObject(env, cls, init, id++); if (!obj) { printf("allocation attempt %d failed\n", id); } ready = (*env)->CallBooleanMethod(env, obj, check) == JNI_TRUE; } printf("finally ready after %d objects created!\n", id); } public static void main(String[] args) { System.loadLibrary("NativeLib"); objectsAllocationTest(); } java -Xmx1G -Djava.library.path=./lib JavaToNative -
Подводные камни (GC + Natives) JNIEXPORT void JNICALL Java_JavaToNative_objectsAllocationTest (JNIEnv
*env, jclass klass) { jclass cls = (*env)->FindClass(env, "BornInNative"); jmethodID init = (*env)->GetMethodID(env, cls, "<init>", "(I)V"); jmethodID check = (*env)->GetMethodID(env, cls, "areYouReady", "()Z"); int ready = 0, id = 0; while (!ready) { jobject obj = (*env)->NewObject(env, cls, init, id++); if (!obj) { printf("allocation attempt %d failed\n", id); } ready = (*env)->CallBooleanMethod(env, obj, check) == JNI_TRUE; (*env)->DeleteLocalRef(env, obj); } printf("finally ready after %d objects created!\n", id); } 106 -
Подводные камни (GC + Natives) 107 ✓ Для хендлов реализована
альтернативная система управления памятью Типы хендлов (в коде все выглядит, как jobject & Co): 1. Local Reference живут не дольше одного нативного вызова -
Подводные камни (GC + Natives) 108 ✓ Для хендлов реализована
альтернативная система управления памятью Типы хендлов (в коде все выглядит, как jobject & Co): 1. Local Reference 2. Global Reference 3. Weak Global Reference живут не дольше одного нативного вызова живут, пока их явно не освободят живут, пока их явно не освободят, но GC может собрать Java объект -
Подводные камни (GC + Natives) 109 ✓ Особая система управления
памятью (в которой легко получить memory leak/dangling pointer) -
Подводные камни (GC + Natives) 110 ✓ Особая система управления
памятью (в которой легко получить memory leak/dangling pointer) ✓ Особая обработка массивов и строк: pinning vs copying jint* GetIntArrayElements(JNIEnv* env, jintArray array, jboolean* isCopy); void ReleaseIntArrayElements(JNIEnv* env, jintArray array, jint* elems, jint mode); -
Подводные камни (GC + Natives) 111 ✓ Особая система управления
памятью (в которой легко получить memory leak/dangling pointer) ✓ Особая обработка массивов и строк: pinning vs copying jint* GetIntArrayElements(JNIEnv* env, jintArray array, jboolean* isCopy); void ReleaseIntArrayElements(JNIEnv* env, jintArray array, jint* elems, jint mode); на самом деле копирование происходит всегда (для большинства JVM/GC) -
Подводные камни (GC + Natives) 112 ✓ Особая система управления
памятью (в которой легко получить memory leak/dangling pointer) ✓ Особая обработка массивов и строк: pinning vs copying ✓ Опасные JNI методы Get*Critical (могут сильно помешать работе GC вплоть до зависания JVM) shipilev.net/jvm/anatomy-quarks/9-jni-critical-gclocker -
Производительность нативных вызовов 115 ВСЕ ОЧЕНЬ МЕДЛЕННО Измерять будем на:
Intel Core i7-7700 @ 3.60 GHz; 16GB RAM; Linux Ubuntu 18.04 -
Производительность нативных вызовов 117 прямой вызов Java метода без инлайна
вызов нативного метода (без параметров) из Java Java Java Java Native -
Производительность нативных вызовов 118 прямой вызов Java метода без инлайна
вызов нативного метода (без параметров) из Java Разница в 3.3 раза На jdk8u252 Java Java Java Native OpenJDK 1.8.0_252 -
Производительность нативных вызовов 119 прямой вызов Java метода без инлайна
вызов нативного метода (без параметров) из Java Разница в 6 раз На jdk-11.0.7 Java Java Java Native OpenJDK 11.0.7 -
Производительность нативных вызовов 120 вызов нативного метода (без параметров) из
Java Вызов нативного метода (без параметров) из Java, а из него вызов Java метода (без параметров) Java Native Java Java Native OpenJDK 11.0.7 -
вызов нативного метода (без параметров) из Java Вызов нативного метода
(без параметров) из Java, а из него вызов Java метода (без параметров) Разница в 10 раз Производительность нативных вызовов 121 Java Native Java Java Native OpenJDK 11.0.7 -
124 static native void goNative(); mov DWORD PTR [rsp-0x14000],eax push
rbp mov rbp,rsp sub rsp,0x40 movabs r14,0x76d381c90; mov QWORD PTR [rsp+0x30],r14 lea r14,[rsp+0x30] mov rsi,r14 movabs r10,0x7f486d4481fe mov QWORD PTR [r15+0x1c8],r10 mov QWORD PTR [r15+0x1c0],rsp cmp BYTE PTR [rip+0x154b0527],0x0 je 0x00007f486d448255 push rsi movabs rsi,0x7f486b1433f8 mov rdi,r15 test esp,0xf je 0x00007f486d44824f sub rsp,0x8 call 0x00007f4882317be0 add rsp,0x8 jmp 0x00007f486d448254 call 0x00007f4882317be0 pop rsi lea rdi,[r15+0x1e0] mov DWORD PTR [r15+0x258],0x4 call 0x00007f486073a79a vzeroupper mov DWORD PTR [r15+0x258],0x5 mov ecx,r15d shr ecx,0x4 and ecx,0xffc movabs r10,0x7f4883580000 mov DWORD PTR [r10+rcx*1],ecx cmp DWORD PTR [rip+0x154bbf5e],0x0 jne 0x00007f486d4482b2 cmp DWORD PTR [r15+0x30],0x0 je 0x00007f486d4482cb call 0x00007f4882317be0 add rsp,0x8 jmp 0x00007f486d448254 call 0x00007f4882317be0 pop rsi lea rdi,[r15+0x1e0] mov DWORD PTR [r15+0x258],0x4 call 0x00007f486073a79a mov DWORD PTR [r15+0x258],0x4 call 0x00007f486073a79a vzeroupper mov DWORD PTR [r15+0x258],0x5 mov ecx,r15d shr ecx,0x4 and ecx,0xffc movabs r10,0x7f4883580000 mov DWORD PTR [r10+rcx*1],ecx cmp DWORD PTR [rip+0x154bbf5e],0x0 jne 0x00007f486d4482b2 cmp DWORD PTR [r15+0x30],0x0 je 0x00007f486d4482cb mov rdi,r15 mov r12,rsp sub rsp,0x0 and rsp,0xfffffffffffffff0 call 0x00007f48823b84f0 mov rsp,r12 xor r12,r12 mov DWORD PTR [r15+0x258],0x8 cmp DWORD PTR [r15+0x284],0x1 je 0x00007f486d448369 cmp BYTE PTR [rip+0x154b0456],0x0 je 0x00007f486d448324 movabs rsi,0x7f486b1433f8 mov rdi,r15 test esp,0xf je 0x00007f486d44831f sub rsp,0x8 call 0x00007f4882317c70 add rsp,0x8 jmp 0x00007f486d448324 call 0x00007f4882317c70 movabs r10,0x0 mov QWORD PTR [r15+0x1c0],r10 movabs r10,0x0 mov QWORD PTR [r15+0x1c8],r10 mov rcx,QWORD PTR [r15+0x38] mov DWORD PTR [rcx+0x100],0x0 leave cmp QWORD PTR [r15+0x8],0x0 jne 0x00007f486d448364 ret jmp Stub::forward exception -
Производительность нативных вызовов 125 ✓ State transition (Java -> Native
и Native -> Java) очень дорог: 1. Синхронизация с GC 2. Завертка параметров в Local References 3. Обработка результата + exception check 4. Перепушивание параметров -
Производительность нативных вызовов 126 ✓ State transition (Java -> Native
и Native -> Java) очень дорог: 1. Синхронизация с GC 2. Завертка параметров в Local References 3. Обработка результата + exception check 4. Перепушивание параметров ✓ Никакого инлайнинга! ✓ Особенности реализации Hotspot (стабы для перехода Native -> Java) -
1. javac -h для генерации .h файлов 2. nokee.dev для
сборки 3. -Xcheck:jni для отлавливания ошибок 4. Осторожнее с JNI References и с JNI Get*Critical 5. Переход в натив (и возврат в Java) очень дорогой 127 Takeaways про JNI -
Идея: ✓ Весь код писать на Java, а связь с
нативом генерировать автоматически 130 Новейшее время -
Идея: ✓ Весь код писать на Java, а связь с
нативом генерировать автоматически Реализация: ✓ Библиотеки: JNA, JNR, JavaCPP, ... 131 Новейшее время -
133 JNA __declspec(dllexport) void __stdcall sayHello(const char* name) { printf("Hello
%s from native!\n", name); } MyNativeLib.c -
134 JNA __declspec(dllexport) void __stdcall sayHello(const char* name) { printf("Hello
%s from native!\n", name); } MyNativeLib.c public interface MyNativeLibrary extends Library { MyNativeLibrary INSTANCE = (MyNativeLibrary) Native.load("MyNativeLib", MyNativeLibrary.class); void sayHello(String name); } MyNativeLibrary.INSTANCE.sayHello("JPoint"); TestJNA.java -
135 JNA __declspec(dllexport) void __stdcall sayHello(const char* name) { printf("Hello
%s from native!\n", name); } MyNativeLib.c public interface MyNativeLibrary extends Library { MyNativeLibrary INSTANCE = (MyNativeLibrary) Native.load("MyNativeLib", MyNativeLibrary.class); void sayHello(String name); } MyNativeLibrary.INSTANCE.sayHello("JPoint"); TestJNA.java -
136 JNA __declspec(dllexport) void __stdcall sayHello(const char* name) { printf("Hello
%s from native!\n", name); } MyNativeLib.c public interface MyNativeLibrary extends Library { MyNativeLibrary INSTANCE = (MyNativeLibrary) Native.load("MyNativeLib", MyNativeLibrary.class); void sayHello(String name); } MyNativeLibrary.INSTANCE.sayHello("JPoint"); TestJNA.java $ java -Djava.library.path=./lib TestJNA Hello JPoint from native! -
137 JNA Поддерживается: ✓ Передача, возврат по значению ✓ Указатели,
C-like массивы, C-like строки ✓ Указатели на функции ✓ Struct & Union ✓ varargs -
138 JNA Самое вкусное: ✓ Заготовлены Java описания для многих
популярных C библиотек ◦ LibC, X11, udev, ... ◦ Kernel32, Pdh, Psapi, ... github.com/java-native-access/jna#jna-platform -
139 JNA WinBase.SYSTEMTIME systemTime = new WinBase.SYSTEMTIME(); Kernel32.INSTANCE.GetSystemTime(systemTime); System.out.println("System time:
" + systemTime); System time: 24 мая 2020 г., 14:08:03 -
140 JNA WinBase.SYSTEMTIME systemTime = new WinBase.SYSTEMTIME(); Kernel32.INSTANCE.GetSystemTime(systemTime); System.out.println("System time:
" + systemTime); Psapi.PERFORMANCE_INFORMATION info = new Psapi.PERFORMANCE_INFORMATION(); Psapi.INSTANCE.GetPerformanceInfo(info, 104); System.out.println("commited mem = " + info.CommitTotal); System.out.println("physical mem = " + info.PhysicalTotal); commited mem = 3357974 physical mem = 2069169 System time: 24 мая 2020 г., 14:08:03 -
143 JNA - подводные камни Java ⇒ Java - прямой
вызов Java метода без инлайна Java ⇒ Native - вызов нативного метода (без параметров) из Java Разница в 6 раз OpenJDK 11.0.7 -
144 JNA - подводные камни Java ⇒ Native (JNI) -
вызов нативного метода (без параметров) из Java Java ⇒ Native (JNA) - вызов нативного метода чрез JNA OpenJDK 11.0.7 -
145 JNA - подводные камни Java ⇒ Native (JNI) -
вызов нативного метода (без параметров) из Java Java ⇒ Native (JNA) - вызов нативного метода чрез JNA Разница в 8.5 раз (в 50 раз от вызова Java версии) OpenJDK 11.0.7 -
Производительность JNA 146 ✓ Все базируется на JNI, поэтому быстрее
быть точно не может -
Как позвать натив? 147 Как себя должен вести GC? Где
взять нативы? Как работать с Java из натива? -
Как позвать натив? 148 Как себя должен вести GC? Где
взять нативы? Как работать с Java из натива? -
Производительность JNA 149 ✓ Все базируется на JNI, поэтому быстрее
быть точно не может ✓ На стороне Java - Reflection, на стороне натива огромный dispatch MyNativeLibrary.INSTANCE.sayHello("JPoint"); com.sun.jna.Natives.invokeVoid(...) com.sun.jna.Function.invoke(...) void __stdcall sayHello(const char* name) -
150 JNA - подводные камни ✓ JNA мусорит Java обертками
вокруг нативых сущностей (Pointer, Memory, ByReference) ◦ Нагрузка на GC, ◦ Ухудшение производительности, -
151 JNA - подводные камни ✓ JNA мусорит Java обертками
вокруг нативых сущностей (Pointer, Memory, ByReference) ◦ Нагрузка на GC, ◦ Ухудшение производительности, ◦ И даже некорректное поведение! -
155 StringByReference Memory finalize() finalize() if (addr != null) {
GlobalFree(addr.getPointer(0)); } free(addr); addr = null; пользовательский код -
156 StringByReference Memory finalize() finalize() if (addr != null) {
GlobalFree(addr.getPointer(0)); } free(addr); addr = null; Чей финализатор вызовется первым? пользовательский код -
157 StringByReference Memory finalize() finalize() if (addr != null) {
GlobalFree(addr.getPointer(0)); } free(addr); addr = null; пользовательский код случился первым -
158 StringByReference Memory finalize() finalize() if (addr != null) {
GlobalFree(addr.getPointer(0)); } free(addr); addr = null; пользовательский код случился первым утечка памяти! -
159 StringByReference Memory finalize() finalize() if (addr != null) {
GlobalFree(addr.getPointer(0)); } free(addr); addr = null; пользовательский код случился первым И в addr лежит мусор... -
160 StringByReference Memory finalize() finalize() if (addr != null) {
GlobalFree(addr.getPointer(0)); } free(addr); addr = null; пользовательский код случился первым И в addr лежит мусор… получаем спорадичный развал из-за вызова GlobalFree от битой памяти! -
◦ Нагрузка на GC, ◦ Ухудшение производительности, ◦ И даже
некорректное поведение! 161 JNA - подводные камни ✓ JNA мусорит Java обертками вокруг нативых сущностей (Pointer, Memory, ByReference) ✓ Недетерминированное поведение и спорадичные развалы JVM -
Что же выбрать? Удобство использования Производительность Надежность Документированность Работает с
C++ Заготовки для библиотек JNI JNA JNR JavaCPP 163 -
Что же выбрать? Удобство использования Производительность Надежность Документированность Работает с
C++ Заготовки для библиотек JNI JNA JNR JavaCPP 164 -
Что же выбрать? Удобство использования Производительность Надежность Документированность Работает с
C++ Заготовки для библиотек JNI JNA JNR JavaCPP 165 -
Что же выбрать? Удобство использования Производительность Надежность Документированность Работает с
C++ Заготовки для библиотек JNI JNA JNR JavaCPP 166 -
Что же выбрать? Удобство использования Производительность Надежность Документированность Работает с
C++ Заготовки для библиотек JNI JNA JNR JavaCPP 167 -
Что же выбрать? Удобство использования Производительность Надежность Документированность Работает с
C++ Заготовки для библиотек JNI JNA JNR JavaCPP 168 -
170 JNR __attribute((visibility("default"))) void sayHello(const char* name) { printf("Hello %s
from native!\n", name); } MyNativeLib.c -
171 JNR __attribute((visibility("default"))) void sayHello(const char* name) { printf("Hello %s
from native!\n", name); } MyNativeLib.c public static interface MyNativeLib { void sayHello(String s); } MyNativeLib myLib = LibraryLoader.create(MyNativeLib.class).load("MyNativeLib"); myLib.sayHello("JPoint"); TestJNR.java -
172 JNR __attribute((visibility("default"))) void sayHello(const char* name) { printf("Hello %s
from native!\n", name); } MyNativeLib.c public static interface MyNativeLib { void sayHello(String s); } MyNativeLib myLib = LibraryLoader.create(MyNativeLib.class).load("MyNativeLib"); myLib.sayHello("JPoint"); TestJNR.java $ java -Djava.library.path=./lib TestJNR Hello JPoint from native! -
173 JNR __attribute((visibility("default"))) void sayHello(const char* name) { printf("Hello %s
from native!\n", name); } MyNativeLib.c public static interface MyNativeLib { void sayHello(String s); } MyNativeLib myLib = LibraryLoader.create(MyNativeLib.class).load("MyNativeLib"); myLib.sayHello("JPoint"); TestJNR.java yet another JNA? -
JNR - производительность 176 public static interface MyNativeLib { @IgnoreError
void sayHello(String s); } TestJNR.java -
Как позвать натив? 178 Как себя должен вести GC? Где
взять нативы? Как работать с Java из натива? -
Производительность JNR 179 ✓ Все базируется на JNI, поэтому быстрее
быть точно не может -
Производительность JNR 180 ✓ Все базируется на JNI, поэтому быстрее
быть точно не может ✓ На стороне Java - сгенерированный байткод, на стороне натива сгенерированный асм! myLib.sayHello("JPoint"); asm wrapper (super lightweight) bytecode wrapper (inlined) void sayHello(const char* name) -
181 JNR: ✓ используется в JRuby и активно развивается ✓
есть готовая обвязка для posix, unisocket, signal... -
✓ используется в JRuby и активно развивается ✓ есть готовая
обвязка для posix, unisocket, signal... Подводные камни: 182 ✓ асм завертки генерируются не для всех платформ. На Windows их нет вообще ✓ документации почти нет JNR: -
Что же выбрать? Удобство использования Производительность Надежность Документированность Работает с
C++ Заготовки для библиотек JNI JNA JNR JavaCPP 183 -
Что же выбрать? Удобство использования Производительность Надежность Документированность Работает с
C++ Заготовки для библиотек JNI JNA JNR JavaCPP 184 -
186 JavaCPP #include <iostream> inline void sayHelloFromCPP(std::string name) { std::cout
<< "Hello " << name << " from cpp code!" << std::endl; } MyCPPLib.cpp -
187 JavaCPP #include <iostream> inline void sayHelloFromCPP(std::string name) { std::cout
<< "Hello " << name << " from cpp code!" << std::endl; } MyCPPLib.cpp @Platform(include = "MyCPPLib.cpp") public static class MyCPPLib { static { Loader.load(); } static native void sayHelloFromCPP(@StdString String name); } MyCPPLib.sayHelloFromCPP("JPoint"); JavaCppTest.java -
188 JavaCPP #include <iostream> inline void sayHelloFromCPP(std::string name) { std::cout
<< "Hello " << name << " from cpp code!" << std::endl; } MyCPPLib.cpp @Platform(include = "MyCPPLib.cpp") public static class MyCPPLib { static { Loader.load(); } static native void sayHelloFromCPP(@StdString String name); } MyCPPLib.sayHelloFromCPP("JPoint"); JavaCppTest.java $ java -Djava.library.path=./lib JavaCppTest Hello JPoint from cpp code! -
189 JavaCPP ✓ Позволяет из Java работать с C++ сущностями:
◦ виртуальные функции и перегруженные операторы ◦ string, vector, map ◦ указатели, в т.ч. на функции ◦ деструкторы и конструкторы ◦ smart-pointers ◦ шаблоны! -
190 JavaCPP ✓ Позволяет из Java работать с C++ сущностями
✓ Гибкая генерация Java оберток по C++ библиотеке ✓ Огромное количество заготовленных оберток для популярных библиотек github.com/bytedeco/javacpp-presets -
191 JavaCPP ✓ Позволяет из Java работать с C++ сущностями
✓ Гибкая генерация Java оберток по C++ библиотеке ✓ Огромное количество заготовленных оберток для популярных библиотек ✓ Сборка через Maven или Gradle, включая C/C++ часть! github.com/bytedeco/javacpp-presets -
193 JavaCPP - подводные камни ✓ Все базируется на JNI,
поэтому быстрее быть точно не может -
194 JavaCPP #include <iostream> inline void sayHelloFromCPP(std::string name) { std::cout
<< "Hello " << name << " from cpp code!" << std::endl; } @Platform(include = "MyCPPLib.cpp") public static class MyCPPLib { static { Loader.load(); } static native void sayHelloFromCPP (@StdString String name); } MyCPPLib.sayHelloFromCPP("JPoint"); JNIEXPORT void JNICALL Java_MyCPPLib_sayHelloFromCPP (JNIEnv *, jclass, jstring); сгенерированные JNI адаптеры компилируются в отдельную нативную библиотеку при сборке -
196 JavaCPP - подводные камни но стоит заиспользовать C++ объекты
в Java коде.. OpenJDK 11.0.7 -
JavaCPP - подводные камни ✓ Использование Java версий C++ объектов
просаживает производительность 197 -
JavaCPP - подводные камни ✓ Использование Java версий C++ объектов
просаживает производительность ✓ Вместо деструкторов и smart pointers - PhantomReference + ReferenceQueue недетерменированность исполнения и веселые баги! (привет, JNA) 198 -
Что же выбрать? Удобство использования Производительность Надежность Документированность Работает с
C++ Заготовки для библиотек JNI JNA JNR JavaCPP 199 -
Takeaways про библиотеки Удобство использования Производительность Надежность Документированность Работает с
C++ Заготовки для библиотек JNI JNA JNR JavaCPP 200 -
203 Project Panama ✓ Что: мега-проект в JDK (since 2014)
✓ Зачем: легкость использования С/С++ библиотек и нативного кода из Java ✓ Как: вместо написания кода на C/C++ расширить возможности Java -
204 Project Panama ✓ Memory Access API (JEP 370, JEP
383) ◦ Новый API для работы с нативной памятью ◦ Потенциальная замена ByteBuffer ◦ Incubator-модуль в Java 14 -
205 Project Panama ✓ Memory Access API (JEP 370, JEP
383) ✓ Новый Foreign Function Interface (JEP 191) ◦ Native Method Handles ◦ MemorySegment from Memory Access API ◦ jextract для генерации интерфейсов -
Project Panama void test(void) { printf("Hello from Panama!\n"); } void
testUpcall(void (*upcall)(void)) { upcall(); } panamatest.c void test(void); void testUpcall(void (*upcall)(void)); panamatest.h 206 -
Project Panama void test(void) { printf("Hello from Panama!\n"); } void
testUpcall(void (*upcall)(void)) { upcall(); } panamatest.c jextract void test(void); void testUpcall(void (*upcall)(void)); panamatest.h 207 -
package org.sample; public final class panamatest_h { public static MethodHandle
test$MH() { return panamatest_h$constants.test$MH(); } public static void test () { try { panamatest_h$constants.test$MH().invokeExact(); } catch (Throwable ex) { throw new AssertionError(ex); } } ... } panamatest_h.java Project Panama 208 -
210 Project Panama Java ⇒ Native (JNI) - вызов нативного
метода (без параметров) из Java OpenJDK 16-internal+0-adhoc.user.panama-foreign-CallIntrinsicsFinal2 -
211 Project Panama Java ⇒ Native (JNI) - вызов нативного
метода (без параметров) из Java Java ⇒ Native (Panama) - вызов нативного метода (без параметров) из Java через MethodHandle OpenJDK 16-internal+0-adhoc.user.panama-foreign-CallIntrinsicsFinal2 -
212 Project Panama Java ⇒ Native (JNI) - вызов нативного
метода (без параметров) из Java Java ⇒ Native (Panama) - вызов нативного метода (без параметров) из Java через MethodHandle +4% OpenJDK 16-internal+0-adhoc.user.panama-foreign-CallIntrinsicsFinal2 -
213 Project Panama ✓ Улучшения производительности Java ⇒ Native и
Native ⇒ Java вызовов через MethodHandles WORK IN PROGRESS! -
214 Project Panama ✓ Улучшения производительности Java ⇒ Native и
Native ⇒ Java вызовов через MethodHandles WORK IN PROGRESS! ✓ Unsafe нативные методы, которые блокируют GC WORK IN PROGRESS! -
215 Project Panama (подводные камни) Threads in Java code GC
Threads GC request Threads in native -
216 Project Panama (подводные камни) Threads in Java code GC
Threads GC request Threads in native Threads in unsafe native -
217 Project Panama (подводные камни) Threads in Java code GC
Threads GC request Threads in native Threads in unsafe native Здесь не может произойти STW! -
218 Project Panama Java ⇒ Native (JNI) - вызов нативного
метода (без параметров) из Java Java ⇒ Native (Panama) - вызов нативного метода (без параметров) из Java через MethodHandle +4% OpenJDK 16-internal+0-adhoc.user.panama-foreign-CallIntrinsicsFinal2 -
219 Project Panama Java ⇒ Native (Panama) - вызов нативного
метода (без параметров) из Java через MethodHandle без синхронизации с GC OpenJDK 16-internal+0-adhoc.user.panama-foreign-CallIntrinsicsFinal2 -
220 Project Panama ✓ Unsafe natives - опасный механизм, но
дает уникальную производительность ✓ По умолчанию вызовы безопасные ✓ Очень экспериментальная фича! (замеры на версии от 25.06.20) -
Что же выбрать? Удобство использования Производительность Надежность Документированность Работает с
C++ Заготовки для библиотек JNI JNA JNR JavaCPP 222 -
Что же выбрать? Удобство использования Производительность Надежность Документированность Работает с
C++ Заготовки для библиотек JNI JNA JNR JavaCPP Panama 223 -
GraalVM LLVM Runtime ✓ C/C++ код компилируется в LLVM bitcode
void goNative() { printf("Hello from LLVM!\n"); } native.c $LLVM_TOOLCHAIN/clang -c native.c -o native.bc native.bc 229 -
GraalVM LLVM Runtime ✓ C/C++ код компилируется в LLVM bitcode
✓ LLVM bitcode интерпретируется с агрессивной специализацией 230 -
import org.graalvm.polyglot.*; ... Context polyglot = Context.newBuilder().allowAllAccess(true).build(); File file =
new File("native.bc"); Source source = Source.newBuilder("llvm", file).build(); Value cpart = polyglot.eval(source); cpart.getMember("goNative").executeVoid(); TestPolyglot.java 231 -
import org.graalvm.polyglot.*; ... Context polyglot = Context.newBuilder().allowAllAccess(true).build(); File file =
new File("native.bc"); Source source = Source.newBuilder("llvm", file).build(); Value cpart = polyglot.eval(source); cpart.getMember("goNative").executeVoid(); TestPolyglot.java $ $GRAAL_VM_HOME/javac TestPolyglot.java $ $GRAAL_VM_HOME/java TestPolyglot Hello from LLVM! 232 -
GraalVM LLVM Runtime ✓ C/C++ код компилируется в LLVM bitcode
✓ LLVM bitcode интерпретируется с агрессивной специализацией ✓ Единое внутреннее представление для native и Java кода ✓ Native код под нашим контролем! 233 -
235 GraalVM LLVM Runtime Java ⇒ Native - вызов пустого
нативного метода (без параметров) из Java OpenJDK GraalVM CE 20.1.0 (build 11.0.7+10-jvmci-20.1-b02) -
236 GraalVM LLVM Runtime Java ⇒ Native - вызов пустого
нативного метода (без параметров) из Java Sulong - вызов пустого метода на C (без параметров) через Sulong OpenJDK GraalVM CE 20.1.0 (build 11.0.7+10-jvmci-20.1-b02) -
GraalVM LLVM Runtime int nativeWithSomeWork(int k) { int prev =
0; int curr = 1; for (int i = 0; i < k; i++) { int summ = prev + curr; prev = curr; curr = summ; } return curr; } native.c $LLVM_TOOLCHAIN/clang -O2 -c native.c -o native.bc native.bc 237 -
238 GraalVM LLVM Runtime Java ⇒ Native - вызов пустого
нативного метода (без параметров) из Java Sulong - вызов пустого метода на C (без параметров) через Sulong OpenJDK GraalVM CE 20.1.0 (build 11.0.7+10-jvmci-20.1-b02) -
239 GraalVM LLVM Runtime Java ⇒ Native - вызов пустого
нативного метода (без параметров) из Java Sulong - вызов пустого метода на C (без параметров) через Sulong (fib100) - вычисление 100- ого числа Фибоначчи в нативе ↓x2.5 OpenJDK GraalVM CE 20.1.0 (build 11.0.7+10-jvmci-20.1-b02) -
240 GraalVM LLVM Runtime Java ⇒ Native - вызов пустого
нативного метода (без параметров) из Java Sulong - вызов пустого метода на C (без параметров) через Sulong (fib100) - вычисление 100- ого числа Фибоначчи в нативе ↓x2.5 vs ↓x5 OpenJDK GraalVM CE 20.1.0 (build 11.0.7+10-jvmci-20.1-b02) -
241 GraalVM LLVM Runtime ✓ Чем больше нативного кода, тем
хуже производительность ✓ Sulong - work in progress ✓ Sulong нужно очень долго “прогревать” -
Что же выбрать? Удобство использования Производительность Надежность Документированность Работает с
C++ Заготовки для библиотек JNI JNA JNR JavaCPP Panama 242 -
Удобство использования Производительность Надежность Документированность Работает с C++ Заготовки для
библиотек JNI JNA JNR JavaCPP Panama Sulong Финальное сравнение 243 -
Заключение ✓ Старайтесь не писать нативный код (там горные тролли)
✓ Знайте свой путь в Мордор фреймворк для вызова нативного кода ✓ Native ⇔ managed переходы в Java - все еще открытый вопрос! 244