java.library.path указывается в аргументах при запуске и действительно для нативников, которые нужны некоторым либам, которые юзаются в майне. Ну а вообще, при запуске из ИДЕ, его Грэдл ставит на нужные нативсы самостоятельно и они чаще всего в C:/Users/Ктототам/.gradle/Четотам. Лаунчеры майна по-разному справляются с нативниками, лицензионный к примеру их быстро качает и сует в временную директорию, а потом удаляет. Для ваших задач подошел бы больше System#loadLibrary. В аргументы ему надо давать полный путь до либы. В случае с модом, лучше сначала извлекать либу из жарника мода кодом и далее загружать ее через System#loadLibrary.