JavaFX приложение, защита Propertyes файлов

Способов надежно защитить данные на стороне клиента нет, клиент всегда считается скомпрометированным.

Можно немного усложнить жизнь потенциальным взломщикам, используя обфускацию(proguard например), а файлы ресурсов, например, шифровать, и расшифровывать только в рантайме ключом, полученным, с сервера, или спрятанным где-нибудь глубоко в коде. Но и в таком случае знающий человек рано или поздно поймет в чем дело и все равно получит доступ к файлам.

Единственный надежный вариант - добавлять сервер, который будет авторизовать клиента и выдавать ему только те данные, к которым у него есть доступ.

Защитить файл невозможно. Можно его не использовать. Для этого с БД должно не приложение работать, но сервер, к коему приложение будет обращаться по API.

В приложении должна быть возможность дёргать методы API для регистрации и авторизации юзера. Сервер будет назначать юзеру права на вызовы своих методов. Так вы будите полностью контролировать что может юзер сделать с БД.

Но так юзер, конечно, может взломать ваш сервер и вытащить пароль к БД с него. Так что вообще совсем защитить БД не получится никак)