Хеш Java Bouncy Castle

Через родной механизм Java:

Security.addProvider(new BouncyCastleProvider()); //регистрируем провайдера, можно выполнить где-нибудь статически
byte[] text="abcd".getBytes();
MessageDigest md = MessageDigest.getInstance("GOST3411",BouncyCastleProvider.PROVIDER_NAME); //второй параметр можно опустить
byte[] resultHash = md.digest(text);

Напрямую через BC:

byte[] text="abcd".getBytes();
GOST3411.Digest md = new GOST3411.Digest();
byte[] resultHash = md.digest(text);