Для чего нужен метод BigInteger probablyPrime ?

Он используется в криптографии. В алгоритме шифрования RSA производится поиск огромных простых чисел, зачастую больше 1024 бит или ~300 знаков. Надёжность RSA состоит в том на том, что разложить на множители два таких числа, умноженые друг на друга невероятно тяжело и долго.

Метод BigInteger.probablePrime(...) генерирует случайное число и использует Тест Миллера для определения простое оно или нет, в результате у числа вероятность быть составным не превышает 2^-100.