Обнаружить StackOverflowError в других потоках

В общем случае я бы посоветовал данную задачу (перехват ожидаемого исключения) возложить на сам поток, но если это не возможно по каким либо причинам:

@Override
public void start(Stage primaryStage) {
    Thread.setDefaultUncaughtExceptionHandler(new MyUncaughtExceptionHandler());

См. setDefaultUncaughtExceptionHandler, UncaughtExceptionHandler

Правка (после предоставления исходных кодов):

Внутри установленного UncaughtExceptionHandler:

Platform.runLater(() -> errorsOutput.runtimeException(new RuntimeException("Error in program thread", throwable)));