Как прочитать матрицу из файла (java)?

Для вашего формата файла можно использовать подобный код:

Scanner scanner = new Scanner(new File("/path/to/file"));
int n = scanner.nextInt();
int[][] x = new int[n][n]; // коэффициенты перед x
int[] a = new int[n];      // правая часть
for (int i = 0; i < n; i++) {
    for (int j = 0; j < n; j++) {
        x[i][j] = scanner.nextInt();
    }
    a[i] = scanner.nextInt();
}