Кто может объяснить принцип работы

Во-первых для проверки правильности на тесте добавьте в метод someMethodWithSynchronizedBlocks(Object obj1, Object obj2) строку System.out.println("must be "+ (obj1.hashCode()>obj2.hashCode())); Вы увидите что иногда результат работы вашего метода проверки будет неверен.

Во-вторых, если вы сказали потоку thread.start() это еще совсем не значит что он успел стартануть до того как начал выполняться код в основном потоке. Запросто может быть ситуация когда он вообще стартанет после того как основной поток завершит работу. И вообще, может быть такая ситуация что оба новых потока вообще не успеют начать работу до того как закончит работу основной поток. Поэтому лучше снова перерешать задание.

Даже не знаю как объяснить, первоначально при получение задания код такой

public class Solution {
public void someMethodWithSynchronizedBlocks(Object obj1, Object obj2) {
    synchronized (obj1) {
        synchronized (obj2) {
            System.out.println(obj1 + " " + obj2);
        }
    }
}
public static boolean isNormalLockOrder(final Solution solution, final Object o1, final Object o2) throws Exception {
    //реализуйте метод
    return false;
}
public static void main(String[] args) throws Exception {
    final Solution solution = new Solution();
    final Object o1 = new Object();
    final Object o2 = new Object();
    System.out.println(isNormalLockOrder(solution, o1, o2));
}

}

а задание вот:

Определяем порядок захвата монитора

Реализуй логику метода isNormalLockOrder, который должен определять:

соответствует ли порядок synchronized блоков в методе someMethodWithSynchronizedBlocks — порядку передаваемых в него аргументов.

В случае, если сначала происходит синхронизация по o1, а потом по o2, метод должен вернуть true.

Если наоборот — false.

Требования:

1. Метод isNormalLockOrder должен возвращать true в случае, если синхронизация в методе someMethodWithSynchronizedBlocks происходит сначала по объекту o1, а потом по o2.

2. Метод isNormalLockOrder должен возвращать false в случае, если синхронизация в методе someMethodWithSynchronizedBlocks происходит сначала по объекту o2, а потом по o1.

3. Метод isNormalLockOrder НЕ должен быть приватным.

4. Класс Solution НЕ должен быть объявлен с модификатором final.