Поиск по классу и логическое НЕ jquery

Селектор jQuery $(...) всегда возвращает объект-обертку вокруг некоторого количества DOM-элементов, даже если этих элементов ноль. Результат селектора, как булевское значение, соответствует true. Вам следует проверять количество найденных элементов.

if ($('.class').length > 0 && $('.class2').length == 0) {
    $('.class').css('top', 10);
}

или эквивалентное

if ($('.class2').length == 0) {
    $('.class').css('top', 10);
}

так как в отсутствие элементов с классом class операция $('.class').css('top', 10); ничего не делает.