Стоит ли создавать новый класс для вариации алгоритма?

На мой взгляд лучше создать новый класс под каждый алгоритм.

Т.е. вы создаете интерфейс допустим такой:

interface AlgoritmExecutor{
     execute();
}

И для каждого класса алгоритмов его реализуете, и сам алгоритм пишите в нем. В этом случае при добавлении нового алгоритма Вам надо будет написать новый класс, а не лезть в старый, добавляя новые условия.

Но остается вопрос как выбирать нужный класс. Тут моё предложение не лучшее. Создать фабрику, которая будет принимать пачку boolean за каждый чекбокс.

class AlgoritmFactory{
    static AlgoritmExecutor chooseAlgoritm(boolean... checkbox){
        //тут исходя из включенных чекбоксов выбираете нужный класс алгоритма 
    }
}

Это удобно тем, что в слое вида вы обращаетесь к фабрике, передаете ей все чекбоксы и получаете выбранный алгоритм в виде интерфейса.

public void algoritmAction(){
     AlgoritmExecutor  algoritm = AlgoritmFactory(checkbox1.isEnabled(), checkbox2.isEnabled(), checkbox3.isEnabled());
     algoritm.execute();
}

но фабрика становится не очень понятна для стороннего читателя из-за пачки булевых значений.