Почему метод всегда возвращает 0

1. Вы запускаете метод.
2. Он запускает асинхронную операцию по получению данных из FireBase.
3. Эти данные могут прийти быстро, очень не быстро или вообще не прийти.
4. Не дожидаясь того что произойдёт в п.3 вы возвращаете пустой список данных

Так как вы планируете написать у вас не получится из-за того, что действия в разных потоках происходят. Вам надо перестроить логику так, чтобы нигде не было нужды синхронно получать данные, получаемые асинхронно.

Я бы это сделал с помощью RxJava как-то так:

Observable.<List<CategoryList>>create(subscriber -> {
    FirebaseDatabase firebaseDatabase = FirebaseDatabase.getInstance();
    firebaseDatabase.getReference()
            .child(DBHelper.TABLE_OPERATIONS)
            .addValueEventListener(new ValueEventListener() {
                @Override
                public void onDataChange(DataSnapshot dataSnapshot) {
                   List<CategoryList> categoriesList = new ArrayList<>();
                   for (DataSnapshot postSnapshot : dataSnapshot.getChildren()) {
                       CategoryList post = postSnapshot.getValue(CategoryList.class);
                       categoriesList.add(post);
                    }
                    subscriber.onNext(categoriesList);
                    subscriber.onCompleted();
                }
                @Override
                public void onCancelled(DatabaseError databaseError) {
                    subscriber.onError(databaseError.toException());
                }
            });
})
.subscribe(
    data -> {//вот обновлённые данные из Firebase},
    e -> {//какая-то огибка произошла}
);