Как отменить действие return false?

Можно так

$("#category li").on('click', function(){ 
   return false;
});
$("#category li").off('click');

Можно попробовать завести переменную, которая будет говорить, что сейчас происходит редактирование и переход запрещён. В этот момент она будет false. Тогда код будет выглядеть примерно так:

var blocker = false;
//Где-то, где происходит редактирование blocker надо сделать равной true
//Тогда в коде ниже не буде срабатывать переход по ссылке
$("#category li").click(function(){
    if (blocker) {
        return false;
    }
});