Задать для :before стиль через jquery

Сделать нужно так:

1) добавляете класс при клике для родительского элемента

2) через css делаете нужные вещи например так:

$('.btn-expand').live('click', function(event) {
     $(this).addClass("active");
});
.btn-expand.active:before {
transform :rotate(360deg)
}

Вы не можете манипулировать :before, потому что псевдоэлементы недоступны из JavaScript. Но вы можете добавить новый класс с :before:

CSS:

.btn-expand.changed:after { 
   transform :rotate(360deg)
}

JS:

$('.btn-expand').live('click', function(event) {
     $(this).toggleClass('changed');
});