Как удалить атрибут элемента при помощи JS?

С помощью removeAttribute

styleTag.removeAttribute('scope'); 
 
console.log(styleTag.outerHTML);

<style id="styleTag" scope="scope"></style>

scope="scope" — аттрибут элемента. Чтобы удалить все аттрибуты, не нужен jQuery:

while (elem.attributes.length > 0)
    elem.removeAttribute(elem.attributes[0].name);

Чтобы проитерироваться по всем элементам документа:

var all = document.getElementsByTagName("*");
for (var i=0, max=all.length; i < max; i++) {
     // ваши действия
}

Или с jQuery:

$(document.documentElement).children().each(function(index, element) {
    // ваши действия
});

Всё вместе:

var all = document.getElementsByTagName("*");
for (var i=0, max=all.length; i < max; i++) {
    var elem = all[i];
    while (elem.attributes.length > 0)
        elem.removeAttribute("scope");
}

Как отмечено в комментариях, можно и сразу выбрать только нужные элементы (только те, что содержат нужный аттрибут)

jQuery:

$("[scope]").each(function(index, element) {
    element.removeAttribute("scope");
});