Затенение фона модального окна Bootstrap

В background-color значения none не существует, поэтому когда вы его задаете, браузер его пропускает и возвращается к предыдущему заданному значению. Возможные значения:

background-color: <цвет> | transparent | inherit

Поэтому задайте фону значение прозрачность:

 .modal-backdrop {
   background-color: transparent;
 }

За изменение прозрачности отвечает opacity, единственное, изначально не мог найти какой именно елемент отвечает конкретно за фон и его прозрачность(думал .fade-in, но он вызывает сам эффект), следуя подсказке в комментарии:

изменение цвета фона .modal-backdrop не подходит?

оказалось, что решение проблемы - добавления в сss:

.modal-backdrop{opacity: 0 !important;}

Или внести изменения в файлы бутстрапа.