Странная форма написание стилей

.test {
   .test ul {
      .test li {
         // styles ... 
      }
   }
   .test a {
      // styles ... 
   }
}

Такое описание стилей соответствует тому, как они описываются в CSS-препроцессорах, таких, как LESS, SCSS, Sass и т.п.

CSS препроцессор (от англ. CSS preprocessor) — это надстройка над CSS, которая добавляет ранее недоступные возможности для CSS, с помощью новых синтаксических конструкций.

Например, код, написанный на LESS:

.test {
    width:100%;
    ul {
       list-style:none;
       li {
         padding:0;
         margin:0;
      }
   }
   a {
      display:inline-block;
   }
}

будет скомпилирован в привычный нам CSS следующим образом:

.test {
  width:100%;
}
.test ul {
  list-style:none;
}
.test ul li {
  padding:0;
  margin:0;
}
.test a {
  display:inline-block;
}

Подробнее о препроцессорах можно почитать тут.

Это SASS-SCSS. Модуль, включенный в Haml. Sass — это метаязык на основе CSS, предназначенный для увеличения уровня абстракции CSS кода и упрощения файлов каскадных таблиц стилей.
Описание из wikipedia

Или же LESS. LESS — это динамический язык стилей, который разработал Alexis Sellier. Он создан под влиянием языка стилей Sass, и, в свою очередь, оказал влияние на его новый синтаксис «SCSS», в котором также использован синтаксис, являющийся расширением СSS.
Описание из wikipedia

Точно не назову, т.к. у них подобный синтаксис

Можно написать вот так

.test ul li {
}
.test a {
}

Еще можно так:

.test > ul > li {
}
.test > a {
}