Приоритет наложение слоёв

Это поведение согласно спецификации w3.org.

Элементы контейнера Flex отрисовываются как inline элементы, за исключением возможности применять z-index даже если position: static

4.3. Flex Item Z-Ordering

Flex items paint exactly the same as inline blocks [CSS21], except that order-modified document order is used in place of raw document order, and z-index values other than auto create a stacking context even if position is static.

z-index применяется не только для позиции, а ко всем гибким элементам. Гибкими элементы делает position: absolite, fixed, static... и так же гибким их делает display: flex. Приоритетными его блоки становятся потому, что p стоит перед h1

p{ 
    margin-bottom: -30px; 
    position: relative; 
    color: red; 
    display: flex; 
    background: blue; 
    z-index: 1; 
} 
h1{ 
    position: relative; 
    z-index: 2; 
    background: green; 
} 
p em{ 
    background: red; 
    z-index: 3; 
}

<p>13231<em>666</em></p> 
<h1>Aaaaa</h1>