Что за значение [System process] возвращает Process32First

Функция Process32First задает начало перебора списка процессов, и в частности обеспечивает заполнение через указать во втором аргументе информации о первом процессе в системе.

BOOL WINAPI Process32First(
  _In_    HANDLE           hSnapshot,
  _Inout_ LPPROCESSENTRY32 lppe
);

Структура PROCESSENTRY32 имеет поле szExeFile, которое и содержит упомянутое в вопросе строковое значение "[System process]". Также можно обратить внимание на идентификатор этого процесса (поле th32ProcessID), он будет равен 0.

Данный процесс на самом деле не является каким-либо реальным процессом, и по сути отражает насколько система свободна для выполнения каких-то других задач. Его существование позволяет упростить механизм работы планировщика процессов. В диспетчере задач Windows данный "процесс" называется "Бездействие системы" ("System Idle Process").