Генератор случайных чисел с энтропией

Все современные ГСЧ имеют равномерное распределение, других не бывает (точнее, их быстро исправляют, отклонение от равномерного распределения - это серьезный баг).

Когда вы N раз равномерно выбираете одно из M значений - число выборов каждого значения подчиняется биноминальному распределению с параметрами N, 1/M.

Интересующее вас значение, которое вы называете погрешностью, можно грубо оценить как отношение среднеквадратического отклонения к матожиданию (эта оценка очень не точная, но она использует довольно простые формулы и дает представление о порядке искомой величины).

Математическое ожидание для такого распределения равно N/M, а cреднеквадратическое отклонение этого распределения равно квадратному корню из N/M*(1 - 1/M). Отношение среднеквадратического отклонения к матожиданию равно квадратному корню из M/N*(1 - 1/M) = (M-1)/N. При M=100 и N=20000 это будет примерно 0.07, что довольно похоже на ваши результаты для CryptGenRandom.

Таким образом, равномерное распределение вам не подходит. Если вам нужно чтобы все числа встречались в выходной последовательности примерно одинаковое количество раз - придется отказаться от независимой генерации элементов последовательности.

Так, для ограниченной последовательности вы можете взять массив, заполнить его нужными числами, после чего сгенерировать случайную перестановку этого массива.

Альтернативный вариант - считать сколько каких чисел было сгенерировано и после генерации каждого числа на основе этих данных пересчитывать распределение вероятностей для следующего числа.

Тут вам поможет алгоритм генерации случайного числа с табличным распределением.