Разработать программу для определения энтропии сообщения. (C++)
В программе должны быть следующие функции:
чтение файла;
сформировать список сообщений и вероятность их появления;
подсчёт количества информации в каждом сообщении;
подсчитать энтропию источника сообщений;
сделать кодирование сообщений алгоритмом Шеннона-Фано
(по возможности выполнить Арифметическое кодирование
для выполненного кодирования подсчитать среднее количество
символов на сообщение (L - эффективность кодирования);
подсчитать за теоремой Шеннона-Фано нижнюю оценку (грань)
(Lm) для среднего количества символов на сообщение (L);
используя кодирование блоками соответственной длинны
обеспечить заданную длину между L та Lm;