При расчете мощности шума квантования учитываем, что при заданном равномерном законе распределения сообщения
Тогда момент первого порядка (математическое ожидание)
Дисперсия шума квантования (средняя мощность)
Мощность первичного сигнала (сообщения)
Относительная мощность шума квантования
3.4 Энтропия и производительность
Энтропия – это средняя информативность источника на один символ, определяющая «неожиданность» или «непредсказуемость» выдаваемых им сообщений. Полностью детерминированный источник, выдающий лишь одну, заранее известную последовательность, обладает нулевой информативностью. Наоборот, наиболее «хаотический» источник, выдающий взаимно независимые и равновероятные символы, обладает максимальной информативностью.
Для источника, не обладающего памятью с алфавитом А энтропия записывается следующим образом:
где
Для прямоугольного распределения ПВ
Мы видим, что
Тогда энтропия будет определяться как энтропия дискретного источника независимых сообщений, все символы которого равновероятны:
Если источник сообщения имеет фиксированную скорость
В кодере процесс кодирования осуществляется в два этапа. На 1-ом этапе производится примитивное кодирование каждого уровня квантованного сообщения
Требуется:
1. Определить минимальное значение к, необходимое для кодирования всех
2. Определить избыточность кода с одной проверкой на четность
3. Записать двоичную кодовую комбинацию, соответствующую передаче
4. определить число двоичных символов, выдаваемых кодером в секунду
4.1 Число разрядов двоичной комбинации
Для кодирования
Для нашего здания
4.2 Избыточность кода с одной проверкой на четность
Код с проверкой четности образуется добавлением к группе информационных разрядов, представляющих простой (неизбыточный) код, одного избыточного (контрольного) разряда.
При формировании кода слова в контрольный разряд записывается 0 или 1 таким образом, чтобы сумма 1 в слове, включая избыточный разряд, была четной (при контроле по четности) или нечетной (при контроле по нечетности). В дальнейшем при всех передачах, включая запись в память и считывание, слово передается вместе со своим контрольным разрядом. Если при передаче информации приемное устройство обнаруживает, что в принятом слове значение контрольного разряда не соответствует четности суммы 1 слова, то это воспринимается как признак ошибки.
Определим избыточность кода
где
4.3 Двоичная кодовая комбинация
Проверочный символ
Тогда
Искомая кодовая комбинация имеет вид