Исследование системы передачи дискретных сообщений (стр. 2 из 5)

Далее сигнал поступает на декодер канала (ДК). Преобразуется в ДК, поступает на декодер источника (ДИ). В ДИ восстанавливается исходное сообщение. На выходе декодера, несмотря на ошибки в приеме сигналов, возникающих из-за действующих в КС шумов, должна формироваться та же последовательность, которая поступала на вход КК. Достигается это с помощью эффективных кодов, которые исправляют ошибки, возникающие при передаче сообщения по КС. Декодер выдает оценку сообщения

. Получатель сообщения (ПС) восстанавливает сообщение по принятому сигналу и выдает нам готовое передаваемое сообщение.

Задание №2.

Исследование тракта кодер-декодер источника.

1. Найдем энтропию источника.

- алфавит из 16 символов.

Найдем избыточность источника.

Найдем производительность источника.

.

2. Найдем минимально необходимое число разрядов кодового слова

,при условии, что производится примитивное кодирование.

Найдем среднее количество двоичных символов, приходящееся на один символ источника. В случае примитивного кодирования:

3. Построим кодовое дерево для кода Шеннона-Фано, при условии, что производится экономное кодирование. Запишем кодовые комбинации для представления всех 16 символов источника, найдем число разрядов каждой полученной комбинации.

а	0,31	00	2		0,62	2		0,62			0	0
р	0,2	01	2		0,4	1		0,2			1	0,2
м	0,166	100	3		0,498	2		0,332			1	0,166
и	0,135	101	3		0,405	1		0,135			2	0,27
в	0,057	1100	4		0,228	2		0,114			2	0,114
л	0,04	1101	4		0,16	1		0,04			3	0,12
д	0,02	11100	5		0,1	2		0,04			3	0,06
е	0,02	11101	5		0,1	1		0,02			4	0,08
н	0,012	111100	6		0,072	2		0,024			4	0,048
б	0,01	1111010	7		0,07	2		0,02			5	0,05
г	0,0081	1111011	7		0,0567	1		0,0081			6	0,0486
к	0,008	1111100	7		0,056	2		0,016			5	0,040
п	0,006	1111101	7		0,042	1		0,006			6	0,036
о	0,004	1111110	7		0,028	1		0,004			6	0,024
з	0,002	11111110	8		0,016	1		0,002			7	0,014
с	0,0019	11111111	8	0,0152			0		0	8		0,0152

- число разрядов кодовой комбинации.

-вероятность -го символа.

и - число нулей и единиц в кодовой комбинации -го символа.

Найдем среднее количество двоичных символов, приходящееся на один символ источника.

[бит/симв]

Избыточность на выходе кодера равна:

.

Энтропия на выходе равна:

Следовательно,

Вывод: при экономном кодирования среднее число двоичных символов, приходящееся на один символ источника меньше, чем в примитивном кодировании, это доказывает эффективность экономного кодирования. Избыточность при экономном кодировании намного меньше, чем в примитивном кодировании. Примитивный равномерный код не может обеспечить эффективного согласования источника с каналом связи.

4. Рассчитаем вероятности двоичных символов на выходе кодера источника.

Рассчитаем среднюю скорость выдачи двоичных символов на выходе кодера источника.

.

Описание процедуры кодирования и декодирования символов экономным кодом Шеннона-Фано.

При кодировании происходит процесс преобразования элементов сообщения в соответствующие им кодовые символы. Каждому элементу сообщения присваивается определённая совокупность кодовых символов, которая называется кодовой комбинацией.

Рис. Схема кодера

Совокупность кодовых комбинаций, отображающих дискретные сообщения, образует код. Правило кодирования может быть выражено кодовой таблицей, в которой приводятся алфавит кодируемых сообщений и соответствующие им кодовые комбинации. Множество возможных кодовых символов называется кодовым алфавитом, а их количество m- основанием кода.

Алгоритм кодирования Шеннона-Фано заключается в следующем. Символы алфавита источника записываются в порядке не возрастающих вероятностей. Затем они разделяются на две части так, чтобы суммы вероятностей символов, входящих в каждую из таких частей (если она содержит более одного сообщения) делится в свою очередь на две, по возможности, равновероятные части, и к ним применяется то же самое правило кодирования. Этот процесс повторяется до тех пор, пока в каждой из полученных частей не останется по одному сообщению.

Задание № 3.

Исследование тракта кодер-декор канала.

Для канального кодирования выбран код Хемминга (7,4).

1. При помехоустойчивом кодировании в сообщение целенаправленно вносится избыточность для обнаружения или исправления ошибок в канале с помехами. Кодирование осуществляется следующим образом. К 4-м информационным разрядам добавляются 3 проверочных, чтобы соблюдалось условие линейной независимости. Таким образом, получается, что каждый из 7 символов участвует хотя бы в одной проверке. Далее мы рассчитываем 3 проверочных разряда по формулам, например:

,

,

.

Затем рассчитанные проверочные разряды дописываются после 4 информационных.

Так делается со всеми информационными разрядами и записывается готовая кодовая комбинация.

2. Определим избыточность кода.

.

Где

- общее число разрядов кодовой комбинации.

.

- число информационных разрядов.

-число проверочных разрядов.

,

.

Определим скорость кода.