Эффективное кодирование

Эффективное кодирование - это процедуры направленные на устранение избыточности.

Основная задача эффективного кодирования: обеспечить, в среднем, минимальное число двоичных элементов на передачу сообщения источника. В этом случае, при заданной скорости модуляции обеспечивается передача максимального числа сообщений, а значит максимальная скорости передачи информации.

Пусть имеется источник дискретных сообщений, алфавит которого k.

При кодировании сообщений данного источника двоичным, равномерным кодом, потребуется двоичных элементов на кодирование каждого сообщения.

Если вероятности P(ai) появления всех сообщений источника равны, то энтропия источника (или среднее количество информации в одном сообщении) максимальна и равна.

В данном случае каждое сообщение источника имеет информационную емкость бит, и очевидно, что для его кодирования (перевозки) требуется двоичная комбинация не менее элементов. Каждый двоичный элемент, в этом случае, будет переносить 1 бит информации.

Если при том же объеме алфавита сообщения не равновероятны, то, как известно, энтропия источника будет

.

Если и в этом случае использовать для перевозки сообщения lр.к.-разрядные кодовые комбинации, то на каждый двоичный элемент кодовой комбинации будет приходиться меньше чем 1 бит.

Появляется избыточность, которая может быть определена по следующей формуле:

, где D - избыточность.

Если средняя загрузка единичного элемента так мала, встает вопрос, нельзя ли уменьшить среднее количество элементов необходимых для переноса одного сообщения и как наиболее эффективно это сделать?

Для решения этой задачи используются неравномерные коды.

При этом, для передачи сообщения, содержащего большее количество информации, выбирают более длинную кодовую комбинацию, а для передачи сообщения с малым объемом информации используют короткие кодовые комбинации.

Учитывая, что объем информации, содержащейся в сообщении, определяется вероятностью появления

,

можно перефразировать данное высказывание.

Для сообщения, имеющего высокую вероятность появления, выбирается более короткая комбинация и наоборот, редко встречающееся сообщение кодируется длинной комбинацией.

Таким образом, на одно сообщение будет затрачено в среднем меньшее единичных элементов

Перейти на страницу: 1 2 3 4

Еще статьи по теме

Проектирование цифровой системы автоматического управления платформой солнечной батареи
Человечеству нужна энергия, причем потребности в ней увеличиваются с каждым годом. Вместе с тем запасы традиционных природных топлив (нефти, угля, газа и др.) конечны. И в связи с указанными проблемами, становится все более н ...

Проектирование цифровых систем передачи
Таблица 1 Длина местного участка сети Lм= 100 км Тип ЦСП на местном участке сети ...

Главное меню

© 2020 / www.techsolid.ru