Дискретный канал без помех

Уровень помех очень невелик, искажения сигнала отсутствуют практически у=х и Н(Х/У)=0. Среднее количество информации на один символ I(Y,X)= Н(У), а maxI(Y,X)=H_max(Y)= H_max(X), где H_max(X)-максимальная энтропия источника при равномерном распределении вероятностей символов:

.

Максимальная энтропия выражается в единицах информации на символ и равна

H_max(X)=log₂m.

Пропускная способность будет

C= H_max(Y)=log₂m.

Дискретный канал с помехами

Рассмотрим канал, по которому передаются двоичные символы.

Пусть р есть вероятность превращения принимаемого сигнала в противоположный (вероятность ошибки), тогда (1 – р) – есть вероятность правильного приема. Диаграмма передачи по симметричному каналу представлена на рис. 6.2.

Рис. 6.2

Средняя условная энтропия

H(Y/X)=-plog₂p-(l-p)log₂(1-p) не зависит от характеристик источника и определяется помехами в канале.

Величина H_max(Y)=log₂m=log₂2 (что достигается при p(x₁)=p(x₂)= ).

Поэтому max{I(Y,X)}= log₂2 + plog₂p+(l-p)log₂(l-p) и пропускная способность

С=max{I(Y,X)}= log₂2 + plog₂p+(l-p)log₂(l-p)=1+ plog₂p+(l-p)log₂(l-p).

В частности, при р=0 (отсутствие шумов)

С_max= log₂2=1.

При р=1 С_max= log₂2, но х₁ становится х₂, а х₂ становится х₁.

При р=1/2 С=0=С_min, т.е. ничего нельзя сказать о посланном сигнале и был ли он послан вообще.

Скорость передачи информации

При исследовании вопросов передачи цифровой информации приходится сталкиваться с двумя различными понятиями скорости передачи: технической и информационной.

Техническая скорость характеризует быстродействие аппаратуры, входящей в состав передающей части системы связи. Она определяется количеством элементов дискретного сообщения, переданных в секунду. Эта характеристика была предложена в телеграфии более 100 лет назад французским инженером Ж. Бодо. В его честь единица технической скорости была названа бодом.

Техническая скорость передачи определяется величиной

[бод],

где τ_о – длительность посылки, соответствующей передаче одного элемента дискретного сообщения.

Под информационной скоростью понимают количество информации, поступившее по линии связи от источника информации к получателю за одну секунду. Информационная скорость измеряется числом двоичных единиц (бит) в секунду. Она зависит от ряда факторов: технической скорости передачи, статистических свойств источника, типа канала связи, применяемых сигналов и помех, действующих в этом канале.

Техническую скорость передачи нельзя путать с информационной скоростью, а термин «бод» использовать как синоним термина «бит/с». Количественно эти скорости совпадают только для бинарных симметричных линий связи с высокой достоверностью передачи. Только в этом единственном случае можно принять, что 1 бод равен 1 бит/с. В общем случае информационная скорость не совпадает с технической и может быть как больше, так и меньше ее.

Информационная скорость передачи в симметричных двоичных каналах с постоянными параметрами определяется выражением

.

При увеличении отношения сигнал/шум в канале вероятность ошибки р уменьшается и скорость передачи стремится к величине

.

Шенноном показано, что наибольшее среднее количество информации, содержащееся в Y относительно X, равно

,

где P ‑ среднее значение мощности передаваемых сообщений,

N ‑ среднее значение мощности помех,

T ‑ длительность сигнала,

F ‑ полоса частот сигнала,

B=FT– база сигнала.

Для увеличения необходимо увеличивать и .

Если , остается возможность увеличения только за счет расширения полосы и длительности импульса.

Максимальная скорость передачи .

Эта формула указывает, что наибольшая скорость передачи информации (в двоичных единицах в секунду) прямо пропорциональна полосе частот и логарифму суммы .