книги из ГПНТБ / Толстоусов, Г. Н. Прикладная теория информации учеб. пособие

Рассмотрим, как применить теорему Котельникова к передаче сообщений непрерывных источников информации. Эти сообщения представляют собой случайные процессы,:а понятие спектра суще­ ствует только для конкретной фиксированной реализации случайно­ го. процесса.

Спектральной характеристикой случайного ,пр0це'сса; является

иотсчеты всех сообщений по времени совпадают.

Втом, что непрерывное сообщение может быть представлено с помощью дискретных отсчетов, и заключается основное значение теоремы Котельникова. Таким образом, непрерывное сообщение мо­ жет быть дискретизировано по времени.

Энтропия непрерывного сообщения длительности . Т есть

энтропия объединения 2JTъГс отсчетов. Эта энтропия максималь­ на и равна сумме энтропий:

или для стационарного процесса

Спектральная плотность как четная функция на интервале ±CJC может быть разложена в ряд по косинусам:

99

Корреляционную функцию найдем с помощью обратного преобразова­ ния Фурье. Учитывая четность корреляционной функции, получим

Следовательно, в искомых точках корреляционная функция обратит - ся в нуль, если только спектральная плотность постоянна ( ^ Д ) ) ( я ., = = . . . . , = О).

Отсчеты сообщения по Котельникову взаимонезависимы только для случайного шума’ (спектральная плотность постоянна, закон распределения нормальный).

Практическое использование теоремы Котельникова связано со следующими трудностями:

1. Для восстановления сообщения по принятым отсчетам прием­ ник должен генерировать функции отсчетов. В точном виде воспро­ извести функцию отсчетов невозможно, так как начало её воспроиз­ ведения должно опережать на бесконечный промежуток времени мо­ мент приема соответствующего отсчета. Кроме того, эта функция отсчета должна сразу умножаться на еще не принятый отсчет. Поэ­ тому указанные операции можно начинать только после приема отс­ чета, что вызывает запаздывание в восстановлении сообщения. Чем меньше запаздывание, тем больше ошибка восстановления, так как тем большая часть левой ветви функции отсчетов отбрасывается

(см. рис. 17 .2).

2 . Сообщения имеют ограниченную длительность. И8вестно,что функция, ограниченная во времени, в общем случае имеет спектр о неограниченной полосой. Тогда шаг квантования по времени умѳнь-

100

шаѳтся до нуля - сообщение должно передаваться непрерывноіЧтобы сохранить дискретность передачи, искусственно вводят ограни­ чение на полосу частот 2/» (рис. Г?.4 ). Среднеквадратичная величина отклонения восстановленного сообщения 25(b) от пе­

реданного x>(t) оценивается выравениеы

оо

U l~U i

IOI

вует теорема Котельникова в частотной области, которая указыва­

Учитывая сим­ метрию спектра относительно начала координат, получим, что по

каналу связи необходимо передать, как и во временной области, ZT ьГс значений.

§18. Квантование непрерывного сообщения по уровню

Впредыдущем 'параграфе показано, "чтоінепрѳрывноѳ сообщение может быть представлено с помощью дискретных во времени отсче­ тов. Но при этом отсчеты являются непрерывными случайными в ели-

102

чинами. Для их передачи передатчик должен иметь бесісонѳчно боль­ шое многообразие сигналов. Практически в этом нет необходимости. Действие различных помех, в тон числе погрешностей измерения и пре­ образования приборами первичной информации, делает принципиально невозможным абсолютно точное восстановление сообщения. Поэтому нет смысла передавать абсолютно точно сигнал. Можно отказаться от передачи непрерывных отсчетов и выбрать конечное число уров­ ней сигнала, подлежащих передаче. Представление непрерывного сиг­

ЮЗ

£ к = X — Х к

Вероятность различных значений ошибки определяется плотноотыо ве­ роятности сообщения \л?(х.) V Мате­ матическое ожидание ошибки

М(ек)-[ /x~xKJW(x)d x .

Предполагая шаг квантования малым, можно принять плотность веро­

Рио. 18.3 ятности внутри рассматриваемого ин­ тервала постоянной. Тогда

M(e«)=WfxK)j (x-xK)cLx =

W )

Ш )

Теперь выберем положение уровня X * так, чтобы среднеквадра­ тичное значение ошибки на этом шаге было минимальными Дифферен­ цируя по варьируемому параметру, получим условие экстремума

104

Oiсюда

ЭСк —±(сЕк-£ ~'%к) .

При знаке "+" имеем

( « з ;

Уровень должен выбираться посредине шага квантования. Тогда математическое ожидание ошибки равно нулю. Среднеквадратичная ошибка равна дисперсии. Подставляя (18.3) в (18.2) и учитывая

получим

Теперь просуммируем полученное значение дисперсии по всем уров­ ням:

■ № ) = - £ г ъ і * к ) - і £ -

Для равномерного шага квантования дисперсия

Рядом исследований выяснено, что корреляционная функция ошибки квантования имеет интервал корреляции в 5-10 раз меньший, чем интервал корреляции квантуемого сообщения. Поэтому практически

105

ложно считать, что ошибка квантования есть белый шум, некорре­ лируемый с квантуемым сообщением.

Таким образом, в двух последующих параграфах показано, что сообщение непрерывного источника информации может быть в принци­ пе передано с помощью отсчетов,дисретных по времени и по уровню, Следовательно, разделы теории информации, посвященные дисрѳтным источникам, применимы и к изучению непрерывных источников инфор­ мации. Однако следует помнить, что при дискретизации непрерывно го сообщения возникают ошибки. Восстановленное сообщение отлича­ ется от переданного. Величина допустимой ошибки должна быть вы­ брана исходя из величины погрешностей и помех, действующих в информационной системе.

§ 19. Выбор отсчетов случайного процесса

Предыдущие результаты показали, что в принципе сообщение непрерывного источника может быть передано по каналу связи с помощью дискретного числа отсчетов, дискретных по величине. Од­ нако приемник практически по этим отсчетам не может восстано­ вить переданное сообщение с абсолютной точностью. Если погреш­ ность в передаче допустима, можно предложить еще ряд способов

Необходимо для данного сообщения и заданного критерия точности выбрать воспроизводящую функцию (в том числе и времена отсче­ тов ), чтобы число отсчетов, передаваемых по каналу связь, было минимальным. К сожалению, эта задача в общем виде не реше­ на.

106

Рис. 19,1

Рассмотрим некоторые, используемые в настоящее время, спо­ собы дискретизации. Предположим, что дискретизация по времени производится с постоянным шагом Л . В этом случае по каналу можво не передавать информацию о временах“ отсчетаТ^За крите­ рий точности выберем модуль наибольшего значения ошибки

б0~тлх{хі(і)~ £ (±)1 Ш

В качестве воспроизводящей функции можно выбрать, например,

степенной многочлен Лагранжа

Тогда в моменты времени, не совпадающие с временами отсчетов,

текущая ошибка оценивается выражением

107

Для функций, ограниченных по модулю и имеющих спектр, ог­ раниченный полосой частот bJ^ - , оценку модуля произ­ водной можно проводить согласно неравенству Бернштейна:

Наиболее простым с точки зрения технической реализации являет­ ся воспроизводящий многочлен нулевой степени ( П = 0 ) . Для построения воспроизводящей функции необходим только один отс­ чет. По этому отсчету сообщение воспроизводится только на про­

смысл которого ясен, ибо Мі - -модуль максимального значения первой производной. Учитывая (19.3), шаг квантования по време­ ни выбирается из условия

£о

й = Мі

Очевидно, что при этом текущая ошибка, как правило, будет мень­ ше £о . Воспользуемся неравенством (19 .6), Тогда вместо (19.7) получаем

108