ОГЛАВЛЕНИЕ
Введение . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .3
1 Предмет и основные разделы кибернетики . . . . . . . . . . . . . . . . . . . 4 2 Формальное представление знаний . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
3 Виды информации . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
4 Хранение, измерение, обработка и передача информации . . . . 8 5 Базовые понятия теории информации . . . . . . . . . . . . . . . . . . . . . . . 10
6 Способы измерения информации . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
7 Вероятностный подход к измерению дискретной и непрерывной информации . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
8 Смысл энтропии Шеннона . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 9 Семантическая информация . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20 10 Сжатие информации . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
11 Простейшие алгоритмы сжатия информации . . . . . . . . . . . . . . . 23
12 Арифметическое кодирование . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
13 Адаптивные алгоритмы сжатия. Кодирование Хаффмена . . .28 14 Адаптивное арифметическое кодирование . . . . . . . . . . . . . . . . . . .33 15 Подстановочные или словарно-ориентированные алгоритмы
сжатия информации. Методы Лемпела-Зива . . . . . . . . . . . . . . . . 35 16 LZ-алгоритмы распаковки данных. Примеры . . . . . . . . . . . . . . . 41 17 Особенности программ-архиваторов . . . . . . . . . . . . . . . . . . . . . . . . 43
18 Сжатие информации с потерями . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44 19 Информационный канал . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46 20 Помехозащитное кодирование . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
21 Математическая модель системы связи . . . . . . . . . . . . . . . . . . . . . 52
22 Матричное кодирование . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57 23 Групповые коды . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
24 Совершенные и квазисовершенные коды . . . . . . . . . . . . . . . . . . . . 61
25 Полиномиальные коды . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
26 Понятие о кодах Боуза-Чоудхури-Хоккенгема . . . . . . . . . . . . . . .68
27 Циклические избыточные коды . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .70
28 Основы теории защиты информации . . . . . . . . . . . . . . . . . . . . . . . . 71 29 Криптосистема без передачи ключей . . . . . . . . . . . . . . . . . . . . . . . .73 30 Криптосистема с открытым ключом . . . . . . . . . . . . . . . . . . . . . . . . 74
31 Электронная подпись . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .75 32 Стандарт шифрования данных . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .77 33 Информация в Internet . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77 34 HTML, XML и SGML . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79 35 TEX . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .82 36 PostScript и PDF . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
108
Приложения
А Ответы на все упражнения . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .86 Б Управляющие коды ASCII . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
В Кодировка видимых символов ASCII . . . . . . . . . . . . . . . . . . . . . . . .92 Г Кодировка букв русского алфавита . . . . . . . . . . . . . . . . . . . . . . . . . 95
Д Элементы теории чисел . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 99 Е Используемые обозначения . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102 Ж Список литературы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103 З Предметный указатель . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104 И Именной указатель . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107
109
УЧЕБНОЕ ПОСОБИЕ
Владимир Викторович Лидовский
ТЕОРИЯ ИНФОРМАЦИИ
Издательство «Компания Спутник+» 109428, Москва, Рязанский проспект, д. 8а
ЛР №066478 от 30.03.99
Налоговые льготы в соответствии с ОК 005-93 Том 2 95 300 — Книги и брошюры
Подписано в печать 17.03.2004. Формат 60×90/16. Усл. печ. л. 6.81. Тираж 70 экз. Заказ 60.
... самые разные категории читателей найдут в книге что-то интересное для себя.
... будущим слушателям соответствующих курсов (в различных высших учебных заведениях) она очень пригодится, поскольку заполняет существенный пробел в учебной литературе на русском языке.
Александр Шень