- •1. Становление теории информации
- •2. Место теории информации в рамках других наук
- •3. Виды информации и сигналов
- •4. Система связи
- •5. Дискретный источник сообщений.
- •6. Энтропия источника сообщений
- •7. Свойства энтропии
- •8. Семантическая мера информации
- •9. Прагматическая мера информации
- •10. Качество информации
- •11. Способы представления информации для ввода в компьютер
- •12. Двоичное кодирование числовой и текстовой информации
- •13. Двоичное кодирование графической и звуковой информации
- •14. Канал связи без шума
- •15. Канал связи с двумя входами и двумя выходами
- •16. Теорема Шеннона о пропускной способности канала связи
- •17. Основная теорема теории информации
- •18. Помехозащитное кодирование
- •19. Простейшие алгоритмы сжатия информации
- •20. Сжатие информации с потерями
- •21. Особенности изображений при использовании алгоритмов сжатия
- •22. Классы изображений, предназначенных для сжатия
- •23. Классы приложений для сжатия изображений
- •24. Нетрадиционные классы приложений для сжатия изображений
- •25. Требования приложений к алгоритмам компрессии
- •26. Сравнение алгоритмов компрессии
- •27. Критерии сравнения алгоритмов компрессии
- •28. Алгоритм сжатия rle
- •29. Алгоритм сжатия lzw
- •30. Алгоритм сжатия jpeg
3. Виды информации и сигналов
Информация может быть двух видов: дискретная (импульсная и цифровая) и непрерывная (аналоговая). Дискретная информация характеризуется последовательными точными значениями некоторой величины, а непрерывная — непрерывным процессом изменения некоторой величины. Непрерывную информацию может, например, выдавать датчик атмосферного давления или датчик скорости автомашины. Дискретную информацию можно получить от любого цифрового индикатора: электронных часов, счетчика магнитофона и т. п.
Сигнал всегда является функцией времени. В зависимости от того, какие значения могут принимать аргумент (время t) и уровни сигналов их делят на 4 типа.
1) Непрерывный или аналоговый сигнал (случайный сигнал этого типа называется непрерывным случайным процессом). Эти сигналы определены для всех моментов времени и могут принимать все значения из заданного диапазона. Чаще всего физические процессы, порождающие сигналы являются непрерывными. Этим и объясняется второе название сигналов данного типа аналоговый т.е. аналогичные порождающим процессам.
2) Дискретизированный или дискретно непрерывные сигналы (случайные сигналы этого типа называют процессами с дискретным временем или непрерывными случайными последовательностями). Они определены лишь в отдельные моменты времени и могут принимать любые значения уровня.
3) Дискретные по уровню или квантованные сигналы (случайные сигналы этого типа называют дискретными случайными процессами). Они определены для всех моментов времени и принимают лишь разрешенные значения уровней отделенные от друг друга на величину шага квантования.
4) Дискретные по уровню и по времени сигналы (случайные сигналы этого типа называют дискретными случайными последовательностями). Они определены лишь в отдельные разрешенные моменты времени и могут принимать лишь разрешенные значения уровней.
4. Система связи
Совокупность технических средств используемых для передачи сообщений от источника к потребителю информации называется системой связи. Общая схема системы связи состоит из 5 частей.
1) Источник сообщений создающий сообщения или последовательность сообщений, которые должны быть переданы. Сообщения могут быть разных типов: последовательность букв или цифр как в системах телеграфа и передачи данных. Одна или более функций времени как в системах передачи звука в моно и стерео звучаниях и т.д.
2) Передатчик, который перерабатывает некоторым образом сообщения в сигналы соответственного типа определенного характеристиками используемого канала.
3) Канал связи - это комплекс технических средств, обеспечивающий передачу сигналов от передатчика к приемнику. В состав канала входит каналообразующая аппаратура, осуществляющая сопряжение выходного и входного сигналов соответственно передатчика и приемника с линией связи, и самой линии связи.
Линией связи (ЛС) называется среда, используемая для передачи сигнала от передатчика к приемнику. Это может быть, например: пара поводов, коаксиальный кабель, область распространения радиоволн, световод и т.д. Обычно входными и выходными сигналами линии связи является сигналы типа один, т.е. непрерывный. Вместе с тем на входе и выходе канала могут присутствовать сигналы и других типов. Канал называется дискретным, если на его входе и выходе присутствуют сигналы дискретные по уровню. Если сигналы на входе и выходе канала непрерывны по времени, то он называется непрерывным. В общем случае в процессе передачи в канале сигнал искажается шумом, что соответствует наличию источника шума.
4) Приемник обычно выполняет операцию обратную по отношению к операции, производимой передатчиком, т.е. восстанавливается сообщение по сигналам. Сложность построения приемника обусловлена изменением формы принимаемых сигналов, что связано с наличием шума.
5) Получатель это лицо или аппарат, для которого предназначено сообщение. Процесс преобразования сообщения в сигнал, осуществляющий в передатчике и обратный ему процесс, реализующий в приемнике назовем соответственно кодированием и декодированием.