- •Вопрос 2.
- •Часть 1.Количественная мера информации для равновозможных событий
- •Часть 2. Мера р. Хартли
- •Вопрос 3.
- •Вопрос 4.
- •Вопрос 5.
- •Вопрос 6. Свойства энтропии источника дискретных сообщений
- •Вопрос 7. Энтропия источника совместных сообщений
- •Вопрос 8. Что такое условная энтропия?
- •Вопрос 9.
- •Вопрос 10. Свойства количественной меры информации при неполной достоверности результатов опыта.
- •Вопрос 11. Вычисление количественной меры информации для двоичного канала с помехами.
- •Вопрос 12. Как оценивается избыточность источника сообщений?
- •Вопрос 13.
- •Вопрос 23.
- •Вопрос 24. Приведите модель двоичного канала с шумами
- •Вопрос 25.
- •Вопрос26. Формула Шеннона для аналогового канала с шумами.
- •Вопрос 27. Энтропия источника при наличии коррелятивных связей между двумя соседними символами
- •Вопрос 28. Принципы помехоустойчивого кодирования. Кодовое расстояние.
- •Вопрос 29. Вероятность ошибочного приема кодовой информации для простого двоичного кода и для кода с исправлением ошибок кратности t.
- •Вопрос 30. Простейшие избыточные коды.
- •Вопрос 31. Групповой код Хемминга. Принципы построения. Синдром ошибки. Коды с обнаружением и исправлением ошибок. Код хемминга
- •Вопрос 32. Определение числа проверочных элементов.
- •Вопрос 33. Определение проверочных элементов, входящих в каждую группу. Исправляющая способность кода хемминга
Вопрос 32. Определение числа проверочных элементов.
Выбор значений и позиций проверочных элементов
Если ошибок нет, то синдром ошибки имеет значение 00…00.
При наличии ошибки двоичный код синдрома ошибки должен указать номер разряда кодовой комбинации (в исчислении с основанием 10), в котором произошло искажение элемента.
Единица в первом разряде синдрома ошибки появляется при искажении любого нечетного разряда кодовой комбинации.
Таким образом, в первую проверку должны войти все нечетные элементы принятой кодовой комбинации
(4.7)
То есть в первую проверку должны входить все элементы кодовой комбинации, в первом (младшем) разряде содержится 1. Если , то один из элементов искажен.
Аналогично, во вторую проверочную группу должны входить все элементы кодовой комбинации, во втором разряде которых содержится 1.
(4.8)
Если S2=1, то один из элементов искажен:
Третья проверочная группа содержит элементы, принимающие значение 1 в третьем разряде новой кодовой комбинации:
(4.9)
Четвертая проверочная группа содержит элементы, принимающие значение 1 в четвертом разряде новой кодовой комбинации:
(4.10)
Проверочные элементы каждой кодовой комбинации должны входить только в одну проверку. Таким образом, проверочными должны быть символы, расположенные в 1-м, 2-м, 4-м, 8-м и т. д. (16-м, 32-м,…) разрядах полученной кодовой комбинации.
Обозначим проверочные символы как . Тогда
; ; ; . (4.11)
Пример:
1 0 0 0 0 1 1 – исходная кодовая комбинация (младший разряд слева), k=7.
k1k2k3k4k5k6k7
По таблице 4.1 найдем число проверочных символов r=4. Помехоустойчивая кодовая комбинация должна содержать n=k+r =11 элементов (разрядов)
k1 k2 k3 k4 k5 k6 k7
а1 а2 а3 а4 а5 а6 а7 а8 а9 а10 а11 (а1 – младший разряд).
b1 b2 b3 b4
Выполнив проверку на четность по описанным выше правилам, определим значения проверочных элементов:
;
;
;
.
Получится новая кодовая комбинация 01100000011, содержащая информационные биты и проверочные биты.
Пусть принят код 01101000011, то есть произошла ошибка в 5-м разряде.
Проверочные группы на приемной стороне:
;
;
;
;
Таким образом, синдром ошибки
, то есть, выявлена ошибка в бите .
Для ее исправления надо выполнить операцию суммирования а5 с 1 по модулю 2: а5= а51.
Вопрос 33. Определение проверочных элементов, входящих в каждую группу. Исправляющая способность кода хемминга
Если имеется n символов, то вероятность правильного приема этих символов равна , где р – вероятность искажения одного символа.
Вероятность появления однократной ошибки .
Вероятность ошибочного приема кодовой комбинации:
;
;
.
Для исправления ошибки кратности больше 1 необходимо выполнение условия , где t – кратность ошибки.
Эти выражения справедливы при вероятности