Выполнил студент группы 6011 мочалин роман игоревич
Вероятность приема нуля 0,5*(1-0,04)+0,5*0,02=0,49 Если передан ноль, то вероятность приема нуля 1-0,04=0,96
A).Рассчитаем вероятность появления игрушки зайца: Р1=4/16=1/4. B) Выразим количество информации в битах в сообщении о том, что из мешка достали игрушку зайца через “х1”. C) Применяя формулу Хартли рассчитаем это количество: log2(1/p)=x1, log2(4)=x1. Отсюда 2^x1=4. Следовательно, x1=2. D) Рассчитаем вероятность появления игрушки медведя: Р2=2/16=1/8.
E) Выразим количество информации в битах в сообщении о том, что из мешка достали игрушку медведя через “х2”. F) Применяя формулу Хартли рассчитаем это количество: log2(1/p)=х2, log2(8)=х2. Отсюда 2^х2=8. Следовательно, х2=3. G) В сообщение о том, что из мешка достали игрушку зайца содержится 2 бита информации, а в сообщение о том, что из мешка достали игрушку медведя – 3 бита информации.
Пропускная способность дискретного канала без шума определяется:
где М=4, Скорость передачи информации определяется по формуле:, где т.к. шум отсутствует. Энтропию найдем по формуле Шеннона :
Подставляя исходные значения в формулу, получаем: H(U) = 0,34 + 0,04 = = 1,5 бит
Найдем энтропию: Алгоритм построения сжимающего кода Шеннона – Фано заключается в следующем.
A) Все m символов дискретного источника располагаются в порядке убывания вероятностей их появления (табл. 4.2 ). Таблица 4.2. Построение кода Шеннона- Фано
B) Образованный столбец символов делится на две группы таким образом, чтобы суммарные вероятности каждой группы мало отличались друг от друга. C) Верхняя группа кодируется символом «1», а нижняя – «0 ». D) Каждая группа делится на две подгруппы с близкими суммарными вероятностями; верхняя подгруппа кодируется символом «1», а нижняя – «0 ». E) Процесс деления и кодирования продолжается до тех пор, пока в каждой подгруппе не окажется по одному символу сообщения источника. F) Записывается код для каждого символа источника; считывание кода осуществляется слева направо.
При использовании простейшего равномерного кода для кодирования шести элементов алфавита источника потребуется по три двоичных символа на каждую букву сообщения. Если же используется код Шеннона – Фано, то среднее число символов на одну букву, что меньше, чем при простейшем равномерном коде и незначительно отличается от энтропии источника.
Сообщения Х 1 Х 2 Х 3 Х 4 Х 5 Х 6 Х 7 Х 8 Код 01 10 000 001 1100 1101 1110 1111 Таблица кодирования Средняя длина кодового слова в битах N cp. = 2.75* bit. Минимально возможная средняя длина кодового слова N cp.min = 2.75 * bit. Избыточность кода R=0.
Для вычисления основных параметров кода Хэмминга задается количество информационных комбинаций Из этого следует, что n и = 5
