Основы теории информации и криптографии

Упражнение 1:

Номер 1

Цель сжатия состоит в:

Ответ:

(1) изменении(как в увеличении, так и в сжатии) количества бит, необходимых для хранения или передачи информации

(2) увеличении количества байт, необходимых для хранения или передачи информации

(3) уменьшении количества бит, необходимых для хранения или передачи заданной информации

Номер 2

Размер сжатия:

Ответ:

(1) может быть сколь угодно большим

(2) не может быть больше некоторого теоретические предела

(3) ограничивается лишь потребностями пользователя

Номер 3

Среднее количество бит, приходящихся на одно кодируемое значение дискретной случайной величины:

Ответ:

(1) не может быть меньшим, чем энтропия этой дискретной случайной величины

(2) не может быть большей, чем энтропия этой дискретной случайной величины

(3) строго равна энтропии этой дискретной случайной величины

Упражнение 2:

Номер 1

Выбрать верные утверждения:

Ответ:

(1)

(2)

(3)

для любой дискретной случайной величины math

и любого ее кода

(4)

для любой дискретной случайной величины math

и любого ее кода

Номер 2

Выбрать верные утверждения:

Ответ:

(1)

(2)

для любой дискретной случайной величины math

и любого ее кода

(3)

для любой дискретной случайной величины math

и любого ее кода

(4)

Номер 3

Выбрать верные утверждения:

Ответ:

(1)

для любой дискретной случайной величины math

и любого ее кода

(2)

(3)

(4)

для любой дискретной случайной величины math

и любого ее кода

Упражнение 3:

Номер 1

Суть основной теоремы о кодировании при отсутствии помех заключается в том, что:

Ответ:

(1) при очень малой длине n сообщения, при кодировании методом Шеннона-Фэно всего сообщения целиком среднее количество бит на единицу сообщения будет сколь угодно мало отличаться от энтропии единицы сообщения. Данное правило действует только на короткие сообщения

(2) с ростом длины n сообщения, при кодировании методом Шеннона-Фэно всего сообщения целиком среднее количество бит на единицу сообщения будет очень удалено от энтропии единицы сообщения

(3) с ростом длины n сообщения, при кодировании методом Шеннона-Фэно всего сообщения целиком среднее количество бит на единицу сообщения будет сколь угодно мало отличаться от энтропии единицы сообщения

Номер 2

Кодирование, основанное на основной теореме о кодировании при отсутствии помех:

Ответ:

(1) легко реализуемо

(2) практически не реализуемо

(3) невозможно

Номер 3

Недостатками кодирования, основанного на основной теореме о кодировании при отсутствии помех, являются:

Ответ:

(1) такое кодирование делает невозможным отправку сообщения по частям

(2) отправка сообщения по частям происходит очень медленно

(3) исходная длина кода не должна передаваться вместе с сообщением

(4) необходимость отправки или хранения собственно полученного кода вместе с его исходной длиной

Упражнение 4:

Номер 1

Метод Шеннона-Фэно состоит в том, что:

Ответ:

(1) значения дискретной случайной величины располагают в порядке возрастания их вероятностей, а затем последовательно умножают на две части с приблизительно равными вероятностями, к коду первой части добавляют 0, а к коду второй - 1

(2) значения дискретной случайной величины располагают в порядке убывания их вероятностей, а затем последовательно делят на две части с приблизительно равными вероятностями, к коду первой части добавляют 1, а к коду второй - 0

(3) значения дискретной случайной величины располагают в порядке убывания их вероятностей, а затем последовательно делят на две части с приблизительно равными вероятностями, к коду первой части добавляют 0, а к коду второй - 1

Номер 2

По методу Хаффмена код строится:

Ответ:

(1) на основе реляционной теории

(2) при помощи двоичного дерева

(3) посредством линейной структуры

Номер 3

Максимально плотно сжимает метод:

Ответ:

(1) Хаффмена

(2) Шеннона-Фэно

(3) Винера

Упражнение 5:

Номер 1

Вместе с собственно сообщением нужно передавать таблицу кодов для метода:

Ответ:

(1) Винера

(2) Хаффмена

(3) Шеннона-Фэно

(4) Берга

Номер 2

Вместе с собственно сообщением нужно передавать таблицу кодов для метода:

Ответ:

(1) Винера

(2) Шеннона-Фэно

(3) Берга

(4) Хаффмена

Номер 3

Вместе с собственно сообщением нужно передавать таблицу кодов для метода:

Ответ:

(1) Винера

(2) Берга

(3) Хаффмена

(4) Шеннона-Фэно

Упражнение 6:

Номер 1

 Вычислить ML₁(X) для блочного кода Хаффмена для X. Длина блока - 2 бита:

Ответ:

(1) 1.3 бит/сим

(2) 1.7 бит/сим

(3) 1.56 бит/сим

Номер 2

Вычислить HX для кодов Хаффмена и Шеннона-Фэно для X. Дискретная случайная величина X задается следующим распределением вероятностей :

Ответ:

(1)

(2)

(3)

Номер 3

Вычислить ML(X) для кода Хаффмена для X. Дискретная случайная величина X задается следующим распределением вероятностей :

Ответ:

(1)

(2)

(3)

Номер 4

Вычислить ML(X) для кода Шеннона-Фэно для X. Дискретная случайная величина X задается следующим распределением вероятностей :

Ответ:

(1)

(2)

(3)

Основы теории информации и криптографии - тест 4