Ebook: Теория информации

Санкт-Петербург, 2014, 165с. Учебное пособие.
Соответствует требованиям государственного образовательного стандарта, регламентирующего учебные планы подготовки бакалавров и магистров по специальности 075400 Комплексная защита объектов информатизации, дисциплина ЕН Ф
.04. Рассмотрены функции основных компонентов систем передачи информации: источника информации, канала передачи информации и приемника информации. Введены основные понятия теории информации. Приведены теоремы Шеннона о кодировании источника и кодировании в канале, аксиомы Хинчина и Фаддеева, а также изложены сведения об информационной дивергенции. Доказывается неравенство Крафта. В качестве примеров приведены коды Шеннона и Хаффмена. Введены понятия расстояния Хемминга, шаров Хемминга. Доказаны неравенства для границ Хемминга и Варшамова - Гильберта. Рассмотрены границы Симмонса. Приведены краткие сведения о матричном представлении избыточных кодов. Рассмотрены циклические коды и доказаны их основные свойства. Приведены схемы кодирования и синдромного декодирования. Для исправления двух и более ошибок даны основные принципы построения БЧХ-кодов. Приведены примеры. Рассмотрены основные принципы реализации сверточного кодирования и алгоритма Витерби декодирования сверточных кодов. В приложениях приведены краткие сведения из дискретной математики. Предназначено для студентов и аспирантов Санкт-Петербургского государственного политехнического университета.