Лекции по теории информации, Фурсов В.А., 2006

Лекции по теории информации, Фурсов В.А., 2006.

  В учебном пособии рассматриваются модели сигналов, основы теории информации и кодирования, а также некоторые вопросы приема и обработка информации. Книга составлена как сборник лекций, каждая из которых посвящена одной теме. Дается краткое конспективное изложение основных вопросов. Лекции занимают промежуточное положение между справочниками и солидными изданиями и адресованы студентам, обучающимся по учебным планам бакалавров и специалистов.
Утверждено Редакционно-издательским советом Самарского государственного аэрокосмического университета в качестве учебного пособия.




Понятие модели сигнала.
Для перенесения информации в пространстве и времени она представляется в форме сообщений. Сообщение, вне зависимости от его содержания, всегда отображается в виде сигнала. Построение сигнала по определенным правилам, обеспечивающим соответствие между сообщением и сигналом, называют кодированием.

Кодирование в широком смысле - преобразование сообщения в сигнал. Кодирование в узком смысле - представление исходных знаков, называемых символами, в другом алфавите с меньшим числом знаков. Оно осуществляется с целью повышения надежности и преобразования сигналов к виду, удобному для передачи по каналам связи.

Сигналы могут быть непрерывными и дискретными как по времени, так и по множеству значений, т.е. возможен один из четырех типов сигнала:
1) непрерывный (по множеству значений и времени);
2) непрерывный по множеству значений, дискретный по времени;
3) дискретный по множеству значений, непрерывный по времени;
4) дискретный (по множеству значений и времени).

ОГЛАВЛЕНИЕ.
Предисловие.
Введение. Понятие информации. Предмет и задачи курса.
Лекция 1. Модели детерминированных сигналов.
1.1.Понятие модели сигнала.
1.2.Обобщенное спектральное представление детерминированных сигналов.
1.3.Временная форма представления сигналов.
1.4.Частотное представление периодических сигналов.
1.5.Распределение энергии в спектре периодического сигнала.
1.6.Частотное представление непериодических сигналов.
1.7.Распределение энергии в спектре непериодического сигнала.
1.8.Соотношение между длительностью сигналов и шириной их спектров.
Лекция 2. Модели случайных сигналов.
2.1.Случайный процесс как модель сигнала.
2.2.Спектральное представление случайных сигналов.
2.3.Частотное представление стационарных случайных сигналов, дискретные спектры.
2.4.Частотное представление стационарных случайных сигналов, непрерывные спектры.
2.5.Спектральная плотность мощности.
Лекция 3. Преобразование непрерывных сигналов в дискретные.
3.1.Формулировка задачи дискретизации.
3.2.Критерии качества восстановления непрерывного сигнала.
3.3.Теорема Котельникова.
3.4.Квантование сигналов.
Лекция 4. Меры неопределенности дискретных множеств.
4.1.Вероятностное описание дискретных ансамблей и источников.
4.2.Энтропия, как мера неопределенности выбора.
4.3.Свойства энтропии.
4.4.Условная энтропия и её свойства.
Лекция 5. Меры неопределенности непрерывных случайных величин.
5.1.Понятие дифференциальной энтропии.
5.2.Понятие дифференциальной условной энтропии.
5.3.Свойства дифференциальной энтропии.
5.4.Распределения, обладающие максимальной дифференциальной энтропией.
Лекция 6. Количество информации как мера снятой неопределенности.
6.1.Количество информации при передаче отдельного элемента дискретного сообщения.
6.2.Свойства частного количества информации.
6.3.Среднее количество информации в любом элементе дискретного сообщения.
6.4.Свойства среднего количества информации в элементе сообщения.
6.5.Количество информации при передаче сообщений от непрерывного источника.
6.6.Эпсилон-энтропия случайной величины.
6.7.Избыточность сообщений.
Лекция 7. Оценка информационных характеристик источников сообщений.
7.1.Понятие эргодического источника сообщений.
7.2.Теорема о свойствах эргодических последовательностей знаков.
7.3.Производительность источника дискретных сообщений.
7.4.Эпсилон-производительность источника непрерывных сообщений.
Лекция 8. Информационные характеристики каналов связи.
8.1.Модели дискретных каналов.
8.2.Скорость передачи информации по дискретному каналу.
8.3.Пропускная способность дискретного каната без помех.
8.4.Пропускная способность дискретного каната с помехами.
8.5.Скорость передачи по непрерывному гауссову канату связи.
8.6.Пропускная способность непрерывного гауссова каната связи.
8.7.Согласование физических характеристик сигнала и каната.
Лекция 9. Эффективное кодирование.
9.1.Цель кодирования. Основные понятия и определения.
9.2.Основная теорема Шеннона о кодировании для каната без помех.
9.3.Методы эффективного кодирования некоррелированной последовательности знаков, код Шеннона-Фано.
9.4.Методика кодирования Хаффмана.
9.5.Методы эффективного кодирования коррелированной последовательности знаков.
9.6.Недостатки системы эффективного кодирования.
Лекция 10. Введение в теорию помехоустойчивого кодирования.
10.1.Теорема Шеннона о кодировании для каната с помехами.
10.2.Общие принципы построения помехоустойчивых кодов.
10.3.Математическое введение к линейным кодам.
Лекция 11. Построение групповых кодов.
11.1.Понятие корректирующей способности кода.
11.2.Общая схема построения группового кода.
11.3.Связь корректирующей способности с кодовым расстоянием.
11.4.Построение опознавателей ошибок.
11.5.Определение проверочных равенств и уравнений кодирования.
Лекция 12. Циклические колы.
12.1.Математическое введение к пикническим кодам.
12.2.Понятие и общая схема построения циклического кода.
12.3.Построение пикнического кода на кольце многочленов.
12.4.Выбор образующих многочленов для обнаружения и исправления одиночных ошибок.
12.5.Методы формирования комбинаций и декодирования пикнического кода.
Лекция 13. Матричные представления в теории кодирования.
13.1.Групповой код как подпространство линейного пространства.
13.2.Понятие образующей матрицы. Построение разрешенных кодовых комбинаций с использованием образующей матрицы.
13.3.Построение матрицы-дополнения.
13.4.Понятие и построение проверочной (контрольной) матрицы.
13.5.Границы для числа разрешенных комбинаций.
13.6.Матричное представление циклических кодов.
13.7.Построение проверочной матрицы пикнического кода.
Лекция 14. Кодирование линейными последовательными машинами.
14.1.Понятие линейной последовательной машины (ЛПМ).
14.2.Матричное описание ЛПМ.
14.3.Каноническая и естественная нормальная форма ЛПМ.
14.4.Подобные и минимальные ЛПМ.
14.5.Понятие простой автономной ЛПМ (АЛПМ.
14.6.Формирование разрешенных комбинаций циклического кода с помощью АЛПМ.
14.7.Образующая матрица АЛПМ.
Лекция 15. Обнаружение и различение сигналов.
15.1.Постановка задачи обнаружения сигналов при наличии помех.
15.2.Обнаружение по критерию максимального правдоподобия.
15.3.Обнаружение сигналов по критерию максимума апостериорной вероятности.
15.4.Информационный критерий обнаружения.
15.5.Обнаружение по критерию Неймана-Пирсона.
15.6.Обнаружение сигналов по критерию минимального риска.
15.7.Различение сигналов.
Лекция 16. Оценка параметров сигналов.
16.1.Общая формулировка задачи восстановления сигналов.
16.2.Задача оценки параметров линейных моделей.
16.3.Достижимая точность, неравенство Крамера-Рао.
16.4.Оценки, минимизирующие среднеквадратическую ошибку.
16.5.Оценки максимального правдоподобия.
16.6.Оптимальность оценок МНК и максимального правдоподобия.
16.7.Байесовские оценки.
Список использованных источников.



Бесплатно скачать электронную книгу в удобном формате, смотреть и читать:
Скачать книгу Лекции по теории информации, Фурсов В.А., 2006 - fileskachat.com, быстрое и бесплатное скачивание.

Скачать pdf
Ниже можно купить эту книгу по лучшей цене со скидкой с доставкой по всей России.Купить эту книгу


Скачать - pdf - Яндекс.Диск.




Хештеги: #учебник по информатике :: #информатика :: #компьютеры :: #Фурсов