Название: Количественная мера информации
Вид работы: лабораторная работа
Рубрика: Информатика
Размер файла: 34.04 Kb
Скачать файл: referat.me-129836.docx
Краткое описание работы: Лабораторная работа №1 Количественная мера информации ЦЕЛЬ РАБОТЫ: экспериментальное изучение количественных аспектов информации. ЛАБОРАТОРНОЕ ЗАДАНИЕ
Количественная мера информации
Лабораторная работа №1
Количественная мера информации
ЦЕЛЬ РАБОТЫ: экспериментальное изучение количественных аспектов информации.
ЛАБОРАТОРНОЕ ЗАДАНИЕ
1. Определить количество информации (по Хартли), содержащееся в заданном сообщении, при условии, что значениями являются буквы кириллицы.
«Фамилия Имя Отчество» завершил ежегодный съезд эрудированных школьников, мечтающих глубоко проникнуть в тайны физических явлений и химических реакций
2. Построить таблицу распределения частот символов, характерные для заданного сообщения. Производится так называемая частотная селекция, текст сообщения анализируется как поток символов и высчитывается частота встречаемости каждого символа. Сравнить с имеющимися данными в табл 1.
3. На основании полученных данных определить среднее и полное количество информации, содержащееся в заданном сообщении
4. Оценить избыточность сообщения.
КРАТКИЕ ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
Количество информации по Хартли и Шеннону
Понятие количество информации отождествляется с понятием информация. Эти два понятия являются синонимами. Мера информации должна монотонно возрастать с увеличением длительности сообщения (сигнала), которую естественно измерять числом символов в дискретном сообщении и временем передачи в непрерывном случае. Кроме того, на содержание количества информации должны влиять и статистические характеристики, так как сигнал должен рассматриваться как случайный процесс.
При этом наложено ряд ограничений:
1. Рассматриваются только дискретные сообщения.
2. Множество различных сообщений конечно.
3. Символы, составляющие сообщения равновероятны и независимы.
Хартли впервые предложил в качестве меры количества информации принять логарифм числа возможных последовательностей символов.
I=log mk =log N (1)
К.Шеннон попытался снять те ограничения, которые наложил Хартли. На самом деле в рассмотренном выше случае равной вероятности и независимости символов при любом k все возможные сообщения оказываются также равновероятными, вероятность каждого из таких сообщений равна P=1/N. Тогда количество информации можно выразить через вероятности появления сообщений I=-log P.
В силу статистической независимости символов, вероятность сообщения длиной в k символов равна
Если i-й символ повторяется в данном сообщении ki раз, то
так как при повторении i символа ki раз k уменьшается до m. Из теории вероятностей известно, что, при достаточно длинных сообщениях (большое число символов k) ki ≈k·pi и тогда вероятность сообщений будет равняться
Тогда окончательно получим
(2)
Данное выражение называется формулой Шеннона для определения количества информации.
Формула Шеннона для количества информации на отдельный символ сообщения совпадает с энтропией. Тогда количество информации сообщения состоящего из k символов будет равняться I=k·H
Количество информации, как мера снятой неопределенности
При передаче сообщений, о какой либо системе происходит уменьшение неопределенности. Если о системе все известно, то нет смысла посылать сообщение. Количество информации измеряют уменьшением энтропии.
Количество информации, приобретаемое при полном выяснении состояния некоторой физической системы, равно энтропии этой системы:
Количество информации I - есть осредненное значение логарифма вероятности состояния. Тогда каждое отдельное слагаемое -log pi необходимо рассматривать как частную информацию, получаемую от отдельного сообщения, то есть
Избыточность информации
Если бы сообщения передавались с помощью равновероятных букв алфавита и между собой статистически независимых, то энтропия таких сообщений была бы максимальной. На самом деле реальные сообщения строятся из не равновероятных букв алфавита с наличием статистических связей между буквами. Поэтому энтропия реальных сообщений -Hр , оказывается много меньше оптимальных сообщений - Hо. Допустим, нужно передать сообщение, содержащее количество информации, равное I. Источнику, обладающему энтропией на букву, равной Hр , придется затратить некоторое число nр , то есть
Если энтропия источника была бы Н0 , то пришлось бы затратить меньше букв на передачу этого же количества информации
I= n0
H0
Таким образом, часть букв nр -nо являются как бы лишними, избыточными. Мера удлинения реальных сообщений по сравнению с оптимально закодированными и представляет собой избыточность D.
(3)
Но наличие избыточности нельзя рассматривать как признак несовершенства источника сообщений. Наличие избыточности способствует повышению помехоустойчивости сообщений. Высокая избыточность естественных языков обеспечивает надежное общение между людьми.
Частотные характеристики текстовых сообщений
Важными характеристиками текста являются повторяемость букв, пар букв (биграмм) и вообще m-ок (m-грамм), сочетаемость букв друг с другом, чередование гласных и согласных и некоторые другие. Замечательно, что эти характеристики являются достаточно устойчивыми.
Идея состоит в подсчете чисел вхождений каждой nm возможных m-грамм в достаточно длинных открытых текстах T=t1 t2 …tl , составленных из букв алфавита {a1 , a2 , ..., an }. При этом просматриваются подряд идущие m-граммы текста
t1 t2 ...tm , t2 t3 ... tm+1 , ..., ti-m+1 tl-m+2 ...tl .
Если – число появлений m-граммы ai1
ai2
...aim
в тексте T, а L общее число подсчитанных m-грамм, то опыт показывает, что при достаточно больших L частоты
для данной m-граммы мало отличаются друг от друга.
В силу этого, относительную частоту считают приближением вероятности P (ai1 ai2 ...aim ) появления данной m-граммы в случайно выбранном месте текста (такой подход принят при статистическом определении вероятности).
Для русского языка частоты (в порядке убывания) знаков алфавита, в котором отождествлены E c Ё, Ь с Ъ, а также имеется знак пробела (-) между словами, приведены в таблице 1.
информация текстовый сообщение количественный
Таблица 1
- 0.175 |
О 0.090 |
Е, Ё 0.072 |
А 0.062 |
И 0.062 |
Т 0.053 |
Н 0.053 |
С 0.045 |
Р 0.040 |
В 0.038 |
Л 0.035 |
К 0.028 |
М 0.026 |
Д 0.025 |
П 0.023 |
У 0.021 |
Я 0.018 |
Ы 0.016 |
З 0.016 |
Ь, Ъ 0.014 |
Б 0.014 |
Г 0.013 |
Ч 0.012 |
Й 0.010 |
Х 0.009 |
Ж 0.007 |
Ю 0.006 |
Ш 0.006 |
Ц 0.004 |
Щ 0.003 |
Э 0.003 |
Ф 0.002 |
Некоторая разница значений частот в приводимых в различных источниках таблицах объясняется тем, что частоты существенно зависят не только от длины текста, но и от его характера.
Устойчивыми являются также частотные характеристики биграмм, триграмм и четырехграмм осмысленных текстов.
ХОД РАБОТЫ
1. Построил таблицу распределения частот символов, характерныx для заданного сообщения путём деления количества определённого символа в данном сообщении на общее число символов
По формуле
H= вычислил энтропию сообщения
2. Далее по формуле Шеннона для определения кол-ва информации
вычислил кол-во информации в передаваемом сообщении
3. Вычислил избыточность D по формуле
Похожие работы
-
Создание таблиц в редакторе WORD
Лабораторная работа № 6. Создание таблиц в редакторе WORD Цель: сформировать умения работы с текстовым редактором WORD и навыки его использования для создания дидактических материалов.
-
Лабораторные работы по программированию
Лабораторная работа №1. Тема: Обучение работе на УМК. Цель: Научиться работать на УМК. Приборы: Учебный микропроцессорный комплекс (УМК). Ход работы.
-
Информация. Информационные процессы
Тема 2: ИНФОРМАЦИЯ. ИНФОРМАЦИОННЫЕ ПРОЦЕССЫ Задание 1. Поставьте индивидуальную цель, используя схему построения – см. Приложение 1: Индивидуальная цель _____________________________________________________________________________________________________
-
Трансляция распознающих конечных автоматов
Лабораторная работа №7 Трансляция распознающих конечных автоматов Цель работы: исследование методов эффективной трансляции распознающих автоматов конечных автоматов и R-графов для синтаксического разбора регулярных грамматик.
-
Информационные системы 7
Введение Полезность информации определяется тем, в какой степени она способствует достижению целей системы-получателя. Полезность информации связана с ее количеством и истинностью. Заметим, однако, что истинность не всегда является полезным свойством.
-
Решение финансовых задач при помощи Microsoft Excel
Лабораторная работа Вариант № 6 Задание: Управляющему банком были представлены 4 проекта, претендующие на получение кредита в банке. Ресурс банка в каждый период, потребности проектов и прибыль по ним приведены в таблице (тыс. долл.).
-
Лабораторная работа по Информатике
Лабораторная работа № 1.1 Цель работы Научиться измерять информацию, решать задачи на определение количества и объема информации. Ход работы Задание № 1
-
Работа с файлами лабораторная работа
Лабораторная работа №2 Т е м а: Р а б о т а с ф а й л а м и. Задание: 1)Создание каталога 1-го уровня; провести проверку. 2)Создание каталога 2-го уровня в каталоге 1-го уровня; установка этого каталога.
-
Разработка программы на языке высокого уровня Паскаль
Лабораторная работа «Разработка программы на языке высокого уровня Паскаль» Цель и задачи работы Освоить основные приемы алгоритмизации и составления программ на языке высокого уровня Паскаль.
-
Математическая теория информации
Механизм передачи информации, ее количество и критерии измерения. Единицы информации в зависимости от основания логарифма. Основные свойства и характеристики количества информации, ее энтропия. Определение энтропии, избыточности информационных сообщений.