Количество информации

Количество информации

Киркина Юлия Владимировна,

учитель информатики и ИКТ ГБОУ СО «Школа-интернат АОП № 3 г.Энгельса»,

старший преподаватель ГАУ ДПО «СОИРО»

ЕДИНИЦЫ ИЗМЕРЕНИЯ ИНФОРМАЦИИ

1 байт = 2 3 бит = 8 бит

1 Кбайт = 2 10 байт = 1024 байт 1 Мбайт = 2 10 Кбайт = 1024 Кбайт 1 Гбайт = 2 10 Мбайт = 1024 Мбайт

СОДЕРЖАТЕЛЬНЫЙ ПОДХОД

Сообщение информативно , если в нем содержатся новые и понятные сведения.

Чем больше информативность , тем большее количество информации содержится в сообщении.

ВЕРОЯТНОСТНЫЙ ПОДХОД

Информация для человека — это знания

незнание

ЗНАНИЕ

знание

Информация, которую получает человек, приводит к уменьшению неопределенности знаний.

События равновероятны , если ни одно из них не имеет преимущества перед другим.

Возможные события. Они равновероятны

Произошедшее событие

Сообщение, уменьшающее неопределенность знаний человека в два раза, несет для него 1 бит информации.

Рассмотрим задачу определения количества информации, необходимой для угадывания числа (5) из диапазона 1-16

Вопрос

Ответ

Число больше 8?

нет

Неопределенность знаний

Число больше 4?

Полученное кол-во информации

8

да

Число больше 6?

нет

1 бит

4

Число 5?

Итого

да

1 бит

2

1 бит

1

1 бит

4 бита

Вывод : количество информации, необходимое для угадывания одного из 16 чисел равно 4 бита.

Задание 1.

Сколько равновероятных событий может произойти при бросании равносторонней четырехгранной пирамидки, шестигранного куба? Заполните таблицу.

Количество возможных событий

Количество полученной информации

ФОРМУЛЫ:

Формула Хартли (получена в 1928 году).

i – количество информации

N – количество равновероятных событий

ФОРМУЛЫ:

N – общее число возможных исходов какого-то процесса

К – сколько раз может произойти интересующее событие

Р – вероятность этого события

Количественная зависимость между вероятностью события ( Р) и количеством информации ( i) в сообщении о нем.

Количеством информации для событий с разными вероятностями.

Формула Шеннона

Задание 2.

Вычислите количество информации в сообщении о том, что из колоды карт случайным образом достали туз червей.

Задание 3.

Сколько бит информации несет сообщение о том, что из колоды в 32 карты достали даму пик?

Сколько информации несет сообщение о том, что достали карту черной масти?

Сколько информации несет сообщение о том, что достали карту бубновой масти?

ЗАДАЧА.

Сообщение о том, что ваш друг живет на десятом этаже несет в себе 4 бита информации. Сколько этажей в доме?

РЕШЕНИЕ:

N = 2 i

i = 4 бита

N = 2 4 = 16

Ответ: 1 6 этажей в доме.

ЗАДАЧА.

Какое количество информации о цвете вынутого шарика будет получено, если в непрозрачном пакете хранятся: 10 белых, 20 красных, 30 синих и 40 зеленых шариков?

РЕШЕНИЕ:

N = 10+20+30+40 = 100

P син. = 30/100 = 0,3

P зел. = 40/100 = 0,4

P бел. = 10/100 = 0,1

P красн. = 20/100 = 0,2

Ответ:

бит

Задание 4.

Заполните пропуски числами:

5 Кбайт = __ байт = __ бит

__ Кбайт = __ байт = 12288 бит

__ Кбайт = __ байт = 213 бит

__ Гбайт = 1536 Мбайт = __ Кбайт

512 Кбайт = 2 ? байт = 2 ? бит

АЛФАВИТНЫЙ ПОДХОД

Позволяет определить количество информации в тексте, отвлекаясь от содержания информации, воспринимая ее как последовательность знаков.

Алфавит – множество символов, используемых для записи текста.

Мощность алфавита – полное количество символов в алфавите.

Если допустить, что все символы алфавита встречаются в тексте с одинаковой частотой (равновероятно), то для определения количества информации можно воспользоваться формулой:

N = 2 i

N – мощность алфавита,

i – количество информации, содержащейся в одном символе алфавита.

При алфавитном подходе объем информации ( I) , содержащейся в тексте, вычисляется по формуле:

I = К · i

К – количество символов в тексте,

i – информационный «вес» одного символа.

ЗАДАЧА

Для русского алфавита (без буквы ё):

Мощность алфавита (количество равновероятных событий) N = 32,

Найти количество информации i, которое несет каждый символ алфавита.

РЕШЕНИЕ:

32 = 2 i

i = 5 бит

Ответ: каждый символ алфавита несет 5 бит информации.

Задание 5.

Какое количество информации несет один символ алфавита мощностью 2, 4, 8, 16, 256 символов?

Литература:

• Козырев А.К., Александрова Н.А., Феоктистова О.А. Теоретические основы информатики и микроэлектроники: Учебно-методическое пособие для ВУЗов. Саратов: Издательство «Научная книга», 2012. – 300 с.

• Гданский Н.И. Информатика. Профильный уровень: практикум для 10-11 классов: в 2 ч. Ч. 1 / Н.И. Гданский, А.В. Карпов. – М.: БИНОМ. Лаборатория знаний, 2012. – 429 с.: ил.