Урок информатики "Формула Шеннона"

Цель: познакомить учащихся с формулой Шеннона, научить на практике применять формулу; развивать воображение, коммуникативные качества, познавательный интерес учащихся; воспитывать информационную культуру.

Оборудование: ПО ЭВМ, медиапроектор, презентация.

Ход урока.

Организационное начало.

Приветствие.

Работа с дежурными.

Повторительно - обучающая работа.

Письменный опрос по вариантам.

1 вариант.

Дать понятие «информация». Привести примеры.

2 вариант.

Что такое «количество информации». Привести примеры.

  2. Итог по проверке домашнего задания.

III. Работа по осмыслению и усвоению нового материала.

Сообщение темы и цели урока.

  - Тема урока «Формула Шеннона». Сегодня мы познакомимся с формулой, позволяющей вычислять количество информации.

 2. Первичное восприятие.

Существует множество ситуаций, когда возможные события имеют различные вероятности реализации. Например, если монета несимметрична (одна сторона тяжелее другой), то при ее бросании вероятности выпадения "орла" и "решки" будут различаться.

Формулу для вычисления количества информации в случае различных вероятностей событий предложил К. Шеннон в 1948 году.

Смотрите документ

Например, пусть при бросании несимметричной четырехгранной пирамидки вероятности отдельных событий будут равны:

Р₁ = 1/2, р₂ = 1/4, р₃ = 1/8, р₄ = 1/8.

Тогда количество информации, которое мы получим после реализации одного из них, можно рассчитать по формуле:

I = - (l/2 log₂l/2 + l/4 log₂l/4 + l/8 log₂l/8 + l/8 log₂l/8) = (1/2 + 2/4 + 3/8 + 3/8) битов = 14/8 битов = 1, 75 бита.

Этот подход к определению количества информации называется вероятностным.

Для частного, но широко распространенного и рассмотренного выше случая, когда события равновероятны (p_i= 1/N), величину количества информации I можно рассчитать по формуле – смотрите документ.

По формуле (2. 3) можно определить, например, количество информации, которое мы получим при бросании симметричной и однородной четырехгранной пирамидки:

I = log₂4 = 2 бита. Таким образом, при бросании симметричной пирамидки, когда события равновероятны, мы получим большее количество информации (2 бита), чем при бросании несимметричной (1, 75 бита), когда события неравновероятны.

Количество информации, которое мы получаем, достигает максимального значения, если события равновероятны.

Выбор оптимальной стратегии в игре "Угадай число". На получении максимального количества информации строится выбор оптимальной стратегии в игре "Угадай число", в которой первый участник загадывает целое число (например, 3) из заданного интервала (например, от 1 до 16), а второй - должен "угадать" задуманное число. Если рассмотреть эту игру с информационной точки зрения, то начальная неопределенность знаний для второго участника составляет 16 возможных событий (вариантов загаданных чисел).

При оптимальной стратегии интервал чисел всегда должен делиться пополам, тогда количество возможных событий (чисел) в каждом из полученных интервалов будет одинаково и отгадывание интервалов равновероятно. В этом случае на каждом шаге ответ первого игрока ("Да" или "Нет") будет нести максимальное количество информации (1 бит).

Как видно из табл. 1, угадывание числа 3 произошло за четыре шага, на каждом из которых неопределенность знаний второго участника уменьшалась в два раза за счет получения сообщения от первого участника, содержащего 1 бит информации. Таким образом, количество информации, необходимое для отгадывания одного из 16 чисел, составило 4 бита.

Весь материал – смотрите документ.

Тема: Формула Шеннона.

Цель: познакомить учащихся с формулой Шеннона, научить на практике применять формулу; развивать воображение, коммуникативные качества, познавательный интерес учащихся; воспитывать информационную культуру.

Оборудование: ПО ЭВМ, медиапроектор, презентация.

Ход урока.

1. Организационное начало.

1. Приветствие.

2. Работа с дежурными.

1. Повторительно-обучающая работа.

1. Письменный опрос по вариантам.

1 вариант.

Дать понятие «информация». Привести примеры.

2 вариант.

Что такое «количество информации». Привести примеры.

2. Итог по проверке домашнего задания.

III. Работа по осмыслению и усвоению нового материала.

1. Сообщение темы и цели урока.

- Тема урока «Формула Шеннона». Сегодня мы познакомимся с формулой, позволяющей вычислять количество информации.

2. Первичное восприятие.

Существует множество ситуаций, когда возможные события имеют различные вероятности реализации. Например, если монета несимметрична (одна сторона тяжелее другой), то при ее бросании вероятности выпадения "орла" и "решки" будут различаться.

Формулу для вычисления количества информации в случае различных вероятностей событий предложил К. Шеннон в 1948 году. В этом случае количество информации определяется по формуле:

где I - количество информации;
N - количество возможных событий;
р_i - вероятность i-го события.

Например, пусть при бросании несимметричной четырехгранной пирамидки вероятности отдельных событий будут равны:

Р₁ = 1/2, р₂ = 1/4, р₃ = 1/8, р₄ = 1/8.

Тогда количество информации, которое мы получим после реализации одного из них, можно рассчитать по формуле:

I = -(l/2 log₂l/2 + l/4 log₂l/4 + l/8 log₂l/8 + l/8 log₂l/8) = (1/2 + 2/4 + 3/8 + 3/8) битов = 14/8 битов = 1,75 бита.

Этот подход к определению количества информации называется вероятностным.

Для частного, но широко распространенного и рассмотренного выше случая, когда события равновероятны (p_i= 1/N), величину количества информации I можно рассчитать по формуле:

По формуле (2.3) можно определить, например, количество информации, которое мы получим при бросании симметричной и однородной четырехгранной пирамидки:

I = log₂4 = 2 бита. Таким образом, при бросании симметричной пирамидки, когда события равновероятны, мы получим большее количество информации (2 бита), чем при бросании несимметричной (1,75 бита), когда события неравновероятны.

Количество информации, которое мы получаем, достигает максимального значения, если события равновероятны.

Выбор оптимальной стратегии в игре "Угадай число". На получении максимального количества информации строится выбор оптимальной стратегии в игре "Угадай число", в которой первый участник загадывает целое число (например, 3) из заданного интервала (например, от 1 до 16), а второй - должен "угадать" задуманное число. Если рассмотреть эту игру с информационной точки зрения, то начальная неопределенность знаний для второго участника составляет 16 возможных событий (вариантов загаданных чисел).

При оптимальной стратегии интервал чисел всегда должен делиться пополам, тогда количество возможных событий (чисел) в каждом из полученных интервалов будет одинаково и отгадывание интервалов равновероятно. В этом случае на каждом шаге ответ первого игрока ("Да" или "Нет") будет нести максимальное количество информации (1 бит).

Как видно из табл. 1, угадывание числа 3 произошло за четыре шага, на каждом из которых неопределенность знаний второго участника уменьшалась в два раза за счет получения сообщения от первого участника, содержащего 1 бит информации. Таким образом, количество информации, необходимое для отгадывания одного из 16 чисел, составило 4 бита.

IV. Работа по выработке практических навыков и умений.

1. Вычислить с помощью электронного калькулятора количество информации, которое будет получено:

• при бросании симметричного шестигранного кубика;

• при игре в рулетку с 72 секторами;

• при игре в шахматы игроком за черных после первого хода белых, если считать все ходы равновероятными;

• при игре в шашки.

2. Вероятность первого события составляет 0,5, а второго и третьего - 0,25. Какое количество информации мы получим после реализации одного из них?

3. Какое количество информации получит второй игрок в игре "Угадай число" при оптимальной стратегии, если первый игрок загадал число: от 1 до 64? От 1 до 128?

V.Итог урока.

-Назовите формулу Шеннона.

VI.Задавание на дом.

• Выучить материал и подготовить сообщение об Шенноне.