Измерение информации. Содержательный подход

При использовании объёмного подхода для определения количества информации содержательная сторона текста в учёт не берётся.

Совершенно бессмысленное сочетание символов с данной позиции имеет ненулевой информационный объём.

Содержательный подход

Количество информации связывается с содержанием (смыслом) полученного человеком сообщения.

Количество информации, заключённое в сообщении, должно быть тем  больше, чем больше оно пополняет наши знания

Теория информации Клода Шеннона

Сообщение, уменьшающее неопределённость знания в два раза, несёт 1 бит информации.

Неопределённость знания о результате некоторого события (бросания кубика, монеты, вытаскивания жребия и др.) – это количество возможных результатов.

Узнав результат бросания монеты, мы получаем 1 бит информации.

§4. Измерение информации. Содержательный подход.

Рыженко Е. В. МБОУ г. Астрахани " СОШ №64"

При использовании объёмного подхода для определения количества информации содержательная сторона текста в учёт не берётся.

Совершенно бессмысленное сочетание символов с данной позиции имеет ненулевой информационный объём.

Содержательный подход

• Количество информации связывается с содержанием (смыслом) полученного человеком сообщения.
• Количество информации, заключённое в сообщении, должно быть тем больше, чем больше оно пополняет наши знания

Теория информации Клода Шеннона

Сообщение, уменьшающее неопределённость знания в два раза, несёт 1 бит информации.

Неопределённость знания о результате некоторого события (бросания кубика, монеты, вытаскивания жребия и др.) – это количество возможных результатов.

Узнав результат бросания монеты, мы получаем 1 бит информации.

Главная формула информатики

2 i =N

Количество информации (i). содержащееся в сообщении об одном из N равновероятных

результатов некоторого события, определяется из решения показательного уравнения.

Вопросы

• Что такое неопределённость знаний о результате какого-либо события? Приведите примеры, когда неопределённость знания можно выразить количественно.
• Как определяется единица измерения количества информации?
• В каких случаях и по какой формуле можно вычислить количество информации, содержащейся в сообщении, используя содержательный подход?

Домашнее задание

• Сколько битов информации несёт сообщение о том, что из колоды в 32 карты достали «даму пик»?
• Проводятся две лотереи:

«4 из 32» т «5 из 64».

Сообщение о результатах какой из лотерей несёт больше информации и во сколько раз?

Источники информации:

• Информатика и ИКТ. Базовый уровень. 10-11кл.Семакин И. Г., Хеннер Е. К., Москва. Бином. Лаборатория знаний. 2012.