Величины
<<  Подходы к измерению образовательных результатов Абсолютные и относительные статистические величины  >>
Измерение информации (вероятностный подход)
Измерение информации (вероятностный подход)
Задача:
Задача:
Вычисление количества информации в сообщении о неравновероятном
Вычисление количества информации в сообщении о неравновероятном
Вернемся к нашей задаче
Вернемся к нашей задаче
Зависимость между вероятностью и количеством информации
Зависимость между вероятностью и количеством информации
Формула Шеннона
Формула Шеннона
Задача
Задача
Применение ЭТ Excel для решения задач на нахождение количества
Применение ЭТ Excel для решения задач на нахождение количества
Применение ЭТ Excel для решения задач на нахождение количества
Применение ЭТ Excel для решения задач на нахождение количества
Практическая работа
Практическая работа
Ответы:
Ответы:
Подготовиться к контрольной работе
Подготовиться к контрольной работе

Презентация на тему: «Измерение информации (вероятностный подход)». Автор: Ира. Файл: «Измерение информации (вероятностный подход).ppt». Размер zip-архива: 1318 КБ.

Измерение информации (вероятностный подход)

содержание презентации «Измерение информации (вероятностный подход).ppt»
СлайдТекст
1 Измерение информации (вероятностный подход)

Измерение информации (вероятностный подход)

Формула Шеннона

2 Задача:

Задача:

Какое сообщение содержит большее количество информации? В библиотеке 8 шкафов. Книга нашлась в 3-м шкафу; Вася получил за экзамен оценку 4 (по 5-бальной системе единицы не ставят). Бабушка испекла 12 пирожков с капустой, 12 пирожков с повидлом. Маша съела один пирожок. Бабушка испекла 8 пирожков с капустой, 16 пирожков с повидлом. Маша съела один пирожок. Существует много таких ситуаций, у которых вероятности реализации различаются. Например, если бросают несимметричную монету или "правило бутерброда". Сегодня на уроке мы должны ответить на вопрос: как вычислить количество информации в сообщении о неравновероятном событии.

3 Вычисление количества информации в сообщении о неравновероятном

Вычисление количества информации в сообщении о неравновероятном

событии

Для вычисления количества информации в сообщении о неравновероятном событии используют следующую формулу: I=log2(1/p) где I – это количество информации, р – вероятность события. Вероятность события выражается в долях единицы и вычисляется по формуле: р=K/N, где К – величина, показывающая сколько раз произошло интересующее нас событие, N – общее число возможных исходов какого-то процесса.

4 Вернемся к нашей задаче

Вернемся к нашей задаче

Пусть К1 – это количество пирожков с повидлом, К1=24 К2 – количество пирожков с капустой, К2=8 N – общее количество пирожков, N = К1 +К2=24+8=32 Вычислим вероятность выбора пирожка с разной начинкой и количество информации, которое при этом было получено. Вероятность выбора пирожка с повидлом: р1=24/32=3/4=0,75. Вероятность выбора пирожка с капустой: р2=8/32=1/4=0,25. Обратим внимание на то, что в сумме все вероятности дают 1. Вычислим количество информации, содержащееся в сообщении, что Маша выбрала пирожок с повидлом: I1=log2(1/p1)= log2(1/0,75)= log21,3=1,15470 бит. Вычислим количество информации, содержащееся в сообщении, если был выбран пирожок с капустой: I2=log2(1/p2)= log2(1/0,25)= log24=2 бит.

5 Зависимость между вероятностью и количеством информации

Зависимость между вероятностью и количеством информации

При сравнении результатов вычислений получается следующая ситуация: вероятность выбора пирожка с повидлом больше, чем с капустой, а информации при этом получилось меньше. Это не случайность, а закономерность. Качественную связь между вероятностью события и количеством информации в сообщении об этом событии можно выразить так: чем меньше вероятность некоторого события, тем больше информации содержит сообщение об этом событии. Ответить на этот вопрос нам поможет формула вычисления количества информации для событий с различными вероятностями, которую предложил в 1948 г. американский инженер и математик К.Шеннон.

6 Формула Шеннона

Формула Шеннона

Если I-количество информации, N-количество возможных событий, рi - вероятности отдельных событий, где i принимает значения от 1 до N, то количество информации для событий с различными вероятностями можно определить по формуле: можно расписать формулу в таком виде: Рассмотрим формулу на нашем примере: I = - (р1?log2p1 + р2?log2p2)= - (0,25? log20,25+0,75? log20,75)? ? -(0,25?(-2)+0,75?(-0,42))=0,815 бит

7 Задача

Задача

В корзине лежат 32 клубка красной и черной шерсти. Среди них 4 клубка красной шерсти. Сколько информации несет сообщение, что достали клубок красной шерсти? Сколько информации несет сообщение, что достали клубок шерсти любой окраски? Дано: Кк=4;N=32. Найти: Iк, I. Решение: Найдем количество клубков черной шерсти: Кч=N- Кк; Кч=32-4=28 Найдем вероятность доставания клубка каждого вида: pк= Кк/N=4/32=1/8; pч= Кч/N=28/32=7/8. Найдем количество информации, которое несет сообщение, что достали клубок красной шерсти: Iк= log2(1/pк)= log2(1:(1/8))= log28=3 бит Найдем количество информации, которое несет сообщение, что достали клубок шерсти любой окраски: Ответ: Iк=3 бит; I=0,547 бит

8 Применение ЭТ Excel для решения задач на нахождение количества

Применение ЭТ Excel для решения задач на нахождение количества

информации

Задача №2 В озере обитает 12500 окуней, 25000 пескарей, а карасей и щук по 6250. Какое количество информации несет сообщение о ловле рыбы каждого вида. Сколько информации мы получим, когда поймаем какую-нибудь рыбу? Дано: Ко=12500; Кп=25000; Кк= Кщ=6250 Найти: Iо, Iп, Iк, Iщ, I Решение: Найдем общее количество рыбы: N= Ко+Кп+Кк+Кщ. Найдем вероятность ловли каждого вида рыбы: pо= Ко/N; pп= Кп/N; pк= pщ= Кк/N. Найдем количество информации о ловле рыбы каждого вида: Iо= log2( 1/pо); Iп=log2 (1/pп ); Iк= Iщ= log2 (1/pк ) Найдем количество информации о ловле рыбы любого вида: I= pо?log2pо+ pп?log2pп +pк?log2pк +pщ?log2pщ

9 Применение ЭТ Excel для решения задач на нахождение количества

Применение ЭТ Excel для решения задач на нахождение количества

информации

Рис. 1. Режим отображения формул

Рис. 2. Отображение результатов вычислений

10 Практическая работа

Практическая работа

Задание: 1. Сделать табличную модель для вычисления количества информации. 2. Используя табличную модель, сделать вычисления к задаче №2 (рис.3), результат вычисления занести в тетрадь. 3. Используя таблицу-шаблон, решить задачи №3,4 (рис.4, рис.5), решение оформить в тетради. 4. Сохранить таблицы в своих папках под именем «инф_вероятность». Задача №2 В классе 30 человек. За контрольную работу по информатике получено 15 пятерок, 6 четверок, 8 троек и 1 двойка. Какое количество информации несет сообщение о том, что Андреев получил пятерку? Задача№3 В коробке лежат кубики: 10 красных, 8 зеленых, 5 желтых, 12 синих. Вычислите вероятность доставания кубика каждого цвета и количество информации, которое при этом будет получено. Задача№4 В непрозрачном мешочке хранятся 10 белых, 20 красных, 30 синих и 40 зеленых шариков. Какое количество информации будет содержать зрительное сообщение о цвете вынутого шарика?

11 Ответы:

Ответы:

Рис. 3

Рис. 4

Рис. 5

12 Подготовиться к контрольной работе

Подготовиться к контрольной работе

Домашнее задание:

«Измерение информации (вероятностный подход)»
http://900igr.net/prezentacija/matematika/izmerenie-informatsii-verojatnostnyj-podkhod-184002.html
cсылка на страницу

Величины

43 презентации о величинах
Урок

Математика

71 тема
Слайды
900igr.net > Презентации по математике > Величины > Измерение информации (вероятностный подход)