«Вероятностный подход к определению количества информации . Решение тестовых задач»

1. «Вероятностный подход к определению количества информации . Решение тестовых задач»

2. Задача №1В мешке находятся 20 шаров. Из них 15 белых и 5 красных. Какое количество информации несет сообщение о том, что достали: а) белый шар; б) красный шар. Сравните ответы.

3. Решение:Вероятность того, что достали белый шар:рб = 15 / 20 = 0,75;Вероятность того, что достали красный шар:р = 5 / 20 = 0,25.Количество информации о вытаскивании белого шара: i 6 = log 2 (1/p6) = log 2 (1/0,75) = log2l,3 =1,15470бит.Количество информации о вытаскивании красного шара: i к = log 2 (1/рк) = log 2 (l/0,25) = log24 = 2 бит.Ответ: 1,1547 бит и 2 бит.При сравнении ответов получается следующая ситуация: вероятность вытаскивания белого шара была больше, чем вероятность вытаскивания красного шара, а информации при этом получилось меньше. Это не случайность, а закономерная, качественная связь между вероятностью события и количеством информации в сообщении об этом событии.

4. Задача №2 И коробке лежат кубики: 10 красных, 8 зеленых, 5 желтых, 12 синих. Вычислите вероятность доставания кубика каждого цвета и количество информации, которое при этом будет получено.

5. Решение:1. Всего кубиков в коробке N = 10 + 8 + 5 + 12 = 35.2. Найдем вероятности: рк = 10 / 35 ≈ 0,29,рз = 8/ 35 ≈ 0,22,рс= 12/35 ≈ 0,34, рж = 5/35 ≈ 0,14.3.Найдем количество информации:ic = Iog2 ( 1/0,34) = Iog2 2,9 = 1,5360529 бит,iк = Iog2 ( 1/0,29) = Iog2 3,4 = 1,7655347 бит, iз = Iog2 ( 1/0,22) = Iog2 4,5 = 2,169925 бит, iж = Iog2 (l/0,14) = Iog2 7,1 = 2,827819 бит.Ответ: наибольшее количество информации мы получим при доставании желтого кубика по причине качественной связи между вероятностью и количеством информации.

6. Задача №3 В озере обитает 12500 окуней, 25000 пескарей, а карасей и щук по 6250. Сколько информации мы получим, когда поймаем какую-нибудь рыбу.

7. Решение:1. Найдем общее количество рыб в озере: S = 12500 + 25000 + 2-6250 = 50000.2. Найдем вероятность попадания на удочку каждого вида рыб:Ро= 12500/50000 = 0,25,Pк = 25000 /50000 = 0,5,Pп =6250/50000 = 0,125, Pщ = 6250/50000 = 0,125.3.Найдем количество информации:i = - (0,25*log20,25 + 0,5*log20,5 + 0,125*log20,125 + 0,125*log20,125) = - (0,25*(-2) + 0,5*(-1) + 0,125*(-3) + 0,125*(-3)) = -(-0,5-0,5-0,375-0,375)= -(-1,75)= 1,75 бит.Ответ: 1,75 бит информации.

8. Задача №4 В ящике лежат перчатки (белые и черные). Среди них - 2 пары черных. Сообщение о том, что из ящика достали пару черных перчаток, несет 4 бита информации. Сколько пар белых перчаток было в ящике?

9. Решение: Решение:iч = log2 (1/pч), 4 = log2 (1/pч), 1/рч = 16, рч = 1/16 - вероятность доставания черных перчаток;рч = Kч/N, N = Кч/рч, N = 2*16 = 32 - всего перчаток в ящике;К6 = N - Кч = 32 - 2 = 30 пар белых перчаток.Ответ: 30 пар белых перчаток.

10. Задача №5 Для ремонта школы использовали белую, синюю и коричневую краски. Израсходовали одинаковое количество банок белой и синей краски. Сообщение о том, что закончилась банка белой краски, несет 2 бита информации. Синей краски израсходовали 8 банок. Сколько банок коричневой краски израсходовали на ремонт школы?

11. Решение:i6 = log2(1/P6), 2 = Iog2(1/p6), 1/р6 = 4, р6 = 1/4 - вероятность расхода белой банки;N = Кб/рб = 8/(1/4) = 32 - банки с краской было всего;Кк= N - К6 - Кс = 32 - 8 - 8 = 16 банок коричневой краски.Ответ: 16 банок коричневой краски.