В алфавите языка племени тумба-юмба 4 буквы: гласные О и А, согласные Ш и Щ. Вероятность их появления в тексте: А - 0,35, О - 0,4, Ш - 0,1, Щ - 0,15. Сколько битов информации несет сообщение о том, что очередной символ текста - согласная?

Решение:

1. Рассчитаем вероятность появления одной из согласных буквы среди всех букв: 0,1+0,15=0,25 или 1/4. Из этого следует, что сообщение о том, что следующая буква согласная уменьшает неопределенность в 4 раза: 1:1/4=4.

2. Применяя формулу Хартли берем от полученного числа логарифм по основанию 2: log2 (x) = 4. Отсюда следует, что x=2.

Ответ: Сообщение о том, что очередной символ текста - согласная несет 2 бита информации.