Контрольные задания > Задание 1: Напишите формулу для нахождения количества информации, содержащейся в сообщении, если известна вероятность появления каждого символа.
Вопрос:
Задание 1: Напишите формулу для нахождения количества информации, содержащейся в сообщении, если известна вероятность появления каждого символа.
Ответ:
Формула Шеннона:
\[I = -\sum_{i=1}^{n} p_i \log_2(p_i)\]
где:
- \( I \) - количество информации в сообщении,
- \( n \) - количество символов в алфавите,
- \( p_i \) - вероятность появления i-го символа в сообщении.