Двоичный источник формирует сообщение, состоящее из 11 независимых символов. Каждый символ может быть представлен четырьмя символами х1,х2,х3,х4 , формируемыми с вероятностями: P(x1) = 0.2 ; p(x2) = 0.3; p(x3) = 0.4; p(x4) = 0.1. Рассчитать среднее значение энтропии на символ и количество информации в сообщении

Вопрос школьника по предмету Информатика

Двоичный источник формирует сообщение, состоящее из 11 независимых
символов. Каждый символ может быть представлен четырьмя символами х1,х2,х3,х4 ,
формируемыми с вероятностями:
P(x1) = 0.2 ; p(x2) = 0.3; p(x3) = 0.4; p(x4) = 0.1.
Рассчитать среднее значение энтропии на символ и количество информации в сообщении

Ответ учителя по предмету Информатика

СОставляем функцию Лагранжа

L=x1+4×2+x3-10×4-5×5 +a(x1-x2+x3+x4-4×5)+

+b(x1+x2+5×3+3×4-4×5)

и записываем систему из уравнений: приравниваем к нулю производные функции L, а еще два уравнения — это заданные условия.

Находим решение — это будет точка условного экстремума, проверяем ее на максимум.

зы Хотя, условие не совсем четко записано.

Если имеется в виду, что функция зависит от пяти переменных х1,х2,х3,х4,х5, то тогда задана линейная функция и линейные ограничения. Скорее всего, максимума не будет…