
У претходном члану ентропија је дефинисан као очекивани број бита у бинарним броју потребних за набројати све исходе. То је изразио, како следи:
ентропија = Х (кс) = ![Капа = сума (1) (Са) (делим {[}{- П (кс_и) * лог_2 П (кс_и) }{]}} sum{kappa=1}{N}{delim{[}{-P(x_i) * log_2 P(x_i) }{]}}](http://www.amarketplaceofideas.com/wp-content/plugins/wpmathpub/phpmathpublisher/img/math_963.5_649ff0e068931805c9934d682ee17091.png)
У физици (природа) је нашао да је расподјела вероватноће да представља физикални процес је онај који има највећу су неодређеност обзиром на ограничења физичког система. Који су услови? Пример једне пробабалистиц систем је умрети са 6 страна. За сада правити се да не знају да је једнако вероватно да ће било који показују 1 од 6 лица када то ролл. Преузме само да је изједначен.
У случају умре од горе збир је еквивалент за следеће врсте рачунање:
- Почетне претпоставке сет 6 вероватноће да сумирати = 1 ... ово је дато као што мора бити барем једном од 6 лица, осим ако стоји на ивици сутон Зона стилу. Омогућава претпоставити П (кс и) = 0.05, 0.05, 0.05 , 0.05,0.05, 0.75 .... знате нагонску ово није тачно, али показује максималну принцип неодређеност
Укупна ентропија дати тих вероватноће = (, 05) * (4.322) * 5 + 0,75 * (, 415) = 1.0805 +, 311 = 1.39 бита
Нека нам се користити наш здрав разум сад. Знамо се 6 једнако вероватно да држава може постићи. Тако његов лако израчунати број битова потребан.
- Битова потребан = лог 2 6 = 2.585 битова
Тако ћемо моћи видјети наше почетне претпоставке вероватноће приноса ентропија један број мање од бисмо очекивати од здрав разум. Како ћемо наћи максимум ентропије могуће?
- Користите Лангрангиан Унапређивање метода.
- Повећала ентропија израз са ограничење да
.... Збир свих мора пробабитиес = 1
У лангрангиан је формирана како следи:
![П = сума Капа = (1) (С) (делим {[}{- П (кс_и) * лог_2 П (кс_и) }{]}}+ ламбда (1-Капа = сума (1) (С) ((делим [) (П (кс_и )}{]}}) L=sum{kappa=1}{N}{delim{[}{-P(x_i) * log_2 P(x_i) }{]}}+lambda(1-sum{kappa=1}{N}{delim{[}{P(x_i)}{]}} )](http://www.amarketplaceofideas.com/wp-content/plugins/wpmathpub/phpmathpublisher/img/math_961.5_e0964ce10092ff07c28bfd73554e915c.png)
Сада је лангрангиан диференцира и постављање дериват = 0 можемо пронаћи максималну вероватноћа ентропиц

решавање за П и доноси
Све П и = исто константа с вероватноће 1 резиме .... Овако П и = 1 / 6 од Н = 6
Иако је ово пуно рада произлазе очигледно је ту је сврху. У случају више компликована ситуација где је вероватноћа дистрибуције није очигледан ова метода ради. На пример, у случају Црног тела емисије кривуља од Планцк. Обзиром само квантизација енергије нивоа можете извући на црно тело крива! Ово начело ткани је све кроз природу. Научите га јер ће вам добро послужити.
Неки занимљиви Напомене за себе - ја? И ми значило.