Archív pre 'Information-teória' Kategória

Keď budete obetovať slobodu za bezpečnosť ste skončili s ani

Piatok, 29. august 2008

Pravdepodobne ste počuli to staré pořekadlo o bezpečnosti a slobody. Istota, že sa hovorí o ekonomickej. Veci, ktoré by mohli dostať tvrdší v blízkej budúcnosti. Sme lodná doprava príliš veľa peňazí z krajiny na rope. Sme príliš jemný, aby umožnili treba nacvičiť na našich končinách av ANWR. Takto to bude zhoršovať, až sa viac prahom bolesti je nájdený.

Mnoho ľudí si bude chcieť hlasovať pre politikom, ktorý hovorí, že to bude ok, ak budeme len regulovať, alebo túto daň, že. Ide o unDemocrats, ktorí budú hovoriť niečo dostať zvolený. Povedz čokoľvek, aby získali moc. Chcel by som si myslíte, že ste ako ELEKTOR, bude mať zmysel až neboli počúvať. Ale ja som o tom pochybovať. Poslouchali ste v minulosti a pravdepodobne bude aj v budúcnosti. Problémom je tento druh vec nikdy pomáha ekonomicky a náhradu škody v skutočnosti niečím oveľa viac než drahé Váš dočasný ekonomickej situácii a že by sa vaša sloboda. Viem, že to nie je pravda. Obľúbený domov ďaleko od domovskej krajiny, je Brazília. Rovnako ako v súčasnosti tvorená Brazília má plne realizované formou vlády, že unDemocrats chcú mať tady. Lidi poznať ich Vláda a meniace sa, že je beznádejnej. Nič sa stále zmenou v tejto oblasti a Brazílčania to viem. S slobodu môžete zlepšiť ekonomickú situáciu. Ekonomické blaho môžete nemusia robiť diddl nasťahovať sa o svoje slobody. Viem, že jeho ťažké byť dobrým vojakom. Musíš byť statočne. A jasne asi 50% populácie chýba akýkoľvek impulz na slobodu. Ba práve naopak. Jim lízat ich kotlety na pomyšlení na ďalšie kolo čiastkových na řezby do slobody za účelom finančného zisku.

Pamätajte, stratia prácu, je dočasný. "Žijeme v krajine obmedzovaná sloboda je dosť ďaleko za celý svoj život. Takže sa nemusíte byť zarputilý Gus siene, kto tajne dlhá pre pivo, a jedno kreslo čiernou a bielou televízii. Pre inšpirovaný životom máte to sen o slobode.

Odvodenie Normálny Gaussove rozloženie z fyzikálnych princípov

Pondelok, 25. august 2008

V mnohých fyzikálnych systémov vyvstáva otázka, aká je pravdepodobnosť, distribúcia, ktorá opisuje systém s danou energiou E očakávať v priebehu intervale od-nekonečna do + nekonečna? Opäť budete používať maximálne Entropia pre určenie tohto princípu.

Tieto obmedzenia sú stanovené takto:

  • sum{kappa=1}{N}{P(x_i)}=1 .... súčet cez všetky probabities musí byť = 1
  • sum{kappa=1}{N}{P(x_i){x_i}}=mu .... keďže priemerná hodnota AKA "znamená"
  • sum{kappa=1}{N}{P(x_i){x_i}^2}=E ... .. daná "energia", alebo štandardná odchýlka AKA "rozptyl"

V langrangian je tvorený nasledovne:

L=sum{kappa=1}{N}{{-P(x_i)}{log_2 P(x_i)}}+lambda_0(1-sum{kappa=1}{N}{P(x_i)} )+lambda_1(mu-sum{kappa=1}{N}{{P(x_i)}{x_i}})+lambda_2(E-sum{kappa=1}{N}{{P(x_i)}{x_i}^2})

{partial L} / {partial P_i}= {-log_2 P(x_i)}-1-lambda_0-lambda_1{x_i}-lambda_2{x_i}^2=0 .... Nastavenie sa rovnajú nule nájsť extrémy bod

Teraz je problém na riešenie pre lambda koeficienty. Použiť trik. Predpokladám, že sa krivka sústredený na osi y. Krivka musí mať rovnaké množstvo Entropia na ľavej strane od osi Y, ako je to na pravej alebo Entropia nebude sa maximalizovať. Vzhľadom k tomu, že stupeň polynómu je aj pravdepodobnosť krivka musí byť "i" .... Že je symetrický o Y osi.

Riešte pre koeficienty pomocou identity integrál normálny-infine až + infine

Používanie identity a nastavením na hodnotu 1: int{-infty}{+infty}{e^{-{(x-mu)^2/{2sigma^2}}}}=sigma{sqrt{2pi}} =1 Výnosy: lambda_2={pi}/ln2

Výsledné rozdelenie je nasledovné: {e^{-{pi}x^2}} , Čo je normálny distribúcie.

Teraz pre ostatné koeficienty práca je jednoduchšia vďaka pozorovania distribúcie môže ponechať toto dokonca o priemernej forme, ak polynómu je vo forme: (x-MU) ^ 2: táto forma môže šíriť pozdĺž osi X bez rozdelenia tvar zmena.

Pripomienky

  • base stav kvantovej harmonický oscilátor je Gauss: To je maximálna Entropia.
  • Gaussove vlny paket nemôže mishapen, pretože je už max Entropia. Prípade, že zmeny tvaru klesá Entropia, ktorá vyžaduje, aby platnosť.
  • Gauss je základ štátu vlne packet? Je možné mať vyššie formy energie štátov?

Maximálna Entropia princíp - Distribúcia s maximálnou Entropia je distribúcia charakteru rozhodne

Nedeľa, 17. august 2008

V predchádzajúcom článku Entropia, bola definovaná ako očakávaný počet bitov v binárne číslo povinný vymenovať všetky výsledky. To bol vyjadrený takto:

Entropia = H (x) = sum{kappa=1}{N}{delim{[}{-P(x_i) * log_2 P(x_i) }{]}}

Vo fyzike (príroda) sa zistilo, že rozdelenie pravdepodobnosti, ktorá predstavuje fyzikálny proces, je ten, ktorý má maximálnu Entropia vzhľadom na obmedzenia na fyzikálny systém. Aké sú obmedzenia? Príkladom z probabalistic systém je zomrieť s 6 stranách. Pre túto chvíľu predstierať, že neviete, že je rovnako pravdepodobné, že vykazovať žiadne 1 zo 6 tváre, keď to roll. Predpokladá sa iba, že je vyvážené.

V prípade, že zomrie na vyššie uvedené sčítanie je ekvivalentná nasledujúce akési počítanie:

  • Pôvodný predpoklad, sada 6 pravdepodobnosť, že Zhrnieme Ak = 1 ... je to ako keďže musí byť aspoň jeden zo 6 tváre, ak stojí na okraji Twilight Oblasť štýlu. Umožňuje predpokladať, P (x i) = 0,05, 0,05, 0,05 , 0.05,0.05, 0.75 .... viete, inštinktívne to nie je správny, ale ukazuje, že maximálna Entropia, princíp

Celková Entropia danej tieto pravdepodobnosti = (.05) * (4,322) * 5 + 0,75 * (.415) = 1,0805 + .311 = 1,39 bity

Skúsme použiť náš zdravý rozum teraz. Vieme, že tam sú rovnako pravdepodobné 6 uvádza, že možno zrolovať. Takže jeho ľahké počet bitov potrebných.

  • Bitov potrebných = log 2 6 = 2,585 bitov

Takto môžeme vidieť náš pôvodný predpoklad pravdepodobnosti výnosov jeden Entropia číslo menšie ako by sme očakávali od zdravý sedliacky rozum. Ako sme zistili, že maximálna Entropia možné?

  • Použite Langrangian maximalizácia metódou.
  • Maximalizáciu Entropia fráz s obmedzením, že

sum{kappa=1}{N}{P(x_i)}=1 .... súčet cez všetky probabities musí byť = 1

V langrangian je tvorený nasledovne:

L=sum{kappa=1}{N}{delim{[}{-P(x_i) * log_2 P(x_i) }{]}}+lambda(1-sum{kappa=1}{N}{delim{[}{P(x_i)}{]}}  ) 

Teraz odlíšia langrangian a stanovenie jej diferenciál = 0, môžeme nájsť najväčšou pravdepodobnosťou entropické

{partial L} / {partial P_i}= {-log_2 P(x_i)}-1-{lambda}=0

{-log_2 P(x_i)}=1+{lambda} riešenia pre P aj výnosy

{P(x_i)}= e^{1+{lambda}} Všetky P i = rovnaký konštantný s pravdepodobnosťou 1 na sumarizovanie .... Takto P i = 1 / 6 od n = 6

Je to síce veľa práce, aby odvodila zjavné, že tam je účel. V prípade viacerých komplikovaná situácia, kedy sa rozdelenia pravdepodobnosti nie je zrejmé, táto metóda funguje. Napríklad v prípade, že čierne teleso emisné krivky Planck. Vzhľadom k tomu, proste kvantované energetickej hladiny môžete odvodiť čierne telo krivky! Tento princíp je tkaný po celej prírode. Učte sa to, pretože bude slúžiť aj Vám.

Niektoré zaujímavé Poznámky k sebe - sám seba? Myslel som ja.

Čo je Entropia?

Štvrtok, 14. august 2008

Existuje mnoho matematických definície Entropia. Oblasti duševného fotku som našiel veľmi užitočné je predstaviť si nasledovný:

  • ste sa dostali do miestnosti a vašou úlohou je označiť všetko, čo je v miestnosti s sharp nezmazateľného značkovač a maskovací pásky.
  • Tie sú žiadaní, aby štítok všetko, čo je v miestnosti s použitím binárne systém číslovania. Táto binárne číslo, ktoré bude konkrétne objekty ID

Ako ste ísť o tomto budete chcieť, aby počet objektov vám najčastejšie odvolávajú na s nižšími číslicami, ktoré majú menšiu dĺžku. Tak pretože ste spomenul "konzumácii" oveľa častejšie ako "číslo 6 SCREW" budete musieť s říct menej číslic.

Toto opatrenie zo Entropia v tejto miestnosti je počet číslic binárnymi požaduje, aby počet všetkých objektov. Toto je Entropia. Vzorec pre túto vetu, ktorú som práve povedal, je:

Entropia ~ = log 2 N, kde N je počet rôznych typov objektov na izbe

Teraz v probabalistic situáciu s výsledkami x 1, x 2 .... X n s P (x i) = pravdepodobnosť x i

Entropia = H (x) = SUM [-P (x i) * log 2 (P (x i))] Tento vzorec počíta s očakávaniami požadovaného počtu číslic na zoznam výsledkov.

Teraz skúsme porovnať to reálnej situácie v podobe dobrého staromódny mince s krytkou

  • P (hlavy) = 1 / 2
  • P (orol) = 1 / 2

Entropy = - (1 / 2) * (-1) - (1 / 2) * (-1) = 1 bit

Preto, aby sa vymenovať všetky štáty mince budete potrebovať 1 bit. Takže stačí zavolať hlavíc bit = 1 a chvosty bit = 0 ....

... A tak budete potrebovať len 1 bit.

Ak máte podivné mince je, že vždy príde hlavy: To znamená, P (vedúci) = 1, potom:

Entropy = - (1) * (0) = 0

Preto je pre vašu čudák mince, že len prepína z hlavy budete potrebovať žiadne drobnosti, ktoré je vymenovanie jej štátov. Neexistuje žiadna Entropia. Vždycky si hlavy sucker! Alebo vedúcich Vyhrála som orol nestratíte!

Použite maximálne Entropia, aby vysvetlila formu energie štáty elektrón v prípadnom No

Piatok, 23. máj 2008

Základ stave elektrón v nekonečný potenciál má aj väčšina "priestor" pre elektrónov stave. Preto má maximálnu Entropia. Vem si, že rovnaký stav a predstaviť štípající na elektróny existencie na nula uprostred žliabku. Teraz máte-2 stav. Elektrónov teraz existuje v menšom entropické stave a hádajte čo? Obsahuje využiteľnú energiu, teraz. To je ako jeden jar komprimované. Elektrónov môže vyvíjať tlak a sila a energia spotrebovať. Napríklad v interakcii s iným atómom prípadne odskočit ktoré by mohli nastať. Na kryštálovú mriežku elektrón môže preniesť svoje energie na atóm za hümni, a v skutočnosti výnos vedenia. Všetky tieto predbežné Suppositions podrobiť kontrole. elektrón-in-nekonecne-well.bmp Ako bolo spomenuté, pretože elektrón existuje v tejto potenciál aj v podobe voľného pádu, že nemôže mať žiadne zrýchlenie. Preto jeho distribúciu, musí sa starostlivo vyhnúť hrany dobre bolo by to skutočne skúsenosť zrýchlenia, ktoré recoiling a kypící zdravím Kompenzácia stien.