Rekisteröidy

Ilmoitukset

Ladataan…

    Näytä kaikki

    ehdollinen entropia

    Moi,

    Osaatko ratkaista informaatioteorian ehdollisen entropian kaavan:

    Ensinnäkin entropia on H(X)=-sum_x p(x)log2(p(x))

    Ketjusäännölle pätee helpohkosti

    H(X,Y)=H(X) H(Y|X).

    Mutta ehdolliselle usean muuttujan entropialle väitetään:

    H(X,Y|Z)=H(X|Z) H(Y|X,Z)

    Miten tuo todistetaan?

    t. Mikko
    1125
    Äänestä

    Muut lukivat myös

    Vastaukset 1

    Vanhimmat

    Suoraviivaista

    p(X,Y|Z)p(Z)=p(X,Y,Z)
    =
    p(Y|X,Z)p(X,Z)
    =
    p(Y|X,Z)p(X|Z)p(Z)
    =>
    log(p(X,Y|Z))
    =
    log(p(Y|X,Z)p(X|Z)p(Z)/p(Z))
    =>
    log(p(X,Y|Z))=log(p(Y|X,Z)) log(p(X|Z))
    =>
    H(X,Y|Z)=H(X|Z) H(Y|X,Z)

    Äänestä

    Odottaa vastausta

    Näihin keskusteluihin ei ole vielä vastattu. Ole ensimmäinen.

    Luetuimmat keskustelut

    Kommentoi aloitusta

    Mikko E-A kirjoitti:

    Moi,

    Osaatko ratkaista informaatioteorian ehdollisen entropian kaavan:

    Ensinnäkin entropia on H(X)=-sum_x p(x)log2(p(x))

    Ketjusäännölle pätee helpohkosti

    H(X,Y)=H(X) H(Y|X).

    Mutta ehdolliselle usean muuttujan entropialle väitetään:

    H(X,Y|Z)=H(X|Z) H(Y|X,Z)

    Miten tuo todistetaan?

    t. Mikko

    Anonyymi
    5000

    Ilmoita asiaton sisältö

    • Sisältää materiaalia, joka on loukkaavaa, herjaavaa, rasistista, uhkailevaa tai ahdistelevaa.

    • Materiaali sisältää nimiä, yhteystietoja tai muita henkilökohtaisia tietoja. Julkisuuden henkilöistä, julkisissa viroissa toimivista ihmisistä sekä yritysten vastuuhenkilöistä saa keskustella työhön liittyen. Myös yksityiselämään liittyvistä asioista voi keskustella siltä osin, kuin niistä on julkisesti kerrottu.

    • Sisältää lapsille haitallista tai heiltä kiellettyä materiaalia. Seksuaalinen sisältö on sallittua aiheeseen tarkoitetuilla palstoilla, joiden ikäraja on 18 vuotta.

    • Lainvastaista sisältöä voi olla mm. yksityiselämää loukkaavan tiedon levitys, kiihottaminen kansanryhmää vastaan, laiton uhkaaminen, alaikäisiin liittyvä seksuaalinen sisältö/grooming, petokset, identiteettivarkaudet, kunnianloukkaukset ja tekijänoikeusrikkomukset.

    • Sisältö ei liity palstan tai keskusteluketjun aiheeseen.

    • Viesti ei ole suomea tai ruotsia (pl. International Forums), se sisältää mainontaa, se sisältää tekijänoikeuksin suojattua materiaalia, se on massapostitus tai jokin muu syy.

    Jaa keskustelu