Auttakaa lukiolaista informaatioteoriassa!

Minsuliini numero 1

Hei!

Täällä näyttää olevan tietäväistä väkeä. Auttakaa te minua lukiolaista informaatioteoriassa. Meillä parin lukiokaverin kanssa on ollut keskustelua siitä mitä se on ja mitä ei.

Jos vaikka ryhmätyönä jaksaisitte, kertokaa kaikki mitä tiedätte siitä. Älkää pliiis viitatko Wikipediaan tai vastaaviin, ne olen jo itsekin katsonut eikä asia niistä minulle selvinnyt. Kaavojakin ja matemaattisia käsitteitä voi antaa, kunhan sanallisesti selittää niiden merkityksen.

16

256

    Vastaukset

    Anonyymi (Kirjaudu / Rekisteröidy)
    5000
    • Informaatiolle on useita määritelmiä. Riippuu tilanteesta, mikä määritelmä on osuva. Arkikielessä informaatio tarkoittaa ihmiselle "merkityksellistä" dataa. Tämä on kuitenkin aika huono määritelmä, sillä eri asialla voi olla toiselle ihmiselle merkitys ja toiselle ei.

      Yksinkertaisin ja erittäin hyvä määritelmä on Shannonin määrittelemä informaatio. Hän määritteli informaation tarkoittamaan epävarmuuden vähenemistä. Yhdessä bitissä on siis informaatiota, sillä siinä on tietoa, valittiinko nolla vai ykkönen. Informaation määrä taas on kertaluokkia monimutkaisempi asia.

      Koska postasit tälle palstalle, oletan teidän keskustelleen jotain DNA-informaatioon liittyen. DNA:ssa informaatiota on biologisesti aktiivinen osa. Tämä määritelmä pätee erittäin hyvin. Toki voidaan käyttää myös väljempää määritelmää, jossa yksi emäs on jo informaatiota.

    • näkymätöntä

      Esitit hyvän ja vaikean kysymyksen, koska informaatio on näkymätöntä, mutta sitä voidaan ilmaista näkyvästi. Siispä ongelma on siinä, että kiistely tulee siitä, miten informaatiota ilmaistaan, ja informaatio itse jää silloin huomaamatta.

      Shannonin määritelmä informaatiolle on aikansa elänyt, koska siinä informaatio ymmärretään sitä ilmaisevien "merkkien" määrällä. Esim. "Onpa tänään kaunis ilma", on informaatioltaan samansisältoinen kuin "htuv äpolst hsplms nkls", Shannonin määritelmän mukaan.

      • Shannonin määritelmän perusteella on helppo löytää informaatio, ja sen määrä. Mitä jos keksisin kielen, jonka mukaan htuv = onpa, äpolst=tänään, hsplms=kaunis, nkls=ilma? Tällöin "htuv äpolst hsplms nkls" sisältäisi täsmälleen saman informaation kuin "onpa tänään kaunis ilma".


      • Mr.K.A.T.
        jjkkk kirjoitti:

        Shannonin määritelmän perusteella on helppo löytää informaatio, ja sen määrä. Mitä jos keksisin kielen, jonka mukaan htuv = onpa, äpolst=tänään, hsplms=kaunis, nkls=ilma? Tällöin "htuv äpolst hsplms nkls" sisältäisi täsmälleen saman informaation kuin "onpa tänään kaunis ilma".

        ..löytyy about yhtä pitkä selväkielinen informaatiotulkinta, sopivalla one-time tape salakoodilla.
        Ja ilman sitäkin mikä tahansa ainutlaatuinen satunnais sekakoodi tässä:
        "20494029wowotrkw0o5i2jt2utu2ri223949sjjw"

        on tarkkaa informaatiota googlea käyttävälle. Se kertoo tämän suomi24-keskustelupalstan tarkan paikan jossa keskustelemme informaatiosta ja löytyy lisälinkkejä informaation lähteille.. :D


      • merkitys.....
        jjkkk kirjoitti:

        Shannonin määritelmän perusteella on helppo löytää informaatio, ja sen määrä. Mitä jos keksisin kielen, jonka mukaan htuv = onpa, äpolst=tänään, hsplms=kaunis, nkls=ilma? Tällöin "htuv äpolst hsplms nkls" sisältäisi täsmälleen saman informaation kuin "onpa tänään kaunis ilma".

        Aivan, voit keksiä kielen jossa tietylle kirjain yhdistelmälle annat tietyn informaatiosisällön ja silloin sen vastaavuus on sidoksissa informaatioon. Kuitenkin, jotta tästä kielestä olisi hyötyä, sinun on sovittava jonkun kanssa, että tietty kirjainyhdistelmä vastaa tiettyä informaatiota, ennenkuin infoa voidaan välittää.


      • siirtämistapa
        Mr.K.A.T. kirjoitti:

        ..löytyy about yhtä pitkä selväkielinen informaatiotulkinta, sopivalla one-time tape salakoodilla.
        Ja ilman sitäkin mikä tahansa ainutlaatuinen satunnais sekakoodi tässä:
        "20494029wowotrkw0o5i2jt2utu2ri223949sjjw"

        on tarkkaa informaatiota googlea käyttävälle. Se kertoo tämän suomi24-keskustelupalstan tarkan paikan jossa keskustelemme informaatiosta ja löytyy lisälinkkejä informaation lähteille.. :D

        Niin löytyy, koska joku on määritellyt salakoodin. Mainitsemasi satunnais-sekakoodi sisältää informaatiota vain sille, joka tietää koodin tarkoituksen/sisällön, muille se on pelkkä merkityksetön "kirjain- ja numerojono.

        Pointti on kuitekin se, että informaatiota voidaan siirtää satunnais-sekakoodilla, jos tähän koodiin on annettu informaatiosisältö.


      • siirtämistapa kirjoitti:

        Niin löytyy, koska joku on määritellyt salakoodin. Mainitsemasi satunnais-sekakoodi sisältää informaatiota vain sille, joka tietää koodin tarkoituksen/sisällön, muille se on pelkkä merkityksetön "kirjain- ja numerojono.

        Pointti on kuitekin se, että informaatiota voidaan siirtää satunnais-sekakoodilla, jos tähän koodiin on annettu informaatiosisältö.

        "Niin löytyy, koska joku on määritellyt salakoodin. Mainitsemasi satunnais-sekakoodi sisältää informaatiota vain sille, joka tietää koodin tarkoituksen/sisällön, muille se on pelkkä merkityksetön "kirjain- ja numerojono."

        Juurikin näin. Emme voi koskaan tietää, että joku merkkijono ei ainakaan sisällä informaatiota. Tämän takia merkityksen määritteleminen informaatioon vaikeaa, ellei sitä merkitystä voi millään objektiivisella tavalla testata. Hyvä informaation määritelmä pystyy osoittamaan, missä informaatiota on ja kuinka paljon. Muutenhan koko sana informaatio tulee täysin turhaksi, kuten kaikissa yhteyksissä, joissa kreationistit sitä käyttävät.


    • Ainakaan jos täältä lukee .. ;)

      "Informaatio" on määritelty niin monella eri tasolla ja eri käytössä että syntyy suuria sekaannuksia.
      Ja eri ihmiset käyttää eri tavalla ja eri määritelmiä.

      -Kirja /Niiniluoto,Ilkka: Tiede,filosofia ja maailmankatsomus: filosofisia
      esseita tiedosta ja sen arvosta ,Helsinki Otava, 1984 Keuruu/
      määrittelee muistaakseni informaation niin että se on symbolista infoa ihmiseltä toiselle.
      Täten esim. DNA ei ole informaatiota vaan kausaalinen fysikokemiallinen tapahtuma.. Informaatio on IHMISEN TAPA IHMISELLE mitata sitä.

      Dr. Wilkins myöskään ei pidä DNA:ta, geenejä informaationa eikä käskyinä:
      http://keskustelu.suomi24.fi/node/1696994

      Asiaa sotkee mm. kvanttifysiikan tutkijat, jotka käyttää omaa "informaatio"-käsitettään jopa atomimaailman tason tapahtumista. Toisaalta myös tähtitieteen puolella Davies ym. Ja Hawking( pyörötuolifyysikko) on puhunut mustien aukkojen informaatioparadoksista. Käsittääkseni he tarkoittavat että jos ihminen olisi havaitsemassa, hän ei enää saisi informaatiota mustaan aukkoon tippuneesta (informaatio on vain kielikuva, metafora) ja toisaalta eloton ympäröivä avaruus ei saisi kausaalista (syy-seuraus) suhdetta menetettyyn kohteeseensa. Informaatiolla tarkoitetaankin palautuvaa syy-seuraussuhdetta.. eikä niinkään mitään symboleita tai kirjaimia tms.

      KREATIONISTIT Täällä ja muualla ovat ottaneet informaatio-sanan omaan käyttöönsä ja jopa yrittäneet vääntää siitä luonnonlakia. He sanovat/väittävät että vain älyllinen olento voi lähettää informaatiota ja DNA voi sisältää sitä mutta luonto ei ja että informaatiota ei voi tulla tyhjästä. Mutta tämä väitekokoelmansa on heti ongelmallinen kuten Marko Grönroos (googleta) tai minä olemme huomauttaneet. Esim. jos Marko katsoo ikkunasta ulos ja kertoo sukulaiselle että "sataa vettä" niin mistä tämä informaatio tuli ? Markoltako. jonka piti katsoa ulos ennenkuin sai informaation.. ja vedessä ei ole älyä eikä DNA:ta..

      Ks. myös "joenuoman informaatio-ongelma"
      http://keskustelu.suomi24.fi/node/8186570#comment-38148052

      Kreationistit ovat myös koittaneet fuusioida "lakiaan" termodynamiikkaan väittäen että kuten termodynamiikassa, informaatiota ei voi luoda vaan ainoastaan rappeuttaaa jne. ja väittäneet että termodynamiikan voi kumota informaatiolla jne.

      No se siitä Kreationistien infosta..

      Marsista ovat luotaimet keräänneet gigatavuittain karttatietoa, dataa. Usein erotellaan raakatieto, data, varsinaisesta tulkitusta datasta eli informaatiosta. Data on jono bittejä kovalevyllä ja informaatio on tulkinta esim. "autiomaa, jossa on muinainen joenuoma."

      Mittaamisen lisäpointti:
      Informaatiota mitataan usein nykään ns. algoritmisella kompleksisuudella eli mitä tiukempaan databittijono on puristettavissa (mitä enempi toistoa) sitä vähemmän siinä on informaatiota. Informaatio samaistetaan kompleksisuuteen. Puhutaan Kolmogorov-Chaitin-kompleksisuudesta (informaatiosta).
      Monimutkainen bittijono sisältää infoa verrattuna tyhmään toistoon. Esim.
      "0101010101 0101010101 0101010101 0101010101" voidaan kuvata lyhyemmin algoritmisesti:
      "[20x]01"
      Mutta
      0110110110 0001101101 0100111101 1011101011" ei ole puristettavissa joten se mitä ilmeisemmin sisältää
      edellistä huomattavasti enemmän algoritmista kompleksisuutta ("informaatiota"). Tässä kuten Shannonin perinteisessä informaatioteoriassa satunnainen kohina ("mutaatiot") sisältää eniten informaatiota.. eivätkä ne ota kantaa sen järkevyyteen. (voinhan esim. välittää geiger-mittarin radioaktiivisen satunnaisrätinen arvokkaana aitosatunnaisgeneraattoritulosteena jollekin tilastojen tutkijalle jolle se on arvokasta informaatiota MrKAT:lta).

      Tästäkään KC-mitasta ei valitettavasti löydy absoluuttimittaa, koska tuo puristuvuus riippuu sitä mittaavasta algoritmista joten se on suhteellinen mittaustapa.

      Mutta eräs käytännöllinen mitta tiedostojen informaatiosisällän arviointiin on nämä tiedostojenpakkaajat muinaiset LZH, PKZIP, WinZip, jotka ainakin mulla pakkaa paljon nollia sisältävä taulukot hyvin pieniksi ja tekstitiedostot varsin pieniksi mutta tietokonekoodit, kohinaiset tai lehtimetsäkuvat ei paljoa pakkaudu, joten niissä on taas ilmeisesti paljon infoa.

      Auttoiko alkuun ?

      t. MrKAT - ex tempore


      • Ns. tyhmästä toistojonosta
        "0101010101 0101010101 0101010101 0101010101 0101010101 0101010101 0101010101 0101010101.. "

        voi nollia ja ykkösiä välistä tuhoamalla luoda mielivaltaisen bittijonon joka sisältää vaikka Eino Leinon runon bittimuodossa..


      • MrKAT kirjoitti:

        ..ehkä parhaiten juuri tuo Kolmogorov- Chaitin (KC)-kompleksisuus.

        Tässä lisätietoa opelta ja testi (kreationisteille;)
        http://recursed.blogspot.com/2009/01/test-your-knowledge-of-information.html

        Mielestäni "biologisesti aktiivinen DNA" on paras kuulemani määritelmä DNA:lle, joka sisältää informaatiota. Tähän informaatioon määritelmään sisältyy taka-ajatus, että informaatiolla tulee olla "merkitys". Tämän merkityksen tulkinta ei riipu tulkitsijasta, kuten merkkijonojen tapauksessa, mikä tekee siitä kelvon määritelmän. Kolmogorovin määritelmän mukaan kohinapätkänkin kopioituminen tuottaisi lisää informaatiota.


      • Minsuliini numero 1

        Hei taas!

        Nuo muut on aika epäselviä juttuja, pari oli ehkä vähän selvempää. Nyt olisi kyse niistä tarkemmin määritellyistä jutuista. Googletin senverran, että tiedän kyseessä olevan Shannon- ja Kolmogorov-informaatiot. Voisitko kertoa niistä mahdollisimman tarkasti, kuten erilaisia niihin liittyviä käsitteitä ja kaavoja. Todistuksia ei tietenkään kannata esittää.

        Kreationistien jutuista en paljon välitä.


      • Mr.K.A.T.
        Minsuliini numero 1 kirjoitti:

        Hei taas!

        Nuo muut on aika epäselviä juttuja, pari oli ehkä vähän selvempää. Nyt olisi kyse niistä tarkemmin määritellyistä jutuista. Googletin senverran, että tiedän kyseessä olevan Shannon- ja Kolmogorov-informaatiot. Voisitko kertoa niistä mahdollisimman tarkasti, kuten erilaisia niihin liittyviä käsitteitä ja kaavoja. Todistuksia ei tietenkään kannata esittää.

        Kreationistien jutuista en paljon välitä.

        "Algorithmic "Kolmogorov" Complexity (AC)"
        "The major drawback of K as complexity measure is its incomputability. So in practical applications it has always to be approximated, e.g. by MML/MDL or Lempel-Ziv compression or others. "

        http://www.hutter1.net/ait.htm
        (jossa on mielenkiintoisia linkkejä ja kirjavinkkejä)

        Eli käytännössä se K eli KC on teoreettinen apuväline, jolla ei voi oikein laskea. (Enpä muista nähneeni käytännöllistä kaavaakaan sille).
        Syy on loppujen lopuksi selvä. Yksinkertaisia lyhyitä tapauksia lukuunottamatta pitäisi tietää ja käydä läpi kaikki miltei mahdolliset tietokoneohjelmat (S^n kpl), jotka tulostaa
        kyseisen bittijonon ja määrittää niistä minimi eli tähän tyyliin:
        AI=min{|Kaikki algoritmit(tietokoneohjelmat) jotka tulostaa pyydetyn jonon X|}
        (jossa || tarkoittaa itsensä algoritmin kokoa bitteinä)
        Ja käytännöllisesti LZH-puristusohjelmat tai vastaavat ovat kohtalaisen approksimoivia AI:n mittaajia, mutta se ei kerro ns. totuutta.

        Shannonista ja klassisesta informaatioteoriasta juttua esim. täällä:
        http://www.talkorigins.org/faqs/information/shannon.html


        Myös ks.
        http://www.google.com/search?hl=en&q=Kolmogorov complexity


    • KvasiKide

      Informaatio on erilaisuutta. Sen vastakohtana on samankaltaisuus ja toisto.

      • KvasiKide

        Tapahtuman A informaatio I(A) = -log(P(A)), missä P(A) on tapahtuman esiintymistodennäköisyys. Usein käytetään logaritmin kantalukuna lukua 2, jolloin informaatio tarkoittaa bittien lukumäärää.


    • Lumppu-ukko

      Minun mielestä infon yksi perusvaatimus on se, että se saa aikaan jotain järjestäytynyttä. Ei sattumalta järestäytynyttä vaan tekee sen samoista lähtökohdista aina ja samalla tavalla.

      Painovoimakin tekee pyöriviä järjestelmiä mutta sitä minä en pitäisi infona kuitenkaan. Aika vaikeaa on, kuten sanoin. Infoon on luokiteltu tai havaittu ainakin kolme erilaista näkökantaa siinä mielessä mitä info on. Mutta sellainen on joka tapauksessa kuitenkin olemassa kaaoksen vastapainona eikä luonto itsessään luo informaatiota ja monimutkaisia, järjestäytyneitä, rakenteita vaan kaaosta. Sen varmaan lukiolaisena jo tiedätkin. Ei sinun huoneesikaan pysy järjestyksessä muuten kuin ihmisen älyn voimalla. Luonnonvoimat eivät sitä järjestä vaikka kuinka monta vuosimiljoonaa odottaisi.

      Onhan tutkijain mielestä kaiken loppu joskus tila, jossa ei ole käytännössä mitään muuta kuin kaooottista säteilyä. Siinä ajattelemista luomisopin arvostelijoille.

    Ketjusta on poistettu 0 sääntöjenvastaista viestiä.

    Luetuimmat keskustelut

    1. Naisiin ei ole luottamista

      Ainakaan useimpiin suurin osa hakee vain hyötyä miehistä tavalla tai toisella.
      Ikävä
      121
      2970
    2. Olet niin lähellä

      .... mutta en tiedä haluatko nähdä tai kuulla minusta. Minulla on ikävä sua, minua nuorempi nainen.
      Ikävä
      54
      2263
    3. Mies miten reagoisit jos

      satuttais näkemään sattumalta?
      Ikävä
      55
      2181
    4. Minun täytyisi lopettaa

      Kaipaaminen. Siksi kun en pysty mihinkään. Tulee vain harmia kun kaipaan. Olen niin väsynyt, ei kiinnosta mikään, enkä e
      Ikävä
      32
      2094
    5. Miksi rikkaiden pitäisi

      maksaa köyhien ja laiskojen verot, en ymmärrä tätä laskuoppia?
      Maailman menoa
      192
      1549
    6. Tänään onkin hyvä päivä

      Selata koko päivän Tinderin hunajaisia naisia. Jospa löytyy se rakkaus. Vähän kuin pelaisi hedelmäpelejä. 💘🍑🍍
      Sinkut
      61
      1439
    7. Sun kannattais nainen yrittää edes ehostaa

      ittees ja olla tyylikkäämpi. Oot kuin navettapiika. Ei millään pahalla. 😃 Mieheltä
      Ikävä
      121
      1392
    8. Kuvaile kaivattusi luonnetta

      Millaista ihmistä kaipaat?
      Ikävä
      57
      1319
    9. Muistatko? Juha Mieto täräytti Farmilla suorat sanat - Nyt hiihtäjälegenda uudelleen tosi-tv:ssä!

      Näinköhän Mietaalle käy Miina Äkkijyrkän kohtalo… Edellisellä Farmi-kaudella Mietaa teki ns. miesten töitä ahkerasti, pä
      Tv-sarjat
      8
      1143
    10. Melankolian kosketus

      Olet ihana enkä saa sinua öisinkään mielestäni; olet se nouseva aurinko joka minua valvottaa. Rintaani pakottaa ja silmi
      Ikävä
      59
      1053
    Aihe