Auttakaa lukiolaista informaatioteoriassa!

Minsuliini numero 1

Hei!

Täällä näyttää olevan tietäväistä väkeä. Auttakaa te minua lukiolaista informaatioteoriassa. Meillä parin lukiokaverin kanssa on ollut keskustelua siitä mitä se on ja mitä ei.

Jos vaikka ryhmätyönä jaksaisitte, kertokaa kaikki mitä tiedätte siitä. Älkää pliiis viitatko Wikipediaan tai vastaaviin, ne olen jo itsekin katsonut eikä asia niistä minulle selvinnyt. Kaavojakin ja matemaattisia käsitteitä voi antaa, kunhan sanallisesti selittää niiden merkityksen.

16

267

    Vastaukset

    Anonyymi (Kirjaudu / Rekisteröidy)
    5000
    • Informaatiolle on useita määritelmiä. Riippuu tilanteesta, mikä määritelmä on osuva. Arkikielessä informaatio tarkoittaa ihmiselle "merkityksellistä" dataa. Tämä on kuitenkin aika huono määritelmä, sillä eri asialla voi olla toiselle ihmiselle merkitys ja toiselle ei.

      Yksinkertaisin ja erittäin hyvä määritelmä on Shannonin määrittelemä informaatio. Hän määritteli informaation tarkoittamaan epävarmuuden vähenemistä. Yhdessä bitissä on siis informaatiota, sillä siinä on tietoa, valittiinko nolla vai ykkönen. Informaation määrä taas on kertaluokkia monimutkaisempi asia.

      Koska postasit tälle palstalle, oletan teidän keskustelleen jotain DNA-informaatioon liittyen. DNA:ssa informaatiota on biologisesti aktiivinen osa. Tämä määritelmä pätee erittäin hyvin. Toki voidaan käyttää myös väljempää määritelmää, jossa yksi emäs on jo informaatiota.

    • näkymätöntä

      Esitit hyvän ja vaikean kysymyksen, koska informaatio on näkymätöntä, mutta sitä voidaan ilmaista näkyvästi. Siispä ongelma on siinä, että kiistely tulee siitä, miten informaatiota ilmaistaan, ja informaatio itse jää silloin huomaamatta.

      Shannonin määritelmä informaatiolle on aikansa elänyt, koska siinä informaatio ymmärretään sitä ilmaisevien "merkkien" määrällä. Esim. "Onpa tänään kaunis ilma", on informaatioltaan samansisältoinen kuin "htuv äpolst hsplms nkls", Shannonin määritelmän mukaan.

      • Shannonin määritelmän perusteella on helppo löytää informaatio, ja sen määrä. Mitä jos keksisin kielen, jonka mukaan htuv = onpa, äpolst=tänään, hsplms=kaunis, nkls=ilma? Tällöin "htuv äpolst hsplms nkls" sisältäisi täsmälleen saman informaation kuin "onpa tänään kaunis ilma".


      • Mr.K.A.T.
        jjkkk kirjoitti:

        Shannonin määritelmän perusteella on helppo löytää informaatio, ja sen määrä. Mitä jos keksisin kielen, jonka mukaan htuv = onpa, äpolst=tänään, hsplms=kaunis, nkls=ilma? Tällöin "htuv äpolst hsplms nkls" sisältäisi täsmälleen saman informaation kuin "onpa tänään kaunis ilma".

        ..löytyy about yhtä pitkä selväkielinen informaatiotulkinta, sopivalla one-time tape salakoodilla.
        Ja ilman sitäkin mikä tahansa ainutlaatuinen satunnais sekakoodi tässä:
        "20494029wowotrkw0o5i2jt2utu2ri223949sjjw"

        on tarkkaa informaatiota googlea käyttävälle. Se kertoo tämän suomi24-keskustelupalstan tarkan paikan jossa keskustelemme informaatiosta ja löytyy lisälinkkejä informaation lähteille.. :D


      • merkitys.....
        jjkkk kirjoitti:

        Shannonin määritelmän perusteella on helppo löytää informaatio, ja sen määrä. Mitä jos keksisin kielen, jonka mukaan htuv = onpa, äpolst=tänään, hsplms=kaunis, nkls=ilma? Tällöin "htuv äpolst hsplms nkls" sisältäisi täsmälleen saman informaation kuin "onpa tänään kaunis ilma".

        Aivan, voit keksiä kielen jossa tietylle kirjain yhdistelmälle annat tietyn informaatiosisällön ja silloin sen vastaavuus on sidoksissa informaatioon. Kuitenkin, jotta tästä kielestä olisi hyötyä, sinun on sovittava jonkun kanssa, että tietty kirjainyhdistelmä vastaa tiettyä informaatiota, ennenkuin infoa voidaan välittää.


      • siirtämistapa
        Mr.K.A.T. kirjoitti:

        ..löytyy about yhtä pitkä selväkielinen informaatiotulkinta, sopivalla one-time tape salakoodilla.
        Ja ilman sitäkin mikä tahansa ainutlaatuinen satunnais sekakoodi tässä:
        "20494029wowotrkw0o5i2jt2utu2ri223949sjjw"

        on tarkkaa informaatiota googlea käyttävälle. Se kertoo tämän suomi24-keskustelupalstan tarkan paikan jossa keskustelemme informaatiosta ja löytyy lisälinkkejä informaation lähteille.. :D

        Niin löytyy, koska joku on määritellyt salakoodin. Mainitsemasi satunnais-sekakoodi sisältää informaatiota vain sille, joka tietää koodin tarkoituksen/sisällön, muille se on pelkkä merkityksetön "kirjain- ja numerojono.

        Pointti on kuitekin se, että informaatiota voidaan siirtää satunnais-sekakoodilla, jos tähän koodiin on annettu informaatiosisältö.


      • siirtämistapa kirjoitti:

        Niin löytyy, koska joku on määritellyt salakoodin. Mainitsemasi satunnais-sekakoodi sisältää informaatiota vain sille, joka tietää koodin tarkoituksen/sisällön, muille se on pelkkä merkityksetön "kirjain- ja numerojono.

        Pointti on kuitekin se, että informaatiota voidaan siirtää satunnais-sekakoodilla, jos tähän koodiin on annettu informaatiosisältö.

        "Niin löytyy, koska joku on määritellyt salakoodin. Mainitsemasi satunnais-sekakoodi sisältää informaatiota vain sille, joka tietää koodin tarkoituksen/sisällön, muille se on pelkkä merkityksetön "kirjain- ja numerojono."

        Juurikin näin. Emme voi koskaan tietää, että joku merkkijono ei ainakaan sisällä informaatiota. Tämän takia merkityksen määritteleminen informaatioon vaikeaa, ellei sitä merkitystä voi millään objektiivisella tavalla testata. Hyvä informaation määritelmä pystyy osoittamaan, missä informaatiota on ja kuinka paljon. Muutenhan koko sana informaatio tulee täysin turhaksi, kuten kaikissa yhteyksissä, joissa kreationistit sitä käyttävät.


    • Ainakaan jos täältä lukee .. ;)

      "Informaatio" on määritelty niin monella eri tasolla ja eri käytössä että syntyy suuria sekaannuksia.
      Ja eri ihmiset käyttää eri tavalla ja eri määritelmiä.

      -Kirja /Niiniluoto,Ilkka: Tiede,filosofia ja maailmankatsomus: filosofisia
      esseita tiedosta ja sen arvosta ,Helsinki Otava, 1984 Keuruu/
      määrittelee muistaakseni informaation niin että se on symbolista infoa ihmiseltä toiselle.
      Täten esim. DNA ei ole informaatiota vaan kausaalinen fysikokemiallinen tapahtuma.. Informaatio on IHMISEN TAPA IHMISELLE mitata sitä.

      Dr. Wilkins myöskään ei pidä DNA:ta, geenejä informaationa eikä käskyinä:
      http://keskustelu.suomi24.fi/node/1696994

      Asiaa sotkee mm. kvanttifysiikan tutkijat, jotka käyttää omaa "informaatio"-käsitettään jopa atomimaailman tason tapahtumista. Toisaalta myös tähtitieteen puolella Davies ym. Ja Hawking( pyörötuolifyysikko) on puhunut mustien aukkojen informaatioparadoksista. Käsittääkseni he tarkoittavat että jos ihminen olisi havaitsemassa, hän ei enää saisi informaatiota mustaan aukkoon tippuneesta (informaatio on vain kielikuva, metafora) ja toisaalta eloton ympäröivä avaruus ei saisi kausaalista (syy-seuraus) suhdetta menetettyyn kohteeseensa. Informaatiolla tarkoitetaankin palautuvaa syy-seuraussuhdetta.. eikä niinkään mitään symboleita tai kirjaimia tms.

      KREATIONISTIT Täällä ja muualla ovat ottaneet informaatio-sanan omaan käyttöönsä ja jopa yrittäneet vääntää siitä luonnonlakia. He sanovat/väittävät että vain älyllinen olento voi lähettää informaatiota ja DNA voi sisältää sitä mutta luonto ei ja että informaatiota ei voi tulla tyhjästä. Mutta tämä väitekokoelmansa on heti ongelmallinen kuten Marko Grönroos (googleta) tai minä olemme huomauttaneet. Esim. jos Marko katsoo ikkunasta ulos ja kertoo sukulaiselle että "sataa vettä" niin mistä tämä informaatio tuli ? Markoltako. jonka piti katsoa ulos ennenkuin sai informaation.. ja vedessä ei ole älyä eikä DNA:ta..

      Ks. myös "joenuoman informaatio-ongelma"
      http://keskustelu.suomi24.fi/node/8186570#comment-38148052

      Kreationistit ovat myös koittaneet fuusioida "lakiaan" termodynamiikkaan väittäen että kuten termodynamiikassa, informaatiota ei voi luoda vaan ainoastaan rappeuttaaa jne. ja väittäneet että termodynamiikan voi kumota informaatiolla jne.

      No se siitä Kreationistien infosta..

      Marsista ovat luotaimet keräänneet gigatavuittain karttatietoa, dataa. Usein erotellaan raakatieto, data, varsinaisesta tulkitusta datasta eli informaatiosta. Data on jono bittejä kovalevyllä ja informaatio on tulkinta esim. "autiomaa, jossa on muinainen joenuoma."

      Mittaamisen lisäpointti:
      Informaatiota mitataan usein nykään ns. algoritmisella kompleksisuudella eli mitä tiukempaan databittijono on puristettavissa (mitä enempi toistoa) sitä vähemmän siinä on informaatiota. Informaatio samaistetaan kompleksisuuteen. Puhutaan Kolmogorov-Chaitin-kompleksisuudesta (informaatiosta).
      Monimutkainen bittijono sisältää infoa verrattuna tyhmään toistoon. Esim.
      "0101010101 0101010101 0101010101 0101010101" voidaan kuvata lyhyemmin algoritmisesti:
      "[20x]01"
      Mutta
      0110110110 0001101101 0100111101 1011101011" ei ole puristettavissa joten se mitä ilmeisemmin sisältää
      edellistä huomattavasti enemmän algoritmista kompleksisuutta ("informaatiota"). Tässä kuten Shannonin perinteisessä informaatioteoriassa satunnainen kohina ("mutaatiot") sisältää eniten informaatiota.. eivätkä ne ota kantaa sen järkevyyteen. (voinhan esim. välittää geiger-mittarin radioaktiivisen satunnaisrätinen arvokkaana aitosatunnaisgeneraattoritulosteena jollekin tilastojen tutkijalle jolle se on arvokasta informaatiota MrKAT:lta).

      Tästäkään KC-mitasta ei valitettavasti löydy absoluuttimittaa, koska tuo puristuvuus riippuu sitä mittaavasta algoritmista joten se on suhteellinen mittaustapa.

      Mutta eräs käytännöllinen mitta tiedostojen informaatiosisällän arviointiin on nämä tiedostojenpakkaajat muinaiset LZH, PKZIP, WinZip, jotka ainakin mulla pakkaa paljon nollia sisältävä taulukot hyvin pieniksi ja tekstitiedostot varsin pieniksi mutta tietokonekoodit, kohinaiset tai lehtimetsäkuvat ei paljoa pakkaudu, joten niissä on taas ilmeisesti paljon infoa.

      Auttoiko alkuun ?

      t. MrKAT - ex tempore


      • Ns. tyhmästä toistojonosta
        "0101010101 0101010101 0101010101 0101010101 0101010101 0101010101 0101010101 0101010101.. "

        voi nollia ja ykkösiä välistä tuhoamalla luoda mielivaltaisen bittijonon joka sisältää vaikka Eino Leinon runon bittimuodossa..


      • MrKAT kirjoitti:

        ..ehkä parhaiten juuri tuo Kolmogorov- Chaitin (KC)-kompleksisuus.

        Tässä lisätietoa opelta ja testi (kreationisteille;)
        http://recursed.blogspot.com/2009/01/test-your-knowledge-of-information.html

        Mielestäni "biologisesti aktiivinen DNA" on paras kuulemani määritelmä DNA:lle, joka sisältää informaatiota. Tähän informaatioon määritelmään sisältyy taka-ajatus, että informaatiolla tulee olla "merkitys". Tämän merkityksen tulkinta ei riipu tulkitsijasta, kuten merkkijonojen tapauksessa, mikä tekee siitä kelvon määritelmän. Kolmogorovin määritelmän mukaan kohinapätkänkin kopioituminen tuottaisi lisää informaatiota.


      • Minsuliini numero 1

        Hei taas!

        Nuo muut on aika epäselviä juttuja, pari oli ehkä vähän selvempää. Nyt olisi kyse niistä tarkemmin määritellyistä jutuista. Googletin senverran, että tiedän kyseessä olevan Shannon- ja Kolmogorov-informaatiot. Voisitko kertoa niistä mahdollisimman tarkasti, kuten erilaisia niihin liittyviä käsitteitä ja kaavoja. Todistuksia ei tietenkään kannata esittää.

        Kreationistien jutuista en paljon välitä.


      • Mr.K.A.T.
        Minsuliini numero 1 kirjoitti:

        Hei taas!

        Nuo muut on aika epäselviä juttuja, pari oli ehkä vähän selvempää. Nyt olisi kyse niistä tarkemmin määritellyistä jutuista. Googletin senverran, että tiedän kyseessä olevan Shannon- ja Kolmogorov-informaatiot. Voisitko kertoa niistä mahdollisimman tarkasti, kuten erilaisia niihin liittyviä käsitteitä ja kaavoja. Todistuksia ei tietenkään kannata esittää.

        Kreationistien jutuista en paljon välitä.

        "Algorithmic "Kolmogorov" Complexity (AC)"
        "The major drawback of K as complexity measure is its incomputability. So in practical applications it has always to be approximated, e.g. by MML/MDL or Lempel-Ziv compression or others. "

        http://www.hutter1.net/ait.htm
        (jossa on mielenkiintoisia linkkejä ja kirjavinkkejä)

        Eli käytännössä se K eli KC on teoreettinen apuväline, jolla ei voi oikein laskea. (Enpä muista nähneeni käytännöllistä kaavaakaan sille).
        Syy on loppujen lopuksi selvä. Yksinkertaisia lyhyitä tapauksia lukuunottamatta pitäisi tietää ja käydä läpi kaikki miltei mahdolliset tietokoneohjelmat (S^n kpl), jotka tulostaa
        kyseisen bittijonon ja määrittää niistä minimi eli tähän tyyliin:
        AI=min{|Kaikki algoritmit(tietokoneohjelmat) jotka tulostaa pyydetyn jonon X|}
        (jossa || tarkoittaa itsensä algoritmin kokoa bitteinä)
        Ja käytännöllisesti LZH-puristusohjelmat tai vastaavat ovat kohtalaisen approksimoivia AI:n mittaajia, mutta se ei kerro ns. totuutta.

        Shannonista ja klassisesta informaatioteoriasta juttua esim. täällä:
        http://www.talkorigins.org/faqs/information/shannon.html


        Myös ks.
        http://www.google.com/search?hl=en&q=Kolmogorov complexity


    • KvasiKide

      Informaatio on erilaisuutta. Sen vastakohtana on samankaltaisuus ja toisto.

      • KvasiKide

        Tapahtuman A informaatio I(A) = -log(P(A)), missä P(A) on tapahtuman esiintymistodennäköisyys. Usein käytetään logaritmin kantalukuna lukua 2, jolloin informaatio tarkoittaa bittien lukumäärää.


    • Lumppu-ukko

      Minun mielestä infon yksi perusvaatimus on se, että se saa aikaan jotain järjestäytynyttä. Ei sattumalta järestäytynyttä vaan tekee sen samoista lähtökohdista aina ja samalla tavalla.

      Painovoimakin tekee pyöriviä järjestelmiä mutta sitä minä en pitäisi infona kuitenkaan. Aika vaikeaa on, kuten sanoin. Infoon on luokiteltu tai havaittu ainakin kolme erilaista näkökantaa siinä mielessä mitä info on. Mutta sellainen on joka tapauksessa kuitenkin olemassa kaaoksen vastapainona eikä luonto itsessään luo informaatiota ja monimutkaisia, järjestäytyneitä, rakenteita vaan kaaosta. Sen varmaan lukiolaisena jo tiedätkin. Ei sinun huoneesikaan pysy järjestyksessä muuten kuin ihmisen älyn voimalla. Luonnonvoimat eivät sitä järjestä vaikka kuinka monta vuosimiljoonaa odottaisi.

      Onhan tutkijain mielestä kaiken loppu joskus tila, jossa ei ole käytännössä mitään muuta kuin kaooottista säteilyä. Siinä ajattelemista luomisopin arvostelijoille.

    Ketjusta on poistettu 0 sääntöjenvastaista viestiä.

    Luetuimmat keskustelut

    1. Olen tosi outo....

      Päättelen palstajuttujen perusteella mitä mieltä minun kaipauksen kohde minusta on. Joskus kuvittelen tänne selkeitä tap
      Ikävä
      17
      2224
    2. Kotkalainen Demari Riku Pirinen vangittu Saksassa lapsipornosta

      https://www.kymensanomat.fi/paikalliset/8081054 Kotkalainen Demari Riku Pirinen vangittu Saksassa lapsipornon hallussapi
      Kotka
      85
      2207
    3. Vanhalle ukon rähjälle

      Satutit mua niin paljon kun erottiin. Oletko todella niin itsekäs että kuvittelet että huolisin sut kaiken tapahtuneen
      Ikävä
      10
      1496
    4. Oletko sä luovuttanut

      Mun suhteeni
      Ikävä
      101
      1417
    5. Maisa on SALAKUVATTU huumepoliisinsa kanssa!

      https://www.seiska.fi/vain-seiskassa/ensimmainen-yhteiskuva-maisa-torpan-ja-poliisikullan-lahiorakkaus-roihuaa/1525663
      Kotimaiset julkkisjuorut
      91
      1334
    6. Hommaatko kinkkua jouluksi?

      Itse tein pakastimeen n. 3Kg:n murekkeen sienillä ja juustokuorrutuksella. Voihan se olla, että jonkun pienen, valmiin k
      Sinkut
      147
      1216
    7. Aatteleppa ite!

      Jos ei oltaisikaan nyt NATOssa, olisimme puolueettomana sivustakatsojia ja elelisimme tyytyväisenä rauhassa maassamme.
      Maailman menoa
      255
      920
    8. Onko se ikä

      Alkanut haitata?
      Ikävä
      78
      899
    9. Omalääkäri hallituksen utopia?

      Suurissa kaupungeissa ja etelässä moinen onnistunee. Suuressa osassa Suomea on taas paljon keikkalääkäreitä. Mitenkäs ha
      Maailman menoa
      173
      884
    10. Mitä sanoisit

      Ihastukselle, jos näkisitte?
      Tunteet
      63
      874
    Aihe