Voisiko joku yrittää kertoa, että mitä entropia oikeastaan on ja mielellään vähän tarkemmin kuin puhumalla vain joistain epäjärjestyksessä olevista huoneista, sillä tällaisia juttuja olen kyllä lukenut, mutta ne ovat hyvin epämääräisiä selostuksia.
Minulla on hämärä aavistus siitä, että entropia mittaa jotenkin eri vaihtoehtojen määrää siinä tilanteessa, kun osittain satunnaisuuden ohjaama prosessi on edennyt niin kauan, että suurten lukujen lain kaltaiset säännöt ovat ehtineet varmistaa sen, että systeemin lopputilanne on lähes varmasti tietynlainen. Tätä tietoa voisi sitten käyttää hyväksi vaikka termodynamiikassa ja informaatioteoriassa.
Minulla on hämärä aavistus siitä, että entropia mittaa jotenkin eri vaihtoehtojen määrää siinä tilanteessa, kun osittain satunnaisuuden ohjaama prosessi on edennyt niin kauan, että suurten lukujen lain kaltaiset säännöt ovat ehtineet varmistaa sen, että systeemin lopputilanne on lähes varmasti tietynlainen. Tätä tietoa voisi sitten käyttää hyväksi vaikka termodynamiikassa ja informaatioteoriassa.
Vastaukset 20
Vanhimmat
haluaisin
Internet on siitä kumouksellinen väline, että sen avulla tiedon etsintä on huomattavasti helpompaa kuin ennen. Jos et osaa, niin tuosta vaikka on helppo aloittaa. http://fi.wikipedia.org/wiki/Entropia
Ei kestä kiittää.
Entropia informaatioteoriassa
Verrataan kahta merkkijonoa
KISSA KÄVELEE
ja
AAAAAAAAAAAAA
Wikipedia:
"Mitä suurempi viestin entropia on, sitä enemmän se sisältää satunnaisuutta ja tietoa ja sitä vähemmän järjestystä."
KISSA KÄVELEE: suurempi entropia, enemmän informaatiota
AAAAAAAAAAAAA: pieni entropia, vähän informaatiota
Sovellapa tätä vaikkapa kirjan tekstin haalistumiseen, jolloin kirja muuttuu pikkuhiljaa tasavärisemmäksi kadottaen siihen talletettua informaatiota. Wikipedian tulkinnan mukaan kirjan haalistuessa entropia pienentyy! Ei oikein vakuuta tuo Wikipedia.
"Mitä suurempi viestin entropia on, sitä enemmän se sisältää satunnaisuutta ja tietoa ja sitä vähemmän järjestystä."
Minun mielestäni tuo viesti on sikäli harhauttava, että se leimaa tämän kirjoitukseni satunnaiseksi ja samalla myös itse tuon väitteenkin!
Tuossa tilanteessa satunnaisuus tarkoittaa paremminkin ennustamattomuutta ja järjestys toistumattomuutta, vaikka informaatioteoreettisen entropian ja fysikaalisen entropian saa varmaan helposti sekaisin. Sitä en oikein osaakaan sanoa, miten ne saa hyvään järjestyksen (-;
Siis jos meillä on tiiveimmin pakattu viesti (tarkoituksellinen tieto) ja pakkauksen pituinen satunnainen merkkijono (tarkoituksetonta , viestiä sisältämätöntä dataa, kohinaa), niin ei oikeastaan millään ulkopuolisella keinolla voi erottaa noita kahta, jos pakkausmenetelmä ja käytetty koodijärjestelmä, ei ole tiedossa. Tässä mielessä siis satunnaisuus ja informaatio (tiedon merkityksessä) ovat "synonyymejä", mutta kun järjestelmään lisätään viestin lähettäjä ja vastaanottaja, tiedolla ja satunnaisuudella on iso ero.
Enkä kutsuisi kirjoituksesi antamaa tietoa entropiaksi, päinvastoin.
Itse pidän seuraavasta määritelmästä:
L = S I
L on datan kokonaismäärä
I (informaatio) on datan määrä pakkaamisen jälkeen.
S = entropia (informaatioteorian)
Esimerkki kovalevy, jonne ei ole vielä talletettu mitään (informaatiota).
100GB kovalevy, L = 100GB
Formatoidun kovalevyn informaatio I=0 ja entropia S = L - I = 100GB.
Sitten kun kovalevylle talletetaan tietoa (informaatiota), niin vastaavasti entropia pienenee.
>Minulla on hämärä aavistus siitä, että entropia mittaa jotenkin eri vaihtoehtojen määrää siinä tilanteessa, kun osittain satunnaisuuden ohjaama prosessi on edennyt niin kauan, että suurten lukujen lain kaltaiset säännöt ovat ehtineet varmistaa sen, että systeemin lopputilanne on lähes varmasti tietynlainen.<
olet oikeassa, mutta käyttäisin termejä 'spontaani prosessi' ja systeemin todennäköisin lopputilanne'.
kuvitellaan, että sinulla on tiimalasin muotoinen lasikammio, jonka keskikohdassa on 'hana', jolla kammiot saa yhdistettyä. laitamme 4 eri molekyyliä toiseen kammioon: keltaisen (k), punaisen (p), sinisen (s) ja vihreän (v). avaamme hanan ja katsomme mihin molekyylit asettuvat kun saavat minkään voimien vaikuttamatta asettua.
on todennäköisempää, että kummassakin kammiossa havaitsemme useimmin 2 molekyyliä kuin että havaitsisimme toisessa 0 ja toisessa 4 tai toisessa 1 ja toisessa 3, koska
kpsv | -
k | psv
p | ksv
s | pkv
v | psk
kp | sv
ks | pv
kv | ps
pv | ks
ps | kv
pk | sv
joten huomaamme, että vaihtoehtoja on eniten jos kummassakin tiimalasin kammiossa on 2 molekyyliä. tällainen tila on siis todennäköisin.
Sanoit
"
olet oikeassa, mutta käyttäisin termejä 'spontaani prosessi' ja systeemin todennäköisin lopputilanne'.
"
Minun käsitykseni mukaan "systeemin todennäköisin lopputilanne" ei välttämättä ole kovin hyvä ilmaus ainakaan joissain informaatioteoreettisissa tarkasteluissa. Muistan jossain nähneeni tällaisen esimerkin:
Ajatellaan, että kanava lähettää peräkkäin toisistaan riippumattomasti merkkejä A ja B n kappaletta niin, että A.n tulemisen todennäköisyys on 90prosenttia (eli ( P(A)=0.9 ) ja B:lle loput 10prosenttia (eli P(B)=0.1). Kun n on "riittävän suuri", tällöinkin todennäköisin YKSITTÄINEN systeemin lopputilanne on se, jossa kaikki n kpl tulleita merkkejä on A:ta ( eli P(AAA...AAA)=(0.9)^n ), mutta silti entropian arvoa mitattaessa riittää tarkastella niitä mahdollisuuksia, jotka suurten lukujen lain mukaan toteutuvat käytännössä varmasti ja jotka ovat tässä tapauksessa ne, joissa A:ta on tullut 90prosenttisesti ja B:tä 10prosenttisesti, jolloin yhden yksittäisen tällaisen sarjan todennäköisyys on ((0.9)^(0.9n))*((0.1)^(0.1n)), joka on aidosti pienempi kuin sillä sarjalla, jossa kaikki on A:ta.
Olenpa kuullut tällaista sanottavan "Asymptoottisen tasajaon ominaisuudeksi".
Toisaalta kyllähän sinäkin esimerkissäsi teit melko samanlaisen "ryhmittelyn" kuin minäkin, eli sikäli eroa ei juuri ole.
Kuitenkin systeemin todennäköisin lopputila itsessään voi olla hieman hämäävä ilmaus, sillä käsittääkseni tuontapaiset "ryhmittelyt" ovat melko oleellisia entropian käsitteen ymmärtämiseksi.
Löytyy viimekesäinen analysoiva tutkielmani aiheesta esimerkkien kera:
http://www.student.oulu.fi/~ktikkane/entropiaep.html
Sivusto pyrkii kertomaan paitsi mitä entropia on, niin myös mitä se ei ole (vaikka populistisesti opetetaan).
Ja todellakin: entropian vertaaminen epäjärjestykseen on niin epämääräinen ja harhaanjohtava että ainakin USAssa neuvotaan tämä vertaus jo jättämään oppikirjoista pois.
"I. LOPPULAUSUMA:
================
Kuten Kemian emeritusprofessori Lambert sen sanoo:
Entropia ei ole epäjärjestystä. Entropia on energian hajaantumista.
Esineillä ei ole mitään sisäistä tendenssiä tai taipumusta hajota !
Kemialliset ym sidokset (kemiallisen aktivaatioenergian korkeus) pitää
niitä kasassa. Ne ovat ja pysyvät sellaisinaan ellei mikään ulkoinen voima
pakota siihen. Energiavirta on se, joka saa makromaailman kohteen
"epäjärjestykseen", ja se tulee (yleensä) ulkoapäin."
..lähinnä kemian ja kemiallisen termodynamiikan opetuksen näkökulmaa.
Anteeksi vaan, mutta minun on pakko sanoa, että tuo oli melko sekava esitys, joka tuskin juuri lisää kenenkään ymmärrystä aiheesta. Voisitko kirjoittaa esityksen, joka olisi matemaattisesti edes vähän täsmällisempi sikäli, että vaikka kaavoja ei täysin johdettaisikaan niin tietyt asiat perusteltaisiin matemaattisten lakien (esim. suurten lukujen laki) avulla.
Asian voi tarkastella monelta kantilta, eikä Mr.K.A.T:in lista ole ainakaan pahitteeksi tarkistaa.
Näyttäisi olevan voimassa:
1) Mikään prosessi, olipa se spontaani tai pakotettu (=kytketty), ei siirrä kokonaisjärjestelmän tilaa todennäköisimmästä tilasta poispäin (siis epätodennäköisempään tilaan), kun kaikki vaikuttavat tekijät huomioidaan mukaan järjestelmään, siis Gibbsin vapaa energia ei kasva, entropia ei vähene.
2) Järjestelmän todennäköisin tila on sellainen, jossa ei esiinny eikä synny hyödynnettävissä olevia potentiaalieroja (Gibbsin energian minimi = 0), tasapainotila, entropian maksimi.
Entropia siis kuvaa mm. kokonaisenegian hukkalämpöosuutta.
Jos aineella ja energialla ei olisi hitautta *, olisimme jo päässeet todennäköisimpään (kohta 2) tilaan heti aluksi. Mutta ehkä onneksemme aine on järjestetty tasoluokittain, jolloin esim. kemiallisesti tasapainoisesta raskaasta vedestäkin voi vielä saada hyödynnettävää potentiaalienergiaa ydinreaktiolla. Muutoinkin 1. kohta ei sano reitistä eikä nopeudesta mitään erityistä, jolloin välivaiheet voivat olla hyvinkin epätodennäköisen tuntuisia ja pitkäikäisiäkin.
(* Ehkä jotkut ymmärtävät kiittää tästäkin Luojaansa.
Luulin, että täällä olisi tietäväistä väkeä, joka osaisi kartuttaa ymmärtämystäni entropian olemuksesta. Sensijaan jouduin huomaamaan, että täällä ei osata muuta kuin linkittää Wikipediaan ja entropiatietämyksen taso on sama kuin alkeellisimman populaariesityksen, vaikka kreationistien puhuessa entropiasta te olette niin tarkkaan tietävinänne mitä entropia on ja mitä se ei ole.
että tunnistimme heti sinut samaksi urpoksi, joka kohta kehuu matematiikan taidoillaan ja opiskeluillaan ja jonka ainoana päämääränä tehdä tällaisia aloituksia on päästä solvaamaan MrKatia, jolta olet ilmeisesti saanut turpaasi keskusteluissa, koska olet hänelle niin vihainen. Olethan ennenkin tehnyt vastaavia aloituksia.
En tiedä mistä puhut, mutta sinä et nähtävästi ainakaan osannut sanoa entropiasta yhtään mitään. Onkohan sinulla muuten yhtään yliopistotason kokemusta siitä matematiikasta, jota entropian täsmälliseen muotoiluun vaaditaan. Ilkeästi sanottu? Ehkä, mutta vastauksesi sävy oli ainakin yhtä ilkeä.
Huomautan sinulle kuitenkin sen, että MrKat-nimimerkki vastasi minulle, vaikka vastauksen taso ei ehkä päätä huimannut. Oman lievän matemaattisen harrastuneisuuteni perusteella tiedän entropian matemaattisesta muotoilusta paljon enemmän kuin kyseinen vastaus sisälsi.
..koko ajan oman viisautesi esittely, niin olisit aloittanut sillä.
""En tiedä mistä puhut, mutta sinä et nähtävästi ainakaan osannut sanoa entropiasta yhtään mitään.""
Niinkö? Eivätkö nämä viestisi muistukaan mieleesi:
http://keskustelu.suomi24.fi/node/8808606
http://keskustelu.suomi24.fi/listmessage/8815053/42353821
""Onkohan sinulla muuten yhtään yliopistotason kokemusta siitä matematiikasta, jota entropian täsmälliseen muotoiluun vaaditaan. Ilkeästi sanottu? Ehkä, mutta vastauksesi sävy oli ainakin yhtä ilkeä.""
Juu, on. Olen opiskellut matematiikkaa yliopistossa. Mutta lopetin kesken, enkä valmistunut siltä alalta. Lisäksi tuosta ajasta on melkein 30 vuotta, joten en siitä muista enää mitään.
""Huomautan sinulle kuitenkin sen, että MrKat-nimimerkki vastasi minulle, vaikka vastauksen taso ei ehkä päätä huimannut. Oman lievän matemaattisen harrastuneisuuteni perusteella tiedän entropian matemaattisesta muotoilusta paljon enemmän kuin kyseinen vastaus sisälsi.""
Mainiota. Mutta se ei ollut sitä, mitä kysyit aloituksessasi: "Voisiko joku yrittää kertoa, että mitä entropia oikeastaan on ja mielellään vähän tarkemmin kuin puhumalla vain joistain epäjärjestyksessä olevista huoneista, sillä tällaisia juttuja olen kyllä lukenut, mutta ne ovat hyvin epämääräisiä selostuksia." Entropian matemaattiset muotoilut voit lukea kirjoista, mutta esiinnyit niin kuin haluaisit keskustella entropian luonteesta.
"
...Mutta lopetin kesken, enkä valmistunut...
"
Voi, voi. Vielä surullisempaa on se, että olet siis jo vanha mies, ja silti jaksat ja ehdit leikkiä täällä päivästä toiseen kuin angstinen uhoava teini. (Finninaamainen teininörtti on netin kiihkoateistin perikuva, ja tällaista ilmestystä tarkoitan angstisella teinillä.) Minä, kuka olenkin, en jaksaisi täällä kovinkaan useasti käydä.
"
...mutta esiinnyit kuin haluaisit keskustella entropian luonteesta.
"
Ei siitä voi oikein kunnolla keskustella, ellei keskustelussa mukana käytetä edes sellaisia matemaattisia peruskäsitteitä kuten esimerkiksi suurten lukujen lait.
"...kuten esimerkiksi suurten lukujen lait." Harrastuksekseni olen lukenut melko paljon matematiikkaa, mutta tuollaisiin lakeihin en ole törmännyt. Kerropa niistä; tarkoittavatko ne joitakin raja-arvon tai todennäköisyyden takana olevia käsitteitä? Mieluimmin vielä linkin kera.
""Voi, voi. Vielä surullisempaa on se, että olet siis jo vanha mies, ja silti jaksat ja ehdit leikkiä täällä päivästä toiseen kuin angstinen uhoava teini. (Finninaamainen teininörtti on netin kiihkoateistin perikuva, ja tällaista ilmestystä tarkoitan angstisella teinillä.) Minä, kuka olenkin, en jaksaisi täällä kovinkaan useasti käydä.""
Tämäpä onkin leppoisa harrastukseni, joka sivuaa toista harrastustani, populaaritiedettä ja saankin täältä paljon hupia, mikä ei ole lainkaan surullista. Toisaalta annan oman panokseni kreationismin osoittamiseen humpuukiksi, vaikka Suomessahan se ei ole ongelma, mutta esim. USA:ssa on, esim. kouluopetuksen suhteen. Eikä tilanne meilläkään välttämättä säilyisi tällaisena, jos valveutuneet ihmiset eivät väsymättä toisi esille kreationismin humpuukiluonnetta.
""Ei siitä voi oikein kunnolla keskustella, ellei keskustelussa mukana käytetä edes sellaisia matemaattisia peruskäsitteitä kuten esimerkiksi suurten lukujen lait.""
Niin, kannattaa varmastikin etsiä tuollaista keskusteluseuraa matematiikka- tai fysiikkapalstalla. Ainakin minun tietämykseni niin kuin useimpien muidenkin tällä palstalla ovat hyvin rajalliset tuon tason keskusteluun, vaikka kreationistien entropiakäsitteet kykenemmekin lyttäämään.