Esität monia kysymyksiä, joihin yritän vastata parhaani mukaan.
Kasahai kirjoitti:
Luonnosta lähtöisin oleva informaatio säilyttää aina tietyn entropian, mikä mm. mahdollistaa älyllisen elämän erottamisen sattumasta. Samasta syystä ei esim. ole mahdollista että avaruuteen suunnatut radioteleskoopit poimisivat luonnosta lähtöisin olevan signaalin, joka muistuttaisi älyllisen olennon rakentamaa informaatiota. Toisin sanoen, vaikka signaaleja kuunneltaisiin äärettömän pituinen ajanjakso, ei niistä muodostuva sarja tule koskaan sisältämään vaikkapa Hamletin tarinaa.
Ylläoleva ei pidä paikkaansa. Jos todella signaaleja kuunneltaisiin
tarpeeksi pitkä ajanjakso, Hamlet löytyisi varmasti. Tämä ajanjakso vodaan jopa laskea ja jos Hamlettia ei löydy, voitaisiin tulla johtopäätökseen, että signaalin lähde ei ole täysin satunnainen tai sen mahdollisten tilojen lukumäärä on paljon pienempi kuin odotettiin.
Kun pulsarit ensimmäisen kerran havaittiin (tähtiä jotka pyörivät vinhasti ja lähettävät radiopulsseja), oltiin ensiksi sitä mieltä, että ne ovat merkkejä älykkyydestä (pulsarit sykkivät yleensä hillittömän tarkasti, lähes yhtä hyvin kuin atomikellot). Tälläisen signaalin entropia on mielettömän pieni.
Suljetussa fysikaalisessa systeemissä (Kuten universumimme ilmeisesti on) entropia kasvaa aina. Sen sijan sen arvot voivat olla erilaisia paikallisesti.
Kasahai kirjoitti:
Kysynkin nyt, onko mitään teoriaa/perustetta sille, että sattumasta syntyy järjestys?
Kyllä on. Yleensä periaatetta kutsutaan yleensä itseorganisoitumiseksi. Kaikken yksinkertaisin tunnettu esimerkki on nk. Langtonin muurahainen. kts.
http://www.math.umd.edu/~wphooper/ant/ (sivun alalaidassa on linkki aplettiin jos klikkaat asetuksia siten että musta=left, punainen=right, sininen=left ja virreä=right saat klassisen Langtonin muurahaisen joka rakentaa "highwayn").
Kasahai kirjoitti:
Ajatusongelmani muodostui kun optimoin erästä pakkausalgoritmia ja niissä pakkauksen tiheys/tehokkuus tavataan mitata entropian määrällä. Sama pätee satunnaislukuihin. Ihmisen tuottaman informaation 'entropia-arvo' on huomattavasti pienempi, kuin luonnon satunnaisen arvon.
Totta, mutta tämä siitä syystä että ihmien kommunikoi epätehokkaasti (informaatioteorian kannalta).
Mitä optimaalisempi pakkausalgoritmi+virheenkorjaus on, sitä enemmän sen tuottama tuolos muistuttaa oikeaa satunnaisuutta. Ulkopuolisesta tarkkailijasta (joka ei ymmärrä koodausta ja on siis ulkopuolinen), pakattu viesti on vain kohinaa (entropia = 1). Jos esim. muut maailmankaikkeuden sivilisaatiot kehittyvät tekniikassa samaa vauhtia kuin ihmiskunta, me voimme havaita heidän keskinäisen kommunikaationsa vain 100-200 vuoden ajan radion keksimisen jälkeen. Kun sivilisaatio keksii turbokoodaukset ym. kehittyneet menetelmät, heidän kommunikointiaan on mahdoton erottaa taustakohinasta.
Kasahai kirjoitti:
Käytännössä tämä tarkoittaa ettei luonnossa tuotettu informaatio voi ikinä saavuttaa niin matalaa entropian tasoa, että se muistuttaisi älyllisesti tuotettua tietoa. Tuhat apinaa ei siis pysty kirjoittamaan Romeo & Juliaa, vaikka niille annettaisiin ääretön määrä aikaa.
Tämä ei pidä paikkansa kuten yllä selitin. Muuten, Romeolla ja Julialla on paljon korkeampi entropia kuin kirjainjonolla AAAAAAAA.... jonka apinakin pystyisi tuottamaan. Informaatioteoriassa käytettävä entropian käsite ei ole hyvä testi testaamaan signaalilähteen älykkyttä. Jos lähde, on fiksu ja tehokas, signaali näyttää satunnaiselta, jos lähde on taas mielettömän yksinkertainen mekanismi (vinhasti pyörivä tähti, heiluri ym.) singaali voi olla täysin monotoninen. Luonnossa mm. kiteet ovat hyvin sännollisiä. Lumikiteet ovat hyvin säännollisiä, kuitenkin ne ovat yksilöllisiä. Entropian kannalta tarkasteltuna ne voisivat olla kehittyneen kulttuurin tuottamia taideteoksia. Ehkä juuri siitä syystä ne vaikuttavat meistä kauniilta. Me näemme niissä juuri meille sopivan annoksen järjestystä ja kaaosta.
Sitten muutama sana Bolzmanin entropiamääritlemästä joka sopii myös fyskaalisiin systeemeihin ja liittyy informaatioteoriaan paremmin kuin termodynamiikan kaavat.
Jos jaamme systeemin
makroskooppiset tilat
mielestämme järjestäytyneisiin ja kaaottisiin (etsi Boltzmanin tilastollinen entropiamääritelmä jos haluat lisätietoa), yleensä (käytännössä aina) on niin että järjestäytyneitä (= mielekkäitä, merkityksellisiä, tarkoituksenmukaisa, jne.) tiloja on paljon (hyvin paljon) vähemän kun kaaottisia. Jos tilasta toiseen tapahtuvat siirrokset ovat satunnaisia on todennäköisempää, että tilasiirtymä tapahtuu kohti kaaottisempaa tilaa.
Tälläisessä makroskooppisessa ja tilastollisessa entropiamääritelmässä on hyvä muistaa että, me päätämme mitkä tilat ovat mielestämme kiinnostavia ja mitkä eivät. Jos esim. katsomme tusinaa juomalaseja samasta sarjasta, meistä näyttää siltä, että lasit ovat identtisiä vaikka lasien mikroskooppiset tilat (atomit, pinnan hienorakenne, molekyylien järjestys) ovat täysin erilaiset. Jos särjemme kaikki nämä lasit, jokaisesta lasista syntyneet sirpaleet yksilöllisiä mutta me luokittelemme ne nimen "lasimurska" tai kaaos alle. Vaikka juomalasin atomit voivat järjestäytyä käsittämättömän moneksi eri kombinaatioksi, ne silti näyttävät juomalasilta. Särkyneen juomalasin mahdollisia tiloja taas on vielä monta suuruusluokkaa enemmän. Tilasiirtymä siis tapahtuu pienemmästä joukosta suurempaan.
Elämä maapallolla ei riko em. entropiamääritelmää. Biologiset organismit kasvattavat ympäristönsä entropiaa (hieman, pikkupikkuriikkisen) enemmän kuin elottomat organismit (olen tästä melko varma korjatkaa jos olen väärässä.)
Yhteenveto:
1) Jos kunnellaan satunnaita signaalia tarpeeksi kauan, vastaan tulee Hamlet.
2) Signaalin entropia ei
sinällään kerro signaalilähteen älykkyydestä mitään. Pitää ymmärtää semantiikka.
3) Systeemiin voi tulla järjestystä itseorganisoitumalla.
4) Kannattaa tutustua Boltzmanin entropiämääritlemään jos haluaa kytkeä yhteen informaatioteorian ja fysiikan entropiat järkevällä tavalla.
5) Järjestys on monimerkitysinen käsite. Kannattaa selvittää mitä määritelmää kulloinkin käytetään.