Haitallisin väärinkäsitys it-piireissä

Kermo

...on se, että muka ainoa keino toteuttaa aitoa/vahvaa tekoälyä on simuloida aivoja. Tästä seuraa käsitys superälyn vaatimasta suunnattoman suuresta laskentatehosta ja muistista, vaikka järkevämmän arvion mukaan tavallinen PC riittää.

Ihmiselle on ohjelmistojensa toteutuksessa tarjolla sellaisia menetelmiä, kikkoja ja algoritmeja, jotka eivät ole evoluutiolle tavoitettavissa, ja jotka yhdessä käytettynä tehostavat ajatusten komputointia miljoonakertaisesti siihen verrattuna kuinka paljon kaikkien neuronien yhteisen laskentatehon on arveltu olevan(tosin vain hyvin pieni osa neuroneista on yhdellä hetkellä kerralla toiminnassa - suurin osa neuronin elämästä on signaalin odottelua).

Rinnakkaislaskenta ei täysin korvaa peräkkäislaskentaa tehossa, mutta päinvastoin voi olla. Tietotekniikka toimii 3000 000 000 kertaa sekunnissa, mutta neuroni korkeintaan 200.

11

645

    Vastaukset

    Anonyymi (Kirjaudu / Rekisteröidy)
    5000
    • poisto

      Täällä paasaaminen ei oikein auta tilannetta vaan olisi oltava näyttöjä paremmista sovelluksista.

      Ei muuta kun tekaiset sovelluksen joka hakkaa tämänhetkiset AI-järjestelmät vaikkapa miljoonakertaisesti niin sitä ei tarvitse erikseen markkinoida. Se revitään käsistä koskapa sovellusalue ja -tarve on rajaton.

    • Yusa

      >muka ainoa keino toteuttaa aitoa/vahvaa tekoälyä on simuloida aivoja.

      Ei todellakaan. Me aivosimulaattorin väsääjät olemme pieni vähemmistö.

      >Tietotekniikka toimii 3000 000 000 kertaa sekunnissa, mutta neuroni korkeintaan 200.

      Kyllä, mutta 200 * 100 000 000 000 neuroonia = paljon enemmän kuin 1 * 3000 000 000. Mutta ei kovin paljon. Tuo väli otetaan kiinni n. 15 vuodessa.

      >suurin osa neuronin elämästä on signaalin odottelua.

      Niin, mutta suurin osa useimpien AI-algoritmien elämästä loputonta hakua, tietämyskantojen kahlaamista läpi, eikä varsinaista hyötyprosessointia. Aina välillä tehdään jotakin todellista. Vastaavasti kun neurooni vastaanottaa aktiopotentiaalin, se tekee harvoin hyödyllistä työtä. Tämä hakualgoritmi ja rinnakkaisuuden simulointi vastaavat toisiaan. Siksi neurooniarkkitehtuurin simulointi ei ole toivottoman tehotonta, vaan samalla hyötysuhdehehtaarilla kuin kilpailevat algoritmit.

      Mutta prosessointiteho ei ole ainoa pullonkaula. Vahva tekoäly vaatii hyvin laajan tietämuskannan, muodossa tai toisessa. Sillä on oltava laaja yleiskuva maailmasta, jossa se toimii. Vaatimus on joka tapauksessa pentatavujen luokkaa. Teratavut eivät riitä. Gigatavuilla voi kokeilla vain pikkujuttuja.

      Neurosimuloinnin toivo on kaaottisten itseorganisooituvien järjestelmien oletetussa "älyn
      emergenssissä". Toinen vaihtoehto on siirtää joskus tulevaisuudessa koko kytkentä ihmisen aivoista.
      Kerro sinäkin jotakin konkreettista!

      • Kermo

        "Kyllä, mutta 200 * 100 000 000 000 neuroonia = paljon enemmän kuin 1 * 3000 000 000. Mutta ei kovin paljon."

        Siis:

        100000000000*200
        3000000000*1

        Onko tuo 100 miljardiasi eli 10^11 kaikki neuronit vai ne joiden arvelet olevan yhtä aikaa yhdellä ajan hetkellä päällä/toiminnassa?

        Toinen asia ei liity pelkästään tekoälyyn. Onko prosessori tosiaan 1*kellotaajuus? Mitä se voisi olla? 100 miljoonalla transistorilla luulisi voivan olla paljon enemmän kuin 1. Vanhassa 386 prosessorissa oli kai 10^5-10^6 transistoria, toivottavasti joku tietää? Se tarkoittaisi kai sitä, että nykytehtaasta tuleva prosessori johon on painettu vanhoja 386 prosessoreita klusteriksi, voisi käsitellä 100-1000 prosessia yhtä aikaa 3*10^9 kertaa sekunnissa? Vielä useampaa jos tyydytään alkeellisempaan laskentaan ja 16 bittisiin lukuihin.

        3*10^9 *1000=3*10^12

        10^11*200=2*10^13

        Tämän mukaan 10kpl erikoisprosessoreita riittäisi vahvaan tekoälyyn.

        Lisäksi uusin playstation laskee 2*10^12 liukulukulaskua sekunnissa eli 2Tflops.

        Mutta tuokin on liioittelua. Vähempikin riittää.

        "loputonta hakua,"

        Ohjelmisto pystyy haarukoitumaan oikeaan kohtaan paljon paljon raakahakua tehokkaammin. Tietotekniikassa on rutiinia käyttää hajautusfunktioita ja hajautustaulukoita(hash-table?) ja ihmiset käyttävät aakkosjärjestystä. Lisäksi voi ehkä hakeutua sisäkkäisten aihealueiden mukaan.

        Sanakirjassa on 100 000 sanaa. 20 bitillä voi esittää miljoonan käsitteen koodit, jos niin paljon tarvitaan. Jos käsitteen kuvaus ja ymmärrykseen kytkeminen vaatii keskimäärin kilotavun, niin se tekee 1kt*1000 000=1Gt.

        Jos oletetaan, että koneen ajatellessa ja pohtiessa, siitä gigasta pitäisi pelkällä raakahaulla hakea ajatusten ja ideaehdokkaiden osia, ja se giga olisi kokonaisuudessaan kaupan nopeimman PC:n RAM muistissa, niin miten nopeasti 1 tiedonpalanen löytyisi? Otetaan alkuun tuollainen tehottomin vaihtoehto, niin sitten voi puhua siitä kuinka paljon tehokkaampaa haarukoiva haku voisi olla.

        "kaaottisten itseorganisooituvien"

        Hereilläolevan terveen ihmisen päässä ei ole kaaos, vaan enimmäkseen järjestys.

        Äly ei ole kaaoksen tai sattuman ansiota, vaan tietyn järjestyksen joka on syntymässä määrätty. Biologia voi "käyttää" sattumaa pienenä apuna kun se ei pysty kehittämään sopivaa järjestelmällisyyttä, mutta sattumalla on tarkasti määrätty paikkansa.


      • Yusa
        Kermo kirjoitti:

        "Kyllä, mutta 200 * 100 000 000 000 neuroonia = paljon enemmän kuin 1 * 3000 000 000. Mutta ei kovin paljon."

        Siis:

        100000000000*200
        3000000000*1

        Onko tuo 100 miljardiasi eli 10^11 kaikki neuronit vai ne joiden arvelet olevan yhtä aikaa yhdellä ajan hetkellä päällä/toiminnassa?

        Toinen asia ei liity pelkästään tekoälyyn. Onko prosessori tosiaan 1*kellotaajuus? Mitä se voisi olla? 100 miljoonalla transistorilla luulisi voivan olla paljon enemmän kuin 1. Vanhassa 386 prosessorissa oli kai 10^5-10^6 transistoria, toivottavasti joku tietää? Se tarkoittaisi kai sitä, että nykytehtaasta tuleva prosessori johon on painettu vanhoja 386 prosessoreita klusteriksi, voisi käsitellä 100-1000 prosessia yhtä aikaa 3*10^9 kertaa sekunnissa? Vielä useampaa jos tyydytään alkeellisempaan laskentaan ja 16 bittisiin lukuihin.

        3*10^9 *1000=3*10^12

        10^11*200=2*10^13

        Tämän mukaan 10kpl erikoisprosessoreita riittäisi vahvaan tekoälyyn.

        Lisäksi uusin playstation laskee 2*10^12 liukulukulaskua sekunnissa eli 2Tflops.

        Mutta tuokin on liioittelua. Vähempikin riittää.

        "loputonta hakua,"

        Ohjelmisto pystyy haarukoitumaan oikeaan kohtaan paljon paljon raakahakua tehokkaammin. Tietotekniikassa on rutiinia käyttää hajautusfunktioita ja hajautustaulukoita(hash-table?) ja ihmiset käyttävät aakkosjärjestystä. Lisäksi voi ehkä hakeutua sisäkkäisten aihealueiden mukaan.

        Sanakirjassa on 100 000 sanaa. 20 bitillä voi esittää miljoonan käsitteen koodit, jos niin paljon tarvitaan. Jos käsitteen kuvaus ja ymmärrykseen kytkeminen vaatii keskimäärin kilotavun, niin se tekee 1kt*1000 000=1Gt.

        Jos oletetaan, että koneen ajatellessa ja pohtiessa, siitä gigasta pitäisi pelkällä raakahaulla hakea ajatusten ja ideaehdokkaiden osia, ja se giga olisi kokonaisuudessaan kaupan nopeimman PC:n RAM muistissa, niin miten nopeasti 1 tiedonpalanen löytyisi? Otetaan alkuun tuollainen tehottomin vaihtoehto, niin sitten voi puhua siitä kuinka paljon tehokkaampaa haarukoiva haku voisi olla.

        "kaaottisten itseorganisooituvien"

        Hereilläolevan terveen ihmisen päässä ei ole kaaos, vaan enimmäkseen järjestys.

        Äly ei ole kaaoksen tai sattuman ansiota, vaan tietyn järjestyksen joka on syntymässä määrätty. Biologia voi "käyttää" sattumaa pienenä apuna kun se ei pysty kehittämään sopivaa järjestelmällisyyttä, mutta sattumalla on tarkasti määrätty paikkansa.

        Isojen lukujen pyörittely auttaa vain hieman hanskaamaan suuruusluokkia, jotta ei olla aivan väärillä hehtaareilla. Ei ole selvää kaavaa, jolla voisi verrata ihmisaivoja ja yleistietokoetta suorituskyvyn suhteen. Ne ovat niin huonosti yhteismitallisia. Puhutaan neuroonien lukumäärästä, mutta aivojen toiminnallisuudessa aivan ilmeisesti synapsikset ja niiden ryhmät, dendriittihaarat suorittavat melko kompleksista toiminnallisuutta. Ja niiden lukumäärästä tulee taas kolme nolla lisää vertailukukuihin.

        Jos yhdellä neuroonilla on keskimäärin yli tuhat synapsia, joihin kaikkiin saapuu jatkuvasti vaihtelevalla tiheydellä aktiopotentiaaleja. Suurin osa niistä on "turhia", mutta kaikki ne käsitellään, niiden keskinäinen ajoitus on oleellinen osa informaatiota. Kyllä neurooni on käytännössä koko ajan aktiivinen.

        Minäkin uskon, että esim 1000 FPGA-piireillä toteutettua erikoisprosessoria, joiden "ohjelma" olisi toteutettu sisäisesti porttitasolla, ja joiden muistikaistan leveys olisi vaikkapa 1024 bittiä, nopeus 10GHz, voisi päästä pitkälle. Tällainen koneisto voi olla mahdollinen 10v kuluttua. Mutta nyt sen toiminnallisuutta on hyvä kehitellä PC:llä.

        Ehkä kokeilen PS3:a, jos siihen saa sitten linux-ympäristön. Katsotaan vuoden päästä. Siinä on kyllä mitättömästi muistia, että pitää käyttää verkkoyhteyttä pääkoneeseen.

        >Tietotekniikassa on rutiinia käyttää hajautusfunktioita ja hajautustaulukoita(hash-table?) ja ihmiset käyttävät aakkosjärjestystä. Lisäksi voi ehkä hakeutua sisäkkäisten aihealueiden mukaan.

        Kyllä, hash-table on tuttu juttu, mutta sen verran mitä olen muutamia vuosia sitten lueskellut erilaisten tekoälykoneiden algoritmeista, niin hakujen päätöksentekoon liityy yleensä jonkinlainen looginen operaatio, jolla todetan haun kohteen löytminen. Se ei ole pelkkää vertailua vaan useimmiten monimutkaisempaa. Nopeutuskeinoja kehitellään koko ajan, ja erikoisprosessori voisi olla kova juttu. Niitäkin on ollut. Muistaakseni esim lispiä ja prologia rautatasolla pureskelevia prosessoriyrityksiä on ollut.

        >"kaaottisten itseorganisooituvien"

        >Hereilläolevan terveen ihmisen päässä ei ole kaaos, vaan enimmäkseen järjestys.

        >Äly ei ole kaaoksen tai sattuman ansiota, vaan tietyn järjestyksen joka on syntymässä määrätty.

        Kaaoottisuus tarkoittaa tässä nyt hieman eri asiaa, kuin sanan merkitys katukielessä. Kaaottisuus on takaisinkytkettyjen monimutkaisten järjestelmien perusominaisuus. Se on eräänlaista rajoittunutta deterministisyyttä. Kun siihen yhdistetään epädeterministinen kohina, niin siitä tulee aidosti epädeterminististä. Sattuma on tässä huono käsite, jota ei kannata käyttää.

        Ihmisen geenit eivät riitä ihmisen koko aivojen rakenteen kuvaamiseen. Ne kuvaavat vain alkutilan ja (kaaoottisen) prosessin, jonka tuloksena sikiön aivoista kehittyvät aikuisen ihmisen aivot yhdessä ympäristön vuorovaikutuksen kanssa. DNA ei sisällä vain proteiinien rakennusohjeita, vaan suuren joukon ehdollisia operaatioita. DNA:n koodi muistuttaa luonteeltaan enemmän ohjelmakoodia kuin rakennuspiirustuksia.


      • Kermo
        Yusa kirjoitti:

        Isojen lukujen pyörittely auttaa vain hieman hanskaamaan suuruusluokkia, jotta ei olla aivan väärillä hehtaareilla. Ei ole selvää kaavaa, jolla voisi verrata ihmisaivoja ja yleistietokoetta suorituskyvyn suhteen. Ne ovat niin huonosti yhteismitallisia. Puhutaan neuroonien lukumäärästä, mutta aivojen toiminnallisuudessa aivan ilmeisesti synapsikset ja niiden ryhmät, dendriittihaarat suorittavat melko kompleksista toiminnallisuutta. Ja niiden lukumäärästä tulee taas kolme nolla lisää vertailukukuihin.

        Jos yhdellä neuroonilla on keskimäärin yli tuhat synapsia, joihin kaikkiin saapuu jatkuvasti vaihtelevalla tiheydellä aktiopotentiaaleja. Suurin osa niistä on "turhia", mutta kaikki ne käsitellään, niiden keskinäinen ajoitus on oleellinen osa informaatiota. Kyllä neurooni on käytännössä koko ajan aktiivinen.

        Minäkin uskon, että esim 1000 FPGA-piireillä toteutettua erikoisprosessoria, joiden "ohjelma" olisi toteutettu sisäisesti porttitasolla, ja joiden muistikaistan leveys olisi vaikkapa 1024 bittiä, nopeus 10GHz, voisi päästä pitkälle. Tällainen koneisto voi olla mahdollinen 10v kuluttua. Mutta nyt sen toiminnallisuutta on hyvä kehitellä PC:llä.

        Ehkä kokeilen PS3:a, jos siihen saa sitten linux-ympäristön. Katsotaan vuoden päästä. Siinä on kyllä mitättömästi muistia, että pitää käyttää verkkoyhteyttä pääkoneeseen.

        >Tietotekniikassa on rutiinia käyttää hajautusfunktioita ja hajautustaulukoita(hash-table?) ja ihmiset käyttävät aakkosjärjestystä. Lisäksi voi ehkä hakeutua sisäkkäisten aihealueiden mukaan.

        Kyllä, hash-table on tuttu juttu, mutta sen verran mitä olen muutamia vuosia sitten lueskellut erilaisten tekoälykoneiden algoritmeista, niin hakujen päätöksentekoon liityy yleensä jonkinlainen looginen operaatio, jolla todetan haun kohteen löytminen. Se ei ole pelkkää vertailua vaan useimmiten monimutkaisempaa. Nopeutuskeinoja kehitellään koko ajan, ja erikoisprosessori voisi olla kova juttu. Niitäkin on ollut. Muistaakseni esim lispiä ja prologia rautatasolla pureskelevia prosessoriyrityksiä on ollut.

        >"kaaottisten itseorganisooituvien"

        >Hereilläolevan terveen ihmisen päässä ei ole kaaos, vaan enimmäkseen järjestys.

        >Äly ei ole kaaoksen tai sattuman ansiota, vaan tietyn järjestyksen joka on syntymässä määrätty.

        Kaaoottisuus tarkoittaa tässä nyt hieman eri asiaa, kuin sanan merkitys katukielessä. Kaaottisuus on takaisinkytkettyjen monimutkaisten järjestelmien perusominaisuus. Se on eräänlaista rajoittunutta deterministisyyttä. Kun siihen yhdistetään epädeterministinen kohina, niin siitä tulee aidosti epädeterminististä. Sattuma on tässä huono käsite, jota ei kannata käyttää.

        Ihmisen geenit eivät riitä ihmisen koko aivojen rakenteen kuvaamiseen. Ne kuvaavat vain alkutilan ja (kaaoottisen) prosessin, jonka tuloksena sikiön aivoista kehittyvät aikuisen ihmisen aivot yhdessä ympäristön vuorovaikutuksen kanssa. DNA ei sisällä vain proteiinien rakennusohjeita, vaan suuren joukon ehdollisia operaatioita. DNA:n koodi muistuttaa luonteeltaan enemmän ohjelmakoodia kuin rakennuspiirustuksia.

        "niin hakujen päätöksentekoon liityy yleensä jonkinlainen looginen operaatio, jolla todetaan haun kohteen löytyminen."

        Haarukoituvassa haussa niitä korkeimman tason tarkistuksia on siedettävän vähän per haku, ja tarkistusprosessi keskeytyy heti kun tiedetään vääräksi. Jos loppuun asti menevä erityisen mutkikas tarkistus kestää esim. 0,1 sekuntia, niin se on hyvin siedettävää ja tarpeeksi nopeaa jotta PC softa yhdistelmää voi nimittää superälyksi tai superälykkääksi ajattelevaksi koneeksi. Lopputarkistus on vain osa haun viemää aikaa ja haku on vain osa idean muodostusta, mutta superäly ei ehtisi sanoa "hmmm".

        Joskus pitää laittaa kelvollisia idean osia paremmuusjärjestykseen ja silloin haku ei lopu löytöön satunnaisessa paikassa, vaan viedään loppuun asti kunnes tulee "no match".

        Hakuun ja tarkistukseen voi kuulua < ja > suuruusvertailuja.

        "Kaaottisuus on takaisinkytkettyjen monimutkaisten järjestelmien perusominaisuus."

        Äly ei tarvitse kaaosta tuossakaan merkityksessä.

        Pikku muutoksen ei tarvitse johtaa ennakoimattomiin suuriin seurauksiin. Superälyn ennalta-arvattavuus ei haittaa ellei se ole pelaamassa jotain peliä tms., ja vaikka haittaisi, ennakoimattomuuden voi toteuttaa simppelisti muilla keinoin(kuten transistorin lämpökohinalla).

        Systeemeillä on ennustettavia emergenttejä ominaisuuksia, mutta jos ne tiedetään, niin ne voidaan toteuttaa toista tietä ilman sitä alkeellisuutta josta ne nousevat itsestään. Se voi vaatia pidempää kuvausta, mutta voi silti olla helpompaa. Esim. a-lifen kulkijat ja värähtelijät voisi toteuttaa animaatioina jos ei tietäisi sääntöjä ja olisi vain nähnyt a-lifen toimintaa.
        Myös joku yhtä yksinkertainen säännöstö voisi tuottaa useimmat samat ilmiöt.

        Äly on ominaisuus joka pitää kopioida. Eikö muuten ole pelkkää arvailua, että äly on emergenttiä?

        "Ihmisen geenit eivät riitä ihmisen koko aivojen rakenteen kuvaamiseen. Ne kuvaavat vain alkutilan ja (kaaoottisen) prosessin, jonka tuloksena sikiön aivoista kehittyvät aikuisen ihmisen aivot"

        Eikö tuokin ole vain arvailua?

        Sitäpaitsi vain pientä osaa niistä tietojenkäsittelymekanismeista tarvitaan superälyyn. Esim. tunteet voi jättää toteuttamatta.


      • tarinoita
        Kermo kirjoitti:

        "niin hakujen päätöksentekoon liityy yleensä jonkinlainen looginen operaatio, jolla todetaan haun kohteen löytyminen."

        Haarukoituvassa haussa niitä korkeimman tason tarkistuksia on siedettävän vähän per haku, ja tarkistusprosessi keskeytyy heti kun tiedetään vääräksi. Jos loppuun asti menevä erityisen mutkikas tarkistus kestää esim. 0,1 sekuntia, niin se on hyvin siedettävää ja tarpeeksi nopeaa jotta PC softa yhdistelmää voi nimittää superälyksi tai superälykkääksi ajattelevaksi koneeksi. Lopputarkistus on vain osa haun viemää aikaa ja haku on vain osa idean muodostusta, mutta superäly ei ehtisi sanoa "hmmm".

        Joskus pitää laittaa kelvollisia idean osia paremmuusjärjestykseen ja silloin haku ei lopu löytöön satunnaisessa paikassa, vaan viedään loppuun asti kunnes tulee "no match".

        Hakuun ja tarkistukseen voi kuulua < ja > suuruusvertailuja.

        "Kaaottisuus on takaisinkytkettyjen monimutkaisten järjestelmien perusominaisuus."

        Äly ei tarvitse kaaosta tuossakaan merkityksessä.

        Pikku muutoksen ei tarvitse johtaa ennakoimattomiin suuriin seurauksiin. Superälyn ennalta-arvattavuus ei haittaa ellei se ole pelaamassa jotain peliä tms., ja vaikka haittaisi, ennakoimattomuuden voi toteuttaa simppelisti muilla keinoin(kuten transistorin lämpökohinalla).

        Systeemeillä on ennustettavia emergenttejä ominaisuuksia, mutta jos ne tiedetään, niin ne voidaan toteuttaa toista tietä ilman sitä alkeellisuutta josta ne nousevat itsestään. Se voi vaatia pidempää kuvausta, mutta voi silti olla helpompaa. Esim. a-lifen kulkijat ja värähtelijät voisi toteuttaa animaatioina jos ei tietäisi sääntöjä ja olisi vain nähnyt a-lifen toimintaa.
        Myös joku yhtä yksinkertainen säännöstö voisi tuottaa useimmat samat ilmiöt.

        Äly on ominaisuus joka pitää kopioida. Eikö muuten ole pelkkää arvailua, että äly on emergenttiä?

        "Ihmisen geenit eivät riitä ihmisen koko aivojen rakenteen kuvaamiseen. Ne kuvaavat vain alkutilan ja (kaaoottisen) prosessin, jonka tuloksena sikiön aivoista kehittyvät aikuisen ihmisen aivot"

        Eikö tuokin ole vain arvailua?

        Sitäpaitsi vain pientä osaa niistä tietojenkäsittelymekanismeista tarvitaan superälyyn. Esim. tunteet voi jättää toteuttamatta.

        Voiko ihminen ottaa itseään niskasta kiinni ja nostaa suosta ylös?,voiko koira tavoittaa oman häntänsä??? ... Voiko äly ymmärtää mitä äly on??


      • Kermo
        tarinoita kirjoitti:

        Voiko ihminen ottaa itseään niskasta kiinni ja nostaa suosta ylös?,voiko koira tavoittaa oman häntänsä??? ... Voiko äly ymmärtää mitä äly on??

        "Voiko äly ymmärtää mitä äly on??"

        Kyllä voi. Samalla tavalla kuin voi leikata omat kyntensä. Tai jotta vältyttäisiin itseviittaavuudelta niin sanotaan mieluummin, että voi ymmärtää toisten älyä samalla tavalla kuin voi leikata toisilta sydämen. Vertailu on huono mm. siinä mielessä, että älyn selittäminen on paljon vaikeampaa kuin vaativin kirurgia ja älyn selittäminen vaatii hyvin poikkeuksellisia ihmisiä joita on vielä harvemmassa kuin kirurgiaan kykeneviä ihmisiä.

        .
        .
        .

        Asiasta toiseen.

        Muistutan vielä tästä kysymyksestä johon olisi hyvä saada vastauksia kaikilta lukijoilta:

        "
        Sanakirjassa on 100 000 sanaa. 20 bitillä voi esittää miljoonan käsitteen koodit, jos niin paljon tarvitaan. Jos käsitteen kuvaus ja ymmärrykseen kytkeminen vaatii keskimäärin kilotavun, niin se tekee 1kt*1000 000=1Gt.

        Jos oletetaan, että koneen ajatellessa ja pohtiessa, siitä gigasta pitäisi pelkällä raakahaulla hakea ajatusten ja ideaehdokkaiden osia, ja se giga olisi kokonaisuudessaan kaupan nopeimman PC:n RAM muistissa, niin miten nopeasti 1 tiedonpalanen löytyisi? Otetaan alkuun tuollainen tehottomin vaihtoehto, niin sitten voi puhua siitä kuinka paljon tehokkaampaa haarukoiva haku voisi olla.
        "

        Nyt kaikki ohjelmointitaitoiset vastatkaa. Laittakaa vaikka 100 megan pupputekstitiedosto RAM muistiin ja laittakaa nettiselain tai oma ohjelmanpätkänne hakemaan raakahaulla tiedoston lopusta joku merkkijono. Jos se on tarpeeksi hidasta, sekuntikello kelpaa, mutta liian äkkinäisen tuloksen mittaamista varten pitää ohjelmoida joku ajanottotoiminto.

        Mainitkaa millainen kone on kyseessä ja uskotteko kääntäjän tuottaman binäärin olevan tehokas vai tuhlaileva. Mitä isompaa tekstitiedostoa voitte kokeilla, sitä parempi. Tuloksen perusteella voi yrittää laskea mitä se olisi jonkun muun kokoisella tiedostolla, tosin en ole varma onko se ihan niin suoraviivaista ja yksi yhteen. Voi olla parasta kokeilla eri kokoisia tiedostoja.

        Toivottavasti mahdollisimman moni kokeilee. Kaikkien ei tarvitse tehdä ohjelmanpätkää itse jos joku laittaa lähdekoodin tänne.


      • Yusa
        Kermo kirjoitti:

        "niin hakujen päätöksentekoon liityy yleensä jonkinlainen looginen operaatio, jolla todetaan haun kohteen löytyminen."

        Haarukoituvassa haussa niitä korkeimman tason tarkistuksia on siedettävän vähän per haku, ja tarkistusprosessi keskeytyy heti kun tiedetään vääräksi. Jos loppuun asti menevä erityisen mutkikas tarkistus kestää esim. 0,1 sekuntia, niin se on hyvin siedettävää ja tarpeeksi nopeaa jotta PC softa yhdistelmää voi nimittää superälyksi tai superälykkääksi ajattelevaksi koneeksi. Lopputarkistus on vain osa haun viemää aikaa ja haku on vain osa idean muodostusta, mutta superäly ei ehtisi sanoa "hmmm".

        Joskus pitää laittaa kelvollisia idean osia paremmuusjärjestykseen ja silloin haku ei lopu löytöön satunnaisessa paikassa, vaan viedään loppuun asti kunnes tulee "no match".

        Hakuun ja tarkistukseen voi kuulua < ja > suuruusvertailuja.

        "Kaaottisuus on takaisinkytkettyjen monimutkaisten järjestelmien perusominaisuus."

        Äly ei tarvitse kaaosta tuossakaan merkityksessä.

        Pikku muutoksen ei tarvitse johtaa ennakoimattomiin suuriin seurauksiin. Superälyn ennalta-arvattavuus ei haittaa ellei se ole pelaamassa jotain peliä tms., ja vaikka haittaisi, ennakoimattomuuden voi toteuttaa simppelisti muilla keinoin(kuten transistorin lämpökohinalla).

        Systeemeillä on ennustettavia emergenttejä ominaisuuksia, mutta jos ne tiedetään, niin ne voidaan toteuttaa toista tietä ilman sitä alkeellisuutta josta ne nousevat itsestään. Se voi vaatia pidempää kuvausta, mutta voi silti olla helpompaa. Esim. a-lifen kulkijat ja värähtelijät voisi toteuttaa animaatioina jos ei tietäisi sääntöjä ja olisi vain nähnyt a-lifen toimintaa.
        Myös joku yhtä yksinkertainen säännöstö voisi tuottaa useimmat samat ilmiöt.

        Äly on ominaisuus joka pitää kopioida. Eikö muuten ole pelkkää arvailua, että äly on emergenttiä?

        "Ihmisen geenit eivät riitä ihmisen koko aivojen rakenteen kuvaamiseen. Ne kuvaavat vain alkutilan ja (kaaoottisen) prosessin, jonka tuloksena sikiön aivoista kehittyvät aikuisen ihmisen aivot"

        Eikö tuokin ole vain arvailua?

        Sitäpaitsi vain pientä osaa niistä tietojenkäsittelymekanismeista tarvitaan superälyyn. Esim. tunteet voi jättää toteuttamatta.

        > Jos loppuun asti menevä erityisen mutkikas tarkistus kestää esim. 0,1 sekuntia, niin se on hyvin siedettävää ja tarpeeksi nopeaa jotta PC softa yhdistelmää voi nimittää superälyksi tai superälykkääksi ajattelevaksi koneeksi.

        Tämä nyt liittyy kysymykseen vaadittavan tietämyksen määrästä. Meillä on aika suuri käsitysero tarvittavasta tietämyskannasta.

        >>"Kaaottisuus on takaisinkytkettyjen monimutkaisten järjestelmien perusominaisuus."

        Äly ei tarvitse kaaosta tuossakaan merkityksessä.

        Varmaan melko älykäs järjestelmä, mutta ei superälyä, voidaan toteuttaa deterministisellä käsittelyllä.

        Neuraaliarkkitehtuuriin perustuva triviaalia (esim sukkulamato?) laajempi äly (esim muurahainen?) on aina kaaoottinen.

        >Systeemeillä on ennustettavia emergenttejä ominaisuuksia, mutta jos ne tiedetään, niin ne voidaan toteuttaa toista tietä ilman sitä alkeellisuutta josta ne nousevat itsestään.

        Ole vaan hyvä ja yritä: tsemppiä!

        >Äly on ominaisuus joka pitää kopioida. Eikö muuten ole pelkkää arvailua, että äly on emergenttiä?

        Esim.ihmisen tapauksesa näin on. Äly ei ole geeneihin tallennettuna. Geenit vain sisältävät ohjeet sellaisten olosuhteden muodostumiselle, joissa äly syntyy, ei "kopioitua älyä".

        ""Ihmisen geenit eivät riitä ihmisen koko aivojen rakenteen kuvaamiseen. Ne kuvaavat vain alkutilan ja (kaaoottisen) prosessin, jonka tuloksena sikiön aivoista kehittyvät aikuisen ihmisen aivot"

        Eikö tuokin ole vain arvailua?

        Miten 25000 geeniä, 3,2 miljardia emäsparia voisi koodata 100 miljardin neuroonin vielä 1000-kertaisen synaptisten kytkentöjen määrän? Yksinkertaisesti bitit eivät riitä alkuunkaan?

        Minulla on Gary Marcuksen "The Birth of the Mind", joka kuvailee prosessin melko havainnollisesti, sen mukaan, kun neurologia sen nykyisin ymmärtää. Tosin se puuttuu lähinnä fysiologiseen prosessiin, miten "vastasyntyneen aivot" muodostuvat, ei siihen, miten niistä kehittyy aikuisen aivot.

        >Sitäpaitsi vain pientä osaa niistä tietojenkäsittelymekanismeista tarvitaan superälyyn. Esim. tunteet voi jättää toteuttamatta.

        Olen eri mieltä. Tunteeton voi olla kykenevä älyä vaativiin suorituksiin, esim annetun vaikean ongelman ratkaisemiseen, mutta se ei voi olla luova superäly. Se on ns. "kylmä". Sillä ei ole motivaatiota, inspiraatiota, innostusta..
        En usko tunteettomaan superälyyn!


      • Yusa
        Kermo kirjoitti:

        "Voiko äly ymmärtää mitä äly on??"

        Kyllä voi. Samalla tavalla kuin voi leikata omat kyntensä. Tai jotta vältyttäisiin itseviittaavuudelta niin sanotaan mieluummin, että voi ymmärtää toisten älyä samalla tavalla kuin voi leikata toisilta sydämen. Vertailu on huono mm. siinä mielessä, että älyn selittäminen on paljon vaikeampaa kuin vaativin kirurgia ja älyn selittäminen vaatii hyvin poikkeuksellisia ihmisiä joita on vielä harvemmassa kuin kirurgiaan kykeneviä ihmisiä.

        .
        .
        .

        Asiasta toiseen.

        Muistutan vielä tästä kysymyksestä johon olisi hyvä saada vastauksia kaikilta lukijoilta:

        "
        Sanakirjassa on 100 000 sanaa. 20 bitillä voi esittää miljoonan käsitteen koodit, jos niin paljon tarvitaan. Jos käsitteen kuvaus ja ymmärrykseen kytkeminen vaatii keskimäärin kilotavun, niin se tekee 1kt*1000 000=1Gt.

        Jos oletetaan, että koneen ajatellessa ja pohtiessa, siitä gigasta pitäisi pelkällä raakahaulla hakea ajatusten ja ideaehdokkaiden osia, ja se giga olisi kokonaisuudessaan kaupan nopeimman PC:n RAM muistissa, niin miten nopeasti 1 tiedonpalanen löytyisi? Otetaan alkuun tuollainen tehottomin vaihtoehto, niin sitten voi puhua siitä kuinka paljon tehokkaampaa haarukoiva haku voisi olla.
        "

        Nyt kaikki ohjelmointitaitoiset vastatkaa. Laittakaa vaikka 100 megan pupputekstitiedosto RAM muistiin ja laittakaa nettiselain tai oma ohjelmanpätkänne hakemaan raakahaulla tiedoston lopusta joku merkkijono. Jos se on tarpeeksi hidasta, sekuntikello kelpaa, mutta liian äkkinäisen tuloksen mittaamista varten pitää ohjelmoida joku ajanottotoiminto.

        Mainitkaa millainen kone on kyseessä ja uskotteko kääntäjän tuottaman binäärin olevan tehokas vai tuhlaileva. Mitä isompaa tekstitiedostoa voitte kokeilla, sitä parempi. Tuloksen perusteella voi yrittää laskea mitä se olisi jonkun muun kokoisella tiedostolla, tosin en ole varma onko se ihan niin suoraviivaista ja yksi yhteen. Voi olla parasta kokeilla eri kokoisia tiedostoja.

        Toivottavasti mahdollisimman moni kokeilee. Kaikkien ei tarvitse tehdä ohjelmanpätkää itse jos joku laittaa lähdekoodin tänne.

        >"Sanakirjassa on 100 000 sanaa. 20 bitillä voi esittää miljoonan käsitteen koodit, jos niin paljon tarvitaan. Jos käsitteen kuvaus ja ymmärrykseen kytkeminen vaatii keskimäärin kilotavun, niin se tekee 1kt*1000 000=1Gt"

        Ilmeisesti tällaisten laskelmien ja ensimmäisten positiivisia tuloksia antaneiden sääntöpohjaisten lisp- ym. koneisen pohjalta 60-luvulla uskottiin ihmiseen verattavan tekoälyn olevan todellisuutta 1980 tai viimeistään 2001. Mitä ei otettu huomioon? Jos tuollainen 1GB kanta voitaisiin luoda, se olisi varmasti kova juttu siitäkin huolimatta, että se sisältäisi valtavasti kehämääritelmiä. Toimiva äly tarvitsisi lisäksi valtavasti kokemusperäistä tietoa (mihin muotoon se talletettaisiin?) siitä, miten tätä 1GB tietämyskantaa sovelletaan käytännössä, mistä aletaan hakea ohjeita missäkin tilanteessa.

        Toinen iso ongelma on tämän tietämyskannan luominen. Manuaalisesti syöttämällä se ei synny. AI:lla on oltava siemenäly, jolla se osaa hakea tämän tiedon itse joko netistä tai tiedostoista. Sillä on oltava kyky oppia luonnollista kieltä siten kuin ihmislapsi.

        Tällaisella 1GB kanalla olisi iso välinearvo oikein käytettynä, mutta se ei olisi ratkaisu. Ja lopullinen tietokanta pitäisi olla miljoonia kertoja suurempi, että voitaisiin puhua superälystä.

        En nyt halua kokeilla tuota tekstihakua. Minulla on debuggaamista oman neurokoneeni kanssa. Ei toimi vielä niinkuin pitäisi..


      • Kermo
        Yusa kirjoitti:

        > Jos loppuun asti menevä erityisen mutkikas tarkistus kestää esim. 0,1 sekuntia, niin se on hyvin siedettävää ja tarpeeksi nopeaa jotta PC softa yhdistelmää voi nimittää superälyksi tai superälykkääksi ajattelevaksi koneeksi.

        Tämä nyt liittyy kysymykseen vaadittavan tietämyksen määrästä. Meillä on aika suuri käsitysero tarvittavasta tietämyskannasta.

        >>"Kaaottisuus on takaisinkytkettyjen monimutkaisten järjestelmien perusominaisuus."

        Äly ei tarvitse kaaosta tuossakaan merkityksessä.

        Varmaan melko älykäs järjestelmä, mutta ei superälyä, voidaan toteuttaa deterministisellä käsittelyllä.

        Neuraaliarkkitehtuuriin perustuva triviaalia (esim sukkulamato?) laajempi äly (esim muurahainen?) on aina kaaoottinen.

        >Systeemeillä on ennustettavia emergenttejä ominaisuuksia, mutta jos ne tiedetään, niin ne voidaan toteuttaa toista tietä ilman sitä alkeellisuutta josta ne nousevat itsestään.

        Ole vaan hyvä ja yritä: tsemppiä!

        >Äly on ominaisuus joka pitää kopioida. Eikö muuten ole pelkkää arvailua, että äly on emergenttiä?

        Esim.ihmisen tapauksesa näin on. Äly ei ole geeneihin tallennettuna. Geenit vain sisältävät ohjeet sellaisten olosuhteden muodostumiselle, joissa äly syntyy, ei "kopioitua älyä".

        ""Ihmisen geenit eivät riitä ihmisen koko aivojen rakenteen kuvaamiseen. Ne kuvaavat vain alkutilan ja (kaaoottisen) prosessin, jonka tuloksena sikiön aivoista kehittyvät aikuisen ihmisen aivot"

        Eikö tuokin ole vain arvailua?

        Miten 25000 geeniä, 3,2 miljardia emäsparia voisi koodata 100 miljardin neuroonin vielä 1000-kertaisen synaptisten kytkentöjen määrän? Yksinkertaisesti bitit eivät riitä alkuunkaan?

        Minulla on Gary Marcuksen "The Birth of the Mind", joka kuvailee prosessin melko havainnollisesti, sen mukaan, kun neurologia sen nykyisin ymmärtää. Tosin se puuttuu lähinnä fysiologiseen prosessiin, miten "vastasyntyneen aivot" muodostuvat, ei siihen, miten niistä kehittyy aikuisen aivot.

        >Sitäpaitsi vain pientä osaa niistä tietojenkäsittelymekanismeista tarvitaan superälyyn. Esim. tunteet voi jättää toteuttamatta.

        Olen eri mieltä. Tunteeton voi olla kykenevä älyä vaativiin suorituksiin, esim annetun vaikean ongelman ratkaisemiseen, mutta se ei voi olla luova superäly. Se on ns. "kylmä". Sillä ei ole motivaatiota, inspiraatiota, innostusta..
        En usko tunteettomaan superälyyn!

        "Miten 25000 geeniä, 3,2 miljardia emäsparia voisi koodata 100 miljardin neuroonin vielä 1000-kertaisen synaptisten kytkentöjen määrän? Yksinkertaisesti bitit eivät riitä alkuunkaan?
        "

        En ole varma mitä tarkoitat koodauksella tässä, mutta _kuvaukseen_ uskon riittävän. Jonkun aivojen osan kuvaus voisi olla vaikka tässä muodossa: "miljoona neuronia hilassa, joiden välillä hermoja melko satunnaisesti jakautuneena sillä ja sillä jakaumalla." tai "miljoona neuronia satunnaisesti tietyllä etäisyysjakaumalla..." Se on eri asia kuin fraktaali tai ns. soluautomaatin tulos.

        Ajattelin sinun vertaavan siemenälyn ja genomin kokoa. Geenien tai prosessin emergenttiyden sijasta kokemus koodaa tai ainakin kuvaa niitä valtavia määriä joita listasit. Muuten, tuosta 3,2 miljardista vain pieni osa liittyy aivoihin mitenkään ja aivoihin liittyvästäkin vain osa liittyy siihen mitä tarvitaan siemenälyyn. Jos tässä on olennaista esim. 10 megatavun verran DNA:ta, niin se on yläraja eikä alaraja siemenälyn koolle. Uskoin sinun tarkoittavan, että se luku joka tässä on 10 megatavua, ei riittäisi siemenälylle.

        "
        >"Sanakirjassa on 100 000 sanaa. 20 bitillä voi esittää miljoonan käsitteen koodit, jos niin paljon tarvitaan. Jos käsitteen kuvaus ja ymmärrykseen kytkeminen vaatii keskimäärin kilotavun, niin se tekee 1kt*1000 000=1Gt"

        Ilmeisesti tällaisten laskelmien ja ensimmäisten positiivisia tuloksia antaneiden sääntöpohjaisten lisp- ym. koneisen pohjalta 60-luvulla uskottiin ihmiseen verattavan tekoälyn olevan todellisuutta 1980 tai viimeistään 2001. Mitä ei otettu huomioon?"

        Laskelmat ok, mutta muu teoria ei. Se mitä ei otettu huomioon liittyy siihen miten ihminen käsittelee symboleja ja siihen mitä tarvitaan symbolien käsittelyn lisäksi. Symbolien muodostus, järjestely ja käsittely ovat puutteellisia, eikä ihme että sillä tavalla ei tule oikeaa tekoälyä.

        >giga

        "Ja lopullinen tietokanta pitäisi olla miljoonia kertoja suurempi, että voitaisiin puhua superälystä. "

        Tuota noin, jos joku äly osaa 100 kieltä, omaa tohtorinarvon 10 alalta, kirjoittaa kirjan päivässä, kuuntelee yhtä aikaa mikrofonejaan sekä 5 radiokanavaa ja samalla vielä puhuu kahdella puhelinlinjalla yhtä aikaa, niin eikö sitä olisi syytä nimittää superälyksi, vaikka nopeus ja tietomäärä ihmisen tasolle yltävään älyyn verrattuna olisi vain 10-100 kertainen?!

        Tuskin väität, että sinä tarvitset niin paljon tietoa päätöstesi, puheesi ja luovuutesi pohjaksi, että edes 100 gigaa ei riittäisi tasan ihmisen tasoiselle tekoälylle.


      • Yusa
        Kermo kirjoitti:

        "Miten 25000 geeniä, 3,2 miljardia emäsparia voisi koodata 100 miljardin neuroonin vielä 1000-kertaisen synaptisten kytkentöjen määrän? Yksinkertaisesti bitit eivät riitä alkuunkaan?
        "

        En ole varma mitä tarkoitat koodauksella tässä, mutta _kuvaukseen_ uskon riittävän. Jonkun aivojen osan kuvaus voisi olla vaikka tässä muodossa: "miljoona neuronia hilassa, joiden välillä hermoja melko satunnaisesti jakautuneena sillä ja sillä jakaumalla." tai "miljoona neuronia satunnaisesti tietyllä etäisyysjakaumalla..." Se on eri asia kuin fraktaali tai ns. soluautomaatin tulos.

        Ajattelin sinun vertaavan siemenälyn ja genomin kokoa. Geenien tai prosessin emergenttiyden sijasta kokemus koodaa tai ainakin kuvaa niitä valtavia määriä joita listasit. Muuten, tuosta 3,2 miljardista vain pieni osa liittyy aivoihin mitenkään ja aivoihin liittyvästäkin vain osa liittyy siihen mitä tarvitaan siemenälyyn. Jos tässä on olennaista esim. 10 megatavun verran DNA:ta, niin se on yläraja eikä alaraja siemenälyn koolle. Uskoin sinun tarkoittavan, että se luku joka tässä on 10 megatavua, ei riittäisi siemenälylle.

        "
        >"Sanakirjassa on 100 000 sanaa. 20 bitillä voi esittää miljoonan käsitteen koodit, jos niin paljon tarvitaan. Jos käsitteen kuvaus ja ymmärrykseen kytkeminen vaatii keskimäärin kilotavun, niin se tekee 1kt*1000 000=1Gt"

        Ilmeisesti tällaisten laskelmien ja ensimmäisten positiivisia tuloksia antaneiden sääntöpohjaisten lisp- ym. koneisen pohjalta 60-luvulla uskottiin ihmiseen verattavan tekoälyn olevan todellisuutta 1980 tai viimeistään 2001. Mitä ei otettu huomioon?"

        Laskelmat ok, mutta muu teoria ei. Se mitä ei otettu huomioon liittyy siihen miten ihminen käsittelee symboleja ja siihen mitä tarvitaan symbolien käsittelyn lisäksi. Symbolien muodostus, järjestely ja käsittely ovat puutteellisia, eikä ihme että sillä tavalla ei tule oikeaa tekoälyä.

        >giga

        "Ja lopullinen tietokanta pitäisi olla miljoonia kertoja suurempi, että voitaisiin puhua superälystä. "

        Tuota noin, jos joku äly osaa 100 kieltä, omaa tohtorinarvon 10 alalta, kirjoittaa kirjan päivässä, kuuntelee yhtä aikaa mikrofonejaan sekä 5 radiokanavaa ja samalla vielä puhuu kahdella puhelinlinjalla yhtä aikaa, niin eikö sitä olisi syytä nimittää superälyksi, vaikka nopeus ja tietomäärä ihmisen tasolle yltävään älyyn verrattuna olisi vain 10-100 kertainen?!

        Tuskin väität, että sinä tarvitset niin paljon tietoa päätöstesi, puheesi ja luovuutesi pohjaksi, että edes 100 gigaa ei riittäisi tasan ihmisen tasoiselle tekoälylle.

        "miljoona neuronia hilassa, joiden välillä hermoja melko satunnaisesti jakautuneena sillä ja sillä jakaumalla."

        Kyllä, sama periaate, jota ei kovin hyvin tunneta. Solujen välisen nesteen kemialliset aineet, hormoonit ym, ja gliasolut ohjaavat hermojen aksoonien ja dendriittien kasvua, suuntaa, josta on seurauksen aivojen perusarkkitehtuuri, siemenäly. Kyllä siihen voi riittää se 10miljoonaa emäsparia.

        Mutta tämä liittyi repliikkin:
        "Äly on ominaisuus joka pitää kopioida. Eikö muuten ole pelkkää arvailua, että äly on emergenttiä? "

        Laajalti satunnaisen rakenteen muuttaminen toimiviksi aivoiksi on "emergentti, kaaoottinen prosessi", jonka tulos ei ole deterministinen, mutta tunnetusti on useimmiten tyydyttävä, joskus jopa erinomainen. Ihmisissä on fiksujakin yksilöitä...

        "Tuota noin, jos joku äly osaa 100 kieltä, omaa tohtorinarvon 10 alalta, kirjoittaa kirjan päivässä, kuuntelee yhtä aikaa mikrofonejaan sekä 5 radiokanavaa"

        Se 1Gt eli käsitteiden, sanojen ja faktojen ristiinmäärittely ei alkuunkaan riitä luonnollisen kielen syvällisempään ymmärtämiseen ja tohtorinarvoihin.

        En todellakaan tiedä paljonko tähän tarvitaan lisäksi "Common Sense" tietoa (jota ei ole sana- ja tietosanakirjoissa, vaan joka hankitaan kokemuksen, kantaapään kautta). Tämä vaatimus on yleisesti hyväksytty AI-kehittäjien piirissä. Miten tämä perusosaaminen sitten koodataan, siis muuten kuin hermoverkoilla, siihen on monenlaisia teorioita. Voi olla, että sitä jollakin tekniikalla saa riittävästi 100GB tilaan, esim Novamente-tekniikalla? Hermoverkoilla tilaa menee ainakin 1000x enemmän, ilman bioloogisten aivojen redundanssia siis. Nämä asiat ovat minulla ja monilla muillakin täysin ratkaisematta. Mutta iso ongelma on juuri "Common Sense".

        Yksi yrityshän koodata (ilmeisesti sekä formaalista, että Common Sense -tietoa) on. CYC-projekti. Mielestäni sen lähestymistapa lienee suunnilleen samanlainen kuin sinulla. Heillä on jo iso tietämyskanta valmiina. Minä en ole sen suhteen kovin optimistinen. Ehkä sitä voi silti hyödyntää, mutta se ei ole avain mihinkään ratkaisevaan.


    Ketjusta on poistettu 0 sääntöjenvastaista viestiä.

    Luetuimmat keskustelut

    1. en vaan saa häntä pois

      Mielestäni pyörimästä. Onko kellekään toiselle käynyt näin? Ihastuin pakkomielteisesti noin vuosi sitten erääseen naiseen. Ei vaan katoa mielestä va
      Ikävä
      176
      2115
    2. Suomi24 kysely: ihmisten kuplautumista ei pääosin koeta vakavaksi ongelmaksi

      “Kuplautumista on mahdotonta estää. Ihmiset ovat aina viihtyneet samankaltaiset arvot ja maailmankatsomuksen jakavassa seurassa ja muodostaneet sen pe
      Suomi24 Blogi ★
      36
      1744
    3. Ohhoh! Glamourmalli Elena, 29, teetti tiimalasivartalon - Vei rahaa ja tuotti tuskaa - Katso kuvat!

      Transtaustainen glamourmalli Elena Vikström on käynyt vuosien ajan plastiikkakirurgisissa toimenpiteissä. Tästä näet lopputuloksen: https://www.suomi
      Kotimaiset julkkisjuorut
      10
      1461
    4. Ostiko Martina uuden ponin tyttärelleen, vai oliko myös Stefan itsekkin valitsemassa ponia .?

      Kiva kun on tyttärelle mielekäs harrastus annettu, ehkä vielä on tulevaisuudessa hänelle tärkeä ja valitsee sen perusteella tulevan ammatin.
      Kotimaiset julkkisjuorut
      233
      1240
    5. Sinä olet tärkeä

      Herätät minussa kunnioitusta. Kiehdot minua. En oikein saa kiinni sinusta. Ehkä juuri siksi. Aistin että sinäkin pidät minusta. Vetovoima on ollut alu
      Ihastuminen
      60
      1223
    6. Varisjärvellä mersu.

      Varisjärven tiellä tuli vanhamersu kylkiedellä mutkassa vastaan ja vähällä keulaan mutta tökkäs penkkaan, hyppäsin omasta autosta ulos ja kävin kiskas
      Suomussalmi
      16
      1067
    7. Belorf haistattaa seuraajiaan "You can hate me now"...

      Vai haistattaako lompakkoa, joka taisi viimeinkin ymmärtää häipyä Sofian ulottumattomiin ? Sofia raukka on niin typerä, että ottaa nostetta "omasta tv
      Kotimaiset julkkisjuorut
      59
      980
    8. Mitähän ajattelet J

      Tästä kaikesta? Mä välitän susta oikeasti.
      Ikävä
      60
      973
    9. Wau mikä kroppa Sofialla

      Kuva instassa kun on suihkurusketuksessa. Kyllä on muodot kohdallaan, on kuin jumalainen Venus patsas. Eikä ole mitään järkyttäviä lonkero tatuointeja
      Kotimaiset julkkisjuorut
      102
      670
    Aihe