Oppivat hermoverkot

Mielestäni ainoa ihmisen aivojen veroinen, korvaava, taikka jopa ylivertainen AI syntyy keinotekoisilla hermoverkoilla, joilla on oppimiskyky.

Tällainen ei edellytä ohjelmointia. Ja toisaalta kone voi tietyn kynnyksen yli päästyään jatkaa opiskelua itsenäisesti vaikka selailemalla verkkoa. Koska se on nopea, niin pystyy se oppimaan ylivertaisen nopeasti verrattuna ihimiseen, jonka lukunopeus on varsin vaatimaton.

Tällainen kone edellyttää integraation ja laskentakapasiteetin moninkertautumista, mutta on jo tänään rakennettavissa.
11899
Äänestä

Muut lukivat myös

Vastaukset 11

Vanhimmat

Neuroverkot olivat muodissa 10 vuotta sitten. En ole seurannut viime vuosina alaa, joten missä nyt mennään? Vai olivatko ne vain muoti-ilmiö?

Äänestä
  • Ainakin näyttäisi yliopiston syventävissä löytyvän kursseja neuroverkkoihin liittyen.

    Äänestä


Mutta keinotekoiset hermoverkot eivät mitenkään ole ainoa mahdollisuus. Kaikki niiden toteuttamat funktiot voidaan (ainakin teoriassa) toteuttaa vaihtoehtoisillakin algoritmeilla, jotka useimmiten ovat selkeästi pienempiä resulssisyöppöjä kuin neuroverkot. Kuitenkin hermoverkot ovat joissakin suhteessa "helpompia" ja "luonnollisia", mutta niidenkin käytössä on isoja ongelmia, joista ehkä tunnetuin on ehkä takaisinkytkettyjen ("recurrent") verkkojen epästabiilisuus. Ongelmat ovat houkutelleet erilaisiin hybridiratkaisuihin, joissa yhdistetään hermoverkkojen ja "computer science ratkaisujen" parhaat puolet. On monia asioita, joita ei oikeastaan kannata tehdä neurooneilla vaikka biologiset aivot niin tekevätkin.

Tästä esimerkki on työmuisti. Ihmisenkin on esim vaikea pitää mielessä kerran kuultuna yhtä täyspitkää puhelinnumeroa, tietokoneelle miljoona numeroa työmuistissa ei ole mikään ongelma. Käytännön ongelma esim toisen ohjelmoijan tekemän uuden lähdekoodin hahmottamisessa on pitää yhtä aikaa mielessä kaikki toisiinsa vaikuttavat seikat. Tekoälyllä on teoriassa mahdollista hallita monimutkaisempia kokonaisuuksia kuin ihmisellä (jos tekoälyssä sovelletaan muitakin tekniikoita kuin hermoverkkoja).

Mutta esim hahmontunnistuksessa ja epävarmoihin hahmoihin perustuvassa päätöksenteossa hermoverkot ovat osoittautuneet tehokkaaksi. Silti usein syöttötiedot kannattaa muilla tekniikoilla työstää hermoverkoille sopiviksi "hahmoiksi" ja verkkojen lähdötiedot jälkikäsitellä ja varastoida perinteisin menetelmin, työmuistiksi tai kestomuistiksi.

Äänestä

Tämä on kolmas palsta millä "mainostan" Hawkinsin kirjaa, mutta kun luin tämän keskustelun niin päätin tämän tännnekin laittaa
Aloitus viestissä viitattiin kait tämän kaltaiseen älykkään koneen teoriaan,ja saattaa olla tuttukin kirja

Jeff Hawkins
Älykkyys, uusi tieto aivoista ja älykkäät koneet

Kirjassa esitetään teoria aivojen toiminnasta,
Hawkins on kehittänyt mm. palm pilot kämmentietokoneen ja muutamia muita laitteita ja perustanut instituutin aivoteorian tutkimista varten.

Ote takakannesta
"Kirjan sanoma on, että aivot eivät ole tietokone, joka työstää tuloksen niihin syötetystä panoksesta.
Aivojen- erityisesti aivokuoren- keskeisin tehtävä on toimia muistina, jonka avulla ennustetaan
ympäristön tapahtumia, Aivot luovat jatkuvasti odotuksia siitä, mitä ne seuraavaksi havaitsevat."
Hawkins esittää väitteen että ennustaminen on
aivokuoren primaarifunktio ja älyn perusta.
Samasta asiasta ovat muutkin tutkijat puhuneet
kuten kirjassa mainitaan.

"Tietenkin aivot koostuvat hermosolujen muodostamista verkoista
mutta jos aivojen tekemisiä ei ymmärretä ensin, eivät yksinkertaiset
neuroverkostot pysty sen paremmin luomaan älykkäitä koneita kuin tietokoneohjelmatkaan"

Hawkinsin mukaan älykkäällä koneella pitäisi olla samalla periaatteella
toimiva muisti kuin on ihmisen aivokuori. Kone rakentaisi mallin maailmasta omien aistiensa ja muistinsa avulla.
Kirjassa tietenkin perusteellisemmin puhutaan siitä millaisia älykkäiden koneiden tulisi olla

"Toivon pystyneeni vakuuttamaan lukijalle, että mieli on vain nimi sille, mitä aivot tekevät.
Mieli ei ole erillinen asia, joka on yhtä aikaa olemassa aivosolujen kanssa tai manipuloi niitä.
Neuronit ovat vain soluja. Ei ole olemassa mitään mystistä voimaa, joka saa yksittäiset
hermosolut tai hermosolujoukot käyttäytymään normaalista poikkeavalla tavalla."

Äänestä
  • Luin Hawkinsin kirjan jo ennen se suomentamista ja olin myös vaikuttunut. Olen maininnut kirjasta ja HTM-periaattesta usein. Hawkins on insinööri, joka on koonnut yhteen useiden huippuneurologien tutkimustulokset ja ilmeisesti ensimmäisenä esittää ison aivokuoren selkeän toiminnallisen periaatteen, joka, jos ei ehkä olekaan ihan tyhjentävä, on varmasti hyvin lähellä totuutta. Kirjan sisältö kattaa n. 60-70% ihmisen mielen olemuksesta. Kun suuri osa lopusta (mistä hawkins ei paljon puhu) löytyy muilta (esim Damasio, http://en.wikipedia.org/wiki/Antonio_Damasio)), voi sanoa, että aivoissa ei ole enään suuria yllätyksiä odotettavissa, vain suuri joukko tarkennuksia, yksityiskohtia: me siis jo melko tarkkaan tiedämme miten aivot toimivat, neuronitasolta kokonaisarkkitehtuuriin asti.

    HTM-periaate:
    http://www.stanford.edu/~dil/invariance/Download/GeorgeHawkinsIJCNN05.pdf

    Äänestä

  • Älykkyyden ongelma on miten aivot kykenevät mieltämään maailman pysyvänä ja säännönmukaisena aisteista saadun informaatiorummutuksen keskellä.

    Puolalaisen neurofysiologi Jerzy Konorskin osoitti kokeellisesti, että aivoissa on hermosolu, joka aktivoituu aina, kun koehenkilö näkee tutun henkilön. Näitä neuroneita alettiin kutsua isoäitineuroneiksi.

    Vaikka aistit eivät koskaan havaitse isoäitiä samanlaisena, aivot mieltävät isoäidin aina samaksi henkilöksi. Isoäitineuroni aktivoituu myös isoäidin kuvasta, äänestä, kirjoitetusta nimestä ja vaikkapa leivotun pullan tuoksusta. Mutta kuinka aivot luovat tällaisia pysyviä edustuksia maailmasta?

    Hawkinsin mukaan isoäitineuronin periaate on vain yksi esimerkki aivojen kyvystä muodostaa pysyviä malleja maailmasta. Mallien muodostumiseen osallistuu koko aivokuori ja sen miljardit neuronit.

    Hawkinsin mukaan ihmisen aivokuoressa on kaikki, mikä tekee ihmisestä älykkään. Aivokuori on ohut, yhtenäinen hermokudos, joka peittää poimumaisesti aivojen muut osat. Se muodostuu kuudesta kerroksesta, jotka ovat täynnä neuroneita ja niiden viejä- ja tuojahaarakkeiden muodostamia yhteyksiä.

    Aivokuoren alueet käsittelevät tietoa samalla tavalla. Aivokuori on kuitenkin järjestynyt toiminnallisesti hierarkiaksi. Aistien kautta tuleva informaatio kulkee primaariselle aivokuorelle, josta se etenee ylemmille assosiaatioalueille.

    Hawkins kuitenkin painottaa, että informaatiota kulkee myös toiseen suuntaan. Aivokuorelle jo muodostuneet mallit luovat odotuksia siitä, mitä aistien tulisi seuraavaksi havaita. Älykkyys on kykyä yhdistää aisti-informaatio mallien luomiin odotuksiin.

    Aivokuori ennakoi koko ajan miten aistittu hahmo tulee jatkumaan. Jos hahmo poikkeaa ennakoidusta, lähetämme tiedon ylemmille aktiivisen muistin kerroksille. Kaikki kerrokset toimivat samalla periaatteella, mutta ylemmät kerrokset vain yhdistelevät alemman kerroksen tunnistamia hahmoja ja kykenevät yhdistelemään laajempia kokonaisuuksia.

    Tällainen rakenne mahdollistaa jatkuvan aisti-informaation muuttamisen pysyviksi malleiksi. Pysyvät mallit ovat riippumattomia aisteista, väittää Hawkins.

    Äänestä

  • näyte kirjoitti:

    Älykkyyden ongelma on miten aivot kykenevät mieltämään maailman pysyvänä ja säännönmukaisena aisteista saadun informaatiorummutuksen keskellä.

    Puolalaisen neurofysiologi Jerzy Konorskin osoitti kokeellisesti, että aivoissa on hermosolu, joka aktivoituu aina, kun koehenkilö näkee tutun henkilön. Näitä neuroneita alettiin kutsua isoäitineuroneiksi.

    Vaikka aistit eivät koskaan havaitse isoäitiä samanlaisena, aivot mieltävät isoäidin aina samaksi henkilöksi. Isoäitineuroni aktivoituu myös isoäidin kuvasta, äänestä, kirjoitetusta nimestä ja vaikkapa leivotun pullan tuoksusta. Mutta kuinka aivot luovat tällaisia pysyviä edustuksia maailmasta?

    Hawkinsin mukaan isoäitineuronin periaate on vain yksi esimerkki aivojen kyvystä muodostaa pysyviä malleja maailmasta. Mallien muodostumiseen osallistuu koko aivokuori ja sen miljardit neuronit.

    Hawkinsin mukaan ihmisen aivokuoressa on kaikki, mikä tekee ihmisestä älykkään. Aivokuori on ohut, yhtenäinen hermokudos, joka peittää poimumaisesti aivojen muut osat. Se muodostuu kuudesta kerroksesta, jotka ovat täynnä neuroneita ja niiden viejä- ja tuojahaarakkeiden muodostamia yhteyksiä.

    Aivokuoren alueet käsittelevät tietoa samalla tavalla. Aivokuori on kuitenkin järjestynyt toiminnallisesti hierarkiaksi. Aistien kautta tuleva informaatio kulkee primaariselle aivokuorelle, josta se etenee ylemmille assosiaatioalueille.

    Hawkins kuitenkin painottaa, että informaatiota kulkee myös toiseen suuntaan. Aivokuorelle jo muodostuneet mallit luovat odotuksia siitä, mitä aistien tulisi seuraavaksi havaita. Älykkyys on kykyä yhdistää aisti-informaatio mallien luomiin odotuksiin.

    Aivokuori ennakoi koko ajan miten aistittu hahmo tulee jatkumaan. Jos hahmo poikkeaa ennakoidusta, lähetämme tiedon ylemmille aktiivisen muistin kerroksille. Kaikki kerrokset toimivat samalla periaatteella, mutta ylemmät kerrokset vain yhdistelevät alemman kerroksen tunnistamia hahmoja ja kykenevät yhdistelemään laajempia kokonaisuuksia.

    Tällainen rakenne mahdollistaa jatkuvan aisti-informaation muuttamisen pysyviksi malleiksi. Pysyvät mallit ovat riippumattomia aisteista, väittää Hawkins.

    "Älykkyyden ongelma on miten aivot kykenevät mieltämään maailman pysyvänä ja säännönmukaisena aisteista saadun keskellä."

    ...yhdistää tiedonpakkausalgoritmeja, tilastotiedettä ja todennäköisyyslaskentaa.

    Äänestä

Jos saadaan yhdistettyä oikea virusmuoto toisen oikean virusmuodon kanssa, saadaan aikaan toisenlainen virusmuoto ja jos tämä virusmuoto on oikea, se voidaan asettaa ihmiseen joka taas vahvistaa kaikenlaisia kykyjä ihmisessä, esimerkiksi se voi antaa teräsmiehen voimat, itserakentuva keho (esim jos nyt käsi katkiaa niin se voi rakentaa käden uudelleen), suuren älykkyyden. Eli virusmuodot voi muokata paljon ihmisissä koska osa viruksista on monistuvia viruksia. Tämä taas voisi tehdä senkin että eläisimme hirveän kauan.

Äänestä

"..ihmisen aivojen veroinen, korvaava, taikka jopa ylivertainen AI .."

Mitä on ihmisen äly? Mielestäni keskivertoihminen toimii suurimman osan hereilläolostaan melko vaatimattomalla älyllisellä suorituskyvyllä. Hän suorittaa rutiininomaisia asioita, samoja kuin joka päivä. Hän ratkaisee vastaantulevat tilanteet soveltamalla niihin vakiotoimintamallejaan. Joskus hän välillä ratkaisee esim vaatimattomia aikatauluongelmia tms., sovittaa toimiaan yhteen, keksii soveltaa vanhaan tai uuteen tilanteeseen parempaa menetelmää kuin vakiomenettelyllä (taso-1).

Mutta hyvin harvoin (rajoitettuja ammattikuntia tai harrastajia lukuunottamatta) ihminen toimii oikeasti luovalla tavalla: kehittää täysin uusia tapoja selvitä eri tilanteista (taso-2). Vielä harvemmin joku ihan oikeasti vie tiedettä tai kulttuuria eteenpäin, keksii ja ottaa käyttöön aivan uusia, mutta samalla todella hyödyllisiä käsitteitä, jotka muuttavat tapaamme ymmärtää ja hallita ympäristöämme. Vain ehkä alle 1/100000 teollisuusmaiden ihmisistä tekee koskaan eläessään mitään sellaista (taso-3).

Olen melko varma, että "tason-1" AGI on olemassa 10-20v kuluessa ja tulee syrjäyttämään työelämästä suurimman osan nykyisistä "henkisen työn tekijöistä".

"Tason-2" AGI voi antaa odottaa itseään useita vuosia "tason-1" saavuttamisen jälkeeen ja "taso-3" on sitten "singulariteettitaso", jota ei voi ihminen enään hallita, koska se voi myös kehittää itseään ilman ihmisen biologisia rajoituksia.

Äänestä

... mutta kantapäät maassa.

Olen jotenkuten perillä hermoverkkojen mallintamisesta käytännön sovelluksiin, ja tehnytkin niillä pari hyvin toimivaa ennustemallia. Mutta hyvin rajoitetuin parametrein ja hyvin suppeassa ympäristössä.

Kyllä koneen, tai oikestaan ohjelman, saa "oppimaan", mutta ei omaperäistä uutta, "rule-based programming". Käytännössä katto nykytietämyksellä tulee vastaan jo hermoverkon "second layer" -tasolla. Tässä siis ei ole kysymys laskentakapasiteetista, vaan mallintamisen vaikeudesta jo hyvin yksinkertaisissa ongelmissa.

Todellinen, ihmisaivojen veroinen, "A1" ei ole nähdäkseni mahdollinen ennen Auringon kuolemaa. Onneksi. Luoja varjelkoon, kuka syöttäisi moraalikoodien alkuarvot ja ensimmäisenkään tason vinkit.
(Jos kone toimisi todellisen hermoverkon mukaisesti, toiminta olisi äärimmäisen herkkä annetuille alkuarvoille, mikä kaaosteorian mukaan johtaa täysin arvaamattomaan käytökseen. Teepä joku simmppeli malli ja kokeile eri alkuarvoilla!).

Siitä huolimatta,"lohi on niin arvokas kala, että sitä kannattaa pyytää, vaikka ei saisikaan". Kylä- ja cityhulluilta tulee hyviäkin ajatuksia!

Hermoverkoista vakavammin kiinnostuneiden kannattaa ehkä googlata vaikkapa nimiä Teuvo Kohonen ja Hans-Georg Zimmermann.

Äänestä

Ketjusta on poistettu 3 sääntöjenvastaista viestiä.

Kommentoi aloitusta


AI:sta kirjoitti:

Mielestäni ainoa ihmisen aivojen veroinen, korvaava, taikka jopa ylivertainen AI syntyy keinotekoisilla hermoverkoilla, joilla on oppimiskyky.

Tällainen ei edellytä ohjelmointia. Ja toisaalta kone voi tietyn kynnyksen yli päästyään jatkaa opiskelua itsenäisesti vaikka selailemalla verkkoa. Koska se on nopea, niin pystyy se oppimaan ylivertaisen nopeasti verrattuna ihimiseen, jonka lukunopeus on varsin vaatimaton.

Tällainen kone edellyttää integraation ja laskentakapasiteetin moninkertautumista, mutta on jo tänään rakennettavissa.

Anonyymi
5000

Ilmoita asiaton sisältö

  • Sisältää materiaalia, joka on loukkaavaa, herjaavaa, rasistista, uhkailevaa tai ahdistelevaa.

  • Materiaali sisältää nimiä, yhteystietoja tai muita henkilökohtaisia tietoja. Julkisuuden henkilöistä, julkisissa viroissa toimivista ihmisistä sekä yritysten vastuuhenkilöistä saa keskustella työhön liittyen. Myös yksityiselämään liittyvistä asioista voi keskustella siltä osin, kuin niistä on julkisesti kerrottu.

  • Sisältää lapsille haitallista tai heiltä kiellettyä materiaalia. Seksuaalinen sisältö on sallittua aiheeseen tarkoitetuilla palstoilla, joiden ikäraja on 18 vuotta.

  • Lainvastaista sisältöä voi olla mm. yksityiselämää loukkaavan tiedon levitys, kiihottaminen kansanryhmää vastaan, laiton uhkaaminen, alaikäisiin liittyvä seksuaalinen sisältö/grooming, petokset, identiteettivarkaudet, kunnianloukkaukset ja tekijänoikeusrikkomukset.

  • Sisältö ei liity palstan tai keskusteluketjun aiheeseen.

  • Viesti ei ole suomea tai ruotsia (pl. International Forums), se sisältää mainontaa, se sisältää tekijänoikeuksin suojattua materiaalia, se on massapostitus tai jokin muu syy.

Jaa keskustelu