Kahden kohtuullisen fiksun ihmisen keskustelu taas AGI-asiasta.
Oskari Ohjelmoija:
Olen taas lukenut jostakin hankkeesta, jossa joku höyrypäiden ryhmä yrittää toteuttaa tietokoneella ihmisen veroisen tekoälyn. Tavoitteena olisi, että ohjelmisto pystyisi omaksumaan itse uutta tietoa, oppimaan kokemuksistaan ja löytämään luovia ratkaisuja ongelmiin, jotka ihmisellekin ovat vaikeita. Ohjemoinnin ammattilaisena tiedän varsin hyvin, että mikään ohjelma ei selviä mistään, mihin koodari ei ole eksplisiittisesti varautunut. Todellinen älykkyys ei ole koskaan mahdollista tietokoneelle.
Ilpo Innovaattori:
Mikä saa sinut tekemään näin ehdottoman päätelmän? Eihän se, että et itse pysty tällaiseen tavoitteeseen sido muita, jotka ryhtyvät tehtävään eri lähtökohdista kuin sinä.
Oskari:
Tavalla tai toisella koneelle on aina syötettävä tarkat ohjeet tehtävien suorittamiseksi. Ei ole periaatteellista eroa syötetäänkö ne "kovakoodattuna", suoritettavaksi käännettävänä lähdekoodina vai tulkattavana sääntökokoelmana. Joka tapauksessa ohjelmoijan tai sääntöjen kirjaajan on varauduttava kaikkeen. Tässä suhteessa esim C -koodilla tai Prolog-muodossa annettavilla säännöillä ei ole ratkaisevaa eroa. Kone ei pysty toimintaympäristöstään käytännössä itsenäisesti tunnistamaan vapaasti uusia sääntöjä ja lisäämään niitä jo olemassa olevaan kantaan. Samoin ohjelmaan tai sääntökantaan on hyvin pikkutarkasti, toisin kuin ihmiselle, määriteltävä alkeellisetkin asiantilat. Siis kone ei itsessään ymmärrä yhtään mitään. Se vain sokeasti toteuttaa annettuja komentoja.
Ilpo:
Tuo oli ihan selkeää ajattelua, mutta siinä on kaksi ennenaikaista väitettä: ensinnäkin, että uusien sääntöjen ja tosiasioiden tunnistaminen toimintaympäristöstä olisi lopullisesti mahdotonta ja lisäksi tuo, että kone, tai ohjelmisto ei oikeasti voi ymmärtää mitään. Ensinnä sääntöjen ja säännönmukaisuuksien tunnistaminen havaintodatasta, induktio, on matemaattisesti hallittu toiminnallisuus, vaikka edelleen tutkimuksen alainen ja edistyvä ala, jota sovelletaan esimerkiksi tiedostojen pakkaamiseen. Tämän osaamisen tehokas käytännön soveltaminen tekoälyyn on vain kehitystyöstä kiinni. Sitten tuo ymmärtäminen. Käsite on hieman
epämääräinen, mutta jos sillä tarkoitetaan esimerkiksi ymmärryksen kohteena olevan asian liittymistä muihin tunnettuihin asioihin, niin silloin mikä tahansa loogisesti organisoitu tietämysrakenne, tietämyskanta, edustaa ymmärrystä. Eivät ihmisen neuroonitkaan tiedä mitään ymmärtämisestään. Itse tietoinen ymmärrys on mielen ylemmän hierarkian tila.
Oskari:
Et kai tuolla tosissasi väitä, että kone tai ohjelmisto voisi aidosti olla tietoinen omasta itsestään ja ymmärtämisestä siten kuin ihminen ja esimerkiksi ihmisen tapaan olla motivoitunut, turhautunut, tuntea mielihyvää, suuttua yms?
Ilpo:
En näe mitään estettä sille, ettei digitaalisessa järjestelmässä voisi olla eri tasoja ja komponentteja, jotka olisivat tietoisia toistensa olemassaolosta ja tämä kokonaisuus siten myös olisi tietoinen itsestään. Mutta koska ihmisellä tämä itsetietoisuuden käsite viittaa vain tietoisuuden subjektiiviseen tunteeseen, kvaliaan, eikä ole täsmällisesti määritelty, on asiasta ehkä turha väitellä. Sen sijaan jonkinasteiset emotiot, mielihyvän ja mielipahan tunteet samoin kuin motivaatio, saattavat olla hyvinkin tärkeitä toiminnallisuuksia oppimisen ja aloitteellisuuden luomisessa keinoälylle. Älykkään systeemin toiminta perustuu aina tavoitteille ja niistä johdetuille välitavoitteille. On luontevaa, että tavoitteen saavuttaminen tuottaa kannustavan mielihyvän ja epäonnistuminen harmittaa, myös keinoälyllä. Näitä asioita on ihan oikeasti tutkittukin ja niistä on demonstroitavia malleja. Minusta on hieman yhdentekevää väitellä siitä, ovatko koneen tunteet rinnastettavissa ihmisen tunteisiin, riittää kun kone aikanaan kertoo meille tunteistaan..
Oskari:
Eikö olisi vaarallista, jos kone alkaisi asettaa itselleen tavoitteita ja tuntea mielihyvää niiden saavuttamisesta?
Ilpo:
Olet oikeassa. Siksi näissä asioissa tulisi (1) tietyn tason saavuttamisen jälkeen edetä hitaasti, oppia tuntemaan koneen "emotionaalinen dynamiikka" varmistaa, että se pysyy oikeasti "ystävällisenä" ja "epäitsekkäänä" sekä (2) jo ennen tätä vaihetta teoreettisesti tutkia "ystävällisen tekoälyn" olemusta, kehittää testattavia malleja, joiden mukaan ohjelmiston toimintaa voi havainnoida ja valvoa.
Oskari Ohjelmoija:
Olen taas lukenut jostakin hankkeesta, jossa joku höyrypäiden ryhmä yrittää toteuttaa tietokoneella ihmisen veroisen tekoälyn. Tavoitteena olisi, että ohjelmisto pystyisi omaksumaan itse uutta tietoa, oppimaan kokemuksistaan ja löytämään luovia ratkaisuja ongelmiin, jotka ihmisellekin ovat vaikeita. Ohjemoinnin ammattilaisena tiedän varsin hyvin, että mikään ohjelma ei selviä mistään, mihin koodari ei ole eksplisiittisesti varautunut. Todellinen älykkyys ei ole koskaan mahdollista tietokoneelle.
Ilpo Innovaattori:
Mikä saa sinut tekemään näin ehdottoman päätelmän? Eihän se, että et itse pysty tällaiseen tavoitteeseen sido muita, jotka ryhtyvät tehtävään eri lähtökohdista kuin sinä.
Oskari:
Tavalla tai toisella koneelle on aina syötettävä tarkat ohjeet tehtävien suorittamiseksi. Ei ole periaatteellista eroa syötetäänkö ne "kovakoodattuna", suoritettavaksi käännettävänä lähdekoodina vai tulkattavana sääntökokoelmana. Joka tapauksessa ohjelmoijan tai sääntöjen kirjaajan on varauduttava kaikkeen. Tässä suhteessa esim C -koodilla tai Prolog-muodossa annettavilla säännöillä ei ole ratkaisevaa eroa. Kone ei pysty toimintaympäristöstään käytännössä itsenäisesti tunnistamaan vapaasti uusia sääntöjä ja lisäämään niitä jo olemassa olevaan kantaan. Samoin ohjelmaan tai sääntökantaan on hyvin pikkutarkasti, toisin kuin ihmiselle, määriteltävä alkeellisetkin asiantilat. Siis kone ei itsessään ymmärrä yhtään mitään. Se vain sokeasti toteuttaa annettuja komentoja.
Ilpo:
Tuo oli ihan selkeää ajattelua, mutta siinä on kaksi ennenaikaista väitettä: ensinnäkin, että uusien sääntöjen ja tosiasioiden tunnistaminen toimintaympäristöstä olisi lopullisesti mahdotonta ja lisäksi tuo, että kone, tai ohjelmisto ei oikeasti voi ymmärtää mitään. Ensinnä sääntöjen ja säännönmukaisuuksien tunnistaminen havaintodatasta, induktio, on matemaattisesti hallittu toiminnallisuus, vaikka edelleen tutkimuksen alainen ja edistyvä ala, jota sovelletaan esimerkiksi tiedostojen pakkaamiseen. Tämän osaamisen tehokas käytännön soveltaminen tekoälyyn on vain kehitystyöstä kiinni. Sitten tuo ymmärtäminen. Käsite on hieman
epämääräinen, mutta jos sillä tarkoitetaan esimerkiksi ymmärryksen kohteena olevan asian liittymistä muihin tunnettuihin asioihin, niin silloin mikä tahansa loogisesti organisoitu tietämysrakenne, tietämyskanta, edustaa ymmärrystä. Eivät ihmisen neuroonitkaan tiedä mitään ymmärtämisestään. Itse tietoinen ymmärrys on mielen ylemmän hierarkian tila.
Oskari:
Et kai tuolla tosissasi väitä, että kone tai ohjelmisto voisi aidosti olla tietoinen omasta itsestään ja ymmärtämisestä siten kuin ihminen ja esimerkiksi ihmisen tapaan olla motivoitunut, turhautunut, tuntea mielihyvää, suuttua yms?
Ilpo:
En näe mitään estettä sille, ettei digitaalisessa järjestelmässä voisi olla eri tasoja ja komponentteja, jotka olisivat tietoisia toistensa olemassaolosta ja tämä kokonaisuus siten myös olisi tietoinen itsestään. Mutta koska ihmisellä tämä itsetietoisuuden käsite viittaa vain tietoisuuden subjektiiviseen tunteeseen, kvaliaan, eikä ole täsmällisesti määritelty, on asiasta ehkä turha väitellä. Sen sijaan jonkinasteiset emotiot, mielihyvän ja mielipahan tunteet samoin kuin motivaatio, saattavat olla hyvinkin tärkeitä toiminnallisuuksia oppimisen ja aloitteellisuuden luomisessa keinoälylle. Älykkään systeemin toiminta perustuu aina tavoitteille ja niistä johdetuille välitavoitteille. On luontevaa, että tavoitteen saavuttaminen tuottaa kannustavan mielihyvän ja epäonnistuminen harmittaa, myös keinoälyllä. Näitä asioita on ihan oikeasti tutkittukin ja niistä on demonstroitavia malleja. Minusta on hieman yhdentekevää väitellä siitä, ovatko koneen tunteet rinnastettavissa ihmisen tunteisiin, riittää kun kone aikanaan kertoo meille tunteistaan..
Oskari:
Eikö olisi vaarallista, jos kone alkaisi asettaa itselleen tavoitteita ja tuntea mielihyvää niiden saavuttamisesta?
Ilpo:
Olet oikeassa. Siksi näissä asioissa tulisi (1) tietyn tason saavuttamisen jälkeen edetä hitaasti, oppia tuntemaan koneen "emotionaalinen dynamiikka" varmistaa, että se pysyy oikeasti "ystävällisenä" ja "epäitsekkäänä" sekä (2) jo ennen tätä vaihetta teoreettisesti tutkia "ystävällisen tekoälyn" olemusta, kehittää testattavia malleja, joiden mukaan ohjelmiston toimintaa voi havainnoida ja valvoa.
Vastaukset 2
Vanhimmat
Eikös tuollainen kone pidä siis "kasvattaa" ja opettaa sille että mikä on hyvää ja mikä väärää? Siihenhän voi kulua esim. aivojen kapasiteetin omaavalta vehkeeltä vaikka saman verran kuin lapselta juttujen oppimiseen? Kaikki käyttäytyminen, hierarkia, arvot, tunteet jne. ja vielä tarkasti "ihannekasvatuksellisen" kontrolloidusti. Psykoajattelijakoneita ei kai kukaan tarvitse=)
" Siihenhän voi kulua esim. aivojen kapasiteetin omaavalta vehkeeltä vaikka saman verran kuin lapselta juttujen oppimiseen? "
Näin ehkä ensimmäiselle koneelle. Seuraaville kai voitaisiin yksinkertaisesti kopioida kaikki tarpeellinen.