Ensin ajattelin, että Fileas on kirjoittanut provon, kirjoittaa jotakin, mitä ei oikeasti tarkoita, haastaakseen minut ”tuohtuneena vaahtoamaan” alla esitettyihin ”näkemyksiin”. En tiedä onko asia niin. Ajattelin jättää kommentin omaan arvoonsa. Mutta sitten ajattelin, että nämä stereotyyppiset näkemykset sittenkin edustavat joidenkin oikeiden ihmisten käsityksiä. Joten lienee kohtuullista, että yritän vastata kuivan asiallisesti.
YuSa:
>>Siis monestakin syystä WBE on hyvin paljon kaukaisempi tavoite kuin juuri ja juuri keskivertoihmisen useimmissa hommissa päihittävä, joustava AGI, joka voi olla hyvinkin läheistä tulevaisuutta.
Fileas:
"Esitetään yksinkertainen kysymys: Miksi sinä kirjoittelet tänne? Miksi sinä ylipäätään mietit näitä asioita? Miksi ajattelet (tai siis mielestäni et ajattele) niitä?"
Y:
Minä kirjoittelen tänne siksi, että olen kiinnostunut laaja-alaisesti teknis-tieteellisistä kysymyksistä ja haluan provosoida näiden kysymysten tiedostamista ja niiden pohdiskelua. Erityisesti tästä AGI-alueesta kirjoittelen siksi, että (1) tiedän asiasta suhtellisen paljon ("kadunmieheen" verrattuna, olematta alan ammattilainen) ja (2) mielestäni asia on aliedustettu suhteessa sen tärkeyteen. Sillä varauksella, että ei lähivuosina tule mitään globaalin teknologisen infrastruktuurin yleistä romahdusta, AGI- ja semanttisella teknologialla tulee 10-20v kuluessa olemaan valtava vaikutus käytännössä kaikkien ihmisten elämään.
F:
"Jos aivot on kerran niin loogisesti mallinnettavissa, niin silloin sinulla täytyisi olla looginen vastaus noihin kysymyksiin."
Mitä tekemistä aivojen mallintamisella on em. teknologioiden kanssa? AGI-teknologia ottaa ihmisaivoista vain ideoita ja inspiraatiota, mutta ei yritä mallintaa ihmisaivoja, joka on, kuten alun lainauksessa sanoin, huomattavasti vaikeampaa kuin yleisen tekoälyn kehitys (joka sekin on erittäin vaikeaa).
"Mutta sinulla ei ole. Logiikka pettää, koska ihmismieli on Ihmisen mieli. Se on rakentunut raijaamaan tätä apinan ruhoa paikasta toiseen ja siellä on suloisessa sekasotukussa saalistus- ja sukupuoliviettejä, kommunikaation tarve ja tuhansia muita, eläimellisiä tunteita, tarpeita ja viettejä, joiden perusteella me toimimme."
Niin, jotakin sinnepäin, miten se liittyy asiaan?
"Tosiasia on, että jos ihmismielestä poistaa tunteet ja tarpeet haluineen, ihminen pysähtyy. Hänellä on jäljellä kaikki logiikka ja tiedostus, mihin ihmismieli on kykenevä, mutta ei tarvetta sen käyttöön."
Niin, jotakin sinnepäin, kuka sellaista on tekemässä, miten se liittyy asiaan?
"Ja tämä on tietokoneen perusongelma. Ei ole väliä, montako piiriä, minkälaiset portit tai kuinka monimutkainen härvelisi on, se on silti puhtaan looginen kone."
Mitäs jos käyttäisit selkeämpiä ilmauksia. Mitä tarkoitat ilmauksella "puhtaan looginen kone"? Minkä muunlaisia logiikoita on mielestäsi olemassa? Onko esim sumea logiikka "puhdasta logiikkaa"?
"Ja sellaisena se ei koskaan tule ajattelemaan mitään, mitä sen ei ole käsketty ajatella."
Mitä tuo tarkoittaa? Sitäkö, että "koneen" kaikki sisäiset tilat ovat aina etukäteen ekslusiivisesti määriteltyjä? Jokainen ohjelmoija tietää, että tuo on kaukana totuudesta.
”Jos se ei voi ajatella mitään ilman käskyä, tekoäly on mahdottomuus; Käskyt syöttää ihminen, joten mistä se kone muka sitten saa sen 'extran'. jolla siitä tulee "keskivertoihmisen useimmissa hommissa päihittävä, joustava AGI"? Mistä se saa muka päähänsä 'ajatella`'?”
Ilmeisesti tässä on esitettynä hieman epäselvästi kaksi väitettä:
1. Tietokoneperustaisen (ei-biologisen , rakennetun) jäjestelmän kaikki toiminnallisuus (tiedot, taidot) on ekslipliittisesti ohjelmoitava. Tietokonejärjestelmällä ei voi olla minkäänlaista induktiivistä oppimiskykyä. On siis esim. mahdotonta ohjelmoida tietokone oppimaan virheistään.
2. Tietokonejärjestelmällä ei voi olla minkäänlaisia tavoitteita, motivaatiota, aloitekykyä, arvojärjestelmää tms.
Molemmat väitteet ovat vailla todellisuuspohjaa. Koneoppiminen, ”machine learning” on vuosikymmeniä vanha teknologia, jota sovelletaan rutiinilla monissa sovelluksissa. AGI ei ole mahdollista ilman järjestelmän kykyä oppia ympäristöstään ja kokemuksistaan monipuolisia menetelmiä käyttäen. AGI-järjestelmä sisältää aina jonkinlaisen tavoite- ja arvohierakian, joka voi olla osittain ohjelmoitu, osittain opetettu. AGI toimii pyrkimällä maksimoimaan ns. hyötyfunktiota, joka kertoo kuinka hyvin toiminta vastaa arvoja ja tavoitteita.
”Vastaus on, ei mistään. Tekoäly on kuin valoanopeampi matkustus; Ihan kiva Sci-Fi roipe, mutta muodostaa pelkästään sen Fiktio osuuden.”
Tuo lausunto edustaa ”täydellisen asiantuntemattomuuden tuomaa varmuutta”. Ei se mitään. Mutta sitä karumpaa (tai onnellisempaa) voi olla herääminen todellisuuteen.
YuSa:
>>Siis monestakin syystä WBE on hyvin paljon kaukaisempi tavoite kuin juuri ja juuri keskivertoihmisen useimmissa hommissa päihittävä, joustava AGI, joka voi olla hyvinkin läheistä tulevaisuutta.
Fileas:
"Esitetään yksinkertainen kysymys: Miksi sinä kirjoittelet tänne? Miksi sinä ylipäätään mietit näitä asioita? Miksi ajattelet (tai siis mielestäni et ajattele) niitä?"
Y:
Minä kirjoittelen tänne siksi, että olen kiinnostunut laaja-alaisesti teknis-tieteellisistä kysymyksistä ja haluan provosoida näiden kysymysten tiedostamista ja niiden pohdiskelua. Erityisesti tästä AGI-alueesta kirjoittelen siksi, että (1) tiedän asiasta suhtellisen paljon ("kadunmieheen" verrattuna, olematta alan ammattilainen) ja (2) mielestäni asia on aliedustettu suhteessa sen tärkeyteen. Sillä varauksella, että ei lähivuosina tule mitään globaalin teknologisen infrastruktuurin yleistä romahdusta, AGI- ja semanttisella teknologialla tulee 10-20v kuluessa olemaan valtava vaikutus käytännössä kaikkien ihmisten elämään.
F:
"Jos aivot on kerran niin loogisesti mallinnettavissa, niin silloin sinulla täytyisi olla looginen vastaus noihin kysymyksiin."
Mitä tekemistä aivojen mallintamisella on em. teknologioiden kanssa? AGI-teknologia ottaa ihmisaivoista vain ideoita ja inspiraatiota, mutta ei yritä mallintaa ihmisaivoja, joka on, kuten alun lainauksessa sanoin, huomattavasti vaikeampaa kuin yleisen tekoälyn kehitys (joka sekin on erittäin vaikeaa).
"Mutta sinulla ei ole. Logiikka pettää, koska ihmismieli on Ihmisen mieli. Se on rakentunut raijaamaan tätä apinan ruhoa paikasta toiseen ja siellä on suloisessa sekasotukussa saalistus- ja sukupuoliviettejä, kommunikaation tarve ja tuhansia muita, eläimellisiä tunteita, tarpeita ja viettejä, joiden perusteella me toimimme."
Niin, jotakin sinnepäin, miten se liittyy asiaan?
"Tosiasia on, että jos ihmismielestä poistaa tunteet ja tarpeet haluineen, ihminen pysähtyy. Hänellä on jäljellä kaikki logiikka ja tiedostus, mihin ihmismieli on kykenevä, mutta ei tarvetta sen käyttöön."
Niin, jotakin sinnepäin, kuka sellaista on tekemässä, miten se liittyy asiaan?
"Ja tämä on tietokoneen perusongelma. Ei ole väliä, montako piiriä, minkälaiset portit tai kuinka monimutkainen härvelisi on, se on silti puhtaan looginen kone."
Mitäs jos käyttäisit selkeämpiä ilmauksia. Mitä tarkoitat ilmauksella "puhtaan looginen kone"? Minkä muunlaisia logiikoita on mielestäsi olemassa? Onko esim sumea logiikka "puhdasta logiikkaa"?
"Ja sellaisena se ei koskaan tule ajattelemaan mitään, mitä sen ei ole käsketty ajatella."
Mitä tuo tarkoittaa? Sitäkö, että "koneen" kaikki sisäiset tilat ovat aina etukäteen ekslusiivisesti määriteltyjä? Jokainen ohjelmoija tietää, että tuo on kaukana totuudesta.
”Jos se ei voi ajatella mitään ilman käskyä, tekoäly on mahdottomuus; Käskyt syöttää ihminen, joten mistä se kone muka sitten saa sen 'extran'. jolla siitä tulee "keskivertoihmisen useimmissa hommissa päihittävä, joustava AGI"? Mistä se saa muka päähänsä 'ajatella`'?”
Ilmeisesti tässä on esitettynä hieman epäselvästi kaksi väitettä:
1. Tietokoneperustaisen (ei-biologisen , rakennetun) jäjestelmän kaikki toiminnallisuus (tiedot, taidot) on ekslipliittisesti ohjelmoitava. Tietokonejärjestelmällä ei voi olla minkäänlaista induktiivistä oppimiskykyä. On siis esim. mahdotonta ohjelmoida tietokone oppimaan virheistään.
2. Tietokonejärjestelmällä ei voi olla minkäänlaisia tavoitteita, motivaatiota, aloitekykyä, arvojärjestelmää tms.
Molemmat väitteet ovat vailla todellisuuspohjaa. Koneoppiminen, ”machine learning” on vuosikymmeniä vanha teknologia, jota sovelletaan rutiinilla monissa sovelluksissa. AGI ei ole mahdollista ilman järjestelmän kykyä oppia ympäristöstään ja kokemuksistaan monipuolisia menetelmiä käyttäen. AGI-järjestelmä sisältää aina jonkinlaisen tavoite- ja arvohierakian, joka voi olla osittain ohjelmoitu, osittain opetettu. AGI toimii pyrkimällä maksimoimaan ns. hyötyfunktiota, joka kertoo kuinka hyvin toiminta vastaa arvoja ja tavoitteita.
”Vastaus on, ei mistään. Tekoäly on kuin valoanopeampi matkustus; Ihan kiva Sci-Fi roipe, mutta muodostaa pelkästään sen Fiktio osuuden.”
Tuo lausunto edustaa ”täydellisen asiantuntemattomuuden tuomaa varmuutta”. Ei se mitään. Mutta sitä karumpaa (tai onnellisempaa) voi olla herääminen todellisuuteen.
Vastaukset 8
Vanhimmat
"AGI- ja semanttisella teknologialla tulee 10-20v kuluessa olemaan valtava vaikutus käytännössä kaikkien ihmisten elämään."
Tai sitten ei. Kukaan ei tiedä tuota ja "valtavien vaikutusten" ennustelulle ei ole olemassa erityisen vakuuttavia ja uskottavia perusteluja jolloin nuo tekoälyjutut alkavat helposti vaikuttamaan vain uskonasioilta.
"2. Tietokonejärjestelmällä ei voi olla minkäänlaisia tavoitteita, motivaatiota, aloitekykyä, arvojärjestelmää tms."
Miksi ja mihin kone tuollaisia tarvitsisi?
"2. Tietokonejärjestelmällä ei voi olla minkäänlaisia tavoitteita, motivaatiota, aloitekykyä, arvojärjestelmää tms."
"Miksi ja mihin kone tuollaisia tarvitsisi?"
Oikea kysymys olisi: "Mihin älykäs järjestelmä (ihminen tai keitekoinen älykäs järjsestelmä) tarvitsee tavoitteita, motivaatiota, aloitekykyä, arvojärjestelmää ym...?"
Vihjeenä kysymykseen vastaukseen voisit guuklata käsitettä "filosofinen zombi". Varmaan arvaat, että mielestäni "filosofinen zombi" on käytännössä ja ehkä teoriassakin mahdoton olio.
"Oikea kysymys olisi: "Mihin älykäs järjestelmä (ihminen tai keitekoinen älykäs järjsestelmä) tarvitsee tavoitteita, motivaatiota, aloitekykyä, arvojärjestelmää ym...?" "
Ei tuo ole oikea kysymys vaan kategoriavirhe. Ihminenhän ei ole "älykäs järjestelmä".
Pikemminkin vain älykäs sosiaalinen _eläin_. Ja arvojärjestelmät ovat seurausta sitä ihmisen sosiaalisuuden "luonnosta" eli se mihin ihminen sellaista tarvitsee selittyy ihmisen olemuksella.
Eli mielestäni kysymys säilyy: mihin tekoäly arvojärjestelmä tarvitsisi?
Filosofinen zombi on tuttu käsite, mutta en keksi miten sen arvelit liittyvän asiaan.
Ihminenhän ei ole "älykäs järjestelmä".
Minun ontologiassani ihminen, ihmisaivot, on ainoa tunnettu älykäs järjestelmä maailmankaikkeudessa tällä hetkellä, siis "yleisälykäs".
Älykäs järjestelmä tarvitsee tavoitehierarkian ja arvojärjestelmä sisältää funktiot, joilla vaihtoehtoisia tavoitteita ja toiminnan tuloksia arvioidaan ja arvotetaan.
"Minun ontologiassani ihminen, ihmisaivot,"
Tarkista todellisuuskäsityksesi vai oletko sitä mieltä, että aivot säilyttävät ihmisyyden jos niitä olisi mahdollista ylläpitää elossa purkissa?
Tekoälyhän olisi "aivot purkissa" ja se ei ole mikään triviaalin ongelma vaikkapa juuri niiden arvojärjestelmien tarpeen kannalta.
"Minun ontologiassani ihminen, ihmisaivot, on ainoa tunnettu älykäs järjestelmä maailmankaikkeudessa tällä hetkellä, siis "yleisälykäs". "
"Tarkista todellisuuskäsityksesi vai oletko sitä mieltä, että aivot säilyttävät ihmisyyden jos niitä olisi mahdollista ylläpitää elossa purkissa? "
Kyllä säilyttävät. Keho on osa ihmistä, mutta esim indaliditeetti ei vähennä yksilön ihmisyyttä.
Mutta joka tapauksessa ihmisaivot ovat älykäs järjestelmä. Oleellisten toimilaitteiden (aistit, motoriset elimet ym) olemassaolo ei muuta em. seikkaa miksikään. Keinotekoinen älykäs järjestelmä voi olla älykäs ilman mekanisia aisteja ja toimilaitteitakin. Tiedän, että viittaat sosiaaliseen järjestelmään, ja se on tärkeä oppimisvaiheessa, mutta yksi tärkeä yleisälykkään järjestelmän tunnusmerkki on se, että se voidaan siirtää olosuhteista toiseen, sosiaalisesta ympäristöstä toiseen, ja järjestelmä silti on toimintakykyinen, siis kokonainen järjestelmä, ei esim toimintakyvytön suuremman järjestelmän osa (kuten kapea tekoäly). Vaikuttava asia ei ole, että esim. ihminen tarvitsee ympäristöltään hengitysilmaa, ravintoa ja suojaa. Järjestelmä on järjestelmä vaikka se olekaan yksin maailmankaikkeudessa.
Kysymys on viime kädessä semantiikasta ja määritellyistä ontologioista.
http://www.technewsworld.com/story/IBM-Academics-Seek-to-Create-a-Computer-Thats-More-Like-Us-65237.html
Ei tässäkään olla tekemässä koneihmistä, vaikka kiinnostava hanke onkin. IBM, Darpa ja muutamat yliopistot ovat $5milj hankkeessa kehittämässä uutta tietokonearkkitehtuuria, joka perustuu Blue-Brain projektin tuloksille cortical column simuloinneista. Todella kiinnostavaa, mutta he eivät ole kopioimassa ihmisen aivoja, eikä kyseessä ole oikea Yleisen Tekoälyn kehityshanke. Oletan, että hanke tuottaa paljon osaamista ja ymmärrystä, mutta ei yhtä suoranaista tuotetta tulevieen vuosien kuluessa. Ehkä rahat voisi käyttää paremminkin, no en tiedä...