Fileas:
http://keskustelu.suomi24.fi/show.fcgi?category=2000000000000020&conference=681&posting=22000000022344690
"Toistan vielä: KONE EI KOSKAAN TULE OLEMAAN ÄLYKÄS MISSÄÄN MIELESSÄ!!! "
Minua ei sinänsä pätkääkään kiinnosta, että jollakin (monilla?) on jämähtänyt uskonnollissävyinen varmuus "biologisen älykkyyden" ylivertaisuudesta "keinotekoiseen älykkyyteen". Mutta koska tällainen harhaluulo on hyvin vaarallinen siten, että se estää ko yksilöitä ymmärtämästä edessä olevia lähes väistämättömiä muutoksia, niin on pakko sanoa jotakin.
Sen kaltainen tekniikan, hyvinvoinnin ja elämäntapamuutosten kehitys, joka on jatkunut viimeiset 60v ei tule jatkumaan seuraavaa 60v ajan!
Näen kaksi mahdollisuutta:
1. Globaalin tuho tai taantuma, joka voi johtua esim:
- Ydinsodasta
- Pandemiasta
- Globaalista ympäristökatastrofista
- Globaalista orwell-tyyppisestä diktatuurista.
ym.
Nämä ilmiöt siis voisivat pysäyttää teknisen kehityksen sadoiksi tai tuhansiksi vuosiksi tai lopullisesti.
2. Tekninen singulariteetti: tekninen kehitys ottaa itse ohjat haltuunsa. Ihminen lakkaa olemasta globaali vaikuttaja.
Muiden mahdollisuuksien todennäköisyys on mielestäni, ei nolla, mutta alle 1%!!! Enkä osaa sanoa kumpi kahdesta edellisestä on todennäköisempi. Jälkimmäistä pidän selvästi parempana. Siksi sen edestä kannattaa työskennellä. Olen siis "singularitaani".
Mielestäni on tärkeää tiedostaa asiantila, vaikka emme siihen perustasolla voikaan vaikuttaa. Mutta jos ymmärrämme asian, me ehkä voimme vaikuttaa jonkinverran. Juuri sen verran kuin on meille itsellemme ratkaisevaa.
Sitten tuohon oppiin.
" Kyse on yksinkertaisesti siitä, että ihmisellä on kova MOTIVAATIO oppia, esimerkiksi väistelemään esteitä. Ruumiiseen nimittäin sattuu, jos johonkin törmää. Mutta tietokoneella ei ole. Eritoten sillä ei ole sukupuoliviettiä, joka on vastuussa eräiden psykologien mukaan jopa 80% käyttäytymisestämme.
Tämä on ristiriita, jota kone ei voi koskaan ratkaista. Sillä ei ole varsinaista tarvetta tehdä yhtään mitään- Elämällä on. "
Miksi ei olisi? Jos ihmisellä on "super-goal": "lisäänny ja täytä maa", tietojärjestelmällä voi olla joku muu päämäärä. Ja on hyvin tärkeää, että tuo päämäärä on meidän kannaltamme mielekäs.
Motivaatiosta: ihmisellä on käsitepari mielihyvä ja mielipaha, jotka ohjaavat ihmisen toimintaa. Tämä mekanismi ei ole erityisen monimutkainen, periaatteessa. Siihen tulee mukaan ehdollistaminen, joka luo abstrakteja mielihyviä, mutta se ei muuta perusideaa, joka on hyvin toteutettavissa myös tietokoneelle.
Tuo omenajuttu on primitiivistä höpinää. Tutustu vaikka näihin (no et tietenkään tee sitä):
http://www.novamente.net/file/AAAI04.pdf
http://www.numenta.com/Numenta_HTM_Concepts.pdf
http://keskustelu.suomi24.fi/show.fcgi?category=2000000000000020&conference=681&posting=22000000022344690
"Toistan vielä: KONE EI KOSKAAN TULE OLEMAAN ÄLYKÄS MISSÄÄN MIELESSÄ!!! "
Minua ei sinänsä pätkääkään kiinnosta, että jollakin (monilla?) on jämähtänyt uskonnollissävyinen varmuus "biologisen älykkyyden" ylivertaisuudesta "keinotekoiseen älykkyyteen". Mutta koska tällainen harhaluulo on hyvin vaarallinen siten, että se estää ko yksilöitä ymmärtämästä edessä olevia lähes väistämättömiä muutoksia, niin on pakko sanoa jotakin.
Sen kaltainen tekniikan, hyvinvoinnin ja elämäntapamuutosten kehitys, joka on jatkunut viimeiset 60v ei tule jatkumaan seuraavaa 60v ajan!
Näen kaksi mahdollisuutta:
1. Globaalin tuho tai taantuma, joka voi johtua esim:
- Ydinsodasta
- Pandemiasta
- Globaalista ympäristökatastrofista
- Globaalista orwell-tyyppisestä diktatuurista.
ym.
Nämä ilmiöt siis voisivat pysäyttää teknisen kehityksen sadoiksi tai tuhansiksi vuosiksi tai lopullisesti.
2. Tekninen singulariteetti: tekninen kehitys ottaa itse ohjat haltuunsa. Ihminen lakkaa olemasta globaali vaikuttaja.
Muiden mahdollisuuksien todennäköisyys on mielestäni, ei nolla, mutta alle 1%!!! Enkä osaa sanoa kumpi kahdesta edellisestä on todennäköisempi. Jälkimmäistä pidän selvästi parempana. Siksi sen edestä kannattaa työskennellä. Olen siis "singularitaani".
Mielestäni on tärkeää tiedostaa asiantila, vaikka emme siihen perustasolla voikaan vaikuttaa. Mutta jos ymmärrämme asian, me ehkä voimme vaikuttaa jonkinverran. Juuri sen verran kuin on meille itsellemme ratkaisevaa.
Sitten tuohon oppiin.
" Kyse on yksinkertaisesti siitä, että ihmisellä on kova MOTIVAATIO oppia, esimerkiksi väistelemään esteitä. Ruumiiseen nimittäin sattuu, jos johonkin törmää. Mutta tietokoneella ei ole. Eritoten sillä ei ole sukupuoliviettiä, joka on vastuussa eräiden psykologien mukaan jopa 80% käyttäytymisestämme.
Tämä on ristiriita, jota kone ei voi koskaan ratkaista. Sillä ei ole varsinaista tarvetta tehdä yhtään mitään- Elämällä on. "
Miksi ei olisi? Jos ihmisellä on "super-goal": "lisäänny ja täytä maa", tietojärjestelmällä voi olla joku muu päämäärä. Ja on hyvin tärkeää, että tuo päämäärä on meidän kannaltamme mielekäs.
Motivaatiosta: ihmisellä on käsitepari mielihyvä ja mielipaha, jotka ohjaavat ihmisen toimintaa. Tämä mekanismi ei ole erityisen monimutkainen, periaatteessa. Siihen tulee mukaan ehdollistaminen, joka luo abstrakteja mielihyviä, mutta se ei muuta perusideaa, joka on hyvin toteutettavissa myös tietokoneelle.
Tuo omenajuttu on primitiivistä höpinää. Tutustu vaikka näihin (no et tietenkään tee sitä):
http://www.novamente.net/file/AAAI04.pdf
http://www.numenta.com/Numenta_HTM_Concepts.pdf
Vastaukset 17
Vanhimmat
Puhut kuin Saarnaaja. Uskosi lie uusi uljas konemaailma.
Mutta:
Miksei Kone ole jo täällä, sillä onhan sillä ollut toistakymmentä miljardia vuotta aikaa tulla ?
Miksi se tulee juuri nyt 60 vuoden sisällä ?
Voihan se kuullostaa saarnaamiselta, mutta minä en mihinkään tällaiseen "usko". Voin hyvinkin olla väärässä, mutta asiat vain nyt näyttävät tältä kun on tulvinut tietoa silmät auki olevalle.
"Miksei Kone ole jo täällä, sillä onhan sillä ollut toistakymmentä miljardia vuotta aikaa tulla ?
Miksi se tulee juuri nyt 60 vuoden sisällä ?"
No katsos kun teknologia ja siten myös teknologinen singulariteetti on ihmisen tuote ja tarvitsee syntyäkseen ihmisen ja riittävän pitkälle kehittyneen inhimillisen teknisen sivilisaation. Eikö tämä ole ilmeistä?
Se on voinut mahdollisesti jo tapahtua jossakin muualla maailmankaikkeudessa, mutta siitä on vaikea saada tietoa.
Se 60v. Katsoin vain taaksepäin ja tarkoitan sitä aikaa, joka on kulunut Toisen Maailmansodan loppumisesta. Ihmistasoinen tekoäly voi toteutua (pienellä todennäköisyydellä) jo 5-10v kuluessa, mutta todennäköisimmin vasta 10-20v kuluessa ja melko epätodennäköisesti vasta pitkään sen jälkeen. On vaikea sanoa kauanko tästä tapahtumasta kestää singulariteettiin. Toivottavasti mahdollisimman pitkään, mutta tuskin yli 20v. Kuten aikaisemmin sanoin, sitten "hänet" joko päästetään vapaaksi tai "hän" karkaa. Esim 1000x ihmistä älykkäämpi järjestelmä ei pysy hetkeäkään hallinnassa.
Sitten vielä: en minä odota ja toivo tätä vaan pelkään sen tapahtuvan. Toivon silti kaiken menevän hyvin. Koska erittäin todennäköisesti asiaa ei voi estää, niin on parempi, että toteuttajat ovat tehtävänsä tasalla. Nyt julkisuudessa olevat projektinjohtajat ilmeisesti ovat, toivottavasti. Mutta heitä voi olla muitakin...
Torakat ovat täällä tallustelleet ja sopeutuneet lajinsa säilyttäen kauan ennen ihmistä hyvin hyvin pitkään. Hyvin todennäköisesti ne sopeutuvat ja tallustelevat edelleen hyvin hyvin (miljoonia ja miljoonia vuosia) edelleen.
Mitä tämä julistamasi älyn uusi ja voimaksa tuleminen lopultaan on ? Ihminen älyineen on aivan vastatullut ja (sallinet ennustukseni) on hyvinkin pian mennyt ja menoansa siivittävät pahan kerran kaiken maailman älynväläyksensä.
Tilalle tulisi 100 tms. kertainen koneäly. Mitä se tekisi ? Ratkoisi 100 x vaikeampia ristisanatehtäviä, tuhoaisi ihmiskunnan lujemmilla pyssyillä, kaivaisi maasta öljyä niveltensä rasvaukseen, lentelisi avaruusraketeilla sinne tänne ? Kun sanot, että et ole Koneuskovainen, niin silloin varmaan tiedät objektiivisen reaalitotuuden. Yritän kysyä, että mitä se korkea äly oikein tekisi, mitä sillä olisi tarvetta tehdä, minkä vuoksi ? Itse en näe sen lopultaan olevan muuta kuin tyhjän kuplan ja käsittämättömän bittien sekamelskan vailla mitään tarkoitusta !
Mutta torakka se jatkaa kulkuaan. Miksi ? Sitä ei kukaan ole tietänyt eikä tule tietämään, mutta kaitpa siinä jokin tarkoitus on !
Superäly, joka vastaa 1000-1milj x ihminen on tavoitteeltaan ja toimintatavoiltaan ihmisen käsittämättömissä samaan tapaan kuin ihmisen mietteet ovat torakalle käsittämättömiä. Juuri tämän suhteen vuoksi puhutaan teknologisesta singulariteetista.
Singulariteetti voi esim. olla ihmisen tavoin ekspansiivinen: sillä voi olla halu kehittää itseään "rajattomiin" ja ottaa kaikki luonnonvarat vaikkapa nanoteknologiaa käyttäen haltuunsa. Se saattaa haluta etsiä kaltaistaan seuraa maailmankaikkeudesta. Tämä voi merkitä koko biosfäärin tuhoa. Toisaalta se voi jättää nostalgisista syistä maapallon "luonnonpuistoksi", muistoksi alkuperästään ja siirtyä muualle. Nämä ovat molemmat oikeasti vain torakan typeriä arvailuja torakkaperspektiivistä.
Mutta voi käydä paremminkin. Ehkä me voimme vielä vaikuttaa asiaan..
"Ihminen älyineen on aivan vastatullut ja (sallinet ennustukseni) on hyvinkin pian mennyt.."
Voit olla oikeammassa kuin luuletkaan.
Olen kanssasi hyvin pitkälle samaa mieltä käynnissä olevasta kehityksestä joka hyvinkin saattaa johtaa mainitsemaasi 'teknisen superälyn singulariteettiin' ehkäpä jo vuosikymmenten kuluttua.
Tästä eteenpäin näen kehityksen kuitenkin perin erilaisena kuin sinä.
1. On mieletön kuvitelma, että ihminen voisi synnyttää jonkun uuden älyolion, joka itsenäisenä alkaisi valloittaa maailmoja. Siis ihminen loisi uudenlaisen elämän muutamassa vuosikymmenessä, kun luonnolta meni elämän luomiseen muutama vuosimiljardi.
2. Tietokoneiden kehitystä ohjaa ihminen omilla tunteillaan ja vaistoillaan. Tarkoitan tällä, että kehityksen päämääränä on esim. valta hallita muita, taloudellinen hyöty, sotalaitteiden kehitys jne. Ihminen ei ole muuttunut Aatamista joka hioi kivikirvestään. Kirves on vain aivan eri mittaluokkaa.
3. Superälyllä ei ole eikä tule mitään eettistä hyvän elämän ideaa, vaan se toimii ihmisen alulle panemista ohjelmista lähtöisin. Mikään globaalinen hyvän elämän idea -joka voitaisiin syöttää tietokoneohjelmaan esimerkiksi kansainvälisenä yhteistyönä- tuskin onnistuu. Ei ole onnistunut tähänkään mennessä.
4. Voi hyvin kuvitella, että tietojenkäsittely etenee jonkinlaiseen 'superälyn singulariteettiin'. Kaikki tieto on mäiskitty koneisiin, ohjelmat ja tietojen käsittelynopeus ovat ylivoimaiset eivätkä enää anna sijaa ihmisen päätännälle. Kehitys senkun kiihtyy ja ihmiset luopuvat omasta päätännästään kun kone hoitaa joka paikassa kaiken ja syytää aluksi hyvinvointia ja sitten yhä kiihtyvällä nopeudella pahoinvointia.
5. Edellisen seurauksena ihminen tukehtuu paskaan. Mahtaako siihen kulua enää edes vuosituhansia.
6. Lopputuloksena maapallo jatkaa pyörimistään ja siellä täällä säilynyt luonto rykäisee paskat pois aloittaen jälleen kerran uudestaan. Ehkäpä pikku torakat ovat jälleen niitä selviytyjöitä jotka kantavat elämän siemenen uuteen kasvuun.
" On mieletön kuvitelma, että ihminen voisi synnyttää jonkun uuden älyolion, joka itsenäisenä alkaisi valloittaa maailmoja. Siis ihminen loisi uudenlaisen elämän muutamassa vuosikymmenessä, kun luonnolta meni elämän luomiseen muutama vuosimiljardi."
Kyllähän se kuullostaa epäintuitiiviselta. Myönnän sen. Mutta oletan, että ei tarvitse kehittää olellisesti uutta, vain toteuttaa ihmisenkaltainen luovuus ja älykkyys hyödyntäen esim. niitä piitekniikan hyviä puolia (nopeus, täsmällisyys), jotka päihittäisivät biologiset, hitaat, kohinaiset "wetware-aivot". Simpanssien ja ihmisen aivojen oleellisin ero on neocortexin koko. Molempien aivojen yleinen arkkitehtuuri (muutamaa tärkeää poikkeusta lukuunottamatta) on sama. Suuri neocortex mahdollistaa monimutkaisemman, abstraktimman maailmankuvan ja suurempien kokonaisuuksien hallinnan.
Jos jatketaan samaa ajatusta (siitä huolimatta, että useimmat hankkeet jonkinverran eroavat ratkaisuiltaan ihmisaivoista, esim Novamente), niin toteuttamalla muuotoin ihmisenkaltaiset, mutta 1000-kertaiseen monimutkaisuuteen kykenevät keinoaivot, niin miksi se ei pystyisi paljon enempään, kuin mitä me pystymme edes kuvittelemaan? Tämä on siis vain ajatuskoe. Todellisuudessa vain pari hanketta yrittää edes suurinpiirtein kopioida ihmisen aivoja. Muut hankkeet käyttävät ihmisaivoja vain referenssinä ja inspiraation lähteenä. Nämä hankkeet väittävät pystyvänsä tehokkaampiin ratkaisuihin kuin stokastinen evoluutio hyödyntämällä matemaattisia, eksakteja metodeja.
Lisäksi luonnolla ei ollut tavoitetta, jota kohti pyrkiä. Evoluution ainoa tavoite on turvata geenien säilyminen, ei eksplisiittisesti tuottaa älykkyyttä. Älykkyys oli vain yksi evoluution kehittämä kokeilu tämän suuremman päämäärän saavuttamiseksi. (Voi olla, että kokeilu epäonnistuu!) Inhimillinen tutkimus ja tuotekehitys eroaa päämääriltään (ja menetelmiltään) evoluutiosta.
Mihin luonto tarvitsisi superälyä ? Universumin itsensä kannalta siitä ei ole mitään hyötyä, sillä kaikki asiat ovat jo olemassa, lopulliset luonnonlait toimivat, missään ei ole mitään salaisuuksia. Mihin luonto siis superälyä tarvitsisi ? Mitä se superäly itselleen osaisi antaa ? Sellaisella jota ei kukaan tarvitse ei ole itsenäistä elämän mahdollisuutta.
Ihmisen elämää se varmaan aluksi helpottaisi ja uteliaisuutta tyydyttäisi, mutta melko vähälläkin mielikuvituksella toteaa, että se johtaa hyvin pian ihmiskunnan degeneroitumisen ja sitä myötä luhistumiseen. Samalla se luhistuu itsekin.
Vaikea superälystä on kuitenkin väitellä, koska kukaan ei tiedä vaan joutuu intuatiivisesti arvailemaan.
Jos vetoa löisin joko ihmisen tai pikku torakan säiulyvyyden puolesta, niin arvannet minkä puolesta ehdottomasti löisin.
Hyvää Uutta Vuotta !
"Mitä se superäly itselleen osaisi antaa ? Sellaisella jota ei kukaan tarvitse ei ole itsenäistä elämän mahdollisuutta. "
Kysymys on vähän sama, kuin millaista olisi olla kaikkivoipa Luoja. Superäly voisi luoda uuden todellisuuden sisässään, kokeilla erilaisilla maailmoilla ja lainalaisuuksilla. On usein esitetty arvaus, että jo nyt me elämme jonkun oman todellisuutemme ulkopuoleisen älyn luomassa simulaatiossa: meitä ei ehkä oikeasti ole olemassa.
http://www.simulation-argument.com/
Mutta olet oikeassa. Superälystä ei ole mielekästä esittää ehdottomia väitteitä koska me emme voi ymmärtää mikä se oikeasti on: se on singulariteetti.
Mutta on ehkä todennäköisempää ykkösvaihtoehto: tulee iso katastrofi..
Toivottavasti ei ihan vielä!
Hyvää uutta vuotta!
"Esim 1000x ihmistä älykkäämpi järjestelmä ei pysy hetkeäkään hallinnassa. "
Tai voisiko ehkä väittää, että se "tylsistyy" 1000x nopeammin? Tai tieteellisemmin sanottuna, se siirtyy 1000x nopeammin siihen tilaan missä useimmat PC-tietokoneet ovat suurimman osan ajasta eli useimmat millisekuntinsa?
Usein kuulee väitteitä kuinka mahdotonta superälystä on tietää mitään. No, tietääkö siitä sitten edes sen tarkoittaako superäly superoutoa tai superyllättävää, vai supernopeaa siirtymistä odottavaan tilaan? Vaiko joissain tapauksissa, hidasta ja hidastuvaa optimin lähestymistä, jossa kellojaksolle saadaan yhä vähemmän ja vähemmän vastinetta?
Miten Turingin pysähtymisongelma yms. pitää huomioida tässä? Luulisin, että tietokoneohjelma nimeltä superäly voi myös ns. terminoitua, kuten terminoituu esim. taulukonlajittelualgoritmikin?
"Miten Turingin pysähtymisongelma yms. pitää huomioida tässä? Luulisin, että tietokoneohjelma nimeltä superäly voi myös ns. terminoitua, kuten terminoituu esim. taulukonlajittelualgoritmikin? "
Minä olen ymmärtänyt, että pysähtymisongelmassa etsitään vain yleistä ratkaisua sellaisiin tarpeisiin, joissa ohjelman pysähtymistä todella halutaankin. Sen sijaan reaaliaikajärjestelmissä, jotka ovat minulle tutumpia kuin eräajo-ohjelmat, ohjelma pyörii tyypillisesti "do..while(1)-tilassa", eli ikuisessa luupissa, josta tullaan ulos vain kun sähköt katkaistaan tai vahtikoira laukeaa. Tämä on myös biologisen kyberneettisen järjestelmän perustila ja olettaisin myös superälyn päätyvän tähän tilaan.
"Minä olen ymmärtänyt, että pysähtymisongelmassa etsitään vain yleistä ratkaisua sellaisiin tarpeisiin, joissa ohjelman pysähtymistä todella halutaankin."
Muutama asia tästä pitää korjata. Ensinnäkin "ongelmassa" ei etsitä "ratkaisua" ja siis ei ole mieltä puhua jossain ongelmassa etsittävään ratkaisuun. Pysähtymisongelma on tarkasti määritelty tehtävä, jolle ei ole olemassa ratkaisua ja se että ratkaisua ei voi olla voidaan todistaa.
Ei pysähtymisongelmassa mitään "etsitä". Se vain tarkoittaa, että tarpeeksi ilmaisuvoimaisessa ohjelmointikielessä ei voida kirjoittaa ohjelmaa, joka ottaisi argumenttinaan toisen samalla kielellä kirjoitetun kielen ohjelman koodin ja syötteen ja voisi niiden perusteelta sanoa pysähtyykö kyseinen ohjelma annetulla syötteellä (joskus sen voi tietenkin sanoa, mutta ei aina).
Muusta keskustelusta ei voi kuin todeta, että on teillä näkemykset ja ajatukset :)
"...tarpeeksi ilmaisuvoimaisessa ohjelmointikielessä ei voida kirjoittaa ohjelmaa, joka ottaisi argumenttinaan toisen samalla kielellä kirjoitetun kielen ohjelman koodin ja syötteen ja voisi niiden perusteelta sanoa pysähtyykö kyseinen ohjelma annetulla syötteellä (joskus sen voi tietenkin sanoa, mutta ei aina). "
Näinhän se on. Mutta ilmeisesti ihminenkään ei pysty parempaan. Kysymys: onko tästä mitään asiayhteyteen liittyviä jatkoseurauksia?
"Muusta keskustelusta ei voi kuin todeta, että on teillä näkemykset ja ajatukset :) "
Eri mieltä saa vapaasti olla. Mutta olisi hyvä ainakin pohdiskella asiaa.
Perustelenpa vielä hieman, miksi olen 99% varma siitä, että saadessaan ilman katastrofeja jatkua, nykyinen tiede ja teknologia johtaa singulariteettiin 20v-40v kuluessa.
1. Selvin asia: Mooren laki jatkuu jossakin muodossa vielä pitkään ja siis laskennallinen kapasiteetti kaksinkertaistuu n. kahdessa vuodessa ja siten satakertaistuu n. 13 vuodessa: Ennenpitkään se ei ainakaan ole pullonkaula.
2. Kuvantamismenetelmät ym kehittyneet menetelmät vievät neurologista ymmärrystä ja neurokognitiotiedettä reipasta vauhtia eteenpäin. Olen seurannut tätä kehitystä aktiivisesti 80-luvulta lähtien. Ihmisaivoja ymmärretään yhä paremmin. Samoin esim. Blue Brain -projekti nostaa laskennallisen neurologian tuoman ymmärryksen aivan uudelle tasolle.
http://bluebrainproject.epfl.ch/
Ihmisaivojen toiminta ei enään ole mikään täydellinen arvoitus. Neurologinen perusta on tunnettu jo jonkin aikaa samoin kuin ylimmän hierarkian toiminnallinen jako aivoissa. Nyt selvitetään eteenkin mitä näiden välissä on eli eri aivolohkojen paikallista arkkitehtuuria. Paljon on jo saatu selville, esim tärkeät hippokampus ja talamus osasataan mallintaa aika hyvin ja aivokuori, neocortex on työn alla.
3. Poikkitieteellinen keskustelu esim. neurologisen ymmärryksen, probabilististen tekoälymallien ja algoritmisen informaatioteorian välillä jatkuu vilkkaana. Erilaiset lähestymistavat tukevat toisiaan.
http://en.wikipedia.org/wiki/Algorithmic_information_theory
4. Kapean tekoälyn sovellukset tulevat yhä vaativammiksi mm. internetsovellusten (esim data mining) ja robotiikan (esim. sotilassovellukset) aloilla. Siirtyminen yleiseen tekoälyyn on vain ajan kysymys.
5. Parhaillaan on menossa ainakin puoli tusinaa erittäin laadukasta yleiseen tekoälyyn (AGI) tähtäävää projektia. Tunnen niistä lähemmin paria, johon olen aina välillä viitannut. Vaikka mikään näistä ei lähivuosina onnistuisikaan, ne tuovat sellaista ymmärrystä, josta ei voitu kuvitellakaan esim 20v sitten.
6. Vaikka meidän kaikkien työpaikat (myös palvelualoilla) ovat vaarassa, niin globaali paine parantaa tuottavuutta pitää automaation kehityksen kulloinkin keihäänkärkenä olevalla alueella hyvin rahoitettuna.
7. Nanotekniikka voi tuoda isoja hyppäyksiä sekä tieteen tutkimusmenetelmiin että käytännön tekniikkaan seuraavan 15v kuluessa.
8. Last but not least: kehitys ei ole lineaarista vaan eksponentiaalista. Siis lyhyellä tähtäimellä on usein liian suuria odotuksia, mutta pidemmällä tähtäimellä koetaan isoja yllätyksiä.
" Wiion laki tulevaisuuden ennustamisesta: "Lähitulevaisuus yliarvioidaan ja kaukainen tulevaisuus aliarvioidaan"
Näytät Yusa usein askartelevan (tai kirjoittelevan) tästä teknologian kehitysryöpsystä tai alkuräjähdyksestä, missä älykäs teknologia tuottaa yhä älykkäämpää teknologiaa (näin ymmärrän tuon singulariteetin).
Tämä on hyvin kiintoisa asia. Esim. ihmisäly ei ole kovinkaan merkittävästi pystynyt tuottamaan yhä suurempaa älyä, vaan uskoakseni menneen ajan älyköt olivat nykyisten veroisia. Geeniteknologia voi avata uusia näköaloja tällä suunnalla, jos vapaaehtoisia vaan löytyy.
Sitten toisekseen ei ole merkkejä, että tuollainen eksponetiaalinen älyteknologia syntyisi spontaanistikaan ilman luojaa, älykästä suunnittelijaa. Näin sanon, koska moista havaintoa ei ole tiedossani. Siispä toivo superälyn synnyttämisessä lepää keskinkertaisesti älykkään luojan, ihmisen varassa. Tekisi mieli asettaa "älydynamiikan" peruslaiksi raja, ettei luotu voi olla luojaansa luovempi (=älykkäämpi). Siis ihmiskunnan luovuuspotentiaali on oleva aina suurempi kuin ihmisten tuottaman keinoälyn. Tämä laki nyt olisi vain sikäli hyödyllinen, että se olisi periaatteessa kumottavissa (kunhan mittarit saadaan kuntoon).
Ihminen toimii rajattomassa mahdollisuusavaruudessa älykkäästi. Keinoälyt näyttäisivät toistaiseksi toimivan hyvin rajallisissa (ihmisten määräämissä) ongelmissa älykkäästi. Aistien lisääminen toki mahdollistaa tämän rajoittamattoman mahdollisuusavaruuden kohtaamisen keinoälyolioillekin.
Ihmislapsi joka kasvaa eläinten hoivaamana pienestä pitäen kasvaa melko eläimelliseksi, eikä ole merkkejä, että hänen älynsä kehittyisi merkittävästi. Voisiko tässä ajatella, että aivokapasiteetti suuntautuu toisin, ei tule ainakaan inhimillisen opitun tiedollisen viisauden vaikuttamaksi.
Kone"lapselle" voisi ehkä järjestää kapasiteettia enemmän kuin ihmisaivoissa on. Isompi pää ei ehkä olisi ongelma, jos vaikka aivojen tietotiheyteen ei pääsisikään ( ulkoiset aivot "bluetoothilla"). "Kasvattivanhemmiksi" olisi aluksi varmaankin järjestettävä ihmisiä.
Mitä tämän ensimmäisen sukupolven koneiden pitäisi pystyä tekemään? Tuottamaan itseään (ei välttämättä vielä ihmistä) älykkäämpi seuraava sukupolvi. Mutta eikö se vaatisi älyn, oppimisen ja aivojen rakenteen suhteiden ratkaisemista, mitä ei ole ihmiskuntakaan vielä tehnyt? Eli näyttäisi siltä, että jo ensimmäisen sukupolven olisi oltava edellä ihmisiä, vaikka ne olisivatkin ihmisten "kasvattamia".
No joo, tuossa se ongelma taitaa olla ja syy siihen, miksi "älydynamiikan" peruslaki on vielä rikkomatta, luotu ei ole luojaansa luovempi, siis älykkäämpi. Jos pystyttäisiin tekemään vaikka koiraa (tai ameebaa) "tyhmempi" kone, joka osaisi opettaa ja rakentaa seuraavasta sukupolvesta itseään älykkäämmän, älyn räjähdykselle ei ehkä olisi esteitä. Nyt niitä näyttää olevan. Keinoälyn kehitys on ihmisen luovuuden varassa, niinkuin on muuten se Mooren lakikin.
Olen hyvin tyytyväinen, kun joku pukee ajatuksensa tästä aihepiiristä selkeään muotoon, heittelemättä väitteitä lonkalta. Jos sanoo jotain, pitäisi myös edes yrittää perustella tai sitten olla hiljaa.
Tämä "älydynamiikan peruslaki", tai mielummin vain hypoteesi, on intuitiivisesti hyvin mielekäs:
"Luotu ei voi olla luojaansa luovempi (=älykkäämpi)." Kuullostaa uskottavalta.
Jos se olisi totta, sen perustana pitäisi olla joku sellainen hypoteesi kuin "älykäs olento ei voi koskaan ymmärtää täysin oman älynsä perusteita". Siis perusteita tai arkkitehtuuria ja toteutusta. Tämä täytyisi vuorostaan aina johtua siitä, että näiden tietämyksellinen rakenne on niin monimutkainen, että se ei voi mahtua rakenteeseen, joka niiden mukaan on toteutettu.
Mutta onko näin? Eikö olisi mahdollista, että kognitiiviseen rakenteen arkkitehtuuri ja toteutustapa on lopulta niin yksinkertainen, että niiden mukaan toteutettu riittävän kapasiteetin (nyt siirryttiin siis puhumaan kvantitatiivisistä asioista, ei arkkitehtuurista) omaavat aivot pystyy hallitsemaan tämän arkkitehtoorisen tietämyksen. Siis ei rotta eikä simpanssi, mutta ihminen kylläkin. Neurologinen ymmärrys on, että rotalla, simpanssilla ja ihmisellä on hyvin samankaltainen perusarkkitehtuuri aivoissaan, eteenkin aivokuoressaan. (Valaiden aivokuoren rakenne, kerrosten lukumäärä, eroaa tästä hieman.)
Ihmisen kognitiivisen arkkitehtuurin perusta on limbinen alue ja aivokuori. Limbinen alue sisältää sellaisia ajattelulle tärkeitä komponentteja kuin talamus ja hippokampus, joiden periaate ja toiminta ovat kaikilla nisäkkäillä hyvin samankaltainen. Aivokuoren tiedetään olevan hyvin modulaarinen. Ihmisellä ja muilla kädellisillä sen alueellinen jako on hyvin samankaltainen ja sen kerrostunut rakenne on sama. Kerrostunut rakenne jakautuu "kolumneiksi", jotka edelleen jakautuvat "minikolumneiksi". Kolumnit kytkeytyvät toisiinsa hierakista arkkitehtuuria noudattaen. Niiden sisäinen rakenne näyttää olevan kaikissa aivokuoren alueissa, näköaivokuorella, kuuloaivokuorella, muilla sensorisilla alueilla, motorilla alueilla ja myös "assosiatiivisillä" alueilla lähes identtinen, vain hienosäätöä esiintyy. Ero muiden kädellisten ja ihmisen aivokuoressa on kvantitatiivinen: meillä on kolumneja paljon enemmän. On muitakin parametreja, kuten kytkeytyvyys, "valkoisen aineen määrä". Sen tiedetään olevan naisilla suurempi kuin "putkiaivoisilla" miehillä.
Mutta asiaan taas. Minä siis oletan, että ihmisellä on tarpeeksi kapasiteettia ymmärtää koko tämä arkkitehtuuri niin tarkasti, että hän pystyy toteuttamaan vastaavia, jopa parenneltuja arkkitehtuureita teknologisesti mielekkäämmin. Ja kun näillä sitten kvantitatiivinen puoli, eli kyky ymmärtää syvempiä käsittellisiä hierarkioita (plus parenneltu versio ihmisen huonolle työmuistille) on toteutettu yli ihmisen kapasiteetin, niin en näe mitään epäloogista siinä, että olion luojan, ihmisen, luovuus ja älykkyys voidaan ylittää.
Kuten hyvin ymmärsitkin, tuo hypoteesini oli "hihasta vedetty", periaatteessa vastaanväittämistä varten. Parhaimmillaankin se olisi vain toistaiseksi voimassa. Mutta nimesin sen "älydynamiikan peruslaiksi" erään yhtäläisyyden johdosta. Eihän ikiliikkujankaan rakentamista ole osoitettu mahdottomaksi, ainoastaan rajallisesta määrästä havaintoja vedetty yleistys, termodynamiikan 2. pääsääntö ( 0,1 ja ehkä 3) on tiellä. Sehän on periaatteessa kumottavissa (falsifikaatiokriteeri) rakentamalla ikiliikkuja. Samoin "älygeneraattorin" rakentaminen kumoaa tuon hypoteesini. Esittämäsi mahdollisuusväitteet eivät ehkä ole kovin vakuuttavia kumoamaan hypoteesia, jos sekään ei ole kovin vakuuttava.
Verrattuna älykkääksi kutsuttuihin laitteisiin voidaan ameebassakin nähdä jotain samalla (tai miksei myös eri) tavalla älykästä. Vaikka käytettävissäni ei olekaan absoluuttista älymittaria, simpanssin älykkyys ylittänee ameeban älykkyyden. Ja huolimatta J. Viitalan esittämästä väitteestä, että Koko-gorillan älykkyysosamäärä olisi on 98 (verrattuna suomalaisten keskiarvoon 97!), ihmisen älykkyys ylittää simpanssin älykkyyden. (Parhaan "keinoälyn" sijaintia en osaa sanoa, varmaankin kuitenkin ameeban ylittää) Nyt sitten herää kysymys, onko syytä olettaa, että tuossa sarjassa ihmisen älykkyys olisi jotenkin merkittävä raja-arvo? Minusta voidaan aivan hyvin kuvitella, että olentoluokat A, B, C jne. muodostavat ihmistä älykkäämmän sarjan, jolle ei ole ihmisen käsittämää ylärajaa (= ääretön älykkyys?)
Vaikka tämä ei olekaan mikään pätevä vastaväite (niinkuin ei sinänsä ollut tuo hypoteesinikaan), niin eikö sinusta tunnu jotenkin ihmeelliseltä olettaa ihmisälyn olevan tuolla rajalla, että siitä vähän suurempi äly "räjähtäisi"? Minusta tuo vaikuttaisi kovin ihmeelliseltä asialta, jos noin olisi, siis epätodennäköiseltä. Siksipä edellisessä viestissäni yritin vihjata, että älygeneraattori voisi lähteä ihmisälyä matalammaltakin tasolta, jos siinä olisi se "juju", että se pystyisi generoimaan suurempaa älyä. (Tuo "peruslaki" kieltää juuri tuon jujun)
Aivojen rakenteen ja toiminnan selvittäminen voi ratkaista tämän ongelman toivomallasi tavalla. Ihmisellähän on mahdollisuus tallentaa tuo tieto paperille, kovalevylle tms. aivojen ulkopuoliselle välineelle (näin ei ainakaan yksien aivojen kapasiteetti rajoittaisi asiaa).
Itse älyn kasvatukseen ehdottelin raakaa geenimanipulaatiota. Samaan tulokseen voisi päästä sikiön/vauvan kasvun ohjailulla, niin että aivot kasvaisivat ylisuuriksi ja ryppyisiksi. (Joo, eettiset ongelmat on tässä ohitettu). Mutta eihän tuotakaan menetelmää voisi ehkä rajattomasti käyttää. Joku raja siinäkin voisi tulla vastaan. (Tästä kyllä irtoaisi monenlaista scifiä, vaikka sitten apinoiden planeettaa vastaavaakin) Tosin suurempi aivokapasiteettikaan ei taida automaattisesti taata suurempaa älyä ja luovuutta(valaat, norsut?) Oltaisiin tässä kuitenkin lähellä "peruslain" rikkomista.
Nykyihmisen äly riittänee parhaimmassakin tapauksessa vain sen ensimmäisen sukupolven yli-ihmisälyn kehittämiseen. Olisihan määritelmän vastaista, että tuo yli-ihmisäly olisikin heikompi kehittämään älykkäitä (kone?)aivoja kuin ihminen. Toinen asia on sitten, olisiko sillä motivaatiota. Hyvinkin voisi kuvitella, että älykkäät mottipäät kärsisivät elämästään, eivätkä haluaisi lisätä kärsimystä enempää. Pii-aivoissa ei olisi tätä kärsimysongelmaa (ehkä), mutta olisiko siltikään motivaatiota. Milläs tyhmemmät ihmiset saisivat itseään älykkäämmät koneet motivoiduksi?
Sota ihmisten ja yli-ihmisälyn välillä voisi toki motivoida lisä älyn kehittämisessä sen aikaa, kunnes ihmiset olisi sukupuutossa tai alistettu. Siltikään en näe mitään pakkoa, mikä luonnonlain tapaan pakottaisi aina vain suurempaan älyn kehittämiseen.
No, ehkä meni vähän ohi siitä mitä vastasit, mutta onhan tuo alkuperäisessä aiheessa kohtuullisesti.
".. niin eikö sinusta tunnu jotenkin ihmeelliseltä olettaa ihmisälyn olevan tuolla rajalla, että siitä vähän suurempi äly "räjähtäisi"? "
Tässä on kolme asiaa.
1. Ihmistä voi perustellusti pitää ensimmäisenä (meidän maailmamme) biologisena olentona, jolla on mahdollisuus ymmärtää omien aivojensa toiminta. No, tämäkin on vielä kiistanalaista, onko se meille, edes joillekin meistä mahdollista. Mutta siis ehkä piankin on. Koko (se gorilla) ei siihen pystyisi, eivätkä delfiinitkään suuremmista aivoistaan huolimatta (miksi? en tiedä).
2. Ihmisellä ei ole vielä mahdollista konstrukoida (oleellisesti) parempia biologisia aivoja, ehkei koskaan olekaan. Helpompi tehtävä todennäköisesti on luoda ihmisaivoja tehokkaammat keinotekoiset (kone-) aivot.
3. Näille keinoaivoille oman aivoarkkitehtuurinsa ymmärtäminen ja sen parantaminen on oleellisesti helpompaa kuin ihmiselle. Sillä on käytössään ihmiseltä saatuna kaikki tarvittava teknologia (jota se vielä voi parantaa). Siltä ehkä voidaan pimittää tätä tietoa jonkin aikaa, ehkä vuosikymmenenkin ajan erityistä varovaisuutta noudattaen, mutta ei loputtomiin. Kun itsensä parantaminen tulee sille mahdolliseksi, kehitys muuttuu voimakkaan eksponentiaaliseksi, "räjähtää".
Ollakseen edes ihmiselle tehokas, superälyllä on oltava motivaatio. Sillä on oltava joku "super goal", perimminen hyötyfunktio, jota se yrittää maksimoida. Tämä on keskeisiä ongelmia "ihmisystävällisen" superälyn kehittämisessä. Minulla on pelko, että tässä voidaan tehdä iso moka...
Ehkä ainoita, jotka tosissaan, todella vakavissaan yrttävät tätä "motivaatio"-asiaa selvittää, on Yudkowski. Muut ehkä vähättelevät ongelmaa. Minä pelkään..