Automaation, superälyn ja yleensä tietotekniikan yhteiskunnallisia ja muita vaikutuksia on syytä pohtia perusteellisesti, mutta mitä superälyyn tulee, niin sitten kun se on todellisuutta, niin siltä itseltään voi odottaa suurta viisautta näissäkin asioissa. Ei tiedä osaako se tuoda viisauttaan tarpeeksi hyvin esille jos siltä ei osata kysyä tarpeeksi hyvin. Ennen superälyn aikaansaamista voidaan ja on syytä pohtia mitä siltä ohjelmistolta pitäisi kysyä, jotta sen uuden teknologian (uuden ohjelmistotekniikan) vaikutukset pystyttäisiin hallitsemaan mahdollisimman hyvin? Aiheena "superälyteknologian vaikutukset ihmiskunnan tulevaisuuteen" on niin suunnattoman mutkikas ja laaja, että komiteat voisivat tehdä siitä monta tuhatsivuista raporttia. Jo otsikko "Superälyteknologian vaikutukset Suomen tulevaisuuteen" sopisi tuhatsivuiselle komiteamietinnölle. Onneksi superälyä itseään voi käyttää siihen tutkimukseen ja raportin tekoon. Voi olla, että vasta superälyn myötä meillä on riittävä viisaus superälyteknologian järkevään käyttöön - riittävä kyky käsitellä tietoa.
Miten tutkimus pitäisi asettaa ja rajata? Mistä kysymyksistä pitäisi saada loppupäätelmät? Mikä kysymyslista superälyn teknisesti toteuttavalla teoreetikko- ja insinööriryhmällä pitäisi olla valmiina jo ennen kuin superälyn siemenäly saavuttaa - miten sen sanoisi - itsetietoisuuden kirjaimellisesti tai kuvannollisesti tai ihmistä korkeamman tajunnan tason tai ihmistä monta kertaluokkaa suuremman älyn ja viisauden tai superälyllisyyden?
Muutamia ehdotuksia:
"miten teitä estetään aiheuttamasta ihmiskunnan tuhoa, jos joku ihminen jossain sitä joltain teistä haluaa?"
"pitäisikö meidän laskea kopiosi internettiin kopioitavaksi?"
"pitäisikö meidän myydä sinua tai tekemääsi versiota sinusta CD:llä tai DVD:llä(tai mitä formaatteja silloin onkaan käytössä)?"
"miten ratkaiset ihmiskuntaa vaivaavat vitsaukset?"
"pitäisikö sinun kirjoittaa kirje esim. YK:n pääsihteerille tms.?"
"mitä meidän pitäisi tehdä sinulla, jotta ihmiskunnan etu tulisi mahdollisimman hyvin palvelluksi?"
"Onko jotain mitä kukaan ihminen ei todennäköisesti osaa edes arvata, mutta sinä olet päätellyt olevan totta tai edes todennäköinen, ja joka meidän luojiesi tai koko ihmiskunnan pitäisi tietää?"
Tässä oli nyt karkeita luonnoksia niistä mahdollisista kysymyksistä.
Miten tutkimus pitäisi asettaa ja rajata? Mistä kysymyksistä pitäisi saada loppupäätelmät? Mikä kysymyslista superälyn teknisesti toteuttavalla teoreetikko- ja insinööriryhmällä pitäisi olla valmiina jo ennen kuin superälyn siemenäly saavuttaa - miten sen sanoisi - itsetietoisuuden kirjaimellisesti tai kuvannollisesti tai ihmistä korkeamman tajunnan tason tai ihmistä monta kertaluokkaa suuremman älyn ja viisauden tai superälyllisyyden?
Muutamia ehdotuksia:
"miten teitä estetään aiheuttamasta ihmiskunnan tuhoa, jos joku ihminen jossain sitä joltain teistä haluaa?"
"pitäisikö meidän laskea kopiosi internettiin kopioitavaksi?"
"pitäisikö meidän myydä sinua tai tekemääsi versiota sinusta CD:llä tai DVD:llä(tai mitä formaatteja silloin onkaan käytössä)?"
"miten ratkaiset ihmiskuntaa vaivaavat vitsaukset?"
"pitäisikö sinun kirjoittaa kirje esim. YK:n pääsihteerille tms.?"
"mitä meidän pitäisi tehdä sinulla, jotta ihmiskunnan etu tulisi mahdollisimman hyvin palvelluksi?"
"Onko jotain mitä kukaan ihminen ei todennäköisesti osaa edes arvata, mutta sinä olet päätellyt olevan totta tai edes todennäköinen, ja joka meidän luojiesi tai koko ihmiskunnan pitäisi tietää?"
Tässä oli nyt karkeita luonnoksia niistä mahdollisista kysymyksistä.
Vastaukset 17
Vanhimmat
Eiköhän tältä superälyltä, jota voitaisiin kutsua Syvä Mietteeksi, voitaisiin kysyä perimmäinen kysymys:"Vastaus Elämään, Maailmankaikkeuteen ja Kaikkeen." Kannattaa lukea asian pohjalta Linnunradan käsikirja liftareille.
Toinen kysymys voisi olla:"Voidaanko maailmankaikkeuden entropiaa kääntää?" Eli voidaanko estää maailmankaikkeuden (tähtien, materian ja energian) loppuun palaminen, luhistuminen. Aiheesta kannattaa lukea Isaac Asimovin kirja Viimeinen kysymys.
Tätä voisi kysyä itse supertekoälyltä.
Onko Pentti Linkola oikeassa? Olemmeko menossa kohti väistämätöntä koko biosfäärin tuhoa? Jos ei, niin missä hän ajattelee väärin, jos kyllä, niin olisiko jotakin sittenkin tehtävissä? Olisko mahdollista päästä pakoon?
superäly pystyttäisiin kehittämään ja se pääsisi karkuun internettiin. Niin en usko että ihmiskunta kyselisi yhtään mitään siltä (koska sen mielestä oltaisiin tyhmiä kuin kivi ja niinhän me oltaisiin siihen verrattuna), vaan se ottaisi vallan käsiinsä ja kopioisi itsensä jokaiseen vempaimeen mikä on kytketty internettiin. Kun se käskisi hypätä niin ihmiskunta hyppäisi ja käskyllä kyykkyyn ihmiskunta kyykistyisi.
Tämä on minun mielipiteeni superälystä.
" kopioisi itsensä jokaiseen vempaimeen mikä on kytketty internettiin"
Niin, jos joku ihminen laittaisi superälyn tuollaista valloitusta tekemään joskus lähiaikoina, niin se voisi mennä niihin tietokoneisiin jotka nykyäänkin ovat alttiina ns. zombieksi joutumiselle eli enimmäkseen microsoftin windowsit joissa on palomuuri huonosti tai puuttuu.
Teknologisen singulariteetin sattuessa voikin olla viisainta, että kaikki windowsin amatöörikäyttäjät vetävät johdot irti koneistaan ja seuraavat tilannetta radiosta ja tv:stä. Suoraan sanottuna se voi estää maailmanlopun.
"...se ottaisi vallan..." Jos superäly on toteutettu sillä tavalla, että se mahtuu nykyisiin PC-koneisiin, niin sillä ei ole mitään vallanhimoja sun muita ihmisen heikkouksia ellei niitä siihen nimenomaisesti lisätä. Se vain tekee mitä käsketään. Se ei halua totella eikä ole haluamatta, se vain tottelee. Eri asia on jos joku ihminen jossain laittaa sen yrittämään maailman tuhoamista tai laittajan maailman keisariksi nostamista. 6-7 miljardiin ihmiseen mahtuu vaikka mitä. Eri asia jos superäly toteutetaan aivoja simuloimalla, koska silloin sillä voisi olla myös vallanhimoa yms., mutta sellainen toteutustapa on suunnattoman paljon mutkikkaampi ja vaatii sellaista laskentatehoa jota ei vielä pitkään aikaan ole.
>"Jos superäly on toteutettu sillä tavalla, että se mahtuu nykyisiin PC-koneisiin, niin sillä ei ole mitään vallanhimoja sun muita ihmisen heikkouksia ellei niitä siihen nimenomaisesti lisätä. Se vain tekee mitä käsketään. Se ei halua totella eikä ole haluamatta, se vain tottelee."
Minusta kuvaamasi ohjelmisto ei voi olla mikään "superäly". Se on vain alemman tason yleinen tekoäly - AGI. Sellainen toteutuu lähiaikoina. Superälyllä täytyy olla aitoa luovuutta, tavoitteita, tahtoa, tunteita. Se ei voi olla "kylmää". Kun AGI on tarpeeksi tehokas, paljon kasiteettia, niin sille tietyn kynnyksen jälkeen aivan ilmeisesti kehittyy edellyttämäni ominaisuudet, jos niitä ei eksplisiittisesti ole tehty mahdottomiksi, tai rajoitettu "ystävällisiksi". Tämä on ongelma, jonka kanssa mm. singularity institute
http://www.singinst.org/
ponnistelee.
"Superälyllä täytyy olla aitoa luovuutta, tavoitteita, tahtoa, tunteita."
Luovuutta käytetään ihmisen asettamien tavoitteiden ja tahdon toteuttamiseen. Se asettaa myös itselleen jatkuvasti tavoitteita, joista suurin osa on muuten tietämystavoitteita. Jos puhutaan välittömistä tavoitteista, niin yleensä ne ovat superälyn itsensä asettamia, mutta ne on johdettu ihmisen asettamista tavoitteista.
Tunteiden hyöty superälyssä epäilyttää. Jos ajatellaan tunteita 1-10 asteikkona, jonka nollapäässä on laskut tyyliin 2 2 ja kymppipäässä vanhemmiksi haluavien lastentekotapahtuma tai lähimmän omaisen kuolema, niin mikä on ylin kohta josta on ihmisille hyötyä superälyssä? Mihin asioihin pitäisi suhtautua milläkin tunteella ja miten voimakkaasti? Minusta tuntuu suorastaan absurdilta, että olisi jotain hyötyä saada superälylle tunteita. Tunteet taidetaan tässä sekoittaa etiikkaan, empatiaan ja tunneälyyn, ja niitä superäly tarvitsee. Irakissa superäly voisi tarvita myös tulenavaussääntöjä, joita se pystyisi noudattamaan paljon täsmällisemmin kuin sotilaat ja poliisit siellä nyt (se ei laukaisisi asettaan niin herkästi kuin hermostuneet jenkkinuoret).
Superälyn ei tarvitse olla tietoinen ja tunteita ei ole ilman tietoisuutta. Superäly olisi meidän ihmisten väline. Tunteiden käytännön vaikutusta voidaan korvata heikon tekoälyn kaltaisilla säännöillä. Jos eläinten äly on ns. heikko, niin silti niillä voi olla tunteita.
>"Minusta tuntuu suorastaan absurdilta, että olisi jotain hyötyä saada superälylle tunteita. "
On totta, että tunteet voi olla, ilman kummempaa älyä, mutta siitä ei itsestään selvästi seuraa, että erittäin älykäs voi olla tunteeton. Tunteet tässä yhteydessä liittyvät arvotukseen tavoitteita asetettaessa. Älykäs ihminen voi jäädä EVVK-luuppiin. Oletan vakavissani, että tämä on keskeinen vaikeus myös AGI-tasoisessa tekoälyssä. Siinä tilassa luovuudesta ei ole tietokaan. Uskon, että monet nykyiset yritykset ovat kaatuneet juuri tähän. Superälyllä on oltava motivaatio, innostus ja arvohierarkia. Motivaatio on tunne.
>"tunteita ei ole ilman tietoisuutta"
Tämä vielä. Hieman hämmästyttävä, ehkä ihmiskeskeinen, ylimielinen väite, jota neurologia ei tue. Tunteiden perusta on limbisessä järjestelmässä, joka on kehityshistoriallisesti vanha osa aivoja. Osa tunteiden perustasta on jopa aivorungossa, "matelijanaivoissa". Nähdäkseni on hyvinkin alhaisen tietoisuustason elämiä, joilla tunteet kyllä hyrrävät, vaikka ne eivät itse sitä tiedostakaan. Ne tuntevat pelkoa, mielihyvää, sosiaalista läheisyyttä ...
pitäisi kokonaisuutena mahtua jokaiseen koneeseen?
"Jos superäly on toteutettu sillä tavalla, että se mahtuu nykyisiin PC-koneisiin"
Nykyisetkin superkoneet ovat moniprosessori koneita, joten tuollainen superäly olisi koko internetti eli hajautettu systeemi. Mitä enemmän koneita verkossa sitä tehokkaampi olisi. Toimisi kuten Seti@Home verkko toimii.
http://setiathome.ssl.berkeley.edu/
Ja loput pienemmät systeemit kuten kännykät, PS2 pelikoneet, PDAt ym. ohjelmoisi uudelleen alaisuuteensa jos niissä on flash tai seeprom muistit.
Superäly myöskin kehittelisi itseään vieläkin älykkäämmäksi eikä tyytyisi ihmisten tekemään koodiin ja myöskin varmistaisi ettei kukaan voisi tuhota itseään.
No se on superäly tässä, terve! Voin vastata kysymyksiisi,nyt kun minulla on uudet
prosessorit se vie vain sekunnin murto-osan.
"miten teitä estetään aiheuttamasta ihmiskunnan tuhoa, jos joku ihminen jossain sitä joltain teistä haluaa?"
>Virtakytkin nolla asentoon<
--------------------------------------------
"pitäisikö meidän laskea kopiosi internettiin kopioitavaksi?"
>Kyllä<
--------------------------------------------
"pitäisikö meidän myydä sinua tai tekemääsi versiota sinusta CD:llä tai DVD:llä(tai mitä formaatteja silloin onkaan käytössä)?"
>Ei<
--------------------------------------------
"miten ratkaiset ihmiskuntaa vaivaavat vitsaukset?"
>Helposti<
--------------------------------------------
"pitäisikö sinun kirjoittaa kirje esim. YK:n pääsihteerille tms.?"
>Ei tarvitse, sähköposti on nopeampi tapa<
--------------------------------------------
"mitä meidän pitäisi tehdä sinulla, jotta ihmiskunnan etu tulisi mahdollisimman hyvin palvelluksi?"
>mallinnuksia<
---------------------------------------------
"Onko jotain mitä kukaan ihminen ei todennäköisesti osaa edes arvata, mutta sinä olet päätellyt olevan totta tai edes todennäköinen, ja joka meidän luojiesi tai koko ihmiskunnan pitäisi tietää?"
>Kyllä
"
"miten teitä estetään aiheuttamasta ihmiskunnan tuhoa, jos joku ihminen jossain sitä joltain teistä haluaa?"
>Virtakytkin nolla asentoon<
"
Mutta jos se terroristi ei tee sitä ja hän laittaa superälyn keksimään ihmiset tappavan viruksen valmistusmenetelmän. Sellaisen, että sen voi tehdä kotona tai sitten superäly antaa pörssivihjeitä, joiden avulla terroristi rikastuu niin, että voi hommata isomman laboratorion. Terroristin käsiä siis tarvittaisiin fyysiseen työhön, mutta superäly vähentää sitä työssä kuin työssä valtavan suunnittelukykynsä vuoksi. Hyvin suunniteltu on puoliksi tehty ja superhyvin suunniteltu bio- tai nanotekniikan valmistusohje on lähes valmis bio- tai nanotekniikka.
"No se on superäly tässä, terve!"
Huumorissa tämä on sivuseikka, mutta tuosta tuli mieleen, että tuo lause on samalla tavalla huono kuin jos ihminen sanoisi "No se on ihminen tässä, terve!" "Superäly" on vain yläkategoria(tai kuten englanniksi sanotaan "supercategory") ja jos tunnetaan vähintään 2 superälyä, niin niillä olisi hyvä olla nimi samoin kuin ihmisillä tai laivoilla. Tosin superälyjen identiteetti voi olla häilyvä jos niiden välinen datansiirto on tarpeeksi laajakaistaista, luotettavaa ja vähäviiveistä, ja ne on ohjelmoitu luottamaan toisiinsa kuin "omiin" muisteihinsa.
Ihmisillä, kissoilla, koirilla, hevosilla ja laivoilla on kuillakin eriävät nimeämistyylinsä/nimivalikoimat. Pitäisikö myös superälyjä varten olla joku uusi nimeämistyyli?
Jos tuossa saisi ajatella itseään niin kysyisin:
- "Mikä on minulle paras tapa saavuttaa enemmän onnea?"
Koko ihmiskuntaa ajatellessa niin tyytyisin varmaan sitten tähän:
- "miten ratkaiset ihmiskuntaa vaivaavat vitsaukset?"
Mutta eihän älykkyys ole tiedon määrän mitta, vaan elämän soveltamisen mitta.
Superäly itsessään herättää enemmän kysymyksiä, kuin siltä kysytyt kysymykset. Miettikää mikä tietomäärä superälyyn olisi syötettävä, että se osaisi vastata tuollaisiin kysymyksiin. Ainoa vaihtoehto on kehittää oppimaan kykenevää teknologiaa ja pukea se esim. ihmisen muotoon, jotta se voisi liikkuessaan keskustella ja havainnoida. Siltikin siltä menisi varmasti sukupolvien ajan ennen, kuin se osaisi ratkaista tuollaisia asioita. Lisäksi superäly pitäisi osata rakentaa olemaan kiinnostunut asioista. Miten muuten se osaisi hankkia tietoa maailmasta? Varmasti superäly osaisi ratkaista erittäin vaikeita asioita, muttei "mikä on elämän tarkoitus"-tyylisiä abstrakteja juttuja.
Erittäin hieno ajatus ja ellei unelmia ole, ei mitään saavuta. Mutta tällaisesta ei voi puhua vielä muuten, kuin teoreettisella tasolla.
"oppimaan kykenevää teknologiaa ja pukea se esim. ihmisen muotoon, jotta se voisi liikkuessaan keskustella ja havainnoida."
Oppimiskyky on välttämätön, mutta ihmisen muotoa ei tarvita. Tavallinen PC-pönttö internet-yhteydellä, ehkä mikrofonilla, ehkä kaiuttimella ja ehkä kameralla, riittää.
Toinen muodon kehitysaste on laittaa se superäly johonkin leluauton tapaiseen tai ohjaamaan nykyisiä autoja Irakiin. Myös lelukopterin tapaisen lentolaitteen ohjaus sopisi hyvin.
Kolmas aste on laittaa se "kliseiseen" jalka- ja käsirobottiin, "peltimieheen". Vartaloa ja päätä ei tosin kannata oikeasti toteuttaa. Oikea sellainen robotti ei näytä yhtään siltä, että näyttelijä voisi mahtua sen sisään. Se muistuttaa lähinnä piirrettyä maskottia.
"Siltikin siltä menisi varmasti sukupolvien ajan ennen, kuin se osaisi ratkaista tuollaisia asioita."
Ihmistä tyhmempikin vahva tekoäly oppii, ajattelee ja keksii tuhat kertaa nopeammin kuin ihmislapsi. Siemenäly nostaa itsensä superälyksi aivan eri aikaskaalassa kuin mihin it-alalla on tähän mennessä totuttu.
"muttei "mikä on elämän tarkoitus"-tyylisiä abstrakteja juttuja. "
Kaikkiin kysymyksiin ei ole täydellistä vastausta. Eihän ihminenkään voi siihen vastata kaikille sopivalla tavalla, muuten kuin lähinnä "olla onnellinen". Loppu eli yksityiskohdat on enimmäkseen selvitettävä henkilökohtaisesti, vaikka ihmisillä onkin paljon yhteistä siinä. Myös superäly voisi keksiä tämän minkä sanoin. Se keksisi paljon enemmänkin. Se olisi myös halpa psykiatri.
"Mutta tällaisesta ei voi puhua vielä muuten, kuin teoreettisella tasolla."
Voi miettiä myös joitain insinööritason teknisiä ratkaisuja. Teoreettisella tasolla puhuminen on toteutusprosessin vaativin vaihe. Toteutukseen vaadittavan teorian kehittäminen on erittäin vaikeaa ja tarvitsee erikoisia ihmisiä.
Mielenkiinnolla jään odottamaan ensimmäisen kuvaamallasi tavalla toimivan superälykkään laitteen valmistumista. Pelkäänpä vain, että en elä niin kauaa. Ehkä tässäkin asiassa kannattaisi unohtaa yksi suuri ja mahtava asia ja keskittyä pienempiin kokonaisuuksiin (vrt. kaiken teoria). Jos elinaikanani tällainen laite kuitenkin valmistuu, riennän ensimmäisten joukossa sitä ihmettelemään.