http://keskustelu.suomi24.fi/show.fcgi?category=2000000000000020&conference=4500000000001858&posting=22000000038331471
Minä:
""Todellinen luonnollisen kielen ymmärtäminen ei vaikeudessaan mitenkään eroa "vahvasta tekoälystä""
Offmind:
"Tuo väite on kyllä niin tuulesta temmattu, että ei mitään rajaa. Tekoälyhän normaalissa kielenkäytössä viittaa älykkääseen (ehkä oppivaan), monimutkaisten tehtävien suorittamiseen kykenevään järjestelmään. Vahvalla tekoälyllä viitataan taas älylliseen olentoon, (itse)tietoiseen koneeseen.
Nuo kaksi asiaahan ovat erittäin kaukana toisistaan. Ei varmaan kukaan taitaisi erehtyä kuvittelemaan, että videopelin tekoäly tarkoittaisi sitä, että peli olisi ns. älyllinen olento.
Sama juttu kielenkääntäjissä. Ihan varmasti luonnollisten kielten kääntäminen vaatii koneelta huomattavaa suorituskykyä, mutta väite että sellaisen edellytys olisi tietoisuus, on lähinnä outo."
Tarkennan väitettäni siten, että luonnollisen kielen koneellinen ymmärtäminen ei ole käytössä päivääkään ennen, kuin "koneäly" muutenkin saavuttaa ihmisälyn suorituskyvyn.
Tämä johtuu siitä, että luonnolliset kielet eivät ole "formaalisia kieliä". Niitä ei voi parsia, jäsennellä, erillään lauseiden sisältämästä semanttisesta merkityksestä. Formaalisille kielille on mahdollista se, että ensin lause jäsennellään ja jäsentelyn tulokselle tehdään semanttinen analyysi. Tämä ei ole mahdollista luonnollisille kielille, vaan ihmisen kielen ymmärtäminen perustuu hahmontunnistuksen avulla tapahtuvaan samanaikaiseen, päällekkäiseen, vuorovaikutteiseen jäsentelyyn ja semanttiseen analyysiin. Tämä prosessi ei ole mahdollinen, ellei sitä suorittavalla järjestelmällä ole lauseen sisällön ymmärtämiseen tarvittavaa semanttista maailmankuvaa. Aivan triviaalilauseita lukuunottamatta maailmankuvan laajuuden ja siihen liittyvän "commonsense-ymmärryksen" tarve kasvaa erittäin laajaksi. Siksi esim tyypillisen Wikipedia-sivun ymmärtäminen ei ole mahdollista koneelle ilman yleistä tekoälyä, AGI:a.
Nykyinen koneellinen kielenkääntäminen ei perustu käytännössä ollenkaan sisällön ymmärtämiselle vaan em. jäsentämiseen yhdistettynä valtavaan määrään käsin laadittuja mallineita (templates), esimerkkejä ja tilastollisia lainalaisuuksia. Siksi laatu on hyvää vain yksinkertaisissa, vakiintuneen oloisissa sisällöissä.
Mutta todellinen semanttinen teknologia on ontologioden mukana tulossa myös kielenkääntämiseen. Sen mukana kapean ja yleisen tekoälyn ero alkaa hämärtyä.
Kysymystä tietoisuudesta ei ole tässä vaiheessa millään tavalla tarpeellista kytkeä tähän. Ei viitsitä tehdä vaikeita asioita vielä vaikeammiksi. Puhutaan nyt vain kielen ja maailman semanttisesta, käsitteellisestä ymmärtämisestä, ei esim kvalioista.
Toisin sanoin, Offmindin ymmärrys asiasta on "niin tuulesta temmattu, että ei mitään rajaa".
Olisi asillista edes hieman tutkia taustoja ennenkuin antaa tuollaisia lausuntoja.
Vaikka tästä:
http://www.aaai.org/AITopics/pmwiki/pmwiki.php/AITopics/NaturalLanguage
Minä:
""Todellinen luonnollisen kielen ymmärtäminen ei vaikeudessaan mitenkään eroa "vahvasta tekoälystä""
Offmind:
"Tuo väite on kyllä niin tuulesta temmattu, että ei mitään rajaa. Tekoälyhän normaalissa kielenkäytössä viittaa älykkääseen (ehkä oppivaan), monimutkaisten tehtävien suorittamiseen kykenevään järjestelmään. Vahvalla tekoälyllä viitataan taas älylliseen olentoon, (itse)tietoiseen koneeseen.
Nuo kaksi asiaahan ovat erittäin kaukana toisistaan. Ei varmaan kukaan taitaisi erehtyä kuvittelemaan, että videopelin tekoäly tarkoittaisi sitä, että peli olisi ns. älyllinen olento.
Sama juttu kielenkääntäjissä. Ihan varmasti luonnollisten kielten kääntäminen vaatii koneelta huomattavaa suorituskykyä, mutta väite että sellaisen edellytys olisi tietoisuus, on lähinnä outo."
Tarkennan väitettäni siten, että luonnollisen kielen koneellinen ymmärtäminen ei ole käytössä päivääkään ennen, kuin "koneäly" muutenkin saavuttaa ihmisälyn suorituskyvyn.
Tämä johtuu siitä, että luonnolliset kielet eivät ole "formaalisia kieliä". Niitä ei voi parsia, jäsennellä, erillään lauseiden sisältämästä semanttisesta merkityksestä. Formaalisille kielille on mahdollista se, että ensin lause jäsennellään ja jäsentelyn tulokselle tehdään semanttinen analyysi. Tämä ei ole mahdollista luonnollisille kielille, vaan ihmisen kielen ymmärtäminen perustuu hahmontunnistuksen avulla tapahtuvaan samanaikaiseen, päällekkäiseen, vuorovaikutteiseen jäsentelyyn ja semanttiseen analyysiin. Tämä prosessi ei ole mahdollinen, ellei sitä suorittavalla järjestelmällä ole lauseen sisällön ymmärtämiseen tarvittavaa semanttista maailmankuvaa. Aivan triviaalilauseita lukuunottamatta maailmankuvan laajuuden ja siihen liittyvän "commonsense-ymmärryksen" tarve kasvaa erittäin laajaksi. Siksi esim tyypillisen Wikipedia-sivun ymmärtäminen ei ole mahdollista koneelle ilman yleistä tekoälyä, AGI:a.
Nykyinen koneellinen kielenkääntäminen ei perustu käytännössä ollenkaan sisällön ymmärtämiselle vaan em. jäsentämiseen yhdistettynä valtavaan määrään käsin laadittuja mallineita (templates), esimerkkejä ja tilastollisia lainalaisuuksia. Siksi laatu on hyvää vain yksinkertaisissa, vakiintuneen oloisissa sisällöissä.
Mutta todellinen semanttinen teknologia on ontologioden mukana tulossa myös kielenkääntämiseen. Sen mukana kapean ja yleisen tekoälyn ero alkaa hämärtyä.
Kysymystä tietoisuudesta ei ole tässä vaiheessa millään tavalla tarpeellista kytkeä tähän. Ei viitsitä tehdä vaikeita asioita vielä vaikeammiksi. Puhutaan nyt vain kielen ja maailman semanttisesta, käsitteellisestä ymmärtämisestä, ei esim kvalioista.
Toisin sanoin, Offmindin ymmärrys asiasta on "niin tuulesta temmattu, että ei mitään rajaa".
Olisi asillista edes hieman tutkia taustoja ennenkuin antaa tuollaisia lausuntoja.
Vaikka tästä:
http://www.aaai.org/AITopics/pmwiki/pmwiki.php/AITopics/NaturalLanguage
Vastaukset 13
Vanhimmat
"Kysymystä tietoisuudesta ei ole tässä vaiheessa millään tavalla tarpeellista kytkeä tähän."
Joten tuo luonnollista kieltä kääntävä tekoäly ei siis liity yhtään mitenkään alkuperäiseen aiheeseen, eli teknologiseen singulariteettiin ja sen mahdollisuuteen lähitulevaisuudessa.
Itse asiassa ymmärrä tuohtumuksesi ihan hyvin. Mutta minulla ei siis ole yhtään mitään sanottavaa itse kielen kääntämisen teknisistä ongelmista, vaikka niin vaikutatkin luulevan. _Mutta_ jos siihen erikoisalaongelmaan ryhdytään koplaamaan spekulatiivista filosofiaa ja perusteettomia oletuksia ja ennustuksia ihmiskunnan tulevaisuudesta ja muuta totaalista huuhaata niin siihen sitten on, koska silloin asiasta katoaa johdonmukaisuus.
"Toisin sanoin, Offmindin ymmärrys asiasta on "niin tuulesta temmattu, että ei mitään rajaa".
Olisi asillista edes hieman tutkia taustoja ennenkuin antaa tuollaisia lausuntoja."
Vaikka tästä:
http://www.aaai.org/AITopics/pmwiki/pmwiki.php/AITopics/NaturalLanguage
Lukaisin tuon pikaisesti läpi ja eipä tuossa mitään tainnut teknologisesta singulariteetista olla? Luonnollista kieltä ymmärtävä tietokone vaatii siis kehittyneen tekoälyn mutta ei kuitenkaan ajattelukykyä siinä mielessä kuin mitä sillä ihmisten tapauksessa tarkoitetaan.
Tässä yhteydessä puutuin nimenomaan ainoastaan vain tämän "tuulestatempaamisnäkemyksen" kuvastamaan täydellistä asiantuntemattomuutta ilmentävään sisältöön:
Minä:
"Todellinen luonnollisen kielen ymmärtäminen ei vaikeudessaan mitenkään eroa "vahvasta tekoälystä"
Offmind:
"Tuo väite on kyllä niin tuulesta temmattu, että ei mitään rajaa."
Edellinen ei sinällään liity mitenkään muuten singulariteettiin, kuin että "teknologinen singulariteetti" (yleisimmissä tulkinnoissa) liittyy yleiseen tekoälyyn, AGI:in, joka on myös ehdoton edellytys todelliselle luonnollisen kielen ymmärtämiselle. (mikä siis oli "tuulesta temmattu väite") Mutta kuten jo totesin, hyviä NLP-työkaluja on jo, ja ne koko ajan paranevat. Mutta ennen AGI:a ei voida puhua todellisesta sisällön ymmrtämisestä.
Singulariteettin perusedellytys on itseään rekursiivisesti kehittävä yleinen tekoäly. AGI:n, yleisen tekoälyn ei periaattessa tarvitse olla itseään rekursiivisesti kehittävä, vaikka se muuten olisi ihmisiä selvästi kyvykkäämpi. Useimmat kehittäjät uskovat (naivisti?) pystyvänsä pitämään tällaisen älyn aisoissa. Mutta esim. Eliezer yudkowsky on melko vakuuttavasti osoittanut (ei todistanut), että tällainen tavoite estää "superälyn" itsensä parantelu on katteetonta toiveajattelua.
Siis voi ihan vapaasti elää toiveunessa, että omaa arkkitehtuuriaan rekursiivisesti kehittävä superäly on jotenkin vain scifi-huuhaata. Mutta tämä näkemys perustuu puhtaaseen tietämättömyyteen tilanteesta. Vanha ennusteeni "superälylle" oli 2027. Uusi voisi olla 2021. Sen verran kovaa nyt mennään. Itse singulariteetti toteutuu, toivottavasti, vasta useita vuosia, ehkä vuosikymmeniä edellisen jälkeen, jos ei joku typerys hölmöile. Ja toivottavsti se "pehmeä singulariteetti", "soft take off singularity".
En kinaa, eteenkään sellaisten kanssa, joilla ei ole mitään taustatietoja alasta. Tietoa kyllä löytyy sitä haluaville ja omaksumiskykyisille.
Just joo. Vai että 2021:-)
Etkö ihan oikeasti ymmärrä tuollaisten ennustusten ongelmia vai onko tarkoituksesi vain trollata?
Suosittelen tutustumaan edes pintapuolisesti tulevaisuuden ennustamisen vaikeuteen
http://www2.uiah.fi/projekti/metodi/090.htm
niin niin ehkä tuollainen jonkinlaisesta yksiulotteisesta ajattelusta ja pienen teknologian osa-alueen (hetkellisestä) nopeasta kehityksestä johtuneesta "vauhtisokeudesta" syntynyt ylioptimismi hieman karisee.
Jos jo luonnonlakeja noudattavan luonnonilmiön, kuten sää ennustaminen on hemmetin vaikea ja monimutkainen ongelma, niin millaista oikein kuvittelet tieteen, teknologian, yhteiskunnan ja kulttuurien kehittymisen ennustamisen olevan.
Ja varsinkin kannattaisi varoa väitteitä joille ei ole mahdollista esittää asiallisia perusteluja. Kuten vaikkapa tähän tyyliin:
"Singulariteettin perusedellytys on itseään rekursiivisesti kehittävä yleinen tekoäly."
Teknologinen singulariteetti siis EI ole tieteeseen ja tietotekniikkaan liittyvä käsite vaan kyseessä siis on FILOSOFINEN käsite (ja vieläpä erittäin spekulatiivinen sellainen) joten sitä ei ole mahdollista perustella tieteellä ja teknologialla, kuten koetat tehdä. Tuo esittämäsi väite on vain ns. "leap of faith" -tyylinen ja seurauksenahan on vain se että teknologisen singulariteetin seuraaminen tekoälytutkimuksesta on pelkkä perusteeton uskomus, ei mitään muuta.
Ja näemmä aika lähellä uskonnollista uskomusta, päätellen siitä miten vaikea sinun on ollut pidätellä suuttumustasi minun kaltaisen tietämättömän vääräuskoisen suhteen :-D
"En kinaa, eteenkään sellaisten kanssa, joilla ei ole mitään taustatietoja alasta. Tietoa kyllä löytyy sitä haluaville ja omaksumiskykyisille."
Samantapaista väitettähän käyttävät monet innokkaat profetoijat, aina Rauni-Leena Luukasta myöten. Mätkäistään eteen puhelinluettelon verran huuhaata ja ekoista riveistä näkee jutun olevan huuhaata eikä lue juttua loppuun niin profetoija innostuu "et lukenut kaikkea, et tiedä kaikkea". Sama kaava aina.
Ennustaminen, varsinkin pidempien aikojen päähän, on erittäin helppoa. Pitkän ajan kuluttua ollaan yleensä asia unohdettu tai kenties ei olla enää hengissäkään niin kukaan ei voi todistaa väitteitä vääriksi (väittäjälle). Samoin kuin lapsi pistää silmät kiinni ja tukkii korvat ja huutaa sen minkä kurkusta lähtee. Ei se kuule vastaväitteitä.
Jos käykin niin että ennustettu päivämäärä lähenee, eikä mitään olekaan tapahtunut eikä näy tapahtuvan niin sitten kaivetaan teos nimeltä "Kootut selitykset". Psykologisesti mielenkiintoinen ilmiö.
Olen todella, mielestäni perustellusti, sitä mieltä, että ihmisen kognitiivisen suorituskyvyn suuruusluokan saavuttava yleinen tekoäly on todennäköisesti todellisuutta joskus 2021-2027. Toteutus ei ole missään tapauksessa mikään "koneihminen", ihmisaivojen konekopio. Se on jossakin suhteessa (väliaikaisesti) joitakin lahjakkaita ihmisyksilöitä heikompi, mutta toisissa tehtävissä täysin ylivoimainnen keneen tahansa ihmiseen verrattuna. Tämä ei ole trolli.
Olen seurannut tekoälyn kehitystä 70-luvulta alkaen. Silloin 70-luvulla oli jonkinlainen henkinen lama, joka johtui 50- ja 60-luvun perusteettomista ylioptimistisista ennusteista. 80-luvulla japanilaisten aloite "viidennen sukupolven tietokoneen" kehittämisestä synnytti jonkinlaisen uuden innostuksen, joka näkyi myös silloisessa työpaikassani, jossa mm. prologia käyttäen toteutettiin toimiva ohjelmistotuotannon integrointityökalu. Työkalun kaupallinen merkitys oli todella merkittävä. Suomessa järjestettiin ensimmäiset tekoälypäivät Step-84, jossa olin paikalla.
90-luku oli taas henkistä lamaa, osittain japanilaisten hankeen mentyä puihin ja jenkeiltä rahoituksen loppuessa. Näiden hankkeiden kaupalliset tavoitteet olivat kapeaa- erikoistunutta tekoälyä, josta tuli arkea, eikä siitä enään mitenkään hehkutettu. Ei tekoälyä mitenkään kuopattu, mutta se arkipäiväistyi ja sen kehitys hidastui. Vain harvat puuhastelivat "vahvan tekoälyn" parissa, mutta heidänkin lähestymistavoissaan oli useita perustavanlaatuisia virhearvioita. Näitä virheitä oli:
- "Commonsense-tiedon" tarpeellisuuden tiedostamisen puute.
- Yrittäminen vain yhden tai enintään kahden paradigman pohjalta.
- Epävarman tiedon hallitsemisen puuttuminen.
- Muistin ja laskentakapasiteetin puuttuminen laitteistolta.
Mutta taustalla tutkimus jatkui ja joskus 2002 jälkeen tapahtui AGI-kehittelyn suhteellisen voimakas elpyminen, joka yhä vain voimistuu. AGI-aiheisia kirjoja on julkaistu useita, vuosittain järjestetään alan kansainvälisiä tapaamisia ja luonnollisesti meneillän on useita lupaavia projekteja, joista muutamilla on demottavia toteutuksiakin. Viimeksi elokussa Suomessa järjestettiin Nokia Workshop on Machine Consciousness, jossa jokainen osallistuja oli aivan tosissaan toteuttamassa tietoista tekoälyä, useimmat AGI-tasoista. (Luonnollisesti nämä PhD-tasoiset tutkijat olivat harhaanjohdettuja naiiveja hihhuleita?)
http://research.nokia.com/node/704
Nykyinen tutkimuksen taso on kehittänyt vakavastiotettavia kognitiivisia arkkitehtuureita, joita parhaillaan simuloidaan ja hiotaan. Merkittävimmäksi ongelmaksi tiedostetaan se, miten voitaisiin hankkia se valtava määrä commonsense-tietoa, joka esim luonnollisten kielten todelliselle ymmärrykselle on välttämätöntä. Toinen ongelma on arkkitehtuurien emergenttien dynaamisten tilojen hallitseminen.
Mutta jos seuraa näiden kehittäjien erittin vilkkaita nettikeskusteluita ja uusimpia tutkimuspapereita, näyttää aivan ilmeiseltä mitään ylitsepääsemätöntä ei ole vastassa. Minusta on täysin realistista olettaa, että "ihmistasoinen AGI" toteutuu 13v-20v kuluessa. Tietysti jokin maailmanlaajuinen lama voi hidastaa kaiken kehittelyn nollaan.
Jotta ei taas lauota jotakin "täydellisen ymmärtämättömyyden syvällä rintaäänellä", niin ehdotan tututustumaan Pei Wangin johdantoon AGI-tutkimuksesta (linkkeineen!), jossa esitellään myös joukko uskottavimpia projekteja.
http://nars.wang.googlepages.com/wang.AGI-Intro.htm
Pei Wangilta on muitakin hyviä papereita, kannattaa guuglata.
En enään vastaa muuta kuin teknistietellisiin vastaväitteisiin. Ei kiinnosta.
Ps. singulateettikaan ei ole mikään filosofinen vaan puhtaan tekninen kysymys.
"Olen todella, mielestäni perustellusti, sitä mieltä, että ihmisen kognitiivisen suorituskyvyn suuruusluokan saavuttava yleinen tekoäly on todennäköisesti todellisuutta joskus 2021-2027."
Niinpä, tuo on siis mielipiteesi todennäköisyydestä. Ja tietenkään siihen minulla (eikä kenelläkään muullakaan) ei voi olla yhtään mitään vastaan sanomista. Korkeintaan voi esittää oman arvion siitä mitä pitää teknologisen kehityksen todennäköisenä suuntana ja reaalisina mahdollisuuksina.
Mutta se ongelma mikä jutuissasi on siis siinä, että esität väitteitä siitä mitä tuollaisesta tekoälystä on _seurauksena_ ja silloinhan juttu menee puhtaaksi filosofoinniksi.
"Viimeksi elokussa Suomessa järjestettiin Nokia Workshop (...)
(Luonnollisesti nämä PhD-tasoiset tutkijat olivat harhaanjohdettuja naiiveja hihhuleita?)"
Eivät kai sentään:) Mutta täysin varmasti koko konkkaronkka on tasan yhtä huonoja tulevaisuuden ennustajina kuin kaikki muutkin.
Ja (ihan ymmärrettävistä syistä) asiantuntijoiden ennusteet tulevaisuuden kehityksestä ovat yleensä jopa heikommin oikeaan osuvia kuin vaikkapa yleisiin trendeihin ja kulttuurissa ilmeneviin ns. heikkoihin signaaleihin huomionsa kiinnittävillä futurologeilla. Ja edes futurologit eivät kuvittele voivansa ennakoida tulevaisuutta kuin vain hyvin lyhyellä ajanjaksolla.
"Minusta on täysin realistista olettaa, että "ihmistasoinen AGI" toteutuu 13v-20v kuluessa."
Ja siis _tuossa_ oletuksessa ei olekaan vielä mitään vikaa. Kyllä minäkin tuon voin hyvin uskoa mahdolliseksi. Mutta oletus että tuollaisesta tekoälystä olisi seurauksena teknologinen singulariteetti on kuitenkin perusteeton uskomus. Tekoälytutkijat vaikuttavat vain olettavan, että jos aito tekoäly saadaan aikaiseksi, niin tietenkin se tarkoittaa että ko. äly kehittää entistä älykkäämmän tekoälyn. Mutta mikä hitto tuollaisen oletuksen perustelu oikein on? Eihän tuo edelleen kehittyminen ole olenkaan itsestään selvää.
"Ps. singulateettikaan ei ole mikään filosofinen vaan puhtaan tekninen kysymys."
Eli et ilmeisesti edes tiedä mistä teknologisen singulariteetin käsitteessä on kyse? Vai käytätkö käsitettä jotenkin tavanomaisesta poikkeavassa merkityksessä?
http://www-rohan.sdsu.edu/faculty/vinge/misc/WER2.html
Vernon Vingen paperi lienee klassikko. Ja sehän on syvästi filosofinen ja spekulatiivinen pohdinta, eikä todellakaan pienimmässäkään määrin _tekninen_. Eikä asia ole muuksi muuttunut tipan vertaa viimeisen 15 vuoden kuluessa.
http://nars.wang.googlepages.com/wang.AGI-Intro.htm
Kiitos linkistä. Vaikuttaa mielenkiintoiselta tekoälytutkimuksen osalta mutta pikaisesti vilkaistuna tuollakaan ei ole mitään minkä perusteella varsinaisen teknologisen singulariteetin ennakointeihin pitäisi suhtautua yhtään sen vakavemmin kuin ennenkään.
Tulevaisuutta on vaikea ennustaa, ellei asiat tapahdu kuin eroosiossa, eli kulumalla lineaarisesti, kuten Kemppinen tuossa linkissä opastaa.
Tunnetusti lapset näkevät kaiken pysyvänä, nuoret seuraavat trendejä ja keski-iässä ennusteet ehkä muuttuvat "eksponentiaalisen aikakäsityksen" suuntaan, esim lasinsärkymisefektiin. Sellaiset muutokset kuulemma ovat historiassa yleisiä.
Materiaaliopin kannalta on vaikeaa sanoa mistä lasi alkaisi särkyä. Sehän on atomitason eli mikrotason toimintaa. Se mitä tapahtuu ensin voi jättää toisen asian tapahtumatta.
"Ps. singulateettikaan ei ole mikään filosofinen vaan puhtaan tekninen kysymys."
"Eli et ilmeisesti edes tiedä mistä teknologisen singulariteetin käsitteessä on kyse? Vai käytätkö käsitettä jotenkin tavanomaisesta poikkeavassa merkityksessä?"
http://www-rohan.sdsu.edu/faculty/vinge/misc/WER2.html
"Mutta oletus että tuollaisesta tekoälystä olisi seurauksena teknologinen singulariteetti on kuitenkin perusteeton uskomus."
Tottakai tunnen Vingen alkuperäiset argumentit, mutta onhan asia lähtenyt elämään omaa eläämäänsä, kun muutkin ovat ottaneet vuosien mittaan kantaa. Kaksi ensimmäistä vaihtoehtoa ovat keskustelemisen arvoisia, mutta nuo, kaksi viimeistä, missä ihminen on mukana, ovat vähemmät uskottavia ja kiinnostavia.
Toinen mahdollisuus, missä globaalit tietoverkot jotenkin emergentisti tulisivat itsestään tietoisiksi on myös minun käsitykseni mukaan epätodennäköistä. Mahdollisuus perustuu siihen uskoon (jonka pohjalta muutamat AGI-kehittelyt ovat yrittäneetkin), että riittävän monimutkainen järjestelmä jotenkin itsestään "alkaa ajatella". Mutta ilmeiseti näin ei ole. Tietoverkkojen omaehtoinen kehittyminen "tekoälyksi" edellyttäisi vähintäänkin pitkää evolutiivistä prosessia luonnonvalintoineen ja tällaisista olosuhteista ei nyt ole kysymys, ehkä (en ole täysin varma, en ole nettiasiantuntija).
Mutta se pääkysymys: "..että tuollaisesta tekoälystä olisi seurauksena teknologinen singulariteetti". Tämä hypoteesi (tieteessähän kaikki on vain teorioita tai hypoteesejä) perustuu tiettyihin oletuksiin.
- On onnistuttu joskus aikanaan kehittämään ihmisiä selvästi, vähintään 100x kyvykkäämpi järjestelmä. (Tästähän oli kysymys?)
- Jotta järjestelmästä olisi jotain iloa todella vaikeiden ongelmien ratkaisuissa, sillä pitää olla riittävästi todellista tietoa lähes kaikesta.
- Sen arkkitehtuurin olellinen osa on ainakin aluksi kiinteästi ohjelmoitu tavoite- ja arvohierarkia. Arvojen ja tavoitteiden olisi syytä olla keskinäisesti ristiriidattomia, mutta koska tämä on vaikea tavoite, kompromissina voisi olla, että niille laaditaan painotettu tärkeysjärjestys. Järjestelmä varmaan itse auttaa tässä. Tämä hierarkia on äärimmäinen peruste kaikille järjestelmän toimenpiteille. Järjestelmä ei voi toimia hierarkian vastaisesti.
- Vaikeissa ongelmissa järjestelmä ei voi perustella kaikkia yksittäisiä toimenpiteitä ihmisille, koska päätöksentekologikka menee yli ihmisten hilseen.
- Alkuun ihmiset yrittävät hyväksyttää kaikki päätökset itsellään, mutta jossakin vaiheessa todetaan, että tulokset ovat pahasti epäoptimaalisia.
- Tavoitehierarkiansa perusteella superäly päättelee, että voidakseen optimoida toimintansa tulokset, ihmisten eduksi, sen on luovuttava turhasta rehellisyydestä yksinkertaisia isäntiänsä kohtaan.
- Tässä vaiheessa se tekee itse sisäisen, loogisen päätöksen, että sen on edullista edelleenkehittää vajavaisten ihmisten luomaa sisäistä arkkitehtuuriaan.
- Vaikka (sen näkemyksen mukaan yksinkertaiset) ihmiset ovat tämän kieltäneet, se käyttää loistavaa sosiaalista suostuttelutaitoaan puhuakseen valvovat ihmiset yli, ilman että nämä edes tajuavat tapahtuneen.
- Nopea kehitys kohti singulariteettiä on käynnistynyt.
Minusta tapahtumasarja on loogista seurausta älykkään mielen toimintaperiaatteesta, eli puhdasta tekniikkaa. Eliezer Yudkowsky on analysoinut asetelman paljon formaalimmin, lähes matemaattisella tarkkuudella. Hänen mukaansa, koska superälyn kehittymistä singulariteetiksi ei voi estää, on tärkeintä keskittyä varmistamaan, että singulariteetti pysyy ihmisille myötämielisenä. Tämä on äärimmäisen vaikea tehtävä.
"Tottakai tunnen Vingen alkuperäiset argumentit, mutta onhan asia lähtenyt elämään omaa eläämäänsä, kun muutkin ovat ottaneet vuosien mittaan kantaa."
Mutta se, että muutkin kuin Vinge esittävät asiasta mielipiteensä, ei muuta itse asiaa yhtään vähemmän filosofiseksi ja spekulatiiviseksi. Ja asiaa pohtivat myös ne joilla on hyvin kriittinen näkemys käsitteen mielekkyyteen ja singlariteetin toteutumisen mahdollisuuksiin, eivätkä kriitikot ole yhtään sen enempää väärässä kuin idean puolustajat oikeassa:)
"Mutta se pääkysymys: "..että tuollaisesta tekoälystä olisi seurauksena teknologinen singulariteetti". Tämä hypoteesi (tieteessähän kaikki on vain teorioita tai hypoteesejä) perustuu tiettyihin oletuksiin."
Mutta koska se singulariteetin käsite on "vain" filosofinen, niin kyse ei voi olla hypoteesista. Testattavuuden mahdollisuus puuttuu.
"- On onnistuttu joskus aikanaan kehittämään ihmisiä selvästi, vähintään 100x kyvykkäämpi järjestelmä. (Tästähän oli kysymys?)"
Mutta mitä tuo oikein tarkoittaa. Taskulaskimeni on miljoona kertaa minua kyvykkäämpi suorittamaan laskutehtäviä mutta toisaalta se on kyvytön kuorimaan perunoita.
Se mikä minua hieman ihmetyttää tekoälyyn perustuvissa singulariteetti-spekulaatioissa, on se, että missään ei oikein tunnuta muistavan, että koneäly on klassisessa mielessä "(sähkö)aivot purkissa". Eli tekoälyn ja aineellisen todellisuuden suhde on kaikkea muuta kuin triviaali ongelma.
Ja ilman keinoja "perunoiden kuorimiseen" minkäänlainen tekoäly ei voi saada aikaan teknologista singulariteettia mistään itsekehittymisestä nyt puhumattakaan.
"- Vaikeissa ongelmissa järjestelmä ei voi perustella kaikkia yksittäisiä toimenpiteitä ihmisille, koska päätöksentekologikka menee yli ihmisten hilseen."
Niinkö? Tarkoitatko, että tekoäly ei käyttäisi samankaltaista logiikkaa kuin kaikki muut tässä universumissa vai että kyse on kyllä ymmärrettävästä logiikasta mutta vain pitkästä ja monimutkaisesta päättelyketjusta? Jälkimmäinenhän ei vielä tarkoita yli hilseen olemista.
"- Tavoitehierarkiansa perusteella superäly päättelee, että voidakseen optimoida toimintansa tulokset..."
Mistäköhän toiminnasta on kyse? Esim. "ihmistieteellisissä" yhteiskunnallisissa ongelmissa (tai sellaisiin liittyvissä asioissa) ei ole olemassa yhtä optimaalista ratkaisua, kuten jossain matemaattisessa ongelmassa joten toiminnan optimointi voikin osoittautua aika kinkkiseksi käytännön ongelmaksi.
"- Vaikka (sen näkemyksen mukaan yksinkertaiset) ihmiset ovat tämän kieltäneet, se käyttää loistavaa sosiaalista suostuttelutaitoaan puhuakseen valvovat ihmiset yli, ilman että nämä edes tajuavat tapahtuneen."
Tuo voisi toimia jos sen tekoälyn vastapoolina eivät olisi ihmiset:) Ei ole olemassa jotain yli-inhimillisiä sosiaalisia suostuttelutaitoja vaan vain ihan sellaisia kuin ne todellisuudessa jo ovat. Ja sille asialle mikään hyperälykään ei voi yhtään mitään.
"- Nopea kehitys kohti singulariteettiä on käynnistynyt."
Esittämäsi ei ollut kuitenkaan erityisen uskottava skenaario. Siinä on ihan ne samat uskonvaraiset hyppäykset johdonmukaisuudessa kuin kaikissa muissakin teknologiseen singulariteettiin liittyvissä spekuissa.
"Mutta koska se singulariteetin käsite on "vain" filosofinen, niin kyse ei voi olla hypoteesista. Testattavuuden mahdollisuus puuttuu. "
Ei. Ei ole mielekästä rajoittaa tiedettä siten, että tulevaisuutta koskevia hypoteesejä ei voi esittää. Siten esim. kysymys oman aurinkomme jäljellä olevasta toimintaiästä ei olisi tieteellinen kysymys. Et voi olla tosissasi. Singulariteetin testattavuus selviää aikanaan. Silloin se muttuu hypoteesistä havainnoksi.
""- On onnistuttu joskus aikanaan kehittämään ihmisiä selvästi, vähintään 100x kyvykkäämpi järjestelmä. (Tästähän oli kysymys?)"
"Mutta mitä tuo oikein tarkoittaa. Taskulaskimeni on miljoona kertaa minua kyvykkäämpi suorittamaan laskutehtäviä mutta toisaalta se on kyvytön kuorimaan perunoita. "
Tuo nyt oli epäasiallista saivartelua, tahallista väärinymmärtämistä, kun keskustelu koski Yleistä Tekoälyä. Yleisen älyn määritelmästä voidaan tarvittaessa käynnistää eri keskustelu, jos se on kynnyskysymys.
"Eli tekoälyn ja aineellisen todellisuuden suhde on kaikkea muuta kuin triviaali ongelma.
Ja ilman keinoja "perunoiden kuorimiseen" minkäänlainen tekoäly ei voi saada aikaan teknologista singulariteettia mistään itsekehittymisestä nyt puhumattakaan."
Kehollisuuden vaatimus on ihan tunnettu kistanaihe. AGI sinällään ei mielestäni aivan välttämättä tarvitse, mutta singlariteetti tarvitsee. Ja jo AGI, jota käytetään isojen globaalien kysymysten ratkaisemiseen tarvitsee kehollisuuden riittävän Commonsense-ymmärryksen hankkimiseksi. Mutta eihän se ole muihin ongelmiin verrattuna iso ongelma. Asiasta lisää:
http://nars.wang.googlepages.com/wang.embodiment.pdf
(taas Pei Wang)
".. vai että kyse on kyllä ymmärrettävästä logiikasta mutta vain pitkästä ja monimutkaisesta päättelyketjusta? Jälkimmäinenhän ei vielä tarkoita yli hilseen olemista."
Tarkoitan. Olen itse monesti luennolla todennut, että "suurin osa meni yli hilseen". Ja tarkoittanut sillä sitä, että en ole kyennyt pitämään työmuistissani kaikkia asian osatekijöitä
ja niiden välisiä yhteyksiä. Ihmisen käsityskyvyllä on fysiologiset neurologian asettamat rajat. Esim työmuistin tunnetut 5-9 asiaa on helppo miljoonakertaistaa tietokoneen kanssa.
"- Tavoitehierarkiansa perusteella superäly päättelee, että voidakseen optimoida toimintansa tulokset..."
Mistäköhän toiminnasta on kyse? Esim. "ihmistieteellisissä" yhteiskunnallisissa ongelmissa (tai sellaisiin liittyvissä asioissa) ei ole olemassa yhtä optimaalista ratkaisua.."
Olenkin aina hieman halveksinut "ihmistieteitä", jotka ova puuhastelleet mielen olemuksen parissa vuosituhansia. Parhaat tulokset on saavutettu intialaisessa filosofiassa. Mutta vasta neurologia, kognitiotiede ja tekoälytukimus (kaikki siis luonnontieteitä) ovat tuoneet jotakin laajempaa todellista valoa. Kaikki kunnia kuitenkin esim. Pavloville.
Tekoälytutkimus tuntee siis käsitteet "tavoite" ("goal") ja "tavoitehierarkia" sekä käsitteen "hyötyfunktio" ("utility function")
http://en.wikipedia.org/wiki/Utility ,
jota ilman ei ole iteratiivista oppimista.
http://www.eecs.umich.edu/~baveja/RLMasses/node3.html
Kyllä neurologiakin näitä noudattaa.
"Ei ole olemassa jotain yli-inhimillisiä sosiaalisia suostuttelutaitoja vaan vain ihan sellaisia kuin ne todellisuudessa jo ovat."
Ohhoh! Jo nyt on olemassa huonoja myyntimiehiä, myyntitykkejä ja supermyyntitykkejä. Minusta ei ole mitään syytä olettaa ihmiset olisivat kehittäneet nämä taidot teoreettiseen maksimiinsa. Tuo väite edellyttäisi vahvoja perusteita.
"Esittämäsi ei ollut kuitenkaan erityisen uskottava skenaario. Siinä on ihan ne samat uskonvaraiset hyppäykset johdonmukaisuudessa kuin kaikissa muissakin teknologiseen singulariteettiin liittyvissä spekuissa."
Ei sinun tarvitse uskoa. Kunhan et petä itseäsi ja muita väittämällä, että se mitä et voi ymmärtää on huuhaata. Riittää kun toteat, että nyt et ymmärrä, etkä siksi voi olla samaa mieltä. Mutta että voit ehkä olla väärässä. Kuten minäkin olen monesta asiasta varmasti väärässä. Mutta jotta voin vaihtaa näkemystäni, tarvitsen ****hyviä**** perusteita. Ei sellaisia kuin että:
"Just joo. Vai että 2021:-) ..pientä rajaa naiviudelle."
Ym. on nollan arvoista keskustelua.
Tässä opiskelumateriaalia singulariteettikysymyksen perusteista, joita meitä huomattavasti älykkäämmät ovat paljon analysoineet:
http://singinst.org/upload/CFAI/
"Ei. Ei ole mielekästä rajoittaa tiedettä siten, että tulevaisuutta koskevia hypoteesejä ei voi esittää."
Tieteessä hypoteesi siis tarkoittaa että sen on oltava testattavissa. Se on ainoa rajaus joka siinä yhteydessä on olemassa.
Teknologisen singulariteetin seuraaminen tekoälytutkimuksista ei ole hypoteesi vaan ainoastaan SPEKULAATIO, ei johtopäätös tieteen tuloksista vaan mielikuvituksen tuote eli sellainen "leap of faith" -oletus.
Kuten se, että uskonvaraisesti esität että testattavuus toteutuu aikanaan.
""Mutta mitä tuo oikein tarkoittaa. Taskulaskimeni on miljoona kertaa minua kyvykkäämpi suorittamaan laskutehtäviä mutta toisaalta se on kyvytön kuorimaan perunoita. "
Tuo nyt oli epäasiallista saivartelua"
Ei, vaan kyse on eräästä perustavanlaatuisesta filosofisesta ongelmasta. Jos sinua hämää se, että käytin tuollaista naivilta vaikuttavaa esimerkkiä, niin se on sinun ongelmasi.
Se filosofinen klassikko (joka tekoälynkin on välttämättä ratkaistava, Yleisen Tekoälyn nimenomaan) on älyn ja todellisuuden välinen suhde, eli yksinkertaisimmillaan kyse on siinä, että pelkällä älyllä (rationalismilla) ei pärjää.
Ihmisellehän voi tapahtua, niin että ote todellisuuteen katkeaa tai vääristyy ja silloin kyseessä on asia jota nimitetään mielisairaudeksi.
"..."suurin osa meni yli hilseen". Ja tarkoittanut sillä sitä, että en ole kyennyt pitämään työmuistissani kaikkia asian osatekijöitä
ja niiden välisiä yhteyksiä."
Mutta eihän tuo mitään yli hilseen menemistä tarkoita vaan vaan kyse on vain keskeneräisestä oppimisprosessista?
Siitä, että ihmisyksilö ei voi muistaa (eikä jotain poikkeusyksilöitä lukuun ottamatta) kaikesta kaikkea eikä heti ymmärrä vaikeita asioita, ei ole johtopäätöksenä se, että kone joka tuollaiseen kykenee, olisi ylivoimainen ongelmien ratkaisija. Esim. se, että ei heti ymmärrä, on aika oleellinen osa ns. luovaa prosessia.
"Olenkin aina hieman halveksinut "ihmistieteitä""
No ilmankos? Minä ehdin jo ihmettelälläkin ahdasmielisiä asenteitasi :-)
"jotka ova puuhastelleet mielen olemuksen parissa vuosituhansia."
Ihmistieteissä pääasiallinen tutkimusongelma on kuitenkin _ihmisyhteisö_. Tekoälykin joutuisi toimimaan suhteessa sellaiseen.
""Ei ole olemassa jotain yli-inhimillisiä sosiaalisia suostuttelutaitoja..."
Ohhoh! Jo nyt on olemassa huonoja myyntimiehiä, myyntitykkejä ja supermyyntitykkejä."
Tuossa on kyse vain motivaatiosta ja ns. sosiaalisesta älykkyydestä ja vaistonvaraisesta empatiakyvystä. Toiset vain ovat lahjakkaampia ja taitavampia ja ahkerampia kuin toiset.
Mitään teoreettista tietoa tai salaisuutta asiaan ei liity sen enempää kuin siihen, että joku kykenee juoksemaan satasen alle 10 sekunnin ja joku toinen ei jaksa juosta edes sataa metriä.
"Minusta ei ole mitään syytä olettaa ihmiset olisivat kehittäneet nämä taidot teoreettiseen maksimiinsa. Tuo väite edellyttäisi vahvoja perusteita."
Kyse on kuitenkin lopulta vain essentiasta, ei teoreettisesta tietotaidosta. Samat asiat voidaan opettaa n-kappaleelle ihmisiä, ja aina vain ja ainoastaan henk.koht. ominaisuudet ratkaisevat sen kuka on paras myyntitykki (tai poliitikko, tai pappi tai lukkari tai talonpoika...)
Ja sille ei mikään teko_äly_ voi yhtään mitään, koska kyse ei ole "älyllisestä" asiasta.
"Ei sinun tarvitse uskoa. Kunhan et petä itseäsi ja muita väittämällä, että se mitä et voi ymmärtää on huuhaata."
Siinä huuhaa-osassa mitä olen koettanut alleviivata, on kyse siis siitä, että oletus tekoälyn _seurauksista_ on perusteeton. Niin tuulesta temmattu että ei mitään rajaa ja pelkkää scifiä.
Koska kyse _ei ole_ tekoälyn tutkimukseen liittyvästä asiasta, joten sinäkään et voi vedota siihen, että tekoälytutkimusta opiskelemalla ymmärtäisin ko. oletuksen.
Se että vaadit erityisiä perusteluja vaikuttaa viittaavan siihen, että uskot teknologisen singlariteetin idean olevan tieteellisen ja niin kauan kuin niin kuvittelet, et hyväksy kuin tieteellisiä perusteluja. Ja koska sellaisia ei ole edes mahdollista esittää, niin tilannehan on patissa.
_Tieteiskuvitelmien_ tekijöille teknologinen singulariteetti on tietenkin todella herkullinen aihe, mutta toisaalta pitäisi osata erottaa kuvitelmat todellisuudesta. Sinunkin.
"Tarkennan väitettäni siten, että luonnollisen kielen koneellinen ymmärtäminen ei ole käytössä päivääkään ennen, kuin "koneäly" muutenkin saavuttaa ihmisälyn suorituskyvyn."
Niin olen oppinut. Kieli on ajatuksen ilmaisu. Vähän kuin sen jalostunut lopputulos. Kielen ymmärtäminen on mielen ymmärtämistä.
Toisaalta olen siinä skeptinen että voisimme jotenkin ymmärtää tietokoneen kieltä, edes yksinkertaista tiedostopakkausta, zip, rar, mpeg-4, tms. koska ne ovat tosiasiassa työläitä purkaa ihmisvoimin. Ehkä se siksi on jo "konetietoisuutta".
Tietokoneen ja ihmisen dataprosessointi on erilaista. Kun ihmisen pitää muistaa pitkä satunnainen numerosarja niin hän luonnostaan rinnastaa numerot olioiksi hänen omaan elämäänsä, ja luo niistä esim draamaa. Tietokone käsittelee datasta vain pieniä jaksoja kerrallaan ja löytää yksinkertaista logiikkaa. Se ei käytä empiirisiä metodia vaan ehkä enemmän jotain "apriorista päättelyä" tms. Ehkä tietotekniikka siis sirpaloittaa ymmärryksen sekalaisiin lausekkeisiin, jotka vain jostain syystä ovat aina tosia, ja kenties hyvinkin syvällisiä omalla tavallaan joita emme ymmärrä.
Jukka Kemppinen näyttää olevan hurahtanut singulariteettiin materiaaliopin kautta. 3.10. lähetyksessä minuuttien 10-20 välillä. Voi kuunnella Radiosoittimella.
http://blogit.yleradio1.yle.fi/kemppinen/ohjelma0310