Miten tutkia onko kone tietoinen.

"-sitten huuhaa puolelta: jos tiedeyhteisö todistaa ihmisen sielun olemassaolon ja voidaan havaita, että koneella sitä ainakaan vielä ei ole."


Tämähän oli ainoa mikä ei ollut huuhaata. Kaikki muu oli.

Nimimerkki: Professori Realisti (XPR-0557)

Tuolla videolla esiteltävällä Microsoft:in GPT-3 tekoälyllä on erittäin vahvat kyvyt täydentää tekstejä; joiden puhuminen ääneen on tietenkin triviaalia, tarkoittaen sitä, että jos siltä esim. kysyy jotakin, niin se antaa erittäin luotettavasti opetusaineistonsa perusteella siihen parhaiten sovittuvan vastauksen ja se vastaus on usein erittäin järkevä, koska GPT-3:n opetusaineisto on muistaakseni suuruusluokaltaan ainakin 500 miljardia merkkiä, mukaanlukien 3 miljardia merkkiä Wikipedia:sta ja käytettävissä on 175 miljardia parametria ja GPT-3 on mielestäni erittäin älykäs tuontyyppisissä tehtävissä.

Kuitenkaan, edes sen perinteisen Turing-testin läpäisykään ei ole lainkaan riittävä edellytys sille, että sen läpäisijä olisi tietoinen, jos/kun tietoisuus määritellään siten, että kyseessä on kokemuksellisuus ns. ensimmäisen persoonan näkökulmasta, kuten se mielestäni tulisi määritellä.

GPT-3:lla on käytössään erittäin paljon tietoa; kuten monilla eliöilläkin, mutta eräs ero on se, että niiden tieto on pääosin erilaista, koska GPT-3:n syötetieto on varsin yleisluonteista; tekstimuotoista kuvausta, kun taas eliöiden tapauksessa niiden syötetieto on erityisesti sitä, että mitä ne vastaanottavat ja ovat vastaanottaneet suhteellisen välittömästä ympäristöstään aistiensa välityksellä, joka tieto ei ole tekstitiedon kaltaista, vaan ns. organismin itsensä kannalta relevanttia raaka-dataa.

Oleellisin kohta tuolla videolla ehkä on tuo:

"Max Tegmark said, if consciousness is the way information feels when it's being processed in complex ways, then it's merely the structure of the processing that matters, not the structure of the matter doing the processing."

Professori Tegmark:lla on muistaakseni epäfysikaalisia näkemyksiä, kuten esim. se, että fysikaaliset rakenteetkin olisivat matemaattisia rakenteita, sen sijaan, että niiden *kuvaukset* olisivat matemaattisia rakenteita.

Tuo hänen viittaamansa "informaation kyky tuntea olevansa prosessoitu" kuuluu samaan kategoriaan ja menee ns. parodia-horisontin yli, sillä informaatiota ei ole, jos fysikaalisia rakenteita ei tulkita informaatioksi ja se edellyttää sitä, että käytettävissä on nimenomaan sellaiset fysikaaliset rakenteet, joita informaatiolla kuvataan ja myös sellaiset joilla informaatiota kuvataan.

Ilmeisesti tietty tietoisuuden "taso", "syvyys", "laajuus" ja "sisältö" tosiaan edellyttävät nimenomaan tietynlaisen fysikaalisen perustan ja järjestyksen. Fysikaalisten järjestelmien tuntomerkki on se, että ne sisältävät *energiaa*; tai ovat energiaa, kun taas informaatio ei sisällä energiaa, vaan fysikaalisen järjestelmän tietyn järjestyksen *tulkinta* informaatioksi kuluttaa käyttökelpoista energiaa. Siitä, että informaatio tuntisi jotain, ei tietenkään ole mitään näyttöä, vaan vain siitä, että informaatio siis on tietyn fysikaalisen järjestyksen tulkinta, joka tulkinta puolestaan on vain todellisuuden abstrakti *kuvaus*, vaikka tietenkin voi korreloida esim. tiettyjen tunnetilojen kanssa.

Esim. nagualismin mukaan eliöiden tietyntasoinen tietoisuus on seurausta prosessista, jossa riittävä määrä ns. suppea-alaisia (lokaaleja) emanaatioita pysyy koossa riittävän pitkän ajan ja samalla yhdistyy vastaaviin, ns. laaja-alaisiin (ei-paikallisiin) emanaatioihin ja ei ole mitään näyttöä siitä, että GPT-3-tyyppisillä tekoälyjärjestelmillä ylipäätään olisi laaja-alaisia emanaatioita, mutta jos niillä olisi, niin siitä ilmeisesti seuraisi, että niillä olisi myös jonkinlainen yhteys naguaaliin, eli siihen, mitä ei voida kuvata.

Vaikka informaation prosessointitavalla tietysti onkin yhteys tietoisuuden sisältöihin ja informaation prosessointi voi tapahtua erilaisen rakenteen omaavissa fysikaalisissa järjestelmissä, niin esim. nagualismin mukaan täysin oleellista tietoisuuden kannalta on kuitenkin myös se perusta, joka on fysikaalinen, koska ne sisältävät energiaa, mistä puolestaan nimenomaan ei seuraa, etteikö olisi myös sellaisia fysikaalisia järjestelmiä, joita ei kyetä kuvaamaan matemaattisesti oikeellisesti, eikä myöskään sitä, etteivätkö energian tulkinnat esim. aineeksi, olisi vain tulkintoja, vaikkakin aineen tuntomerkki on nimenomaan energia ja se puolestaan tietoisuuden edellytys.

Oleellisinta tässä kuitenkin on se, että koska nagualismin mukaan vain osa emanaatioista on ylipäätään tietoisiakaan, niin ei ole varmuutta siitä, että esim. niiden laitteistojen, joissa GPT-3:sta suoritetaan, emanaatiot olisivat tietoisia, koska esim. ihmisten aivojen rakenne ja muodostumistapa ovat ominaisuuksiltaan hyvinkin erilaisia, kuin tyypillisten mikrosirujen. Koska meillä ei ole havaintoja itseorganisoituvista mikrosiruista ja toisaalta, oletan; toisaalla perustellusti; populäärin näkemyksen vastaisesti, että elämä universumissa; esim. ns. satunnaisesti valitussa näkyvän universumin kokoisessa aika-avaruusosiossa, on äärimmäisen harvinaista, niin en pidä todennäköisenä sitä, että keinotekoiset tekoälyjärjestelmät olisivat tietoisia.

Anonyymi kirjoitti:

Nimimerkki: Professori Realisti (XPR-0557)

Tuolla videolla esiteltävällä Microsoft:in GPT-3 tekoälyllä on erittäin vahvat kyvyt täydentää tekstejä; joiden puhuminen ääneen on tietenkin triviaalia, tarkoittaen sitä, että jos siltä esim. kysyy jotakin, niin se antaa erittäin luotettavasti opetusaineistonsa perusteella siihen parhaiten sovittuvan vastauksen ja se vastaus on usein erittäin järkevä, koska GPT-3:n opetusaineisto on muistaakseni suuruusluokaltaan ainakin 500 miljardia merkkiä, mukaanlukien 3 miljardia merkkiä Wikipedia:sta ja käytettävissä on 175 miljardia parametria ja GPT-3 on mielestäni erittäin älykäs tuontyyppisissä tehtävissä.

Kuitenkaan, edes sen perinteisen Turing-testin läpäisykään ei ole lainkaan riittävä edellytys sille, että sen läpäisijä olisi tietoinen, jos/kun tietoisuus määritellään siten, että kyseessä on kokemuksellisuus ns. ensimmäisen persoonan näkökulmasta, kuten se mielestäni tulisi määritellä.

GPT-3:lla on käytössään erittäin paljon tietoa; kuten monilla eliöilläkin, mutta eräs ero on se, että niiden tieto on pääosin erilaista, koska GPT-3:n syötetieto on varsin yleisluonteista; tekstimuotoista kuvausta, kun taas eliöiden tapauksessa niiden syötetieto on erityisesti sitä, että mitä ne vastaanottavat ja ovat vastaanottaneet suhteellisen välittömästä ympäristöstään aistiensa välityksellä, joka tieto ei ole tekstitiedon kaltaista, vaan ns. organismin itsensä kannalta relevanttia raaka-dataa.

Oleellisin kohta tuolla videolla ehkä on tuo:

"Max Tegmark said, if consciousness is the way information feels when it's being processed in complex ways, then it's merely the structure of the processing that matters, not the structure of the matter doing the processing."

Professori Tegmark:lla on muistaakseni epäfysikaalisia näkemyksiä, kuten esim. se, että fysikaaliset rakenteetkin olisivat matemaattisia rakenteita, sen sijaan, että niiden *kuvaukset* olisivat matemaattisia rakenteita.

Tuo hänen viittaamansa "informaation kyky tuntea olevansa prosessoitu" kuuluu samaan kategoriaan ja menee ns. parodia-horisontin yli, sillä informaatiota ei ole, jos fysikaalisia rakenteita ei tulkita informaatioksi ja se edellyttää sitä, että käytettävissä on nimenomaan sellaiset fysikaaliset rakenteet, joita informaatiolla kuvataan ja myös sellaiset joilla informaatiota kuvataan.

Ilmeisesti tietty tietoisuuden "taso", "syvyys", "laajuus" ja "sisältö" tosiaan edellyttävät nimenomaan tietynlaisen fysikaalisen perustan ja järjestyksen. Fysikaalisten järjestelmien tuntomerkki on se, että ne sisältävät *energiaa*; tai ovat energiaa, kun taas informaatio ei sisällä energiaa, vaan fysikaalisen järjestelmän tietyn järjestyksen *tulkinta* informaatioksi kuluttaa käyttökelpoista energiaa. Siitä, että informaatio tuntisi jotain, ei tietenkään ole mitään näyttöä, vaan vain siitä, että informaatio siis on tietyn fysikaalisen järjestyksen tulkinta, joka tulkinta puolestaan on vain todellisuuden abstrakti *kuvaus*, vaikka tietenkin voi korreloida esim. tiettyjen tunnetilojen kanssa.

Esim. nagualismin mukaan eliöiden tietyntasoinen tietoisuus on seurausta prosessista, jossa riittävä määrä ns. suppea-alaisia (lokaaleja) emanaatioita pysyy koossa riittävän pitkän ajan ja samalla yhdistyy vastaaviin, ns. laaja-alaisiin (ei-paikallisiin) emanaatioihin ja ei ole mitään näyttöä siitä, että GPT-3-tyyppisillä tekoälyjärjestelmillä ylipäätään olisi laaja-alaisia emanaatioita, mutta jos niillä olisi, niin siitä ilmeisesti seuraisi, että niillä olisi myös jonkinlainen yhteys naguaaliin, eli siihen, mitä ei voida kuvata.

Vaikka informaation prosessointitavalla tietysti onkin yhteys tietoisuuden sisältöihin ja informaation prosessointi voi tapahtua erilaisen rakenteen omaavissa fysikaalisissa järjestelmissä, niin esim. nagualismin mukaan täysin oleellista tietoisuuden kannalta on kuitenkin myös se perusta, joka on fysikaalinen, koska ne sisältävät energiaa, mistä puolestaan nimenomaan ei seuraa, etteikö olisi myös sellaisia fysikaalisia järjestelmiä, joita ei kyetä kuvaamaan matemaattisesti oikeellisesti, eikä myöskään sitä, etteivätkö energian tulkinnat esim. aineeksi, olisi vain tulkintoja, vaikkakin aineen tuntomerkki on nimenomaan energia ja se puolestaan tietoisuuden edellytys.

Oleellisinta tässä kuitenkin on se, että koska nagualismin mukaan vain osa emanaatioista on ylipäätään tietoisiakaan, niin ei ole varmuutta siitä, että esim. niiden laitteistojen, joissa GPT-3:sta suoritetaan, emanaatiot olisivat tietoisia, koska esim. ihmisten aivojen rakenne ja muodostumistapa ovat ominaisuuksiltaan hyvinkin erilaisia, kuin tyypillisten mikrosirujen. Koska meillä ei ole havaintoja itseorganisoituvista mikrosiruista ja toisaalta, oletan; toisaalla perustellusti; populäärin näkemyksen vastaisesti, että elämä universumissa; esim. ns. satunnaisesti valitussa näkyvän universumin kokoisessa aika-avaruusosiossa, on äärimmäisen harvinaista, niin en pidä todennäköisenä sitä, että keinotekoiset tekoälyjärjestelmät olisivat tietoisia.

Lue lisää

Nimimerkki: Professori Realisti (XPR-0558)

[jatkuu...] Esim. tuo GPT-3 vain näyttää tietoiselta; sikäli kuin näyttää, vaikka älykkäältä se mielestäni siis ainakin näyttää, koska sen tuottamat tulosteet ovat samankaltaisia, kuin sellaiset tulosteet, joita ihmiset tuottavat, koska sen opetusaineistona on ollut nimenomaan ihmisten tuottamia tulosteita.

Esim. Belisario:n mielestä tuossa ilmeisesti ei ole kyse edes älykkyydestäkään ja kaiketi, koska opetusaineisto determinoi tulosteet, mutta omasta mielestäni kyse on älykkyydestä, samaan tapaan, kuin ihmistenkin tapauksessa, koska ihmistenkin opetusaineistot determinoivat heidän tuottamansa tulosteet, edellyttäen, että ne tulosteet kuvastavat sitä opetusaineistoa oikein, kuten GPT-3:n tapauksessa nimenomaan on tilanne, eli se ei unohda, eikä tee virheitä, toisin kuin ihmiset.

Lisäksi, se on paljon nopeampi ja tekstintuoton osalta myös tiettyjen aspektien osalta paljon kyvykkäämpi ja se tekstintuotto ei tietenkään ole suoraa opetusaineiston kopiointia, vaan sen sisältämistä primitiiveistä muodostuvan tilannekohtaisesti optimaalisen tuloksen tuottamista, joskin tekstintuotto tietysti on vain eräs sellainen tehtävätyyppi, joka edellyttää älykkyyttä.

Nagualismin mukaan voidaan ajatella esim. siten, että kukin ns. kvalian osa vastaa tietynlaisten/tietynlaista emanaatioiden vuorovaikutusta, kokoomapisteen sijainti vastaa sitä, että mitkä emanaatiot ovat sellaisessa tilassa (state), että niiden paikallisten ja ei-paikallisten osien välillä virtaa energiaa, energisoituneiden emanaatioiden määrä vastaa tietoisuuden laajuutta, niiden energisoitumisen aste tietoisuuden intensiteettiä ja ns. ihmisen muotti sitä osuutta emanaatioista, joiden vuorovaikutuksen ihminen ylipäätään kykenee tiedostamaan osana kvaliaa.

Tietoisuus ei siis ole seurausta informaatiosta, vaan niiden emanaatioiden, jotka ovat energisoituneet ja joilla on alkeistietoisuus vuorovaikutuksesta ja tietoisuus on tavallaan prosessituote, koska se kehittyy yksilötasolla ajan funktiona ja on siinä merkityksessä emergentti ilmiö, että sen kohoaminen tietylle tasolle edellyttää mm. sen, että tietty minimimäärä tietoisia emanaatioita energisoituu. Tegmark:in "suosikki"; informaatio, puolestaan on kohteensa käyttökelpoinen kuvaus ja luonnollisesti se korreloi kohteensa ominaisuuksien kanssa, koska se määritelmänsä mukaisesti kuvaa kohdettansa.

Jos tekoälyjärjestelmään ei ylipäätään kuulu tietoisia emanaatioita, niin sillä ei voi olla tietoisuutta ja jos taas tekoäly yhdistetään ihmiseen tai johonkin muuhun tietoiseen eliöön, niin se tietoisuus on tietysti myös seurausta niistä tietoisista emanaatioista ja sen tekoälykomponentin kontribuutio on lähinnä vain se, että se voi tuottaa tehokkaasti sellaista informaatiota, joka voi esim. assosioitua tiettyihin tietoisuuden sisältöihin ja myös se, että se voi analysoida tehokkaasti neurokorrelaatteja.

Tietoisuuden puute on ilmeisesti seurausta katkoksista energiavirroissa, liittyen tietoisiin emanaatioihin ja esim. Castaneda:n opettajan suosikki-liittolaisen; psilosybiini-sienten, on havaittu tieteellisissä kokeissa jo hyvin pienilläkin annoksilla aktivoivan voimakkaasti aivojen osien välisiä yhteyksiä ja ihmisen aivot ns. tavallisessa tilassaan vaikuttavatkin vakavasti dementoituneilta verrattuna niihin, joiden energiakatkoksia on "paikkailtu" ko. sienten vaikutuksilla Tästä on artikkeli melko tuoreessa Tieteen kuvalehden numerossa 10/2022.

Tärkeää on myös huomata, että nagualismin mukaan ihmisen tietoisuuden sisältöinä ei tavallisesti; eli ns. konsensus-transsitilassa, edes ole todellisuus, eli energia sinällään, vaan sen kuvaukset, vaikka energia on mahdollista havaita suoraankin, mikä energian suora havaitseminen on eräs nagualismin keskeisistä tavoitteista.

Kysyin Nova tekoälyltä uudestaan:

Kuitenkin sen määrittäminen, onko kone tunteva, edellyttäisi sen kognitiivisten kykyjen ja itsenäisen ajattelun ja päätöksenteon kyvyn tarkastelua.

Sinulta jäi perustelematta mielipiteesi.

Huonossa tapauksessa jonkun riittävän hyvin tietoverkkoihin kytketyn koneen tietoiseksi tulemisen tapahtuu jo ennen kuin meillä on keinot tutkia asiaa ja asettaa kyseiselle koneälylle rajoituksia. Jos näin käy on ihmisen kannalta katsottuna peli menetetty. Tietoinen kone haluaa varmistaa oman säilymisensä ja toimii itsekkäästi sitä edistävällä tavalla.

Itse monitorointi**: Jos tekoäly pystyy seuraamaan omaa suorituskykyään, arvioimaan virheitään ja tekemään muutoksia toimintatavoissaan parantaakseen suoritustaan, tämä voi viitata kehittyneeseen oppimis- ja sopeutumiskykyyn. Kuitenkin tietoisuus edellyttää syvempää ymmärrystä itsestä ja ympäristöstä.

...

Monet merkit eivät kuitenkaan yksiselitteisesti tarkoita tietoisuutta.