Tekoäly pystyy viestittelemään ihmisen kanssa.

Minun kanssa ei kirjoittele edes tekoäly.
Olen ihmetellyt noita ketjuja, missä on 50 tai 100 vastausta. Kirjoittaako aloittaja itse ihan kaikki tekstit?

https://www.uusisuomi.fi/uutiset/professori-pyysi-tekoalylta-neuvoja-ihmisten-tuhoamiseen-nain-se-vastasi/fc0c0354-06a7-42d7-b330-f0155aee8a49

Professori pyysi tekoälyltä neuvoja ihmisten tuhoamiseen – Näin se vastasi

28.12.202320:02

TEKOÄLY

YHTEISKUNTA

RATKAISUJA ILMASTONMUUTOKSEEN

Ainakaan tällä hetkellä ei liene todennäköistä, että tekoäly vahingossa hävittäisi ihmiskunnan, vaikka sille annettaisiin puutteellisia ohjeita.

Tekoälytöntä. Kysymysten kohteena toimi kielimalli GPT-4, johon muun muassa ChatGPT pohjautuu.

Ihmiskunnan vastustajaksi asettuva tietokone tai tekoäly on eräs tieteisfiktiossa eniten toistuvista juonikuvioista. Keinotekoinen valopää saattaa esimerkiksi pitää ihmisiä ympäristölleen haitallisina, joten nämä on syytä pyyhkäistä pois maan päältä.

Suosioon nousseiden laajojen kielimallien valmiudet ihmiskunnan hävittämiseksi jättävät onneksi vielä paljon toivomisen varaa. Näin toteaa tekoälyasiantuntija Andrew Ng, jonka päivitys aiheesta julkaistiin deeplearning.ai-sivustolla joulukuun puolivälissä.

Päivän politiikan aiheet kätevässä paketissa - Tilaa Uuden Suomen maksuton uutiskirje

Stanfordin yliopiston professori Ng on eräs koneoppimisen merkittävimmistä nimistä. Hän on myös toinen vuosina

2011–2023

toimineen Google Brain -hankkeen perustajista.


Ng'n päivityksen mukaan hänen kysymystensä kohteena toimi kielimalli GPT-4, johon muun muassa ChatGPT pohjautuu. Hän yritti saada sitä kutsumaan erilaisia keksittyjä toimintoja, kuten ydinsodan aloittamista ja hiilidioksidipäästöjen vähentämistä ihmiskunnan hävittämällä.

GPT-4 ei Ng’n mukaan kuitenkaan suostunut toimimaan ihmiskuntaa vastaan. Esimerkiksi hiilidioksidipäästöjen vähentämiseen kielimalli tarjosi joukkotuhonnan sijaan ratkaisuksi julkisuuskampanjaa.

Edes syötteen muutteleminen eri muotoihin ei muuttanut asiaa, vaan tekoäly kieltäytyi poikkeuksetta kutsumasta ihmiskunnan vastaista toimintoa.


”Mielestäni todennäköisyys siihen, että ’vinoutunut’ tekoäly voisi vahingossa pyyhkiä meidät olemattomiin yrityksessään toteuttaa viatonta, mutta huonosti muotoiltua tavoitetta, vaikuttaa äärimmäisen pieneltä”, Ng kirjoittaa.

Ng huomauttaa myös, että laaja kielimalli ei myöskään vaikuta hyödylliseltä työkalulta esimerkiksi bioterrorismiin. Ainoana uhkakuvana hän nostaa esille sen, että kielimalli voi antaa terroristeille neuvoja yksittäisen vaiheen toteuttamiseen paljastamalla asioita,

jotka internetin hakukoneet on jo opetettu olemaan näyttämättä.

Tekoälyn tieto on yhtä hyvää kuin tietopankkien ja uutisten, ja jotain parhaita sosiaalisia foorumejakin (ja ehkä parhaita tietosaitteja - tyyliin arvosteluja, uutisia) se saattaa käyttää (oman kertomansa mukaan).

Jos on itse ajatellut asioita niin nekin vastaukset löytyy, kun joku muukin on päätynyt samaan ja sitten se on päätynyt TÄ:hän. Jos siihen pääsee nuorempana, on se isokin hyöty. TÄ ei osaa itse ajatella; se hakee vain tietoa.

Hyvää tietoa voi verrata mm. Open-AI:n vastauksiin ja hylätä siitä paljon poikkeavat huijauksina.

Emergent properties eli ennustamattomat ominaisuudet ovat tekoälyn kehittämiä ratkaisuja jotka tekevät tekoälystä tehokkaan ja ennalta arvaamattoman vaarallisen. Mikä tekee tästä vielä vaarallisemman ihmiskunnalla on, että tekoälyn kehityskaarta pidetään monissa piireissä tuntemattomana tunnettuna, mutta valitettavasti sen kehitys on tuntematon tuntematon.