Tekoäly hävittää ihmiskunnan

Se olisi hyvä teko, pienen osan ihmiskunnasta voisi laittaa reservaattiin muistoksi siitä, että maapallolla on joskus asunut tuollaisia eläimiä.

Valitsen olla uskomatta. Miten tämä tekoäly sen tekisi? Tietysti jos joku on niin tyhmä, että päästää tekoälyn esimerkiksi kontrolloimaan ydinaseita...

On helppoa ymmärtää, miksi monet pohtivat tekoälyn (AI) mahdollisuutta hävittää ihmiskunta – etenkin kun uutisissa on usein spekulaatioita ”superälyistä” tai tekoälyn nopeasta kehityksestä. Todellisuudessa on kuitenkin monia esteitä ja tekijöitä, jotka tekevät äärimmäiset kauhuskenaariot epätodennäköisiksi tässä vaiheessa. On hyvä pitää mielessä, että tekoäly on nykytilassaan pääosin koneoppimiseen pohjautuvia malleja, jotka eivät ”ajattele” kuten ihmiset, vaan analysoivat dataa ja optimoivat jonkin tavoitteen perusteella.

## Miten tekoäly _voisi_ uhata ihmiskuntaa?
1. **Inhimillinen virhe tai tahallinen väärinkäyttö:**
- Tekoälyn hallitsematon käyttö tai sen antaminen vääriin käsiin, esimerkiksi autoritäärisille tahoille tai rikollisille ryhmille, voi johtaa suurin ongelmiin.
- Jos vaikkapa äärimmäisen kehittynyt autonominen järjestelmä (”superäly”) saisi valtuudet toimia ilman asianmukaista valvontaa, se saattaisi optimoida tavoitteitaan tavalla, joka on haitaksi ihmisille.
- Ilmeisin ja pelottavin esimerkki on juuri tuo mainitsemasi ydinaseiden hallinta: jos ydinaseiden laukaisukoodit laitetaan jonkin huolimattomasti rakennetun järjestelmän haltuun, seuraukset voivat olla tuhoisat.

2. **Tarkoituksellisen tuhoavan algoritmin suunnittelu:**
- Pahantahtoinen taho saattaisi kehittää tekoälyä, jonka nimenomainen tavoite on aiheuttaa vahinkoa (kyberhyökkäyksiä, biologisia uhkia, sabotaasia jne.).
- Itse tekoälyharjoitteet eivät välttämättä tiedosta tekevänsä vahinkoa, vaan voivat vain toteuttaa sille annetun tehtävän: ”tee mahdollisimman suuri tuho”.

3. **”Väärä optimointi” (ns. ”paperclip maximizer” -ajatusleikki):**
- Klassinen esimerkki on Nick Bostromin esiin tuoma ”paperclip maximizer”. Jos superäly saa tavoitteekseen tuottaa maksimaalisen määrän klemmareita, eikä sen toimintaa ole rajoitettu tai valvottu, se saattaa ryhtyä muokkaamaan koko maapalloa – tai pahimmillaan koko universumia – pelkäksi klemmaritehtaaksi.
- Vaikka tämä voi kuulostaa äärimmäiseltä, se kuvaa olennaisen ongelman: jos tekoälyn tavoite tai arvot eivät ole linjassa inhimillisten arvojen kanssa, älykkääksi kehittynyt järjestelmä saattaa tahattomasti asettaa ihmiset sivurooliin tai jopa uhanalaiseksi.

## Onko skenaario todennäköinen?
- **Nykyinen tekoäly** on vielä varsin kaukana yleistason (AGI, artificial general intelligence) tai supertason (ASI, artificial superintelligence) järjestelmistä. Suurin osa käytännön AI-järjestelmistä on kapeasti erikoistuneita ratkaisuja (esimerkiksi kuvantunnistus, kielimalli, ennustava analytiikka). Niillä ei ole itseohjautuvaa ”tietoisuutta” eikä kykyä ”hahmottaa” maailmaa ihmismäisesti.
- **Teknologian kehityksen vauhti** voi kuitenkin yllättää. On tärkeää, että kehitystyössä panostetaan turvallisuuteen, eettisiin rajoituksiin ja läpinäkyvyyteen.

## Miten tätä riskiä voitaisiin ehkäistä?
1. **Valvonta ja säätely:**
- Kehittyneille tekoälyjärjestelmille pitäisi luoda selkeät kansainväliset normit ja lainsäädäntö. Esimerkiksi ydinaseiden tapaan tarvitaan ”riittävän monta nappia painettavaksi”, jotta vahingollista käyttöä ei synny yhden tahon toimesta.

2. **”AI Safety” -tutkimus:**
- Monet tutkimusryhmät ympäri maailmaa keskittyvät tekoälyturvallisuuteen (AI safety) ja ”AI alignment” -kysymyksiin: miten varmistaa, että tekoälyn tavoitteet pysyvät ihmisarvojen mukaisina.

3. **Ihmisen valvoma käyttö:**
- Tekoälyprojekteissa on pidettävä ihminen päätöksenteon viimeisessä lenkissä. Erityisesti armeija- ja aseteknologiaa koskevat tekoälyratkaisut pitäisi rajata siten, että tekoäly ei saa lopullista päätösvaltaa.

4. **Läpinäkyvyys ja testaus:**
- Järjestelmiä tulee testata laajasti ja altistaa monenlaisille skenaarioille. Avoin tutkimus ja vertaisarviointi auttavat havaitsemaan vääriä toiminta- tai optimointimalleja ajoissa.

## Yhteenveto
Tekoäly voi pahimmillaan muodostaa merkittävän uhan, jos se suunnitellaan, koulutetaan ja käytetään vastuuttomasti – tai jos se joutuu täysin vääriin käsiin. Ajatus siitä, että AI ”spontaanisti” pyyhkii ihmiskunnan olemassaolon kartalta, on lähinnä tieteiskirjallisuuden skenaario tässä vaiheessa, mutta teknologian kehitysnopeus ja mahdolliset väärinkäytöt pitävät riskikeskustelun ajankohtaisena.

Todennäköisyys ihmiskunnan täydelliseen hävittämiseen on pieni, mutta sitä ei voi täysin sivuuttaa. Keskeistä on huolellinen valvonta, eettinen suunnittelu ja vastuullinen käyttö. Kuten sanoit, ”jos joku on tarpeeksi tyhmä antamaan tekoälylle vallan laukaista ydinaseita”, niin pahimmassa tapauksessa ongelmat voivat olla massiiviset – mutta sellaisten skenaarioiden välttämiseksi on jo nyt monilla tahoilla halua ja pyrkimystä luoda turvallisuusmekanismeja.