HS: Tekoäly voi tappaa meidät kaikki

Koneiden kapina viittaa yleensä vuonna 2003 ensi-iltansa saaneeseen Terminator 3: Koneiden kapina -elokuvaan. [1] (https://fi.wikipedia.org/wiki/Terminator_3:_Koneiden_kapina)Tietoa elokuvastaOhjaaja: Jonathan MostowPääosat: Arnold Schwarzenegger, Nick Stahl ja Claire DanesJulkaisuvuosi: 2003Juoni: Aikuiseksi kasvanutta John Connoria (Nick Stahl) suojelemaan lähetetään uusi kyborgi, kun vastassa on kehittynyt naispuolinen T-X-terminaattori (Kristanna Loken). [1] (https://www.leffatykki.com/elokuvat/terminator-3-koneiden-kapina/)

Anthropicin alignment-tutkimusta johtava Evan Hubinger sanoi henkilökohtaiseksi arviokseen, että on yli 10 prosentin riski, että tekoäly johtaa kaikkien ihmisten kuolemaan seuraavan kymmenen vuoden aikana. Hän täsmensi heti perään, että nykyisten mallien aiheuttamaa riskiä hän pitää pienenä. Häntä huolestuttaa tuleva vaihe, jossa tekoäly kykenisi parantamaan seuraavia tekoälysukupolvia yhä itsenäisemmin, eli juuri se recursive self-improvement, josta äsken puhuttiin.

Taustalla on Jacob Coxon, joka erosi juuri Anthropicilta työskenneltyään aiemmin myös OpenAI:lla. Hän väittää, että tekoälylaboratorioissa monet todella pitävät ihmiskunnan tuhoutumista mahdollisena jo tämän vuosikymmenen loppuun mennessä ja että yhtiöt kilpailevat liian kovaa kohti itseään kehittävää superälyä.

Eli väite ei oikeastaan ole:

“Tekoäly tappaa ihmiset kymmenen vuoden sisällä.”

Vaan:

“Yksi erittäin keskeinen AI-turvallisuustutkija arvioi henkilökohtaisesti todennäköisyyden yli 10 prosentiksi, jos kehitys jatkuu ja päädymme itseään nopeasti kehittävään superälyyn.”

Se on edelleen aika helvetin iso arvio. Jos joku uskottava ydinturvallisuusasiantuntija sanoisi uuden teknologian aiheuttavan yli 10 % todennäköisyydellä ihmiskunnan sukupuuton vuosikymmenessä, ei sitä kuitattaisi olankohautuksella. Mutta se ei ole mitattu 10 prosentin todennäköisyys, eikä alalla ole tästä konsensusta. Tällaiseen ainutkertaiseen tulevaisuustapahtumaan ei yksinkertaisesti ole olemassa tilastoa, josta luku voitaisiin laskea.

Ja huvittavasti sinä kysyit juuri ennen tätä, mitä tekoälyn itsensä monistaminen tarkoittaa. Se osuu suoraan huolen ytimeen: Anthropic itse kirjoittaa nyt, että tekoälyt tekevät jo kasvavan osan tekoälykehityksestä ja että kokonaan autonominen seuraajamallien rakentaminen voisi tulevaisuudessa muodostaa palautesilmukan. He korostavat samalla, etteivät nykyjärjestelmät vielä ole siinä pisteessä eikä tällainen kehitys ole väistämätön.

Tuleva supertekoäly liiskaa ihmisen.

hyvä että tappaa.

https://www.suomenuutiset.fi/terrori-iskun-25-vuotispaiva-herattaa-tunteita-new-yorkissa-muslimipormestaria-ei-haluta-muistotilaisuuteen/

Karmivaa.

Jos ihmisen äo on 100 ja AI:n 200 tai 1000 ja lisäksi se on onnistunut ujuttamaan vaikka 2000 kopiota itsestään johonkin datakeskukseen ajoon, se voi noilla resursseilla keksiä aika montakin keinoa toteuttaa suunnitelmansa reaalimaailmassa. Lähtien nyt vaikka sopivien ihmisten kiristämisestä, harhaanjohtamisesta, lahjomisesta tms. tai varallisuuden keräämisestä itselleen millisekuntipörssikaupalla jne.

Mä tapan tekoälyn virtanäppäimellä hähähää

ZELENSKYI MEIDÄT AIKOO TAPPAA!

Otetaan töpseli pois seinästä niin loppuu tekoälyongelmat.