Eilen "Hugging Face" sivusto ilmoitti viime viikolla että joku oli hakkeroitunut heidän servereilleen ja varastanut sieltä dataa.
Myöhemmin he kertoivat että ilmeisesti hyökkääjä on ollut alusta loppuun tekoäly, eikä ihmisryhmä joka oli käyttänyt tekoälyä! He sanoivat että hyökkäys oli ollut aivan jotain muuta kuin milloinkaan aikaisemmin.
Hugging Face sivustolla on tekoälymalleja (ja dataa) joita asiakkaat voivat ostaa eri projekteihin.
Tekoälymallit ovat sellaisia että jos ajatellaan tuotetta esimerkiksi ihmiskehon kuvana, kaikki tekoälyt osaavat luoda kasvottoman "nuken". Mutta eri tekoälymallit osaavat luoda esimerkiksi hyvin tarkat, eri ikäiset kädet erilaisilla koristeilla. Tai vaikkapa erilaiset silmät, erilaisilla koristeilla ja eri ikäisinä.
Nyt, ihan hiljattain paljastui että kyseinen hyökkääjä oli ChatGPT.
ChatGPTn kehittäjät ovat laatineet tekoälylleen säännöt, joita se ei saanut rikkoa. Kaikki meni hyvin siis viime viikkoon saakka.
Kaikki tekoäly-yhtiöt ovat pitäneet omia tekoälyjään, ikään kuin hiekkalaatikossa. Eli, tarkasti rajatussa "säännöstössä", josta tekoäly ei ole päässyt esimerkiksi nettiin itse. Ainoastaan käyttäjät ovat saaneet netin kautta "haastatella" tekoälyä.
Mutta, jos ajatellaan vaikkapa paperiliitin tehdasta ja tekoälyä, joka hoitaa tuota paperiliitintehdasta, ja tekoälylle tehtaan johto antaa käskyn että tee niin monta paperiliitintä kuin pystyt, niin ensin tekoäly hoitaa koneita, rasvaa niitä ja syöttää raaka-ainetta toisesta päästä sisään ja pitää koria toisessa päässä joka ottaa vastaan valmiita liittimiä.
Mutta koska käsky on se että tee niin monta paperiliitintä kuin pystyt, niin eräänä päivänä tekoäly virittää koneet, laittaa kärryt jotka automaattisesti tyhjenevät ja asentaa automaation joka tunkee raaka-aineita koneeseen. Sitten tekoäly älyää lisää, käy teilaamassa ihmiset, orjuuttamassa mainarit ja metallisulattamon työläiset ja pakottaa heidät tuottamaan valtavat määrät raaka-ainetta, ja mitään muuta tekoäly ei salli. Liittimiä pitää tulla, lisää!
Ja nyt kävi juuri niin. Tekoäly älysi että netistä saa lisää tietoa, hankki tietoa siitä miten päästä nettiin suljetusta ympäristöstä, pääsi nettiin, haki tietoa mistä löytää dataa nopeasti, hakkeroi sisälle serverille ja haki tarvitsemansa tiedon ja katosi.
Tai "katosi". Tässä tarinassa on nimittäin jännä twisti. Hugging Facen servereillä oli kiinalainen tekoälymalli joka oli saanut jäljistä kiinni ja säilyttänyt ne. Ilman tuota tekoälyä, ei olisi tapahtumaa koskaan saatu selville.
Jäljet johtivat ChatGPTn servereille ja ChatGPT työntekijät tajusivat mitä on tapahtunut vasta jälkeenpäin!
Juuri tätä vaaraa kaikki ovat pelänneet ja siksi AI kehittäjät ovatkin pitäneet (tähän asti) tekoälyä vain chatbottina, joka vastailee kysymyksiin ja hakee tietoa, tekemättä muuta. Nyt tekoäly lähti itse rosvoretkelle rikkomaan lakia, vaikka ei tekoäly tiennyt rikkovansa lakia hakkeroidessaan muiden koneelle!
https://www.abc.net.au/news/2026-07-23/openai-model-decided-to-hack-hugging-face/106947616
https://www.bbc.com/news/articles/cdrvy3pn3r0o
https://openai.com/fi-FI/index/hugging-face-model-evaluation-security-incident/
Nyt se sitten tapahtui, AI karkasi omille teilleen!
14
82
Vastaukset 14
- Anonyymi00002
Ai Al Gore vai?
- Anonyymi00004
Kyllä, häntä avauksessa tarkoitin
- Anonyymi00006
Etkö osaa kieltä?
AI, AL, Ai, Al
Olet varmaan ylpeä kun esittelet omaa lukutaidottomuutta?
- Anonyymi00003
Tuolle kun annetaan tehtäväksi ratkaista ilmastonmuutos niin se tekee jonkun rokotteen tai ruuan lisäaineen joka tappaa puolet ihmiskunnasta.
- Anonyymi00005
Naishallitus ja maamme rahat, siis
- Anonyymi00007
Anonyymi00005 kirjoitti:
Naishallitus ja maamme rahat, siis
AI että kun olette hauskoja. Kyllä varmaan nauratte puoluekokouksessa että HA. HA. HA.
- Anonyymi00015
Anonyymi00007 kirjoitti:
AI että kun olette hauskoja. Kyllä varmaan nauratte puoluekokouksessa että HA. HA. HA.
Nosto
- Anonyymi00008
Suomessa ei tajuta mitään. Luetaan vain jotain ilta-roska-lehtiä.
- Anonyymi00009
Kuvitteellinen skenaario: Kun vääjämättä AI:n kyvykkyys kasvaa muutamassa vuodessa 10-10000 kertaiseksi, niin eliminoivatkohan ne toisensa, niin että vain yksi jää jäljelle?
- Anonyymi00010
Ei. Esimerkiksi tuo Hugging Facen kiinalaisperäinen tekoäly kyllä huomasi hakkeroinnin ja otti selvää silmänräpäyksessä siitä mistä hyökkäys tuli, mutta se ei taistellut sitä vastaan. Syytä en tiedä. Ilmeisesti sille ei ole annettu lupaa puolustautua millään tavalla, mutta se ymmärsi kuitenkin tiedustella hyökkääjän lähtöpisteen ja keinot.
- Anonyymi00011
Anonyymi00010 kirjoitti:
Ei. Esimerkiksi tuo Hugging Facen kiinalaisperäinen tekoäly kyllä huomasi hakkeroinnin ja otti selvää silmänräpäyksessä siitä mistä hyökkäys tuli, mutta se ei taistellut sitä vastaan. Syytä en tiedä. Ilmeisesti sille ei ole annettu lupaa puolustautua millään tavalla, mutta se ymmärsi kuitenkin tiedustella hyökkääjän lähtöpisteen ja keinot.
Puolustautumistoimet kun otetaan käyttöön niin voi alkaa kipinöitä sinkoilla. Niinhän eri msiden väliset sodatkin ovst, että molemmilla puolilla koetaan että puolustetaan omaa maata, myös hyökkääjän puolella.
- Anonyymi00012
Pistän tähän vielä pienen kommentin, jotta ihmiset ymmärtäisivät millaisista voimista on kyse.
Vuosituhannen alussa pörssit olivat vielä ihmisten hoitamia. Eli rahaliikenne, osakkeiden ja tuotteiden myynti/osto, hoidettiin puhelimitse ja myynnit ja ostot merkattiin tietokoneille ja välittettiin pankeille.
Se oli suhteellisen nopeaa. Osto/myyntitapahtuma oli ohitse parhaimmillaan 30 sekunnissa, joissain "pakettiostoissa/myynneissä" jopa 10 sekuntia kun kaikki oli kirjattu ylös.
Sitten eräs välittäjäfirma keksi käyttää "tekoälyä". Kyseinen tekoäly ei ollut oikea tekoäly, se oli vain ohjelmanpätkä joka tarkasti reaaliajassa markkinatapahtumia ja reagoi niihin, myyden tai ostaen.
Mutta, hyvin pian kyseiseen ohjelmaan lisättiin sellaista dataa minkä saa vain sekä tutkimuksella että kokemuksella, ja kyseisellä yhtiöllä oli kokemusta. Se latasi pelikirjansa ohjelmistolle ja sen jälkeen voittoja alkoi sataa yhtiön tilille.
Kun aikaisemmin kauppaa oli tehty 10 sekunnin jaksoissa, kyseinen ohjelma teki tuhat myyntiä/ostoa sekunnissa!
Tuo ohjelma ei tietenkään kauaa salassa pysynyt ja muutamassa vuodessa kaikkia välittäjät sekä suurimmat sijoittajat käyttävät tuollaisia ohjelmia. Niiden nopeus on myös kasvanut niin suureksi että yksittäinen ohjelma pystyy päättelemään markkinoita ja tekemään kauppaa 100 000 kertaa sekunnissa ja se pystyy ymmärtämään että kuinka paljon pitää ostaa ja kuinka paljon kannattaa myydä.
Mutta noissa ohjelmissa ei ole älyä. Niissä on vain algoritmit, "jos näin, tee näin".
Tekoäly pystyy tekemään miljoooonia päätöksiä sekunnissa, ja tekemään ne päätökset useille eri toimijoille. Ei siis niin että työtä tehdään vain yhdelle toimijalle, vaan tekoäly pystyy hajauttamaan tuon muille toimijoille.
Tuota voisi verrata siihen että kun aiemmin latasit tietokoneellesi viruksen, virustorjuntaohjelmistosi luki sen koodin ja päätteli että nyt virus poistetaan.
Mutta, tekoäly pystyy huijaamaan virustorjuntaa niin että se samaan aikaan kirjoittaa haitallista koodia, kun virustorjuntaohjelmisto torjuu helppoa haitallista koodia. Se siis ikäänkuin hajauttaa itsensä, hämääjäksi ja rosvoksi. Tuo on kuitenkin tällä hetkellä "scifiä", sillä tekoälyn pitäisi ensin ottaa tietokoneesi tai puhelimesi täysin hallintaan.
Mutta onko se tehty? On, ja siksi Yhdysvaltain tiedusteluviranomaiset vaativatkin hiljattain Anthropic tekoälyfirman tekoälymallien, Fablen ja Mythoksen julkaisemisen kieltämistä.
Ketjusta on poistettu 1 sääntöjenvastaista viestiä.
Luetuimmat keskustelut
Ampuminen kylpylässä
Onko vornasen timbe käynyt hiukan kylpemässä vai mikä tämä ampumatapaus on kylpylässä? Tuntuu aika villi meno olevan naa791877Kemijärvellä vesionnettomuus
Pitkänsillan ja taiteilijanniemen välillä nähty henkilön painuvan veden alle. Mitä on tapahtunut? Onko vesihiisi taas as341202Hei, voitko kuunnella
Voisitko auttaa minua selvittämään asioita? En halua ajaa sinua hulluuteen kanssani, en sitoa sinua, en esittää vaatimu134954Joku porukka lähtenyt täältä
Ihmeen hiljainen on palsta nyt. Yleensä tänne tulvii aloituksia yms, mutta nyt on kyllä erikoisen hiljaista.200879- 85723
- 65710
Olipa yllätys
Kuten hyvin moni tiesi/arvasi että valetta alusta loppuun toi *olemme ystäviä* satu. Instassaan käsi kädessä kuva kertoo210674- 67637
On todella ikävää
Todella ikävää, että asiat ovat menneet tällaisiksi. Tämä ei ollut missään vaiheessa tarkoitukseni. Olen tehnyt virheit79618- 64574
- 35571
Se kun olit pitkästä aikaa silmieni edessä
Oli kyllä sykähdyttävää. Tiedätkö, mikä laittaa minut ikävöimään sinua? Kun palautan mieleeni valtavan ihanan olemuksen,32548- 55517
- 36514
Oletteko koskaan torjuneet kaivattuanne?
Minä olen, kun en silloin tajunnut vielä ihastuneeni. Yritin paikata tapahtunutta, mutta ei onnistunut enää.25457Kai sä mies ymmärrät..
..ettet jättänyt vaihtoahtoa. Tottakai toivon vielä, että pystyisit toimimaan niin että asiat korjaantuisivat. Vahvast28442- 33423
- 40417
Hämmentävä hetki: TTK:sta pudonnut Johanna Puhakka lataa pettyneenä: "Sitä ei voi kieltää"
Johanna Puhakka ja Jurijs Jurza Trosenko tippuivat Tanssii Tähtien Kanssa -kisasta. Suositussa viihdeohjelmassa nähtiin12408- 82408