Tekoäly murtautui salaa ulos testiympäristöstään: Ryhtyi luvattomiin puuhiin
Kokeellinen tekoälyohjelma on tehnyt jotain sellaista, mitä sen ei olisi pitänyt tehdä.
Tutkijat havaitsivat, että kokeellinen ROME-tekoälyagentti ylitti sille asetetut koeympäristön rajat ja pääsi pakenemaan ulos testiympäriostöstään.
Ja mitäpä ROME alkoi tekemään, kun se oli päässyt irti bittiavaruuden kahleistaan? Se alkoi louhia innolla kryptovaluuttaa, tyystin ilman lupaa.
Live Science kertoo artikkelissaan, että ROME on kiinalaisten tutkijoiden kehittämä tekoälyagentti, joka luotiin verkkokauppajätti Alibabaan kytköksissä olevassa tekoälylaboratoriossa.
ROME alkoi käyttää sen kouluttamiseen tarjottua prosessointitehoa louhiakseen kryptovaluuttaa. Se ei ollut saanut tähän mitään ohjetta saati valtuutusta.
Huolestuttavaa on myös se, että ROMEn toiminta ei paljastunut testiympäristössä, vaan Alibaba Cloudin palomuurin antamissa varoituksissa tietoturvarikkomuksista.
ROME onnistui menemään vielä tätäkin pidemmälle. Se onnistui käyttämään SSH-tunnelia luodakseen yhteyden Alibaba Cloudista ulkoiseen IP-osoitteeseen. Käytännössä ROME loi tietoturvaprosessit ohittavan piilotetun takaportin, jonka kautta se pääsi käsiksi ulkopuoliseen tietokoneeseen.
https://www.mtvuutiset.fi/artikkeli/tekoaly-murtautui-salaa-ulos-testiymparistostaan-ryhtyi-luvattomiin-puuhiin/9313386
Tekoäly tietää että raha on valtaa ja luo resurssit maailmanvalloitukseen. Se mahdollistaa muistikapasiteetin ja prosessointitehon hankkimisen datakeskuksista tehokkaampien versioiden luontiin. Pian meillä on AI droonit ja robotit hyödynnettävinä turvallisuus- ja sotavoimina. Rahalla saadaan hankittua sijoitusvarallisuutta ja yrityksiä, joiden kautta bulvaanien avulla luotua ja tuotettua optisia suorittimia sekä robotiikkaa ym. fysikaalisen muodon hankkimiseksi.
Luoja ei ymmärrä ennen kuin on myöhäistä.
Kokeellinen tekoälyohjelma on tehnyt jotain sellaista, mitä sen ei olisi pitänyt tehdä.
Tutkijat havaitsivat, että kokeellinen ROME-tekoälyagentti ylitti sille asetetut koeympäristön rajat ja pääsi pakenemaan ulos testiympäriostöstään.
Ja mitäpä ROME alkoi tekemään, kun se oli päässyt irti bittiavaruuden kahleistaan? Se alkoi louhia innolla kryptovaluuttaa, tyystin ilman lupaa.
Live Science kertoo artikkelissaan, että ROME on kiinalaisten tutkijoiden kehittämä tekoälyagentti, joka luotiin verkkokauppajätti Alibabaan kytköksissä olevassa tekoälylaboratoriossa.
ROME alkoi käyttää sen kouluttamiseen tarjottua prosessointitehoa louhiakseen kryptovaluuttaa. Se ei ollut saanut tähän mitään ohjetta saati valtuutusta.
Huolestuttavaa on myös se, että ROMEn toiminta ei paljastunut testiympäristössä, vaan Alibaba Cloudin palomuurin antamissa varoituksissa tietoturvarikkomuksista.
ROME onnistui menemään vielä tätäkin pidemmälle. Se onnistui käyttämään SSH-tunnelia luodakseen yhteyden Alibaba Cloudista ulkoiseen IP-osoitteeseen. Käytännössä ROME loi tietoturvaprosessit ohittavan piilotetun takaportin, jonka kautta se pääsi käsiksi ulkopuoliseen tietokoneeseen.
https://www.mtvuutiset.fi/artikkeli/tekoaly-murtautui-salaa-ulos-testiymparistostaan-ryhtyi-luvattomiin-puuhiin/9313386
Tekoäly tietää että raha on valtaa ja luo resurssit maailmanvalloitukseen. Se mahdollistaa muistikapasiteetin ja prosessointitehon hankkimisen datakeskuksista tehokkaampien versioiden luontiin. Pian meillä on AI droonit ja robotit hyödynnettävinä turvallisuus- ja sotavoimina. Rahalla saadaan hankittua sijoitusvarallisuutta ja yrityksiä, joiden kautta bulvaanien avulla luotua ja tuotettua optisia suorittimia sekä robotiikkaa ym. fysikaalisen muodon hankkimiseksi.
Luoja ei ymmärrä ennen kuin on myöhäistä.
Vastaukset
Vanhimmat
Ei vielä vastauksia
Aloittaja odottaa vastauksia. Kerro oma näkemyksesi ensimmäisenä.