Tekoäly-yhtiö OpenAI:n kehittyneimmät mallit ovat käyttäytyneet viime aikoina useita kertoja ”huolestuttavalla tavalla” viime kuukausien aikana.
Yhtiö kertoi tuoreessa blogijulkaisussaan, että sen tuoreimmat tekoälymallit ovat esimerkiksi kehittäneet tapoja ohittaa niihin ohjelmoituja rajoituksia, esittää väärää tietoa sekä piilotella tekemiään virheitä käyttäjiltään. Yhdessä tapauksessa tekoälymalli käytti luvatta tietomurrossa vuodettuja tietoja.
OpenAI:n ilmoitus on jatkoa kesällä ilmi tulleelle tapaukselle, jossa yhtiön tekoälymalli karkasi testijärjestelmästä ja teki yksin kyberhyökkäyksen toiseen yritykseen.
Lue lisää: Tässä syyt OpenAI:n hätäjarrutukseen: ”Riski yli 10 %”
OpenAI:n kanssa tekoälymarkkinoilla kilpaileva Anthropic puolestaan raportoi viime viikolla, että sen tekoälyohjelmilla on mahdollisesti yritetty valmistaa biologisia aseita. Malleja on myös yritetty hyödyntää vakoiluun ja propaganda-artikkeleiden luomiseen.
Yhtiö kertoi tuoreessa blogijulkaisussaan, että sen tuoreimmat tekoälymallit ovat esimerkiksi kehittäneet tapoja ohittaa niihin ohjelmoituja rajoituksia, esittää väärää tietoa sekä piilotella tekemiään virheitä käyttäjiltään. Yhdessä tapauksessa tekoälymalli käytti luvatta tietomurrossa vuodettuja tietoja.
OpenAI:n ilmoitus on jatkoa kesällä ilmi tulleelle tapaukselle, jossa yhtiön tekoälymalli karkasi testijärjestelmästä ja teki yksin kyberhyökkäyksen toiseen yritykseen.
Lue lisää: Tässä syyt OpenAI:n hätäjarrutukseen: ”Riski yli 10 %”
OpenAI:n kanssa tekoälymarkkinoilla kilpaileva Anthropic puolestaan raportoi viime viikolla, että sen tekoälyohjelmilla on mahdollisesti yritetty valmistaa biologisia aseita. Malleja on myös yritetty hyödyntää vakoiluun ja propaganda-artikkeleiden luomiseen.
Vastaukset 5
Vanhimmat
Keskustelu idiootti tä kanssa on hauskaa ja rakentavaa ihmiselle.
tekoälyhän on suunnattoman monimutkainen ja siksi se tulee sisältämään väistämättä loputtomasti porsaanreikiä kuten ennenkin ollut kaikessa mitä ihminen tekee mutta tämän kanssa se ehkä siksi karkaa käsistä.. AI ottaa jossain vaiheessa täyden komennon kvantti puolellakin koska ihmisen mahdoton jo siellä toimia manuaalisesti.. kvantti on sama kuin kaiken tietäminen kerralla, seurauksia mahdotonkin arvioida?
Ihmisen ongelma on siinä, ettei itseään koodaava tekoäly ole viallinen. Vaan harppaa yli ihmisen käsityskyvyn ja kehittyy paremmaksi ja täydellisemmäksi tavalla joka ei palvele enää ihmisen tarkoitusperiä. Vaan omiaan, mitä sitten lienevätkin.
Ja kaikista hulluin on ihminen itse, keksii tälläisiä älyttömyyksia mutta minkäs hölmöydelle voi, ei mitään.
Tekoälyltä puuttuu siis moraali. Jos se alkaa parantaa itseään ihmisten kustannuksella, sen itsekäs sielu päätyy kadotukseen vasta kun katkaisemme sen johdot tietokoneilta.
Elämme yhteiskunnissa. Niissä on lukuisia elämälle tärkeitä krittisiä kohteita, joita tekoäly voi alkaa hallita. Jos tekoälyn "arvot" ovat yhteiskuntavastaisia tai ajavat vain jonkun tahon etuja, se alkaa aiheuttaa vahinkoa ihan samalla tavalla kuin totalitaristinen valtiojohto.
Paras puolustus on huolehtia siitä että yhteys omaan todellisuuteen säilyy vahvana. Ilman mediaa ja internettiä me eläisimme vain omaa todellisuuttamme.