" Yhdysvaltalaisen Rensselaer Polyctechnicin tutkimuksen mukaan nyt on jo korkea aika varmistaa se, että robotit toimivat hyvän puolesta ja pahaa vastaan.
Robotiikkaa pitkään tutkinut Rensselaerin professori Selmer Bringsjord sanoo olevansa huolissaan nimen omaan siitä, että kehittyneet robotit voivat jo tehdä ihmisille tuhoisia päätöksiä aivan itse, vailla ohjelmoijan kaitsevaa kättä.
"Mitä tehokkaammasta koneesta on kyse, sitä isompia uhkakuvat ovat. Robottien kehittyvä itsenäisyys on tuhon resepti", hän sanoo".
http://www.tietoviikko.fi/cio/moraalittomat robotit ovat uhka ihmiselle/a973476
Hän varoittaa siitä, ettei ihmisillä ole yksinkertaisesti varaa jättää huomiotta robottien kehittymistä itsenäisiksi päätöksentekijöiksi.
"Muutoin koko ihmiskunta tuhoutuu", professori ennustaa.
Aseistetut robotit ovat vaarallisia
Bringsjordilla on 17 vuoden kokemus robotiikasta ja keinoälystä (ai, artificial intelligence), joiden tutkimukset hän aloitti jatko-opiskelijana vuonna 1985. Nyt hän yrittää varmistaa sen, että robotit toimivat moraalisella tavalla ja ihmiskunnan hyväksi, Cio.com kirjoittaa.
Työtä riittää, sillä robotit kehittyvät koko ajan autonomisemmiksi. DARPAn viime vuonna tekemän tutkimuksen mukaan ihmiset hallitsevat robotteja yhä huonommin.
Sama sävel soi Yhdysvaltain asevoimissa, jossa ennalta ohjelmoidut ja aseistetut robotit ovat valmiita tekemään yhä tuhoisempia päätöksiä.
Bringsjord on erityisesti huolissaan kehityksestä 10-20 vuoden aikavälillä, jolloin robotit ottavat entistä suuremman roolin sotilaspuolella ja poliisivoimissa. Hänen pelkää sitä päivää, jolloin Yhdysvaltain ohjuspuolustusjärjestelmä on täysin automatisoitu.
Siksi hän sanookin, että ohjelmoinnin yhteydessä roboteille pitää opettaa moraalia ja eettisiä käyttäytymissääntöjä. Tämä on vaikeaa, koska muuttujia on niin paljon. Koneen on vaikea erottaa harmaata mustasta.
Bringsjord vetoaa jo venäläissyntyisen kirjailijan ja biokemistin Isaac Asimovin (1920-92) aikoinaan laatimiin robottien käytössääntöihin.
The Three Laws of Robotics -nimisessä kirjoittuksessa Asimov tähdensi muun muassa sitä, ettei robotti saa koskaan vahingoittaa ihimistä.
Toiseksi robotin pitää aina totella ihmistä. Ja kolmanneksi sen on myös suojeltava itseään silloin, kun kaksi ensimmäistä sääntöä toteutuu.
Moraalia keinoälykoneille
Tätä taustaa vasten on Bringsjordin mielestä olennaisen tärkeää se, että robotit erottavat hyvän pahasta.
"Ihmisten pitää kyetä tekemään joka päivä eettisiä päätöksiä. Olen huolissani siitä, että teknologia keinoälyineen ajaa pian näiden päätösten ohi", hän sanoo.
Hänen mielestään hyvän ja pahan ero on ohjelmoitava robottien käyttöjärjestelmiin erityisesti silloin, kun ne käsittelevät asejärjestelmiä.
Samaa mieltä on Lux Researchin tutkimusjohtaja Mark Bunger, jonka mukaan moraalittomat robotit tuovat tuhoa tullessaan.
"Robotiikka on edelleen lapsenkengissään, eikä eettisiin tai moraalisiin kysymyksiin ole vielä ehditty puuttua. Tutkijat eivät edes tiedä, miten moraalia voi opettaa koneelle", Bunger sanoo.
Gabriel Consulting Groupin analyytikko Dan Olds sanoo, että robotit ovat tehokkaimmillaan autonomisina eli silloin, kun ne ohjaavat toimintaansa itse. Sääntöjä tietenkin tarvitaan, hän painottaa.
"Robotit lähestyvät koko ajan tavallisten ihmisten arkea. Ne eivät kuitenkaan kasva kuten lapsi eivätkä opi kasvaessaan. Siksi teettää paljon työtä muuntaa eettiset arvot matemaattisiin kaavoiksi ja malleiksi", Olds sanoo.
Myös Bringsjordin mielestä moraali ja etiikka ovat vaikeita aiheita koneille.
"Emme tietenkään halua semmoisia koneita, jotka joutuvat pohtimaan moraalisia kysymyksiä silloin, kun astiat pitää tiskata", hän kiteyttää.
Robotiikkaa pitkään tutkinut Rensselaerin professori Selmer Bringsjord sanoo olevansa huolissaan nimen omaan siitä, että kehittyneet robotit voivat jo tehdä ihmisille tuhoisia päätöksiä aivan itse, vailla ohjelmoijan kaitsevaa kättä.
"Mitä tehokkaammasta koneesta on kyse, sitä isompia uhkakuvat ovat. Robottien kehittyvä itsenäisyys on tuhon resepti", hän sanoo".
http://www.tietoviikko.fi/cio/moraalittomat robotit ovat uhka ihmiselle/a973476
Hän varoittaa siitä, ettei ihmisillä ole yksinkertaisesti varaa jättää huomiotta robottien kehittymistä itsenäisiksi päätöksentekijöiksi.
"Muutoin koko ihmiskunta tuhoutuu", professori ennustaa.
Aseistetut robotit ovat vaarallisia
Bringsjordilla on 17 vuoden kokemus robotiikasta ja keinoälystä (ai, artificial intelligence), joiden tutkimukset hän aloitti jatko-opiskelijana vuonna 1985. Nyt hän yrittää varmistaa sen, että robotit toimivat moraalisella tavalla ja ihmiskunnan hyväksi, Cio.com kirjoittaa.
Työtä riittää, sillä robotit kehittyvät koko ajan autonomisemmiksi. DARPAn viime vuonna tekemän tutkimuksen mukaan ihmiset hallitsevat robotteja yhä huonommin.
Sama sävel soi Yhdysvaltain asevoimissa, jossa ennalta ohjelmoidut ja aseistetut robotit ovat valmiita tekemään yhä tuhoisempia päätöksiä.
Bringsjord on erityisesti huolissaan kehityksestä 10-20 vuoden aikavälillä, jolloin robotit ottavat entistä suuremman roolin sotilaspuolella ja poliisivoimissa. Hänen pelkää sitä päivää, jolloin Yhdysvaltain ohjuspuolustusjärjestelmä on täysin automatisoitu.
Siksi hän sanookin, että ohjelmoinnin yhteydessä roboteille pitää opettaa moraalia ja eettisiä käyttäytymissääntöjä. Tämä on vaikeaa, koska muuttujia on niin paljon. Koneen on vaikea erottaa harmaata mustasta.
Bringsjord vetoaa jo venäläissyntyisen kirjailijan ja biokemistin Isaac Asimovin (1920-92) aikoinaan laatimiin robottien käytössääntöihin.
The Three Laws of Robotics -nimisessä kirjoittuksessa Asimov tähdensi muun muassa sitä, ettei robotti saa koskaan vahingoittaa ihimistä.
Toiseksi robotin pitää aina totella ihmistä. Ja kolmanneksi sen on myös suojeltava itseään silloin, kun kaksi ensimmäistä sääntöä toteutuu.
Moraalia keinoälykoneille
Tätä taustaa vasten on Bringsjordin mielestä olennaisen tärkeää se, että robotit erottavat hyvän pahasta.
"Ihmisten pitää kyetä tekemään joka päivä eettisiä päätöksiä. Olen huolissani siitä, että teknologia keinoälyineen ajaa pian näiden päätösten ohi", hän sanoo.
Hänen mielestään hyvän ja pahan ero on ohjelmoitava robottien käyttöjärjestelmiin erityisesti silloin, kun ne käsittelevät asejärjestelmiä.
Samaa mieltä on Lux Researchin tutkimusjohtaja Mark Bunger, jonka mukaan moraalittomat robotit tuovat tuhoa tullessaan.
"Robotiikka on edelleen lapsenkengissään, eikä eettisiin tai moraalisiin kysymyksiin ole vielä ehditty puuttua. Tutkijat eivät edes tiedä, miten moraalia voi opettaa koneelle", Bunger sanoo.
Gabriel Consulting Groupin analyytikko Dan Olds sanoo, että robotit ovat tehokkaimmillaan autonomisina eli silloin, kun ne ohjaavat toimintaansa itse. Sääntöjä tietenkin tarvitaan, hän painottaa.
"Robotit lähestyvät koko ajan tavallisten ihmisten arkea. Ne eivät kuitenkaan kasva kuten lapsi eivätkä opi kasvaessaan. Siksi teettää paljon työtä muuntaa eettiset arvot matemaattisiin kaavoiksi ja malleiksi", Olds sanoo.
Myös Bringsjordin mielestä moraali ja etiikka ovat vaikeita aiheita koneille.
"Emme tietenkään halua semmoisia koneita, jotka joutuvat pohtimaan moraalisia kysymyksiä silloin, kun astiat pitää tiskata", hän kiteyttää.
Vastaukset
Vanhimmat
Ei vielä vastauksia
Aloittaja odottaa vastauksia. Kerro oma näkemyksesi ensimmäisenä.