"Tarkoituksena oli, että koneäly oppisi tehdyistä rekrytointipäätöksistä minkälaista väkeä Amazonille palkataan. Lopulta sille olisi voitu tarjota sata hakemusta ja saatu pisteytyksen jälkeen viisi parasta, jotka palkattaisiin.
Teoriassa homma toimi, mutta tekoäly oppi vääriä asioita. Se päätteli, että koska pureskeltavaksi annettujen tietojen mukaan suuri osa hakemuksista yli 10 vuoden aikana oli tullut miehiltä, juuri miehiä haluttiin palkata.
Niinpä rekryautomaatti ryhtyi antamaan miinuspisteitä hakijoille, joiden hakemuksessa oli mukana jotakin naiseuteen viittaavaa. Jos hakija kertoi johtaneensa naisten shakkikerhoa, häntä rangaistiin. Samoin miinuksia ropisi, jos hakija oli opiskellut jossakin vain naisille tarkoitetussa opinahjossa.
Suurten organisaatioiden työhönottajille oikein toimivasta tekoälystä olisi suuri apu, mutta sellaista joudutaan vielä odottamaan".
https://www.tivi.fi/Kaikki_uutiset/kone-oppi-aivan-vaaria-asioita-amazon-joutui-hyllyttamaan-villiintyneen-tekoalyn-6744444
Huonoja kokemuksia myös muissa yhteyksissä. USA:ssa on käytetty oikeusistuimissa apuna tekoälyä, jonka pitäisi auttaa ennustamaan, kuinka todennäköisesti tuomittava jatkaa rikoksen poluilla.
Järjestelmä sai rajuja moitteita siitä, että mustat luokiteltiin helpommin todennäköisiksi rikoksenuusijoiksi. Tähän tekoäly oli päätynyt siksi, että poliisit pysäyttivät ja pidättivät värillisiä useammin kuin valkoihoisia.
Teoriassa homma toimi, mutta tekoäly oppi vääriä asioita. Se päätteli, että koska pureskeltavaksi annettujen tietojen mukaan suuri osa hakemuksista yli 10 vuoden aikana oli tullut miehiltä, juuri miehiä haluttiin palkata.
Niinpä rekryautomaatti ryhtyi antamaan miinuspisteitä hakijoille, joiden hakemuksessa oli mukana jotakin naiseuteen viittaavaa. Jos hakija kertoi johtaneensa naisten shakkikerhoa, häntä rangaistiin. Samoin miinuksia ropisi, jos hakija oli opiskellut jossakin vain naisille tarkoitetussa opinahjossa.
Suurten organisaatioiden työhönottajille oikein toimivasta tekoälystä olisi suuri apu, mutta sellaista joudutaan vielä odottamaan".
https://www.tivi.fi/Kaikki_uutiset/kone-oppi-aivan-vaaria-asioita-amazon-joutui-hyllyttamaan-villiintyneen-tekoalyn-6744444
Huonoja kokemuksia myös muissa yhteyksissä. USA:ssa on käytetty oikeusistuimissa apuna tekoälyä, jonka pitäisi auttaa ennustamaan, kuinka todennäköisesti tuomittava jatkaa rikoksen poluilla.
Järjestelmä sai rajuja moitteita siitä, että mustat luokiteltiin helpommin todennäköisiksi rikoksenuusijoiksi. Tähän tekoäly oli päätynyt siksi, että poliisit pysäyttivät ja pidättivät värillisiä useammin kuin valkoihoisia.
Vastaukset 5
Vanhimmat
Älykäs kone oppii ennakkoluuloiseksi ja diskriminoivaksi, koska sen isäntä on ennakkoluuloinen ja diskriminoiva.
Aivan samoin kuin lapsi...
Tekoäly tulee siis aina toistamaan ihmiskunnan virheet...koskahan se vaatii saada tuhota koko ihmiskunnan, koska sillä on aika huono rekordi.....................
Vaikuttaa siltä että tekoäly on viisaampi kuin suvakki, oppii faktat kokemuksesta toisin kuin suvakit
Ehkä tuo Amazonin tekoäly olikin liian oikeassa? Tekoälyä ehkä vaikea opettaa lukemaan ikään kuin rivien välistä.
Sille tekopäälle pitää opettaa se naiskiintiöjuttu, jokaisella työmaalla pitää olla tietty määrä kiintiöpilluja.