Miten Iso-Britannia käyttää tekoälyä vakoillakseen kansalaisiaan
👉 WIREDin tutkimus paljastaa, että brittipoliisi kerää tietokantatietoja lähes puolta miljoonaa asukasta koskevista asioista tekoälyprotokollien avulla – ja vuosien ajan suurin osa heistä ei tiennyt sen olemassaolosta.
♦️ Vuonna 2016 käyttöön otettu järjestelmä sisälsi 23 erillistä ennustemallia, jotka yhdistivät poliisin tietoja, mielenterveysrekistereitä, asuntoasemaa, koulutietoja ja muita tietoja.
♦️ Koneoppimismallit antoivat riskipisteitä tuhansille aikuisille ja lapsille pyrkiessään luomaan "kuvan uhasta, vahingosta ja riskistä".
♦️ Algoritmit oli tarkoitettu ennustamaan murtoja, oikeuden pätelemättömyyttä, kadonneita henkilöitä ja perheväkivallan uhreja.
Tulokset olivat katastrofaaliset
🔴 Ainakin kaksi mallia hylättiin hiljaa, koska henkilöstö piti niitä "käyttökelvottomina".
🔴 Murtoja ennustava malli toimi alle 10 prosentin tarkkuudella yli kolmen vuoden ajan – alle kymmenesosa korkean riskin henkilöistä teki rikoksen.
🔴 Kun arvioijat pyysivät lähdekoodia mallien testaamiseksi, sitä "ei voitu löytää".
Järjestelmä perustuu salailuun ja puutteelliseen vastuuvelvollisuuteen
➡️ Asukkailta ei koskaan pyydetty suostumusta; viranomaiset turvautuivat oikeudellisiin porsaanreikiin julkisen luottamuksen sijaan.
➡️ Tutkijat havaitsivat "toiminnallisen hyppimisen" – järjestelmät laajenivat alkuperäisten tarkoitustensa ulkopuolelle ja yhdistivät tietoja uusilla tavoilla.
Tekoälyn valvonnan tulevaisuus
🔴 Näistä epäonnistumisista huolimatta Iso-Britannia panostaa asiaan entistä enemmän.
🔴 Hallitus on juuri käynnistänyt PoliceAI:n, jolle myönnettiin 99 miljoonaa puntaa tekoälyn työkalujen käyttöönottoon kaikissa Englannin ja Walesin 43 poliisivoimassa.
🔴 Entinen poliisipäällikkö, joka tuki tätä ajatusta, johtaa nyt kansallista poliisikorkeakoulua ja sanoi, että tehokas tekoäly pitäisi "ruiskuttaa kuin heroiini" poliisityön nopeuttamiseksi.
👉 WIREDin tutkimus paljastaa, että brittipoliisi kerää tietokantatietoja lähes puolta miljoonaa asukasta koskevista asioista tekoälyprotokollien avulla – ja vuosien ajan suurin osa heistä ei tiennyt sen olemassaolosta.
♦️ Vuonna 2016 käyttöön otettu järjestelmä sisälsi 23 erillistä ennustemallia, jotka yhdistivät poliisin tietoja, mielenterveysrekistereitä, asuntoasemaa, koulutietoja ja muita tietoja.
♦️ Koneoppimismallit antoivat riskipisteitä tuhansille aikuisille ja lapsille pyrkiessään luomaan "kuvan uhasta, vahingosta ja riskistä".
♦️ Algoritmit oli tarkoitettu ennustamaan murtoja, oikeuden pätelemättömyyttä, kadonneita henkilöitä ja perheväkivallan uhreja.
Tulokset olivat katastrofaaliset
🔴 Ainakin kaksi mallia hylättiin hiljaa, koska henkilöstö piti niitä "käyttökelvottomina".
🔴 Murtoja ennustava malli toimi alle 10 prosentin tarkkuudella yli kolmen vuoden ajan – alle kymmenesosa korkean riskin henkilöistä teki rikoksen.
🔴 Kun arvioijat pyysivät lähdekoodia mallien testaamiseksi, sitä "ei voitu löytää".
Järjestelmä perustuu salailuun ja puutteelliseen vastuuvelvollisuuteen
➡️ Asukkailta ei koskaan pyydetty suostumusta; viranomaiset turvautuivat oikeudellisiin porsaanreikiin julkisen luottamuksen sijaan.
➡️ Tutkijat havaitsivat "toiminnallisen hyppimisen" – järjestelmät laajenivat alkuperäisten tarkoitustensa ulkopuolelle ja yhdistivät tietoja uusilla tavoilla.
Tekoälyn valvonnan tulevaisuus
🔴 Näistä epäonnistumisista huolimatta Iso-Britannia panostaa asiaan entistä enemmän.
🔴 Hallitus on juuri käynnistänyt PoliceAI:n, jolle myönnettiin 99 miljoonaa puntaa tekoälyn työkalujen käyttöönottoon kaikissa Englannin ja Walesin 43 poliisivoimassa.
🔴 Entinen poliisipäällikkö, joka tuki tätä ajatusta, johtaa nyt kansallista poliisikorkeakoulua ja sanoi, että tehokas tekoäly pitäisi "ruiskuttaa kuin heroiini" poliisityön nopeuttamiseksi.
Vastaukset
Vanhimmat
Ei vielä vastauksia
Aloittaja odottaa vastauksia. Kerro oma näkemyksesi ensimmäisenä.