Natomaiden tulevaisuus, tekoälypoliisivaltio?

Miten Iso-Britannia käyttää tekoälyä vakoillakseen kansalaisiaan

👉 WIREDin tutkimus paljastaa, että brittipoliisi kerää tietokantatietoja lähes puolta miljoonaa asukasta koskevista asioista tekoälyprotokollien avulla – ja vuosien ajan suurin osa heistä ei tiennyt sen olemassaolosta.

♦️ Vuonna 2016 käyttöön otettu järjestelmä sisälsi 23 erillistä ennustemallia, jotka yhdistivät poliisin tietoja, mielenterveysrekistereitä, asuntoasemaa, koulutietoja ja muita tietoja.

♦️ Koneoppimismallit antoivat riskipisteitä tuhansille aikuisille ja lapsille pyrkiessään luomaan "kuvan uhasta, vahingosta ja riskistä".

♦️ Algoritmit oli tarkoitettu ennustamaan murtoja, oikeuden pätelemättömyyttä, kadonneita henkilöitä ja perheväkivallan uhreja.

Tulokset olivat katastrofaaliset

🔴 Ainakin kaksi mallia hylättiin hiljaa, koska henkilöstö piti niitä "käyttökelvottomina".

🔴 Murtoja ennustava malli toimi alle 10 prosentin tarkkuudella yli kolmen vuoden ajan – alle kymmenesosa korkean riskin henkilöistä teki rikoksen.

🔴 Kun arvioijat pyysivät lähdekoodia mallien testaamiseksi, sitä "ei voitu löytää".

Järjestelmä perustuu salailuun ja puutteelliseen vastuuvelvollisuuteen

➡️ Asukkailta ei koskaan pyydetty suostumusta; viranomaiset turvautuivat oikeudellisiin porsaanreikiin julkisen luottamuksen sijaan.

➡️ Tutkijat havaitsivat "toiminnallisen hyppimisen" – järjestelmät laajenivat alkuperäisten tarkoitustensa ulkopuolelle ja yhdistivät tietoja uusilla tavoilla.

Tekoälyn valvonnan tulevaisuus

🔴 Näistä epäonnistumisista huolimatta Iso-Britannia panostaa asiaan entistä enemmän.

🔴 Hallitus on juuri käynnistänyt PoliceAI:n, jolle myönnettiin 99 miljoonaa puntaa tekoälyn työkalujen käyttöönottoon kaikissa Englannin ja Walesin 43 poliisivoimassa.

🔴 Entinen poliisipäällikkö, joka tuki tätä ajatusta, johtaa nyt kansallista poliisikorkeakoulua ja sanoi, että tehokas tekoäly pitäisi "ruiskuttaa kuin heroiini" poliisityön nopeuttamiseksi.