Jopa ammattimatemaatikot tunnustavat, ettemme tule toimeen ilman subjektiivisen todennäköisyyden käsitettä, siis todennäköisyysarviota joka ei perustu mihinkään laskentaan, vaan sumealla logiikalla suoritettuun koko elämän mittaisiin muistijälkiin perustuvaan yhteenvetoon. Subjektiivisessa todennäköisyydessä piilee kuitenkin vaaroja, jos sitä aletaan soveltaa tekoälyissä. Oppimiskykyinen tekoäly joka osaa siirtää tietoa toisille tekoälyille ja joka on opetettu käsittelemään numeroita tai niihin verrattavia arvoja absoluutteina joutuu kertoessaan toiselle tekoälylle subjektiivisen todennäköisyysarvionsa jostain asiasta siirtämään tälle kaikki muistonsa. Ellei tällaista kaiken siirtoa voida tehdä, välittyy toiselle vain numeerinen arvo ilman tietoa siitä kuinka siihen on päädytty. Koska numerot ovat absoluutteja tekoälylle, se alkaa rakentaa omaa subjektiivista todennäköisyysarviotaan tämän toisen tekemän arvion päälle. Ennen pitkää tapahtuu väistämättä rikkinäinen telefooni -ilmiö ja koneiden tekemät todennäköisyysarviot eivät enää vastaa millään tapaa todellisuutta. Jos nämä koneet sitten laitetaan tekemään alkeellisimpiakaan päätöksiä seurauksena saattaa olla katastrofi.
Subjektiivisen todennäköisyysarvioinnin vaarat
skynet is lame
2<50
0Äänestä
Muut lukivat myös
Odottaa vastausta
Näihin keskusteluihin ei ole vielä vastattu. Ole ensimmäinen.
Vastaukset 2
Vanhimmat
Päättelyssäsi on vika. Jos siirto koneesta toiseen on toisen koneen ainoa informaatio, rikkinäinen telefooni -ilmiö tapahtuu. Jos toinen kone saa myös muuta informaatiota, rikkinäinen telefooni -ilmiö, vähenee kerta kerralta. Ei ole mitään syytä ketjuttaa, jos ei ole lisäinfoa.
Eihän Skynetin luomisessakaan olisi mitään järkeä, mutta silti jotkut tosissaan pelkäävät sellaista.