Kaikkien tekoälyjen ongelma on ”kirahvisoituminen”.

Käytännössä siis sen ”tiedot” perustuvat siihen mistä ihmiset puhuvat. Toisinsanoen, ei ihmiset laita afrikan matkaltaan kuvia kaikista ötököistä kuvia, vaan he laittavat pelkästään upeista kirahveista kuvat nettiin. Sitten kun ihminen pyytää tekoälyä luomaan jotain afrikasta, siihen tulee kirahvi ja tuota luotua kirahvia vielä käytetään sen tekoälyn kehittämiseen, jolloin siitä alkaa tulla ”Kirahvi V2.0”

Tuo on kaiken tekoälykäytön ongelma.

Esimerkiksi tekoälyyn perustuva moderointi alkaa hyvin äkkiä suosia häirikkökäyttäytymistä ja asialliset kirjoittelijat estetään. Se johtuu siitä että häiriköt oppivat nopeasti kiertämään rajoitteita käyttämällä esimerkiksi pätkittyjä tai slangiin perustuvia sanoja, kun taas sääntöjä ja hyviä tapoja noudattavat eivät sitä tee, vaan he pitäytyvät yleisesti hyväksytyissä sanoissa ja sanonnoissa. Kun häiriköt saavat useita epäilyksiä tekoälyltä esimerkiksi 24 tunnin aikaikkunassa, tekoäly myös ajattelee ettei suurin osa keskustelijoista voi olla häiriköitä, joten asiattomat, oudot ilmaukset saavat jäädä, ja kun asiallinen keskustelija saa kommentillaan iskun, se tekoäly alkaa itse vahvistaa sitä että asiallinen keskustelija kommentteineen on väärässä ja häirikkö.

Kaikissa tekoälyyn perustuvissa moderoinneissa on käynyt noin koska se perustuu juuri sille ”kirahvisoitumiselle”.

Lopulta myös moderoinnista kommentoiminen tai esimerkiksi tekoälystä kommentoiminen tai pelkkä keskustelu voi päätyä kiellettyjen listalle, vaikka sivustolla olisi muutoin normaalit säännöt. Hyvä esimerkki tuollaisesta aiheen kirahvisoinnista on mielenterveydestä keskusteleminen. Amerikoissa somealustat pitävät sitä ”aikuisten” keskusteluna, joten se sensuroidaan, jolloin jatkuva sensurointi vahvistaa sitä kirahvisoitumista edeleen ja luo sellaisen keskusteluilmapiirin jossa kaikkien täytyy jatkuvasti ”hymyillä ja olla positiivisia” ettei tekoälyä ”loukata”. Tuossa on käytetty esimerkkinä erästä Simpsoneiden Halloween jaksoa jossa Bartista tulee kaikkivoipa ja koska hän voi tehdä ihan mitä tahansa, muut alkavat käyttäytyä hänen seurassaan pelkästäään hymyillen ja positiivisesti etteivät loukkaisia Bartia.

Siksi kaikessa päätöksenteossa, on se sitten ihan mitä tahansa, tekoälyä ei pitäisi missään tapauksessa käyttää!

ann-marii.iso-kokkila

0

1