VOIKO TEKOÄLYÄ VETÄÄ NENÄSTÄ?

AI-yhteenveto
Kyllä, tekoälyä voi "vetää nenästä" eli huijata tai johtaa harhaan hyvinkin helposti. Tekoäly, kuten ChatGPT tai kuvageneraattorit, ei ymmärrä maailmaa ihmisen tavoin, vaan se perustuu valtaviin datamassoihin ja todennäköisyyksiin. Yle

Tässä syitä ja tapoja, miten tekoälyä voi huijata:
Hallusinointi: Tekoäly voi keksiä faktoja, viitteitä tai uutisia, jos se ei tiedä vastausta, ja esittää ne erittäin vakuuttavasti. Jos syötät sille väärää tietoa, se voi ottaa sen totena ja rakentaa valheen sen ympärille.
Prompt-suunnittelu (ohjeistus): Tekoälylle voi antaa ristiriitaisia tai johdattelevia ohjeita ("prompt"), jotka saavat sen toimimaan halutulla, mutta väärällä tavalla.
Ei aitoa ymmärrystä: Koska tekoälyllä ei ole aitoa älyä, loogista päättelykykyä tai tietoisuutta, se ei ymmärrä kontekstia samalla tavalla kuin ihminen. Sille voi syöttää loogisesti mahdottomia skenaarioita, ja se yrittää silti vastata niihin.
Kuvien ja datan manipulointi: Tekoälylle voi antaa muokatun kuvan tai datan, jolloin se tulkitsee tilanteen väärin. Yle +2
Tekoäly ei siis ole erehtymätön, vaan pikemminkin "kielimalli", joka arvaa seuraavaa sanaa, mikä tekee siitä alttiin manipuloinnille. Yle