Samalla tavoin miten pii:n desimaalejakin lasketaan pitkälle, eli aina tarkentuu se luku, iteroimalla siis, tähän tyyliin, esim; 10/12 10/543 10/3444 ....
Ja nimeä se omalle nimellesi kuten joku Neperin lukukin, annat sille sitten nimeksi: Minunluku.
Ja nimeä se omalle nimellesi kuten joku Neperin lukukin, annat sille sitten nimeksi: Minunluku.
Vastaukset 3
Vanhimmat
Sitten kun tuo jakaja tulee liian suureksi, eli tietokoneen bittileveys tulee liian suureksi ei riitä enää esittämään, pitäisi olla joku vähintäänkin 4096-bittinen prosessori, niin:
Kaikille on varmaan opetettu alakoulussa miten jakolasku tehdään käsin, ohjelma joka käsittelee lukuja tekstinä, samalla tavoin kuin jakolasku tehdään käsin, ei ole bittileveys-rajoituksia.
Tuollaisesta laskennan bittileveyden rajallisuudesta tuli mieleen eräs esimerkki, ei riittänyt laskennan tarkkuus eräässä direct3d-sovelluksessa 32-bittinen floating point arvo näytönohjaimelle, tuli epätarkkuus esiin.
Korjautui kun vaihdoin pelkästään muuttujan määrityksen ohjelma koodissa double eli 64-bittisiksi desimaaliluvuiksi.
Oikeasti jos on tietokoneessa grafiikkakiihdytin, yleensä 256-bittileveydellä käsittelevät lukuja, niin sellaisia voi käyttää laskennassa, vaikka ei piirtäisikään mitään 3d-juttuja ruudulle, vaan parempaa prosessoria laskennassa pelkästään.
Tuossa 3d-sovelluksessani, josta tuli FPS-shooter sitten, niin, c-kääntäjäni eli visual studio ilmoitti bittileveydestä varoituksen: Possible data loss in this converting 32-bit float value to 64-bit floating point value.
En välittänyt, mutta sitten huomasin että jooh, tuli vika sitten kun laskentatarkkuus ei riittänytkään se 32-bittinen.