Samalla tavoin miten pii:n desimaalejakin lasketaan pitkälle, eli aina tarkentuu se luku, iteroimalla siis, tähän tyyliin, esim; 10/12 10/543 10/3444 ....
Ja nimeä se omalle nimellesi kuten joku Neperin lukukin, annat sille sitten nimeksi: Minunluku.
Tee oma irrationaaliluku.
Anonyymi
3
270
Vastaukset 3
- Anonyymi
Sitten kun tuo jakaja tulee liian suureksi, eli tietokoneen bittileveys tulee liian suureksi ei riitä enää esittämään, pitäisi olla joku vähintäänkin 4096-bittinen prosessori, niin:
Kaikille on varmaan opetettu alakoulussa miten jakolasku tehdään käsin, ohjelma joka käsittelee lukuja tekstinä, samalla tavoin kuin jakolasku tehdään käsin, ei ole bittileveys-rajoituksia. - Anonyymi
Tuollaisesta laskennan bittileveyden rajallisuudesta tuli mieleen eräs esimerkki, ei riittänyt laskennan tarkkuus eräässä direct3d-sovelluksessa 32-bittinen floating point arvo näytönohjaimelle, tuli epätarkkuus esiin.
Korjautui kun vaihdoin pelkästään muuttujan määrityksen ohjelma koodissa double eli 64-bittisiksi desimaaliluvuiksi.
Oikeasti jos on tietokoneessa grafiikkakiihdytin, yleensä 256-bittileveydellä käsittelevät lukuja, niin sellaisia voi käyttää laskennassa, vaikka ei piirtäisikään mitään 3d-juttuja ruudulle, vaan parempaa prosessoria laskennassa pelkästään. - Anonyymi
Tuossa 3d-sovelluksessani, josta tuli FPS-shooter sitten, niin, c-kääntäjäni eli visual studio ilmoitti bittileveydestä varoituksen: Possible data loss in this converting 32-bit float value to 64-bit floating point value.
En välittänyt, mutta sitten huomasin että jooh, tuli vika sitten kun laskentatarkkuus ei riittänytkään se 32-bittinen.
Ketjusta on poistettu 0 sääntöjenvastaista viestiä.
Luetuimmat keskustelut
- 1431366
- 741244
Carunan hinnat
Yks proffa vauuttaa, ettei Caruna voi noin vain nostaa hintoja koska suomen laki kieltää, toinen proffa sanoo että Carun1051006Mikä sun kaivatussa on se miksi ihastuit
ja ikävöit? Eli se jokin asia, mikä aiheutti tunteen, että tuossa on sitä jotain? Meinasitko tehdä asialle jotain vai ka50935- 78832
- 45801
Kunnan päätie ja sen lähialueet
Arvon hyrynsalmelaiset. Tätä palstaa on näin Ukkohallan mökkiläisena ihan viihteellistä lukea. Milloin teitä ahdistaa la40798- 67673
- 115668
- 75626