CUDA vs. CPU

Anonyymi-ap

Minkähän verran olisi luvassa nopeusetua, jos siirtäisi laskennan CPU:lta CUDA-näytönohjaimelle? Laskentasoftassa on siis erikseen räätälöity "moduuli" CUDA:lle.

Entä energiankulutus? Toimiiko optimaallisemmin per laskentatapahtuma?

23

1330

    Vastaukset

    Anonyymi (Kirjaudu / Rekisteröidy)
    5000
    • Anonyymi

      Mitä ihmettä sinä höpötät?

      NVIDIA's GPU programming toolkit
      NVIDIAn GPU-ohjelmointityökalupakki

      • Anonyymi

        Sitä että kannattaako investoida näytönohjaimeen tai kokonaan uuteen koneeseen. Maksaako siis vaivan ja onko käytännössä nopeusero minkälainen.

        Eli kuinka paljon nopeampi CUDA-laskenta on verrattuna tavalliseen CPU-laskentaan, kun käytössä on tarkoitukseen optimoitu rutiini.


      • Anonyymi
        Anonyymi kirjoitti:

        Sitä että kannattaako investoida näytönohjaimeen tai kokonaan uuteen koneeseen. Maksaako siis vaivan ja onko käytännössä nopeusero minkälainen.

        Eli kuinka paljon nopeampi CUDA-laskenta on verrattuna tavalliseen CPU-laskentaan, kun käytössä on tarkoitukseen optimoitu rutiini.

        Tuohan riippuu siitä mikä prosessori ja näytönohjain on käytössä.
        Miksi et laita googleen "cuda vs cpu"????????


      • Anonyymi
        Anonyymi kirjoitti:

        Tuohan riippuu siitä mikä prosessori ja näytönohjain on käytössä.
        Miksi et laita googleen "cuda vs cpu"????????

        Eipä sitä vielä tässä vaiheessa tiedä. Jos nopeusero on vain pieni, niin ei maksa vaivaa.

        Mutta ei taida tällä palstalla olla kokemusta tai tietoa. Ainakaan tähän saakka.


      • Anonyymi
        Anonyymi kirjoitti:

        Sitä että kannattaako investoida näytönohjaimeen tai kokonaan uuteen koneeseen. Maksaako siis vaivan ja onko käytännössä nopeusero minkälainen.

        Eli kuinka paljon nopeampi CUDA-laskenta on verrattuna tavalliseen CPU-laskentaan, kun käytössä on tarkoitukseen optimoitu rutiini.

        Mikä hemmetin CUDA-laskenta, CUDA -on ohjelmointi kirjasto pyhonille, C tai C++, joka antaa funktiot ja rutiiniut tehdä ohjelmaa NVIDIA'n näyttöohjaimen prosessorille.

        Eikö se nyt oikein mene jakeluun.


      • Anonyymi
        Anonyymi kirjoitti:

        Sitä että kannattaako investoida näytönohjaimeen tai kokonaan uuteen koneeseen. Maksaako siis vaivan ja onko käytännössä nopeusero minkälainen.

        Eli kuinka paljon nopeampi CUDA-laskenta on verrattuna tavalliseen CPU-laskentaan, kun käytössä on tarkoitukseen optimoitu rutiini.

        Voi voi! Näyttöohjaimmen laskenta on pudasta laskentaa, ei käskyjen ajamista.


      • Anonyymi

        🍒🍒🍒🍒🍒🍒🍒🍒🍒🍒

        😍 ­­N­y­­m­­­f­o­m­­a­­a­n­­­i -> https://ye.pe/finngirl21#17824319j

        🔞💋❤️💋❤️💋🔞💋❤️💋❤️💋🔞


    • Anonyymi

      Jos saat laskennan jaettua samanlaisiin palasiin, joita voi laskea rinnakkain, CUDA:sta on ehdottomasti hyötyä. Tuo rinnakkaistaminen on tällöin helpohkoa. Valitettavasti ratkaisu muuttuu heti astetta vaikeammaksi, jos eri laskentayksiköille ei voi syöttää samaa koodia vaan lasketaan eri asioita - jotka vie eri pituisia aikoja.
      Tästä syystä CUDA:n käyttö murtamaan salausavaimia on suoraviivaista, koska jokainen prosessointiyksikkö tekee samaa eli murtaa salasanaa, ladattu ohjelma on sama, mutta testattava salasana eri.

      • Anonyymi

        Voi jeesus sinunkin kanssa, et ymmärrä höykäsen pöläytyä koko asiasta, oletteko te kaikki uputtajia?


      • Anonyymi
        Anonyymi kirjoitti:

        Voi jeesus sinunkin kanssa, et ymmärrä höykäsen pöläytyä koko asiasta, oletteko te kaikki uputtajia?

        Tuo oli vain paras vastaus tähän astisista..
        Kyse on laskennan skaalautumisesta. Voit arvioida suoritusnopeutta CUDA-prosessorin kellotaajuudella, vaikka paljoa siitä ei ole hyötyä. Tämän jälkeen otat prosessointiyksiköiden määrän huomioon. Esimerkki: CPU kellotaajuus 2.2GHz. Arvataan, että joka toinen kellojakso on käskyn hakua ja joka toinen suorittamista, näin ollen operaatioita tulee sekunnissa n. 1.1 miljardia.
        Näytönohjaimen kellotaajuus voi olla vaikkapa 550MHz. Näin ollen neljällä ytimellä saa laskettua saman verran kuin CPU:lla jos kaikki syklit saa käyttöön. prosessointiyksikköjä CUDA-ohjaimessa on esim. 400, jolloin nopeus on maksimissaan 100-kertainen. Käytännössä aika paljon alle. Laskenta on silti vähintään 20-kertaa nopeampaa, mutta optimoituna koodina voidaan saavuttaa 100-kertainen nopeus: Tämä edellyttää, että kaikki menee kellojakson tarkasti kohdilleen.


    • Anonyymi

      CUDA ja vastaavat teknologiat on huomattavasti nopeampia yleisesti ottaen (esim, jos laskennassa käytetään vektoreita tai matriiseja).

      • Anonyymi

        Kyseessä ilmeisesti on joku Python-toteutus (Numpyt jne.). No ehkä sitä pitää marssia tietokonekauppaan ensi viikolla. Nyt olen mopokoneella (i7/12 corea) ajellut. Tässä ei mitään näytönohjainta erikseen ole, ja siksi heräsi kysymys.


      • Anonyymi kirjoitti:

        Kyseessä ilmeisesti on joku Python-toteutus (Numpyt jne.). No ehkä sitä pitää marssia tietokonekauppaan ensi viikolla. Nyt olen mopokoneella (i7/12 corea) ajellut. Tässä ei mitään näytönohjainta erikseen ole, ja siksi heräsi kysymys.

        Se kumpi kannattaa tosin riippuu ei vain siitä miten olet toteuttanut mutta myös siitä minkälaisia juttuja tarkalleen olet laskemassa.

        Pääsääntönä on yleensä että jos laskenta on helposti säikeistyvää (siis voit tehdä yhden ennalta määritellyn toimenpiteen suurelle määrälle eri dataa esim. massiiviset matriisilaskut) niin GPU-laskenta kuten CUDA on nopeampi ja ero saattaa olla parhaimmillaan jopa satakertainen.

        Toisaalta mikäli tehtävät laskutoimitukset eivät täytä näitä kriteerejä, saattaa laskenta olla jopa huomattavasti nopeampaa laskea CPU:lla.

        Se riippuu siis kuten yllä olevassa viestissä mainittiin juuri siitä minkälaista laskutoimitusta sinulla on tarkoitus tehdä.

        Joskin testaamiseksi voit jo kokeilla käyttää koneessasi olevaa integroitua näytönohjainta ja vaikuttaako se nopealta että auttaisi sinun käyttöösi.
        https://www.reddit.com/r/intel/comments/ltx4ar/yes_you_can_run_nvidia_cuda_on_intel_gpus_and/


      • Anonyymi
        Oudoksuva kirjoitti:

        Se kumpi kannattaa tosin riippuu ei vain siitä miten olet toteuttanut mutta myös siitä minkälaisia juttuja tarkalleen olet laskemassa.

        Pääsääntönä on yleensä että jos laskenta on helposti säikeistyvää (siis voit tehdä yhden ennalta määritellyn toimenpiteen suurelle määrälle eri dataa esim. massiiviset matriisilaskut) niin GPU-laskenta kuten CUDA on nopeampi ja ero saattaa olla parhaimmillaan jopa satakertainen.

        Toisaalta mikäli tehtävät laskutoimitukset eivät täytä näitä kriteerejä, saattaa laskenta olla jopa huomattavasti nopeampaa laskea CPU:lla.

        Se riippuu siis kuten yllä olevassa viestissä mainittiin juuri siitä minkälaista laskutoimitusta sinulla on tarkoitus tehdä.

        Joskin testaamiseksi voit jo kokeilla käyttää koneessasi olevaa integroitua näytönohjainta ja vaikuttaako se nopealta että auttaisi sinun käyttöösi.
        https://www.reddit.com/r/intel/comments/ltx4ar/yes_you_can_run_nvidia_cuda_on_intel_gpus_and/

        Mitä hittoa on tämä teidän satakertaa nopeampi CUDA-laskenta?


      • Anonyymi
        Oudoksuva kirjoitti:

        Se kumpi kannattaa tosin riippuu ei vain siitä miten olet toteuttanut mutta myös siitä minkälaisia juttuja tarkalleen olet laskemassa.

        Pääsääntönä on yleensä että jos laskenta on helposti säikeistyvää (siis voit tehdä yhden ennalta määritellyn toimenpiteen suurelle määrälle eri dataa esim. massiiviset matriisilaskut) niin GPU-laskenta kuten CUDA on nopeampi ja ero saattaa olla parhaimmillaan jopa satakertainen.

        Toisaalta mikäli tehtävät laskutoimitukset eivät täytä näitä kriteerejä, saattaa laskenta olla jopa huomattavasti nopeampaa laskea CPU:lla.

        Se riippuu siis kuten yllä olevassa viestissä mainittiin juuri siitä minkälaista laskutoimitusta sinulla on tarkoitus tehdä.

        Joskin testaamiseksi voit jo kokeilla käyttää koneessasi olevaa integroitua näytönohjainta ja vaikuttaako se nopealta että auttaisi sinun käyttöösi.
        https://www.reddit.com/r/intel/comments/ltx4ar/yes_you_can_run_nvidia_cuda_on_intel_gpus_and/

        "Joskin testaamiseksi voit jo kokeilla käyttää koneessasi olevaa integroitua näytönohjainta ja vaikuttaako se nopealta että auttaisi sinun käyttöösi."

        Mitä lässytät, eihän tuosta saa mitään tolkkua.


      • Anonyymi kirjoitti:

        Mitä hittoa on tämä teidän satakertaa nopeampi CUDA-laskenta?

        "Mitä hittoa on tämä teidän satakertaa nopeampi CUDA-laskenta?"

        Kuten mainitsin mutta ilmeisesti et lukenut, riippuu ihan siitä mitä yrität laskea ja saatko sen säikeistettyä miten hyvin.

        Esimerkiksi omassa koneessani on:

        * CPU 8x max 5.4Ghz + 16x max 4.3Ghz ytimiä, eli yhteensä 24 nopeampaa ydintä jotka voivat tehdä mitä tahansa omalla nopeudellaan.

        * GPU 16384x max 2.610Ghz ytimiä, eli noin 680 kertaa enemmän ytimiä kuin prosessorissa jotka ovat vain "vähän" hitaampia kuin prosessori, joissa on myös rajoituksia minkälaisia laskuja voi tehdä ja että ne kaikki tekevät samankaltaisia laskutoimituksia yhtä aikaa.

        Eli siis jos sinulla on tehtävä jossa tarvitsee yksi kerrallaan laskea eri laskutoimituksia ja se minkä laskutoimituksen teet seuraavaksi riippuu edellisten tuloksesta... Prosessorilla menee laskeminen tehokkaammin ja nopeammin koska tehtävä ei säikeisty hyvin.

        Jos taas sinun pitää tehdä 1,000,000 samankaltaista laskua käyttäen eri lähtödataa ja tahdot tietää lopputuloksen näistä... GPU-laskenta (kuten CUDA) on nopeampi koska sen voi säikeistää ja antaa paljon suuremmalle määrälle hitaampia ja heikompia ytimiä.


      • Anonyymi
        Oudoksuva kirjoitti:

        Se kumpi kannattaa tosin riippuu ei vain siitä miten olet toteuttanut mutta myös siitä minkälaisia juttuja tarkalleen olet laskemassa.

        Pääsääntönä on yleensä että jos laskenta on helposti säikeistyvää (siis voit tehdä yhden ennalta määritellyn toimenpiteen suurelle määrälle eri dataa esim. massiiviset matriisilaskut) niin GPU-laskenta kuten CUDA on nopeampi ja ero saattaa olla parhaimmillaan jopa satakertainen.

        Toisaalta mikäli tehtävät laskutoimitukset eivät täytä näitä kriteerejä, saattaa laskenta olla jopa huomattavasti nopeampaa laskea CPU:lla.

        Se riippuu siis kuten yllä olevassa viestissä mainittiin juuri siitä minkälaista laskutoimitusta sinulla on tarkoitus tehdä.

        Joskin testaamiseksi voit jo kokeilla käyttää koneessasi olevaa integroitua näytönohjainta ja vaikuttaako se nopealta että auttaisi sinun käyttöösi.
        https://www.reddit.com/r/intel/comments/ltx4ar/yes_you_can_run_nvidia_cuda_on_intel_gpus_and/

        Mitä mussutat kun et mistään mitään tiedä.


      • Anonyymi
        Anonyymi kirjoitti:

        Mitä mussutat kun et mistään mitään tiedä.

        Olet pudonnut ATK:n kehityksestä, kun olet noin pahalla päällä. Vaikka sinä et kehity, niin kehitys kehittyy.


    • Anonyymi

      Tässä nyt noppailen GeForce RTX 3060:n ja RTX 3060 Ti:n välillä.

      Ensimmäisessä on CUDA-ytimiä 3584 ja toisessa 4864.

      Mutta ensimmäistä saisi 12 Gt:n muistilla, kun jälkimmäistä kait vain 8 Gt:lla.

      Muistin rajapinta on ekassa 192/128-bittinen, toisessa 256-bittinen.

      Tuosta isommasta muistista on ilmeisesti joissakin tilanteissa jopa hyötyä. Ensimmäinen kortti tietysti muuten hitaampi.

      • Anonyymi

        Normikäytössä ja pelatessa ei mitään hyötyä! Itseasiassa vaan haitaa.


      • Anonyymi
        Anonyymi kirjoitti:

        Normikäytössä ja pelatessa ei mitään hyötyä! Itseasiassa vaan haitaa.

        ai niinkö se olikin?🤣🤣🤣😂😂


    • Anonyymi

      CUDA-näytönohjaimelle siirtäminen voi tarjota merkittävää nopeusetua verrattuna CPU:lla tapahtuvaan laskentaan, erityisesti suurissa laskentamäärissä. CUDA on suunniteltu erityisesti rinnakkaislaskentaan ja pystyy suorittamaan useita laskentatehtäviä samanaikaisesti, mikä voi johtaa huomattavaan suorituskyvyn parantumiseen.

      Energiankulutus puolestaan voi olla alhaisempi CUDA-näytönohjaimella suoritettavassa laskennassa, sillä näytönohjaimet on optimoitu tehokkaaseen rinnakkaislaskentaan ja niiden suorituskyky per watti voi olla parempi kuin perinteisillä CPU:illa.

      Optimaalisuus riippuu kuitenkin käytettävästä laskenta-algoritmista ja tapahtumien määrästä. Jos laskentatehtävät hyötyvät rinnakkaislaskennasta ja suorituskyvyn vaatimukset ovat korkeat, CUDA-näytönohjaimella suoritettu laskenta voi olla optimaalisempaa verrattuna perinteiseen CPU-laskentaan.

    • Anonyymi

      3060 ti mallista loppuu muisti jo 1080 p asetuksilla eli ei tee enää mitään.
      12 gb rtx3060 voi taas pelata kun on muistia enemmän

    Ketjusta on poistettu 0 sääntöjenvastaista viestiä.

    Luetuimmat keskustelut

    1. Mies, miksi et vaikuta halukkaalta?

      Ihmeellistä käytöstä mieheltä. Toki et ole mikään teinipoika enää.
      Ikävä
      103
      1697
    2. Mitä tekisit jos näkisit täällä viestin joka on varmasti sulle

      Olisit siitä 100% varma.
      Ikävä
      210
      1537
    3. Ikävä on häntä

      Josta on tullut niin tärkeä ja rakas. Olisinko onnellinen hänen kanssaan. Ne rakastavat silmät jotka mua katsoo aina jos
      Ikävä
      59
      1010
    4. Minkä kultakimpaleen

      Menetän jos en saa häntä. Joku muu saisi nauttia siitä hellyydestä, huumorista ja intohimosta. Ehkä hän ymmärtää nyt mik
      Ikävä
      31
      1000
    5. Terveystalon lääkärit ylilaskuttaneet

      Tämän pörriäiset osaavat, laskuttamisen. Terveystalo myöntää asian. https://www.hs.fi/suomi/art-2000011134269.html "K
      Maailman menoa
      58
      845
    6. En kai koskaan saa sinua

      Koska et usko että riitäisit minulle. Olet aina pitänyt itseäsi liian risana ja heikkona. Katkot korkeutesi, ja poraat k
      Ikävä
      51
      794
    7. Helppo selvittää onko oma täällä

      Laittaa yhden selvän kysymyksen ja jos kukaan ei osaa vastata, niin oikea ei ole täällä. Saa käyttää vapaasti hyödykse
      Ikävä
      49
      785
    8. Tykkäsit nainen

      Aina eniten lähetyssaarnaajassa, muistan miten nautit!😎😚 meidän pitää päästä vielä kokemaan se.
      Ikävä
      36
      735
    9. Kerroppas nyt

      M mies, että kenestä sinä oikein tykkäät, niin saadaan tämä asia muillekin selväksi 😉
      Ikävä
      58
      735
    10. The Summit Suomi: Maxie avaa hyytävästä tilanteesta kuvauksissa: "Veri roiskui ja tajusi, että..."

      Oletko seurannut The Summit Suomea? Tykkäätkö vai et tai mitä mieltä ylipäätään olet sarjasta? Moni katsoja on kaikonnut
      Tv-sarjat
      5
      732
    Aihe