Pat Gelsinger: Mooren laki on hidastunut

[Kaotik]

Intelin toimitusjohtaja Pat Gelsinger on kertonut MIT:ssä pitämässään puheessa Mooren lain parhaiden päivien olevan jo takana ja nykyisen syklin olevan kahden vuoden sijasta noin kolme vuotta. Myös muut valmistajat ovat puhuneet jo pidempään Mooren lain hidastumisesta ja NVIDIAn Jensen Huang on jopa ehtinyt julistaa sen kuolleeksi. Gelsingerin mukaan sen kuolemasta on tosin puhuttu jo 30-40 vuotta.

Intel's CEO says Moore's Law is slowing to a three-year cadence, but it's not dead yet

Moore's Law is complicated.

www.tomshardware.com

 

[julmuri]

Eiköhän se kuollut jo vuonna 2000, kun Pentium 4 julkaistiin.

 

[Admiral General Aladeen]

Näitä Mooren lain plottauksia on interwebbi täynnä. Vaikeus tässä on, että mitkä prosessorit lasketaan mukaan. Valitaanko vain parhaat, vai otetaanko keskiarvo kyseisen vuoden prossujen transistorien lukumäärästä. Joukossa on melkoisia PC-prossu tykkejä, mutta keskiverto prossujen ei enää tarvitse olla nopeita. Ja mobiililaitteet ovat tämänpäivän tietokoneita ja prossuina on Appelet ja ARM:t.

Mutta onhan se trendi väkisin hidastumaan päin ja nyt enemmän kuin koskaan, kun ei ole enää paljoa mahdollista skaalata viivanleveyksiä alaspäin niin samaan pinta-alaan ei vaan mahdu paljoa enempää transistoreja.

 

[Raikku]

Vaatiiko sitten kvanttiprossujen yleistymisen/tulon kuluttajakäyttöön?

 

[finWeazel]

Hinnan ja lämmöntuoton jos lisää mooren lain yhtälöön niin mooren laki lienee ollut jo kuollut pidempään. Skaalautuvuutta haettu yhä kovemmilla virrankulutuksilla, isommilla piireillä ja chipleteillä. Näyttää esim. highend gpu ihan erilaiselta tänään kuin 10v sitten.

 

[Kaotik]

Hinnan ja lämmöntuoton jos lisää mooren lain yhtälöön niin mooren laki lienee ollut jo kuollut pidempään. Skaalautuvuutta haettu yhä kovemmilla virrankulutuksilla, isommilla piireillä ja chipleteillä. Näyttää esim. highend gpu ihan erilaiselta tänään kuin 10v sitten.

Ei se laki noihin ole ottanut mitään kantaa ikinä eli eivät vaikuta. Mooren laki määrittelee vain transistorien kaksinkertaistumisen parin vuoden välein.

 

[finWeazel]

Ei se laki noihin ole ottanut mitään kantaa ikinä eli eivät vaikuta. Mooren laki määrittelee vain transistorien kaksinkertaistumisen parin vuoden välein.

Et huomannut, että kirjoitin "jos lisää" enkä siis mitenkään väittänyt mooren lain noita sisältävän.

 

[love_doctor]

Et huomannut, että kirjoitin "jos lisää" enkä siis mitenkään väittänyt mooren lain noita sisältävän.

Kyllä yksittäisten transistorien tehonkulutus on myös laskenut. Muutenhan uudet prosessorit kuluttaisivat jo kymmeniä kilowatteja. Esim. Pentium 4:ssä on pikaisen googlaamisen mukaan 55 milj. transistoria ja Ryzen 7000 -sarjassa 6570 miljoonaa. Jos P4:n mallien TDP oli jo 115, tästä skaalaamalla saisi 13,7 kilowattia. Ryzen 7950X ei kuluta edes täysillä toimiessaan juuri enempää kuin P4. Jos halutaan puhuta tehonkulutuksesta, Mooren lain lisäksi on tehty muita huomioita esim. Dennard-skaalauksesta, Koomeyn laki jne.

 

[finWeazel]

Kyllä yksittäisten transistorien tehonkulutus on myös laskenut. Muutenhan uudet prosessorit kuluttaisivat jo kymmeniä kilowatteja. Esim. Pentium 4:ssä on pikaisen googlaamisen mukaan 55 milj. transistoria ja Ryzen 7000 -sarjassa 6570 miljoonaa. Jos P4:n mallien TDP oli jo 115, tästä skaalaamalla saisi 13,7 kilowattia. Ryzen 7950X ei kuluta edes täysillä toimiessaan juuri enempää kuin P4. Jos halutaan puhuta tehonkulutuksesta, Mooren lain lisäksi on tehty muita huomioita esim. Dennard-skaalauksesta, Koomeyn laki jne.

En yrittänyt väittää ettei olisi laskenut. Puhuin lopputuotteista mitä voit ostaa kaupasta. Esim. 4090 versus 1080ti ja miten kuluttajan kannalta on saatu suorituskykyä skaalattua halo-tuotteissa ja miten tämä kehitys on johtanut kuluttajan kannalta nousseisiin hintoihin. Vertailu vielä erilaisempi, jos otetaan 4090 tai vaikka 3d vcache chiplet zen4 versus joku 15v takainen halo cpu tuote.

 

[Härkönen]

En yrittänyt väittää ettei olisi laskenut. Puhuin lopputuotteista mitä voit ostaa kaupasta. Esim. 4090 versus 1080ti ja miten kuluttajan kannalta on saatu suorituskykyä skaalattua halo-tuotteissa ja miten tämä kehitys on johtanut kuluttajan kannalta nousseisiin hintoihin. Vertailu vielä erilaisempi, jos otetaan 4090 tai vaikka 3d vcache chiplet zen4 versus joku 15v takainen halo cpu tuote.

Näytönohjaimiin on myös tullut kaikkea lisää perinteisten ytimien lisäksi kun on tensoreita ja RT-coreja yms.

 

[hkultala]

Näitä Mooren lain plottauksia on interwebbi täynnä. Vaikeus tässä on, että mitkä prosessorit lasketaan mukaan.

Ei mooren laki puhu mitään prosessoreista, vaan mikropiireistä.

Mutta onhan se trendi väkisin hidastumaan päin ja nyt enemmän kuin koskaan, kun ei ole enää paljoa mahdollista skaalata viivanleveyksiä alaspäin niin samaan pinta-alaan ei vaan mahdu paljoa enempää transistoreja.

Ei valmistusprosesseissa ole pariinkymmeneen vuoteen ollut olemassa mitään viivanleveyttä.

On vaan markkinointihuuhaaluku, jolla ei ole mitään tekemistä valmistusprosessin minkään oikeiden mittojen tai ominaisuuksien kanssa.

 

[finWeazel]

Näytönohjaimiin on myös tullut kaikkea lisää perinteisten ytimien lisäksi kun on tensoreita ja RT-coreja yms.

AMD puolella varsinkin aika minimaalisesti vie piiriltä pinta-alaa kun ei ole tensoriytimiä eikä rt-ytimiä. On muutama uusi käsky operaatioiden kiihdyttämiseen ja käytetään shadereita+tmu yksiköitä.

 

[hkultala]

Vaatiiko sitten kvanttiprossujen yleistymisen/tulon kuluttajakäyttöön?

Ei tule tapahtumaan.
1) Kvanttitietokoneet vaativat lämpötiloja jotka ovat äärimmäisen lähellä absoluuttista nollapistettä mikä tarkoittaa että niiden hinta ei koskaan laske kukuttajatasolle, koska niitä vähintään kaapin kokoisia hyvin eksoottisia jäähdytysjärjestelmiä ei saada millään kuluttajatasolle
2) kvanttitietokoneet eivät ole von neumannin koneita, normaaleilla ohjelmointikielillä tehtyjä geneerisiä ohjelmia ei voi ajaa niillä, niillä voi ajaa vain hyvin rajoitettuja ohjelmia. Kuluttajien workloadit eivät vaan hyödy kvanttitietokoneista

 

[hkultala]

AMD puolella varsinkin aika minimaalisesti vie piiriltä pinta-alaa kun ei ole tensoriytimiä eikä rt-ytimiä. On muutama uusi käsky operaatioiden kiihdyttämiseen ja käytetään shadereita+tmu yksiköitä.

Ne "muutama uusi käsky" moninkertaistaa piirin raa'an laskentanopeuden. Ja siellä on kyllä huomattavasti uutta rautaa sen säteenjäljityksen tekemiseen.

 

[finWeazel]

Ne "muutama uusi käsky" moninkertaistaa piirin raa'an laskentanopeuden. Ja siellä on kyllä huomattavasti uutta rautaa sen säteenjäljityksen tekemiseen.

Paljonko tuo huomattavasti amd:n gpu:ssa on? Alle 5% piirin pinta-alasta, alle 1% piirin pinta-alasta?

 

[hkultala]

Paljonko tuo huomattavasti amd:n gpu:ssa on? Alle 5% piirin pinta-alasta, alle 1% piirin pinta-alasta?

Yksi RDNA-ydin TMUineen on pinta-alaltaan n. 4.2 mm^2.

Yksi RDNA2-ydin TMUineen (jossa siis mukana säteenjäljitysyksiköt) on pinta-alaltaan n. 5.3 mm^2 luokkaa.

Ja RDNA - ja RDNA2-ytimien arkkitehtuuri on muuten hyvin samanlainen, ja molemmat on valmistettu samalla valmistustekniikalla.

Eli tuossa pinta-alaa ytimeen tuli säteenjäljitysyksiköistä lisää n. 25%.

Tosin ytimien osuus on hiukan alle puolet koko piirin pinta-alasta joten koko piirissä vaikutus pinta-alaan 10% luokkaa.

 

[finWeazel]

Yksi RDNA-ydin TMUineen on pinta-alaltaan n. 4.2 mm^2.

Yksi RDNA2-ydin TMUineen (jossa siis mukana säteenjäljitysyksiköt) on pinta-alaltaan n. 5.3 mm^2 luokkaa.

Ja RDNA - ja RDNA2-ytimien arkkitehtuuri on muuten hyvin samanlainen, ja molemmat on valmistettu samalla valmistustekniikalla.

Eli tuossa pinta-alaa ytimeen tuli säteenjäljitysyksiköistä lisää n. 25%.

Tosin ytimien osuus on hiukan alle puolet koko piirin pinta-alasta joten koko piirissä vaikutus pinta-alaan 10% luokkaa.

Enemmän kiinnostaisi pinta ala prosentteina koko piiristä eikä yksittäisestä yksiköstä. Kertoisi enemmän jos koko piiristä 25% on dedikoitu säteenseuranta+matriisioperaatiot vai olisiko kuitenkin ennemmin alle 10% tai alle 5% kokopiiristä dedikoitu noille uusille ominaisuuksille. Jos haluaa älyttömiä prosentteja niin voi sanoa, että 100% nvidian rtcoresta varattu säteenseurannalle, mutta kuinka iso osa koko piirin pinta-alasta on varattu säteenseurannalle on mielenkiintoisempi kysymys.

Nvidian koko piirin tapauksessa taitaa rtx overhead olla noin 10% pinta-alasta. Kuvittelisi, että amd:n tapauksessa overhead pienempi

Reddit - Dive into anything

www.reddit.com

 

[Kaotik]

Enemmän kiinnostaisi pinta ala prosentteina koko piiristä eikä yksittäisestä yksiköstä. Kertoisi enemmän jos koko piiristä 25% on dedikoitu säteenseuranta+matriisioperaatiot vai olisiko kuitenkin ennemmin alle 10% tai alle 5% kokopiiristä dedikoitu noille uusille ominaisuuksille. Jos haluaa älyttömiä prosentteja niin voi sanoa, että 100% nvidian rtcoresta varattu säteenseurannalle, mutta kuinka iso osa koko piirin pinta-alasta on varattu säteenseurannalle on mielenkiintoisempi kysymys.

Nvidian koko piirin tapauksessa taitaa rtx overhead olla noin 10% pinta-alasta. Kuvittelisi, että amd:n tapauksessa overhead pienempi

Reddit - Dive into anything

www.reddit.com

AMD ei ole pistänyt dedikoituja matriisilaskimia kuluttajapiireihinsä, RDNA3:ssa on tuki WMMA:lle joka tarjoaa kiihdytystä joillekin matriisioperaatioille mutta ne lasketaan ihan samoilla yksiköillä kuin muutkin.

 

[finWeazel]

AMD ei ole pistänyt dedikoituja matriisilaskimia kuluttajapiireihinsä, RDNA3:ssa on tuki WMMA:lle joka tarjoaa kiihdytystä joillekin matriisioperaatioille mutta ne lasketaan ihan samoilla yksiköillä kuin muutkin.

No enkä mä noin kirjoittanut aikaisemmassa postauksessa?

AMD puolella varsinkin aika minimaalisesti vie piiriltä pinta-alaa kun ei ole tensoriytimiä eikä rt-ytimiä. On muutama uusi käsky operaatioiden kiihdyttämiseen ja käytetään shadereita+tmu yksiköitä

Nostin tuon nvidian 10% overheadin esiin, koska uskon että amd:lla overhead pienempi. Tuo toisen postaajan 25% muuttunee paljon pienemmäksi, kun mietitään koko piirin eikä pelkän yhden suoritusyksikön pinta-alaa.

 

[Kaotik]

No enkä mä noin kirjoittanut aikaisemmassa postauksessa?



Nostin tuon nvidian 10% overheadin esiin, koska uskon että amd:lla overhead pienempi. Tuo toisen postaajan 25% muuttunee paljon pienemmäksi, kun mietitään koko piirin eikä pelkän yhden suoritusyksikön pinta-alaa.

Kappas, mutta tuossakin tosiaan meni väärin se rt-osuus. Ja siinä postauksessa mihin viittaat on mainittu myös koko sirun osuus arvioituna

 

[hkultala]

Enemmän kiinnostaisi pinta ala prosentteina koko piiristä eikä yksittäisestä yksiköstä

No sitten sinun kannattaisi opetella lukemaan. Kerroin sen tuossa edellisessä viestissäni.

Tässä vielä oleellinen lause tuosta aiemmasta viestistäni uudestaan:

Tosin ytimien osuus on hiukan alle puolet koko piirin pinta-alasta joten koko piirissä vaikutus pinta-alaan 10% luokkaa.

 

[finWeazel]

No sitten sinun kannattaisi opetella lukemaan. Kerroin sen tuossa edellisessä viestissäni.

Sun arviolla 10% amd, nvidia korkearesoluution kuvasta mitattu 10%. Ei nyt ihan tunnu, että olis mennyt amd:lla putkeen, jos 10% on lopullinen totuus. Olisi kuvitellut, että amd:n toteutus on halvempi kuin nvidian.

Toisissa kirjoissa imho. 10% pinta-ala hitti kiihdytetystä säteenseurannasta ja matriisioperaatioista ei ole paha hinta. Perinteinen suorituskyky tuskin nousee edes 10% vaikka tuo pinta-ala olisi käytetty perinteisen suorituskyvyn lisäämiseen.

 

[Kaotik]

Sun arviolla 10% amd, nvidia korkearesoluution kuvasta mitattu 10%. Ei nyt ihan tunnu, että olis mennyt amd:lla putkeen, jos 10% on lopullinen totuus. Olisi kuvitellut, että amd:n toteutus on halvempi kuin nvidian.

Toisissa kirjoissa imho. 10% pinta-ala hitti kiihdytetystä säteenseurannasta ja matriisioperaatioista ei ole paha hinta. Perinteinen suorituskyky tuskin nousee edes 10% vaikka tuo pinta-ala olisi käytetty perinteisen suorituskyvyn lisäämiseen.

Et voi puhua vain prosenteista kun vertaat kissoja ja koiria. AMD:n Compute Unit ja NVIDIAn TPC eivät ole yksi ja sama asia.
Lisäksi pitää huomioida, ettemme tiedä onko TU106 ja TU116 muitakin eroja rakenteissa (lue: varmasti on) kuin vain RT- ja tensoriyksikköjen olemassaolo.

 

[hkultala]

Eiköhän se kuollut jo vuonna 2000, kun Pentium 4 julkaistiin.

Ei.

Vuodessa nousi coppermine-P3sta transistorimäärä 28 miljoonaa => 42 miljoonaa, eli oikein hyvin piti kutinsa tuossa vaiheessa.

 

[finWeazel]

Et voi puhua vain prosenteista kun vertaat kissoja ja koiria. AMD:n Compute Unit ja NVIDIAn TPC eivät ole yksi ja sama asia.
Lisäksi pitää huomioida, ettemme tiedä onko TU106 ja TU116 muitakin eroja rakenteissa (lue: varmasti on) kuin vain RT- ja tensoriyksikköjen olemassaolo.

Kai rt+tensori toteutuksen kokoa suhteessa koko piirin kokoon vois ihan hyvin verrata kunhan ottaa myös huomioon piirien suorituskyvyn. Se on sitten ihan oma asiansa onko mahdollista näin ulkoapäin päästä riittävän hyvään arvioon toteutuksen koosta, että vertailulla olisi mitään järkevää merkitystä.

 

[Griffin]

En yrittänyt väittää ettei olisi laskenut. Puhuin lopputuotteista mitä voit ostaa kaupasta. Esim. 4090 versus 1080ti ja miten kuluttajan kannalta on saatu suorituskykyä skaalattua halo-tuotteissa ja miten tämä kehitys on johtanut kuluttajan kannalta nousseisiin hintoihin. Vertailu vielä erilaisempi, jos otetaan 4090 tai vaikka 3d vcache chiplet zen4 versus joku 15v takainen halo cpu tuote.

Näyttiksien hinta nyt on kasvanut, kun ne (esim 4090) menee kaupaksi myös markkinoille, joilla joku 2000e:n hintainen kortti ei ole mitenkään kallis. (Nyttemmin koska tensorit (AI sovellutukset) ja koska RT. Aiemmin, koska RT ja toisaalta leikkirahojen mainausmielipuolisuus).
Lisäksi ollaan valmistusrajoitteisia edelleen, joten kaikki myydään, vaikka hinnat ovatkin korkeammalla..

Hidastumisen lisäksi myös yhä pienempi määrä valmistajia kykenee valmistamaan huipputiheitä piirejä, joten kilpailukin toimii paljon entistä huonommin..
---------------
Eiköhän tässä tule eriytyminen, jossa huippulaitteet ovat entistä kalliimpia ja niihin menee mitä pystytään MAX valmistamaan ja vähän hälvemmissa käytetään sitten edellisiä prosesseja (1-3 sukupolvea jäljessä..)

Lisäähidastumista tulee aiheuttamaan myös suurella todennäköisyydellä yleisesti lisääntyvä sotimisen määrä ja pikkuhiljaa jästipäidenkin siihen herääminen, että eri maanosissa on syytä olla omaa tuotantoa pahan katastrofin välttämiaseksi.

 

[M0nde]

Tätä Mooren lain kuolemista on saneltu jo joku vuosikymmen, todellisuus lienee se että mooren lailla ei ole kuolema tulossa ellei high NA EUV myöhästy merkittävästi.

 

[hkultala]

Tätä Mooren lain kuolemista on saneltu jo joku vuosikymmen, todellisuus lienee se että mooren lailla ei ole kuolema tulossa ellei high NA EUV myöhästy merkittävästi.

NA EUV tarkoittaa aallonpituuden pienenemistä 13 nm => 8nm, eli se yksin itsessään mahdollistaa vain n 2.6-kertaisen tiheysparannuksen, eli alkuperäisellä mooren lain nopeudella alle kolmen vuoden verran.

Käytännössä 13nm EUVn ja 8nm NA EUVn välillä meni kuitenkin todella paljon pidempi aika kuin vajaat 3 vuotta, tosin joillain muilla tempuilla on tiheyttä saatu silti hiukan lisää.

Mooren laki on hyvin selvästi hidastunut, tämän näkee hyvin selvästi mitä tahansa oikeita lukuja (ei pelkkiä markkinointinimiä) vertailemalla. Ja Pat Gelsinger tietää mistä puhuu.

 

[love_doctor]

Tätä Mooren lain kuolemista on saneltu jo joku vuosikymmen, todellisuus lienee se että mooren lailla ei ole kuolema tulossa ellei high NA EUV myöhästy merkittävästi.

Aika moni Mooren lakia siteeraavista ei osaa etsiä käsiinsä "lain" tekstiä edes. Aika hyvin tätä demonstroi se, että puhutaan laskentatehon kasvusta. Helppohan sitä on sanoa, että laki ei ole kuollut vielä, kun lausuntoa päivitetään ja lainataan väärin jatkuvasti. 1965 Moore sanoi "transistorimäärä tuplaantuu vuoden välein", 1975 "transistorimäärä tuplaantuu kahden vuoden välein". Nyt 2020-luvulla alkaa lakiin viittaus olla jo muotoa "jos TSMC ja/tai Intel ottaa markkinoinnissa käyttöön uudet nm-luvut ja/tai uusia tuotteita julkaistaan ja/tai ihmisillä on varaa ostaa uusia näyttiksiä, niin se todistaa että Mooren laki porskuttaa vielä täydellisen hyvin ja kriitikot olivat täysin väärässä kaikesta MOT QED". Maalitolpat siirtyvät sitä tahtia, että pian voi ainoastaan sanoa, että Mooren laki on kuollut, jos tulee joku takaisku kuten sota Taiwanista ja joudutaan julkaisemaan vanhempaa tekniikkaa väliaikaisesti. Yhdenkin transistorin lisäys per vuosi pian todistaa, että Mooren laki toimii.

 

[M0nde]

Aika moni Mooren lakia siteeraavista ei osaa etsiä käsiinsä "lain" tekstiä edes. Aika hyvin tätä demonstroi se, että puhutaan laskentatehon kasvusta. Helppohan sitä on sanoa, että laki ei ole kuollut vielä, kun lausuntoa päivitetään ja lainataan väärin jatkuvasti. 1965 Moore sanoi "transistorimäärä tuplaantuu vuoden välein", 1975 "transistorimäärä tuplaantuu kahden vuoden välein". Nyt 2020-luvulla alkaa lakiin viittaus olla jo muotoa "jos TSMC ja/tai Intel ottaa markkinoinnissa käyttöön uudet nm-luvut ja/tai uusia tuotteita julkaistaan ja/tai ihmisillä on varaa ostaa uusia näyttiksiä, niin se todistaa että Mooren laki porskuttaa vielä täydellisen hyvin ja kriitikot olivat täysin väärässä kaikesta MOT QED". Maalitolpat siirtyvät sitä tahtia, että pian voi ainoastaan sanoa, että Mooren laki on kuollut, jos tulee joku takaisku kuten sota Taiwanista ja joudutaan julkaisemaan vanhempaa tekniikkaa väliaikaisesti. Yhdenkin transistorin lisäys per vuosi pian todistaa, että Mooren laki toimii.

Kuoleminen vs hidastuminen

 

[M0nde]

NA EUV tarkoittaa aallonpituuden pienenemistä 13 nm => 8nm, eli se yksin itsessään mahdollistaa vain n 2.6-kertaisen tiheysparannuksen, eli alkuperäisellä mooren lain nopeudella alle kolmen vuoden verran.

Käytännössä 13nm EUVn ja 8nm NA EUVn välillä meni kuitenkin todella paljon pidempi aika kuin vajaat 3 vuotta, tosin joillain muilla tempuilla on tiheyttä saatu silti hiukan lisää.

Mooren laki on hyvin selvästi hidastunut, tämän näkee hyvin selvästi mitä tahansa oikeita lukuja (ei pelkkiä markkinointinimiä) vertailemalla. Ja Pat Gelsinger tietää mistä puhuu.

Saatan olla täysin väärässä mutta ymmärtääkseni High na EUV ja myös EUVn tehokkuuden parantaminen (mikäli kumpikin saapuu ajallaan ja saavuttaa tavoitteensa) mahdollistaa näiden kaikkien temppujen kanssa tuon transistorimäärän nousun lähellä mooren lakia olevalla tahdilla ainakin tämän vuosikymmenen. Käytännössä kuitenkin tuo pelkkä prosessien tiheyden paranemisen avulla saatu hyöty on jo hyvän aikaa jäänyt aika paljon Mooren laista.

 

[Kaotik]

Saatan olla täysin väärässä mutta ymmärtääkseni High na EUV ja myös EUVn tehokkuuden parantaminen (mikäli kumpikin saapuu ajallaan ja saavuttaa tavoitteensa) mahdollistaa näiden kaikkien temppujen kanssa tuon transistorimäärän nousun lähellä mooren lakia olevalla tahdilla ainakin tämän vuosikymmenen. Käytännössä kuitenkin tuo pelkkä prosessien tiheyden paranemisen avulla saatu hyöty on jo hyvän aikaa jäänyt aika paljon Mooren laista.

Kuuleman mukaan sirujen maksimikoko myös pienenee tuon High NA EUV:n myötä mikä ohjaa entistä enemmän pikkusirujen käyttöön

 

[love_doctor]

Kuoleminen vs hidastuminen

Mooren laissa isoin ongelma on, että se ei ole mikään lainalaisuus vaan arvio, jota sen keksijä jo itsekin korjasi aika pian "lain" määrittelyn jälkeen. Nyt jos sitä tulkitaan lisää ja lisää joka vuosi uudestaan, saahan se pätemään lähestulkoon aina tai ei, riippuen näkökannasta.

 

[finWeazel]

Mooren laissa isoin ongelma on, että se ei ole mikään lainalaisuus vaan arvio, jota sen keksijä jo itsekin korjasi aika pian "lain" määrittelyn jälkeen. Nyt jos sitä tulkitaan lisää ja lisää joka vuosi uudestaan, saahan se pätemään lähestulkoon aina tai ei, riippuen näkökannasta.

Toinen ongelma, että "tavikset" yrittävät soveltaa mooren lakia siihen, että 2v välein tms. pitäisi saada tuplatehot tuotteeseen X samalla hinnalla. 20v sittenhän noin tapahtuikin, mutta ei enää tänä päivänä. Ahneet valmistajat, kallistuneet r&d+valmistuskulut vai todennäköisemmin monen asian summa yhä kallistuvat hinnat suhteessa saatuun suorituskykyyn.

Transistoripuolellakin tarvii olla varovainen sen suhteen minkä kuvittelee skaalautuvan. sram versus logiikka versus io skaalautuvat eri tavalla.

TSMC's 3nm Node: No SRAM Scaling Implies More Expensive CPUs and GPUs

Big problems from tiny memory cells.

www.tomshardware.com

 

[Tigerou]

Sanoisinko liian pitkällä kokemuksella jotta kehitys on hidastunut Intelin(-kin) osalta rajusti jo Core2-ajoista saakka. Eikä tähän arvioon vaadita 20M€ur vuosipalkkaa eikä CEO/CTO-titteliäkään. GPU-puolen edistys on toki ollut paljon rivakampaa joka tunnustettakoon. Vielä kun hinta+laatu siellä GPU-puolella jotenkin kohtaisivat niin puhuisimme edistyksestä

 

[hkultala]

Sanoisinko liian pitkällä kokemuksella jotta kehitys on hidastunut Intelin(-kin) osalta rajusti jo Core2-ajoista saakka. Eikä tähän arvioon vaadita 20M€ur vuosipalkkaa eikä CEO/CTO-titteliäkään. GPU-puolen edistys on toki ollut paljon rivakampaa joka tunnustettakoon. Vielä kun hinta+laatu siellä GPU-puolella jotenkin kohtaisivat niin puhuisimme edistyksestä

(mikro)arkkitehtuurien kehitys ja valmistustekniikan kehitys on kaksi täysin eri asiaa.

Mikroarkkitehtuurien kehitys on hidastunut, koska ollaan löydetty/keksitty ne parhaat mikroarkkitehtuurien toimintaperiaatteet eikä varaa parantamiseen vaan paljoa ole.

Mikroarkkitehtuurien kehityksessä tärkein kehitys tuli spekulatiivisesti suorittavan käskyjen uudelleenjärjestelyn myötä (x86-prossuissa pentium Pro vuonna 1995).

Sen jälkeen oikeastaan ainoa merkittävä mikroarkkitehtuurillinen toimintaperiaatteen muutos on ollut siirtyminen tomasulo-tyyppisestä käskyjen uudelleenjärjestelystä PRF-tyyppiseen (P4, Sandy Bridge, Bulldozer, Zen)

Kaikki muu kehitys mikroarkkitehtuurien kehityksessä on sitten lähinnä ollut pikkuviilausta, laitettu vähän lisää laskentayksiköitä, vähän kehittyneempää haarautumisenennustusyksikköä, vähän isompaa välimuistia jne.

 

[hik]

Ei tule tapahtumaan.
1) Kvanttitietokoneet vaativat lämpötiloja jotka ovat äärimmäisen lähellä absoluuttista nollapistettä mikä tarkoittaa että niiden hinta ei koskaan laske kukuttajatasolle, koska niitä vähintään kaapin kokoisia hyvin eksoottisia jäähdytysjärjestelmiä ei saada millään kuluttajatasolle
2) kvanttitietokoneet eivät ole von neumannin koneita, normaaleilla ohjelmointikielillä tehtyjä geneerisiä ohjelmia ei voi ajaa niillä, niillä voi ajaa vain hyvin rajoitettuja ohjelmia. Kuluttajien workloadit eivät vaan hyödy kvanttitietokoneista

Kvanttitietokoneista ei tosiaan vielä tiedetä mitä niillä pystytään tekemään. Mutta on jännää nähdä mihin seuraavien vuosikymmenien aikana päästään.

Tekoälyn kehityksestä pystyy ehkä arvaamaan vähän enemmän. Veikkaan että niiden kehitys ei ole Mooren laista kiinni (*) vaan algoritmien kehityksestä. ( * Mutta sähköä tekoälyyn tulee menemään paljon, ja veikkaan että suurin osa resursseista tarvitaan viihteeseen. Internet luultavasti tuottaa jo nyt enemmän CO2-päästöjä kuin lentäminen ja viihdettä tästä suurin osa.)

Pelit voisi jatkossa hyödyntää pilvitekoälyä, kun jokaisen koneessa ei varmaankaan kannata makuuttaa AI-Einsteiniä tietokantoineen. Paitsi tekoälyyn pohjautuva renderointi pitää tehdä paikallisesti.

 

[JiiPee]

Et huomannut, että kirjoitin "jos lisää" enkä siis mitenkään väittänyt mooren lain noita sisältävän.

Kun ruvetaan jossittelemaan ja soveltamaan niin ei se sitten ole enää mooren laki.

Lisäksi ollaan valmistusrajoitteisia edelleen, joten kaikki myydään, vaikka hinnat ovatkin korkeammalla..

Ainoastaan AI kiiman takia ollaan valmistusrajoitteisia jossain määrin. Ennen kiimaa taisi Papa-J perua jotain varauksia TSMC:ltä tai ainakin yritti.
Tässä on kuitenkin tainnut kaupasta saada näyttiksiä varsin hyvin ostettua jo pidemmän aikaa.

 

[Griffin]

Kuka pn "Papa J"?
Vaika näyttiksiä saakin, niin niitä ei ole käynyt ilmeisestikään kertymään myyjille, vaikka hinnat ovat korkeita.

JA koska yrityksetkin näkevät AI sovellutukset kilpailuvaltteina, niin on selvää, että menekki on suurta...Vaikka hinta on korkea..

 

[finWeazel]

Ainoastaan AI kiiman takia ollaan valmistusrajoitteisia jossain määrin. Ennen kiimaa taisi Papa-J perua jotain varauksia TSMC:ltä tai ainakin yritti.
Tässä on kuitenkin tainnut kaupasta saada näyttiksiä varsin hyvin ostettua jo pidemmän aikaa.

Pulaa ei ole piireistä/piirituotannosta nvidialla. Pullonkaula on vain konesalituotteissa käytetty CoWoS paketointi. Alla yksi lähde. Toinen lähde nvidian sijoittajapuhelut+kvartaaliraportit. Ne on linkattu eri keskusteluissa palstalle useaan kertaan.

Speaking at Semicon Taiwan, Mark Liu clarified, "The shortage pertains to our CoWoS capacity, not AI chips. We currently can't fulfill all of our customer demands, but we're working towards addressing roughly 80% of them. This is viewed as a transient phase. We anticipate alleviation after the growth of our advanced chip packaging capacity, roughly in one and a half years."

TSMC Chairman Discusses Prolonged Shortage of Nvidia's AI GPUs Due to CoWoS Constraints

TSMC's chairman, Mark Liu, recently confirmed that the limited availability of compute GPUs for AI and HPC applications stems from constraints in their chip-on-wafer-on-substrate (CoWoS) packaging ca...

www.guru3d.com

 

[hkultala]

Kvanttitietokoneista ei tosiaan vielä tiedetä mitä niillä pystytään tekemään.

Se, että sinä et tiedä jotain ei tarkoita, että muut eivät sitä tiedä.

Kvanttialgoritmeja tutkivat tiedemiehet tietävät oikein hyvin, että mitä niillä pystytään tekemään.

Tekoälyn kehityksestä pystyy ehkä arvaamaan vähän enemmän. Veikkaan että niiden kehitys ei ole Mooren laista kiinni (*) vaan algoritmien kehityksestä.

Neuroverkot on nimeomaan se about ainoa laskennan muoto, missä ei ajeta mitään selkeää laskettavaan asiaan kehitettyä algoritmia.

Pelit voisi jatkossa hyödyntää pilvitekoälyä, kun jokaisen koneessa ei varmaankaan kannata makuuttaa AI-Einsteiniä tietokantoineen. Paitsi tekoälyyn pohjautuva renderointi pitää tehdä paikallisesti.

Datan kuljetus edestakaisin on todella epätehokasta. Sen sijaan se, että tietokoneessa tai kännykässä on paljon rinnakkaislaskentatehoa neurolaskentaan on nykyään halpaa.

Että reaaliaikajutuissa kuten peleissä sen tekoälyn ajamisessa pilvessä ei ole paljoa järkeä.

 

[hik]

Kvanttitietokoneista ei tosiaan vielä tiedetä mitä niillä pystytään tekemään. Mutta on jännää nähdä mihin seuraavien vuosikymmenien aikana päästään.

Se, että sinä et tiedä jotain ei tarkoita, että muut eivät sitä tiedä.

Kvanttialgoritmeja tutkivat tiedemiehet tietävät oikein hyvin, että mitä niillä pystytään tekemään.

Hienoa, maailma on siis edes joiltain osin valmis. Säilytän kuitenkin tämän viestin ja jos osoittautuisi että joiltain osin näin ei olisikaan, niin palaan tulevina vuosikymmeninä tähän ketjuun.

 

[ratkakapu]

Datan kuljetus edestakaisin on todella epätehokasta. Sen sijaan se, että tietokoneessa tai kännykässä on paljon rinnakkaislaskentatehoa neurolaskentaan on nykyään halpaa.

Että reaaliaikajutuissa kuten peleissä sen tekoälyn ajamisessa pilvessä ei ole paljoa järkeä.

Noin periaatteessa uskon tässäkin asiassa tälläkin kertaa paikallisen ratkaisun olevan voittava valinta, kuten se on ollut tähän mennessä melkein kaikessa kuluttajakäyttössä tallennustilaa lukuunottamatta, niin silti veikkaan että jossain määrin merkittävä osa AI-laskennasta tullaan tekemään pilvessä.

Tehokkaimmat PC-laitteet tulevat hoitamaan kaiken lokaalisti, tämä on aikalailla selvä. Mutta konsoleiden, käsikonsolimaisten pc-laitteiden (steam deck -tyyppiset laitteet) ja heikompien pc-koneiden suorituskykyä pystyisi pilvellä jonkin verran parantamaan. Näissäkin on jatkossa (5v+ päästä) kaikissa jonkin verran AI suorituskykykä joka voisi pelissä hoitaa kaikista kriittisimmän AI-kuorman esim aktiivisena olevan keskustelun tai taistelussa aktiivisten tekoälyhahmojen toimet. Sen sijaan jos pelimaailmassa on moninutkaisempi, mutta vähemmän viivekriittinen AI-systeemi taustalla vaikkapa maailman generoinnin osalta, niin mikään ei oikeastaan estä tätä ulkomasta pilveen. Tässä ei tarvitse edes ihan hirveästi lähettää dataa edestakas, vaan gamestate sinne pilveen ja sieltä sitten tulee mappia (pakattuna) takaisinpäin.

 

[Griffin]

Noin periaatteessa uskon tässäkin asiassa tälläkin kertaa paikallisen ratkaisun olevan voittava valinta, kuten se on ollut tähän mennessä melkein kaikessa kuluttajakäyttössä tallennustilaa lukuunottamatta, niin silti veikkaan että jossain määrin merkittävä osa AI-laskennasta tullaan tekemään pilvessä.

Tehokkaimmat PC-laitteet tulevat hoitamaan kaiken lokaalisti, tämä on aikalailla selvä. Mutta konsoleiden, käsikonsolimaisten pc-laitteiden (steam deck -tyyppiset laitteet) ja heikompien pc-koneiden suorituskykyä pystyisi pilvellä jonkin verran parantamaan. Näissäkin on jatkossa (5v+ päästä) kaikissa jonkin verran AI suorituskykykä joka voisi pelissä hoitaa kaikista kriittisimmän AI-kuorman esim aktiivisena olevan keskustelun tai taistelussa aktiivisten tekoälyhahmojen toimet. Sen sijaan jos pelimaailmassa on moninutkaisempi, mutta vähemmän viivekriittinen AI-systeemi taustalla vaikkapa maailman generoinnin osalta, niin mikään ei oikeastaan estä tätä ulkomasta pilveen. Tässä ei tarvitse edes ihan hirveästi lähettää dataa edestakas, vaan gamestate sinne pilveen ja sieltä sitten tulee mappia (pakattuna) takaisinpäin.

Pilveilyn ongelmana on sen epäluotettavuus, tiedon edestakaiseen siirtoon kuluva suuri energianmäärä ja ennenkaikkea se, että jopa valo liikkuu melko hitaasti puhumattakaan siitä, että siinä välissä on epämääräinen määrä laitteita, joiden läpi data sitten virtaa enemmän ja vähemmän hitaasti.

Toki jossain ei reaaliaikaisessa sovellutuksessa ongelmaa ei yleensä ole (toki siinäkin voi olla, jos dataa pitää liikutella suurempia määriä)..

Eräs kasvava ongelma on myös se, että yritysvakoilu muuttuu lastenleikiksi, jos ja kun yrityssalaisuuksia jauhetaan jollain epämääräisillä AI servereillä ties missä hevonkuusessa. Saattaa helposti esim jonkun asian patentointi luiskahtaa jollekulle muulle.. Kannattaa myös muistaa valtioidenkin suorittama vakoilu, joka on täysin selviö, vaikka siitä ei kaikkien valtioiden kohdalla huudellakaan..

Yleensäkin joutuu välillä ihmettelemään, miten löperösti dataa käytetään talojen ulkopuolella, kun toisekseen kuitenkin ollaan mielettömän tarkkoja ja huollissaan esim käytettyjen kiintolevyjen kanssa tai jostain prossun reijästä, joka voi vuotaa vaikka kilotavun tietoa tunnissa tai alle, jos on optimiolosuhteet.

 

[Heseman]

Noin periaatteessa uskon tässäkin asiassa tälläkin kertaa paikallisen ratkaisun olevan voittava valinta, kuten se on ollut tähän mennessä melkein kaikessa kuluttajakäyttössä tallennustilaa lukuunottamatta, niin silti veikkaan että jossain määrin merkittävä osa AI-laskennasta tullaan tekemään pilvessä.

Tehokkaimmat PC-laitteet tulevat hoitamaan kaiken lokaalisti, tämä on aikalailla selvä. Mutta konsoleiden, käsikonsolimaisten pc-laitteiden (steam deck -tyyppiset laitteet) ja heikompien pc-koneiden suorituskykyä pystyisi pilvellä jonkin verran parantamaan. Näissäkin on jatkossa (5v+ päästä) kaikissa jonkin verran AI suorituskykykä joka voisi pelissä hoitaa kaikista kriittisimmän AI-kuorman esim aktiivisena olevan keskustelun tai taistelussa aktiivisten tekoälyhahmojen toimet. Sen sijaan jos pelimaailmassa on moninutkaisempi, mutta vähemmän viivekriittinen AI-systeemi taustalla vaikkapa maailman generoinnin osalta, niin mikään ei oikeastaan estä tätä ulkomasta pilveen. Tässä ei tarvitse edes ihan hirveästi lähettää dataa edestakas, vaan gamestate sinne pilveen ja sieltä sitten tulee mappia (pakattuna) takaisinpäin.

Näen tällaisen yhtenä isona DRM-hirvityksenä, jollaisia en todellakaan toivo peleissä yleistyvän yhtään enempää. Eikös se Sim Citykin jotain tällaista yrittänyt, että osa laskennasta tehdään palvelimella, jolloin sinne oli pakko olla yhteydessä? Kunnes ei enää yllättäen ollutkaan pakko...

 

[hkultala]

Hienoa, maailma on siis edes joiltain osin valmis. Säilytän kuitenkin tämän viestin ja jos osoittautuisi että joiltain osin näin ei olisikaan, niin palaan tulevina vuosikymmeninä tähän ketjuun.

Hienoa olkiukkoilua, en ole väittänyt että maailma olisi valmis.

Se, että tiedetään mitä on mahdollista tehdä on ihan eri asia kuin että se, että tällä hetkellä voitaisiin asiat tehdä optimaalisella tavalla. Kvanttilaskentaan liittyen on hyvin paljon asioita kehitetttävänä, mutta se kehitystyö ei muuta sitä, mitä kvanttilaskennalla fundamentaalisesti voidaan laskea.

 

[Pizzan ystävä]

Näen tällaisen yhtenä isona DRM-hirvityksenä, jollaisia en todellakaan toivo peleissä yleistyvän yhtään enempää. Eikös se Sim Citykin jotain tällaista yrittänyt, että osa laskennasta tehdään palvelimella, jolloin sinne oli pakko olla yhteydessä? Kunnes ei enää yllättäen ollutkaan pakko...

Joo, tosin se koko väite palvelinlaskennasta oli täyttä hevonkukkua ja todellisuudessa kyseessä oli DRM (ja tallennusten säilytyspaikka).

SimCity modded so it can be played offline indefinitely

The controversy around SimCity looks set to continue: a modder has tweaked the always-online game so it can be played o…

www.eurogamer.net

Can SimCity 5 Be Played Offline? New Mod Shows It Can | The Mary Sue

Electronic Arts has done a terrible job with the launch of the newest SimCity, and things have just gotten worse since someone hacked the game to show that it can run offline, calling into question EA's claims that forcing players to be online in order to play is required for the game to run...

www.themarysue.com