Virallinen: NVIDIA vs AMD (vs Intel) keskustelu- ja väittelyketju

[finWeazel]

Raja Koduri sanoo, että AI puolen softapinoissa pointterit ja kiihdyttimen integroiminen ja c/c++ ohjelmointimallia tukeviin softiin on vallihauta mitä nvidia hallitsee. CUDA kodurin mukaan ei ole este. Este on pointterien tukeminen. Tätä voi miettiä siltäkin kantilta, että nvidialla on nvlinkin läpi yhteinen koherentti muistiavaruus+pointterit gpu:ssa(ja cpu:ssa) 256gpu+256cpu kokoiseen klusteriin asti.

Pitkä vastaus kellerin postaukseen twitterissä. Nappasin kuviin asian ytimen. Linkin päässä koko tarina kodurin vinkkelistä.

 

[finWeazel]

Kun oli vääntöä siitä koostuuko nvidian konesalibisneksen tulos peli gpu puolesta niin juuri julkaistussa kvartaaliraportissa hyvin selkeä vastaus. Konesalipuolen kasvun sanotaan tulleen hopperista ja infinibandista.

Data Center revenue for the fourth quarter was a record, up 409% from a year ago and up 27% sequentially. These increases reflect higher shipments of the NVIDIA Hopper GPU computing platform used for the training and inference of large language models, recommendation engines, and generative AI applications, along with InfiniBand end-to-end solutions. Data Center revenue for fiscal year 2024 was up 217%

Raju tulos nvidialta. Q4 liikevaihto 22 miljardia, liikevoitto 12.8miljardia. Pelipuoli oli 2.9 miljardia. Konesali 18.4miljardia. Koko vuoden liikevaihto 61miljardia ja liikevoitto 29.8miljardia.

Pelipuoli tainnut löytää uuden normaalin? Voi tietty FY25 pelipuolen myynti hyytyä. ADA alkaa olemaan vanha ja blackwell vasta vuoden päästä kaupassa. Mielenkiinnolla odotan tuleeko FY25:ssa piikkiä pelipuoleen back to school läppäreistä samalla tapaa kuin väitettiin viime vuonna käyneen.

Gaming revenue was up 56% from a year ago and flat sequentially. Fiscal year revenue was up 15%

NVIDIA Announces Financial Results for Fourth Quarter and Fiscal 2024

Record quarterly revenue of $22.1 billion, up 22% from Q3, up 265% from year ago Record quarterly Data Center revenue of $18.4 billion, up 27% from Q3, up 409% from year ago Record full-year revenue of $60.9 billion, up 126% SANTA CLARA, Calif., Feb. 21, 2024 (GLOBE NEWSWIRE) - NVIDIA (NASDAQ...

investor.nvidia.com

https://s201.q4cdn.com/141608511/files/doc_financials/2024/Q4FY24/Q4FY24-CFO-Commentary.pdf

 

[Cuthalu]

Pelipuoli tainnut löytää uuden normaalin? Voi tietty FT25 pelipuolen myynti hyytyä. ADA alkaa olemaan vanha ja blackwell vasta vuoden päästä kaupassa. Mielenkiinnolla odotan tuleeko FY25:ssa piikkiä pelipuoleen back to school läppäreistä samalla tapaa kuin väitettiin viime vuonna käyneen.

Nahkatakkimies sanailee siihen malliin, että 5-sarjaa voinee odottaa jo tälle vuodelle: “NVIDIA RTX, introduced less than six years ago, is now a massive PC platform for generative AI, enjoyed by 100 million gamers and creators. The year ahead will bring major new product cycles"

 

[Joku_242]

Kun oli vääntöä siitä koostuuko nvidian konesalibisneksen tulos peli gpu puolesta niin juuri julkaistussa kvartaaliraportissa hyvin selkeä vastaus. Konesalipuolen kasvun sanotaan tulleen hopperista ja infinibandista.



Raju tulos nvidialta. Q4 liikevaihto 22 miljardia, liikevoitto 12.8miljardia. Pelipuoli oli 2.9 miljardia. Konesali 18.4miljardia. Koko vuoden liikevaihto 61miljardia ja liikevoitto 29.8miljardia.

Pelipuoli tainnut löytää uuden normaalin? Voi tietty FY25 pelipuolen myynti hyytyä. ADA alkaa olemaan vanha ja blackwell vasta vuoden päästä kaupassa. Mielenkiinnolla odotan tuleeko FY25:ssa piikkiä pelipuoleen back to school läppäreistä samalla tapaa kuin väitettiin viime vuonna käyneen.

Eikö vääntöä ollut paremminkin siitä, että koostuuko pelipuolen myynti osin AI-käyttöön menevistä kuluttajapiireistä? Sinänsähän tulos viittaisi siihen, kun back to school -teoria olisi antanyt syyn olettaa että myynti kyykkää Q4:ssä.

 

[Jooga]

Kun oli vääntöä siitä koostuuko nvidian konesalibisneksen tulos peli gpu puolesta niin juuri julkaistussa kvartaaliraportissa hyvin selkeä vastaus. Konesalipuolen kasvun sanotaan tulleen hopperista ja infinibandista.



Raju tulos nvidialta. Q4 liikevaihto 22 miljardia, liikevoitto 12.8miljardia. Pelipuoli oli 2.9 miljardia. Konesali 18.4miljardia. Koko vuoden liikevaihto 61miljardia ja liikevoitto 29.8miljardia.

Pelipuoli tainnut löytää uuden normaalin? Voi tietty FY25 pelipuolen myynti hyytyä. ADA alkaa olemaan vanha ja blackwell vasta vuoden päästä kaupassa. Mielenkiinnolla odotan tuleeko FY25:ssa piikkiä pelipuoleen back to school läppäreistä samalla tapaa kuin väitettiin viime vuonna käyneen.

NVIDIA Announces Financial Results for Fourth Quarter and Fiscal 2024

Record quarterly revenue of $22.1 billion, up 22% from Q3, up 265% from year ago Record quarterly Data Center revenue of $18.4 billion, up 27% from Q3, up 409% from year ago Record full-year revenue of $60.9 billion, up 126% SANTA CLARA, Calif., Feb. 21, 2024 (GLOBE NEWSWIRE) - NVIDIA (NASDAQ...

investor.nvidia.com

https://s201.q4cdn.com/141608511/files/doc_financials/2024/Q4FY24/Q4FY24-CFO-Commentary.pdf

Jäätävillä katteilla mennään, eli paskapuhetta se että näytönohjainten hinnat on noussut komponenttien vuoksi.

 

[Jarnis]

Nahkatakkimies sanailee siihen malliin, että 5-sarjaa voinee odottaa jo tälle vuodelle: “NVIDIA RTX, introduced less than six years ago, is now a massive PC platform for generative AI, enjoyed by 100 million gamers and creators. The year ahead will bring major new product cycles"

Valistunut arvaus internetissä on että 5090 tulisi vielä (juuri ja juuri) tänä vuonna ja karvalakkimallit sitten 2025 Q1-Q2. Saa nähdä, varmempaa tietoa yleensä alkaa vuotamaan paria kuukautta ennen launchia. Ja suunnitelmat voivat tietenkin vielä muuttua matkalla moneen kertaan.

 

[kolistelija]

Jäätävillä katteilla mennään, eli paskapuhetta se että näytönohjainten hinnat on noussut komponenttien vuoksi.

Eipä sitä ole kukaan uskonutkaan 3000 sarjan julkaisun jälkeen.

 

[j_o_a_k_i_m]

Eipä sitä ole kukaan uskonutkaan 3000 sarjan julkaisun jälkeen.

Silti täälläkin foorumilla tasaisesti joku tulee puolustelemaan neljä tonnisien hintoja inflaatiolla ja kohonneilla tuotantokustannuksilla. Tosiasiassa valmsitaja(t) on vain huomanneet raon maksimoida tuloksensa, mikä on siis valmistajan näkökulmasta ihan ok. Koska tulostahan se firma on perustettu tekemään.

 

[Joku_242]

Eipä sitä ole kukaan uskonutkaan 3000 sarjan julkaisun jälkeen.

Tosiaan yllättävän moni fanipoika on sen uskonut, ja välillä jopa vetänyt herneet nenään kun sanotaan paskapuheeksi.

 

[moukula]

Silti täälläkin foorumilla tasaisesti joku tulee puolustelemaan neljä tonnisien hintoja inflaatiolla ja kohonneilla tuotantokustannuksilla. Tosiasiassa valmsitaja(t) on vain huomanneet raon maksimoida tuloksensa, mikä on siis valmistajan näkökulmasta ihan ok. Koska tulostahan se firma on perustettu tekemään.

Tietenkin valmistajat saavat pyytää mitä tykkäävät, ja markkinatilanne on sen suhteen ihan fine jos kerta kuluttajat ovat valmiita maksamaan leluistaan ylihintaa (tai onko se silloin ylihintaa jos ne ovat sen valmiit maksamaan). Mutta siitä ei pääse mihinkään että kovia katteita pitävät ja selvästi tuotantokustannuksien puolesta olisi vara pudottaakin hintoja.

 

[swttii]

Eikö vääntöä ollut paremminkin siitä, että koostuuko pelipuolen myynti osin AI-käyttöön menevistä kuluttajapiireistä? Sinänsähän tulos viittaisi siihen, kun back to school -teoria olisi antanyt syyn olettaa että myynti kyykkää Q4:ssä.

En nyt tarkkaan muista väännön yksityiskohtia, mutta eikö se ole selvää että Nvidia kirjaa 4090 myynnit pelipuolelle? Eikä Nvidia itse asiassa tiedä edes minne jälleenmyyjät niitä myy ja miten niitä käytetään? Nvidia ei kerro miten paljon 4090 myy vs muut kortit, niin aika vähän dataa on mistä vääntää. Se tiedetään että kiinaan meni paljon 4090, koska pakotteet oli tulossa. Tämä viittaisi siihen että suuri osa 4090 myynnistä menee muualle kuin puhtaaseen pelikäyttöön.

AI hype on ollut ihan älytön. Saa nähdä jatkuuko vielä tän vuoden, vai tuleeko joskus vaatimus että jotain liikevaihtoa pitäisi näistä AI hommista tulla. Kryptoinnostus laski kun mainaustuotot romahti.

 

[finWeazel]

Jäätävillä katteilla mennään, eli paskapuhetta se että näytönohjainten hinnat on noussut komponenttien vuoksi.

Kasvaneet katteet+voitot tulevat 18 miljardin konesalista(hopper, infiniband, ei ada) ei alle 3 miljardin pelibisneksestä. Liikevoitto kasvoi enemmän q4:lla kuin koko pelibisneksen koko on. Katteiden sanottiin laskevan hieman seuraaville kvartaaleille. Selityksenä "suotuisat komponenttihinnat mitkä loppuu".

Hopperit maksaa jotain 30k$+- kipale ja ne myydään yleensä pömpeleissä missä on 8 gpu:ta+cpu+sälät sisässä. Hintaa per pömpeli satoja tuhansia.

AMD:n q4 2022 GAAP kate oli 43% ja tuolla tehtiin 149miljoonan dollarin tappio. Kate ei ole sama asia kuin voitto. lähde amd: https://www.amd.com/en/newsroom/pre...s-fourth-quarter-and-full-year-2023-fina.html

En nyt tarkkaan muista väännön yksityiskohtia, mutta eikö se ole selvää että Nvidia kirjaa 4090 myynnit pelipuolelle? Eikä Nvidia itse asiassa tiedä edes minne jälleenmyyjät niitä myy ja miten niitä käytetään? Nvidia ei kerro miten paljon 4090 myy vs muut kortit, niin aika vähän dataa on mistä vääntää. Se tiedetään että kiinaan meni paljon 4090, koska pakotteet oli tulossa. Tämä viittaisi siihen että suuri osa 4090 myynnistä menee muualle kuin puhtaaseen pelikäyttöön.

AI hype on ollut ihan älytön. Saa nähdä jatkuuko vielä tän vuoden, vai tuleeko joskus vaatimus että jotain liikevaihtoa pitäisi näistä AI hommista tulla. Kryptoinnostus laski kun mainaustuotot romahti.

Vääntöä oli siitä, että montako miljardia konesalipuolen liikevaihdossa on ada-kortteja versus hopper+infiniband+muut pelkät konepuolen sälät. 4090:et raportoidaan pelipuolen tuloksessa, joka ei käytännössä kasvanut lainkaan viime kvartaalista. Hopper taas myy kaiken mitä saadaan valmistettua ja ollaan jensenin mukaan tuotantorajotteisia vielä koko 2024 vuoden ajan.

Covid19 bustissa jäänyt jotain nimeämättömiä halpoja komponentteja käsiin(kukaan ei halunnut mitään, myynti sakkasi). Nuo komponentit vaikuttavat vielä q1:lla positiivisesti marginaaliin ja q2:lla komponenttien hinta pompsahtaa eli marginaali ottaa hittiä.

Q1 gross margins are benefiting from favorable component costs. Beyond Q1, for the remainder of the year, we expect gross margins to return to the mid-70s percent range.

https://seekingalpha.com/article/4672199-nvidia-corporation-nvda-q4-2024-earnings-call-transcript

 

[JiiPee]

Eipä sitä ole kukaan uskonutkaan 3000 sarjan julkaisun jälkeen.

Kyllä tietyt tahot on kyynel silmässä liikutuksesta puolustellu nvidian hintoja. Miten syy on tsmc:n riistohintojen, että nvidialla ei ole mitään muuta vaihtoehtoa kuin nostaa hintoja entisestään tai muuten tulee konkurssi.

 

[finWeazel]

Kyllä tietyt tahot on kyynel silmässä liikutuksesta puolustellu nvidian hintoja. Miten syy on tsmc:n riistohintojen, että nvidialla ei ole mitään muuta vaihtoehtoa kuin nostaa hintoja entisestään tai muuten tulee konkurssi.

Mites tuo kun konesali oli 18 miljardia ja pelipuoli 3 miljardia. Konesali ja liikevoitto kasvoivat q4:lla enemmän kuin koko pelipuolen koko on. Massiiviset voitot tulevat konesalipuolelta eikä pelaajien selkänahasta. Pelipuoli tällä hetkellä about 1/6 konesalin koosta. Ensi kvartaalille konesalin ennustettiin kasvavan 2 miljardia lisää ja pelipuoli ei kasva.

Gross marginista amd esimerkki aikaisemmassa postauksessa. 43% marginaali ja 149miljoonaa tappiota. Marginaali ei ole sama asia kuin liikevoitto. Jos peligpu puolella haluaa pitää firman pystyssä ja sijoittaa myös tulevaisuuteen niin 43% marginaali esimerkiksi ei riitä.

 

[Cirrus]

Mites tuo kun konesali oli 18 miljardia ja pelipuoli 3 miljardia. Konesali ja liikevoitto kasvoivat q4:lla enemmän kuin koko pelipuolen koko on. Massiiviset voitot tulevat konesalipuolelta eikä pelaajien selkänahasta. Pelipuoli tällä hetkellä about 1/6 konesalin koosta. Ensi kvartaalille konesalin ennustettiin kasvavan 2 miljardia lisää ja pelipuoli ei kasva.

Gross marginista amd esimerkki aikaisemmassa postauksessa. 43% marginaali ja 149miljoonaa tappiota. Marginaali ei ole sama asia kuin liikevoitto. Jos peligpu puolella haluaa pitää firman pystyssä ja sijoittaa myös tulevaisuuteen niin 43% marginaali esimerkiksi ei riitä.

Eipä se konesalipuolen koko liity tähän mitenkään. Vaan se että paljonko katetta revitään sillä 3 miljardin bisneksellä. Jos se on 0 niin ei ole riistohinnat. Jos se on 100% niin on saatanalliset riistohinnat.

 

[finWeazel]

Eipä se konesalipuolen koko liity tähän mitenkään. Vaan se että paljonko katetta revitään sillä 3 miljardin bisneksellä. Jos se on 0 niin ei ole riistohinnat. Jos se on 100% niin on saatanalliset riistohinnat.

Paljonko sitä voittoa sitten revitään? Ei sitä ainakaan koko puljun voitosta tai kateprosentista voi päätellä kun konesali on niin dominoivan iso osa. AMD teki 43% katteella tappiota. Kate ei ole voitto vaan siitä pitää vähentää menot ja verot pois.

Vuoden takaa luvut kuvassa. Pelipuoli 1.8 miljardia, konesali 3.6miljardia(linkin päässä). Jos olettaa että pelipuolen ja konepuolen katteet olisivat samat niin 1/3 osa voitosta pelipuolelle eli 466 miljoonaa pelipuolen voitto. Todennäköisesti konesalin marginaali parempi kuin pelipuolen marginaali. Montako gpu:t nvidia myy vuodessa? Jos se olis noin 5miljoonaa gpu:ta niin tuosta saataisiin voittoa per gpu 466M$/5M = 93$ per gpu voittoa. 93$ on optimistinen, kun konesali todennäköisesti paljon parempi kate kuin pelipuoli. Toki kun iso osa kuluista on kiinteitä(palkat, tilat, työkoneet jne). Kun myynti skaalaa ylöspäin niin voitto per gpu kasvaa.

lähde: NVIDIA Announces Financial Results for Fourth Quarter and Fiscal 2023

 

[Cirrus]

Paljonko sitä voittoa sitten revitään? Ei sitä ainakaan koko puljun voitosta tai kateprosentista voi päätellä kun konesali on niin dominoivan iso osa. AMD teki 43% katteella tappiota. Kate ei ole voitto vaan siitä pitää vähentää menot ja verot pois.

Vuoden takaa luvut kuvassa. Pelipuoli 1.8 miljardia, konesali 3.6miljardia(linkin päässä). Jos olettaa että pelipuolen ja konepuolen katteet olisivat samat niin 1/3 osa voitosta pelipuolelle eli 466 miljoonaa pelipuolen voitto. Todennäköisesti konesalin marginaali parempi kuin pelipuolen marginaali. Montako gpu:t nvidia myy vuodessa? Jos se olis noin 5miljoonaa gpu:ta niin tuosta saataisiin voittoa per gpu 466M$/5M = 93$ per gpu voittoa. 93$ on optimistinen, kun konesali todennäköisesti paljon parempi kate kuin pelipuoli. Toki kun iso osa kuluista on kiinteitä(palkat, tilat, työkoneet jne). Kun myynti skaalaa ylöspäin niin voitto per gpu kasvaa.

lähde: NVIDIA Announces Financial Results for Fourth Quarter and Fiscal 2023

En minä tiedä paljonko on pelipuolen voitto tai kate. Kommentoin vain höpinääsi konesalipuolesta. Se ei liity tasan mitenkään siihen onko nvidialla riistohinnat pelipuolella.

 

[finWeazel]

En minä tiedä paljonko on pelipuolen voitto tai kate. Kommentoin vain höpinääsi konesalipuolesta. Se ei liity tasan mitenkään siihen onko nvidialla riistohinnat pelipuolella.

Tuolla mun laskutavalla päätyy alle satanen per gpu voittoon kun käyttää vuodentakaisia lukuja. Riistoa? vai arvioin jotenkin väärin ja on parempi tapa saada arvio voitosta per gpu ulos mistä riisto löytyy?

 

[Cirrus]

Tuolla mun laskutavalla päätyy alle satanen per gpu voittoon kun käyttää vuodentakaisia lukuja. Riistoa? vai arvioin jotenkin väärin ja on parempi tapa saada arvio voitosta per gpu ulos mistä riisto löytyy?

Sinun laskutavalla jossa faktanumeroita on hyvin lähellä nollaa. Täysin merkityksetön todisteena tasan mistään.

 

[finWeazel]

Sinun laskutavalla jossa faktanumeroita on hyvin lähellä nollaa. Täysin merkityksetön todisteena tasan mistään.

Sulla on tarjota paremmat numerot niin päästään eteenpäin?

 

[Cirrus]

Sulla on tarjota paremmat numerot niin päästään eteenpäin?

Ei ole. Eikä tarvi ollakaan. En yrittänyt väittää mitään tai päästä mihinkään. Kunhan kritisoin sinun mutuilujasi.

 

[finWeazel]

Ei ole. Eikä tarvi ollakaan. En yrittänyt väittää mitään tai päästä mihinkään. Kunhan kritisoin sinun mutuilujasi.

Miten voi väittää riistoksi, jos ei edes yritä ymmärtää mistä liikevoitto koostuu? Musta tuntuu huonompi argumentti kuin tiedettyjen numeroiden pyörittäminen.

 

[AvatarX]

Jäätävillä katteilla mennään, eli paskapuhetta se että näytönohjainten hinnat on noussut komponenttien vuoksi.

Datapuolella kun kilpailijoita ei oikein ole niin on selvää, että katetta otetaan just niin paljon kuin kehdataan. On täysin selvää, että pelipuolella katteet ovat selvästi pienemmät kun siellä on enemmän kilpailua eikä voi ihan mitä tahansa pyytää.

 

[finWeazel]

Datapuolella kun kilpailijoita ei oikein ole niin on selvää, että katetta otetaan just niin paljon kuin kehdataan. On täysin selvää, että pelipuolella katteet ovat selvästi pienemmät kun siellä on enemmän kilpailua eikä voi ihan mitä tahansa pyytää.

Tähän päälle, että kysyntä ylittää tarjonnan. Voi verrata pelipuolen kryptoboomiin tän hetken konesalikysyntää.

 

[Kovaluu]

Tuhat kertaa vakaampi ja paremmin optimoitu...

Aika sitkeässä on yleinen käsitys että ATin AjUrIt oN huONot. Tällänen yleinen fiilis saattaa ohjata käyttäjiä syyttämään ajureita sekä kysymään neuvoa kaikenlaisiin ongelmiin matalalla kynnyksellä. Koska nvidian ajurit on tunnetusti kivenkovaa laatua (tm) niin sitä vikaa etsitään (ja ehkä löydetäänkin) muualta. Määrällisestihän nvidiaa on käytössä paljon enemmän joten ketjuissa pitäisi olla myös suhteessa enemmän ongelmia (mutta perstuntumalla näin ei ole) - johtunee monen asian summasta.

BBS:n radeon -langat sekä esim. /r/amd subreddit on markkinajakoon suhteutettuna suuria yhteisöjä. Onko kenties niin että amd:tä/radeonia koneeseen valitsevat ovat keskimääräistä harrastuneempia/intohimoisempia säätäjiä (tai säästäjiä) jotka sitten myös tuovat mahdolliset ongelmat nopeasti esiin puitavaksi? Pitää muistaa että erillisnäytönohjaimet, kellottelu, ajureiden päivitys ja pc rakentelu ylipäätään on aika pienten harrastajaporukoiden hommaa. Muistuu mieleeni eräs tuttava joka piti vuoden päivät näytön piuhaa intelin integroituun kytkettynä ja eli elämäänsä tyytyväisenä. Hänenkaltaisilleen tietokoneen viat on monesti ominaisuuksia joiden kanssa eleteään. Tää iso jengi "tavallisia ihmisiä" ei tosiaan mitään näyttiksen ajureita omaehtoisesti ikinä päivittele tai asetuksia muuttele.

Useamman vuoden ajan järjestäen on ollut itsellänikin joko windowsin sekoilua tai omaa tuuhiointia ongelmat, sama juttu kun kavereiden koneita on "korjannut". Tää on tietysti vain anekdootti. Itse kun redditissä ja välillä täälläkin yrittänyt auttaa samojen korttien käyttäjiä niin harvoin on tullut vastaan sellaista puhtaasti ajureihin osoittavaa vikaa ja silloin kun vika oikeasti ajurissa on niin se korjaantuu rollbackilla. Tän kaltaisista "huonoista" ajureista vois jopa löytyäkin dataa jos jaksais tutkia.

Oma erillinen lukunsa radeonin ajureissa on ikuisuusongelmat kuten "näytön vilkkuminen monen näytön konfiguraatiolla" ja "korkeat muistikellot tietyissä tilanteissa" jotka on roikkuneet known issues -listoilla ajurijulkaisuissa ties kuinka kauan ei niistä sen enempää

Nonnih tulipa tällänen iso offtopic tähän...

Minusta tuntuu että suurin osa näistä disinformaation levittäjistä on internetin mielensä pahoittaneita trollipeikkoja.

 

[finWeazel]

Nvidia TSMC:N toiseksi isoin asiakas 11% osuudella tsmc:n liikevaihdosta. Pörssisäännöt pakottavat kertomaan asiakkaat jotka tuovat 10% tai yli liikevaihdosta tsmc:lle. Isoin asiakas apple 25% osuudella liikevaihdosta. Nvidia maksoi 2023 vuonna 7.73miljardia tsmc:lle. Muut asiakkaat eivät ylittäneet 10% rajaa niin heidän nimiä ja osuuksia ei ole kerrottu.

Analyst estimates Nvidia is now TSMC's second largest customer accounting for 11% of revenue in 2023

Nvidia paid TSMC $7.73 billion in 2023 for its services

www.tomshardware.com

 

[aleksejjj]

@finWeazel mitä veikkaisit monta vuotta AI-kuplaa kestää ennen kuin Nvidia on TSMCn isoin asiakas ohi Applen?

 

[finWeazel]

@finWeazel mitä veikkaisit monta vuotta AI-kuplaa kestää ennen kuin Nvidia on TSMCn isoin asiakas ohi Applen?

En usko, että nvidia menee applesta ohi. Parhaassakin AI härkämarkkinassa amd, intel, tenstorrent, isojen pilvivalmistajien omat piirit jne. lohkaisevat osansa ai-piirakasta. Nvidia ei saa nykyistä 90% markkinaosuutta pidettyä.

AMD:n lisa su ennustaa 400 miljardin ai-konesalimarkkinaa 2027 vuodelle. Tuo olisi jotain 5x-6x isompi markkina kuin nyt. Lisan ennustus melko optimistinen. Jensen sanoi hiljattain, että vaikka nvidia ohjaa vain q1 tulosta niin näyttää siltä, että kysyntä on tarjontaa isompi 2025 vuoden loppupuolelle asti.

Varmaan amd menee 10% rajapyykin yli myös, jos/kun ai-kupla ei puhkea ihan heti. AMD:lla hyvää piiriä tarjolla kunhan vain saavat massatuotannon kunnolla käyntiin. 7kk-8kk ottaa yhden piirin valmistus. Loppuvuonna jysähtää amd:n leiristä myyntiä.

 

[Villapuuro]

@finWeazel mitä veikkaisit monta vuotta AI-kuplaa kestää ennen kuin Nvidia on TSMCn isoin asiakas ohi Applen?

Tässä AI-kuplajutussa hyvä ottaa sekin huomioon, että viime kuukausina suurien alan vaikuttajien tutkimuspapereissa trendi on lähtenyt pois päin jättimäisistä satojen miljardejen parametrejen FP16 malleista kohti etsimään vaihtoehtoisia tapoja saavuttaa hyvin samanlainen suorituskyky, mutta murto-osalla laskentatehoa ja muistin käyttöä.

Tuo enteilisi, että vaikeuksia puristaa lisää eksponentiaalisia laatuparannuksia vain kasvattamalla mallejen kokoa, täten ovat alkaneet etsimään keinoja saavuttaa malli joka edes lähellä ChatGPT kykyä, mutta ei vaadi pienen valtion budjettia pyörittää.

Tämä voi johtaa siihen, että se Nvidian uusi vielä tehokkaampi, vielä enemmällä muistilla ja vielä kalliimpi arkkitehtuuri ei enää houkuttele, kun vanhatkin laitteet uusilla menetelmillä enemmän kuin tarpeeksi. Tietysti jossain vaiheessa ne uudet paremmin optimoidutkin mallit tulee tarvitsemaan lisää ja parempaa rautaa kuin mitä nykyään on tarjolla, mutta edessä voi olla muutama vuosi jossa tekoälyn kykyjen parantamisen sijaan keskitytään tekemään niistä halvempia pyörittää.
Tuollainen kehityssuunta potentiaalisesti pilaisi Nvidian koko markkinastrategian ja pitäisi kaikkien tulevien tekoälytuotteiden kehitys aloittaa alusta. Tai ehkä Nvidialla pelattu 4D shakkia ja ovat sisäisesti ottaneet tälläset jutut jo huomioon, vaikka nykyinen tuotemallisto antaisikin erillaista kuvaa.

Tietysti jos nämä uudet mallit niin erillaisia että ne ei yksinkertaisesti toimi vanhalla raudalla ollenkaani, niin Nvidialla olisi paljon voitettavaa sitten alkamalla suunnittelemaan sellasta rautaa joka sopii, kun ei kellään muullakaan olisi suoraan hyllystä myydä hiljattain keksityn menetelmän ympärille optimoitua rautaa. Tälläinen skenario melkeen Nvidialle se paras mahdollinen jossa kaikki joutuu myymään ne just ostetut H100:sensa jos haluavat hyötyä siitä hypoteettisesta uudesta ja kaiken mullistavasta menetelmästä.

Varoitan kyllä, että minulla aika pintakäsitys AI jutuista ja siitä alasta, joten voin olla täysin väärässäkin. Idea ei ole tehdä vahvaa väittämää suuntaan taikka toiseen. Kunhan spekuloin rajallisen tietämykseni pohjalta.

 

[finWeazel]

Tänään nvidian blackwellin julkaisu. Siitä varmaan keskustelua julkaisun jälkeen täällä: Suurenpieni konesalitason AI-kiihdytinkeskustelu (AMD, Intel, Nvidia,...)

Viimeisin huhu väittää, että konesali blackwell olisi tsmc 4 prosessilla tehty. Mielenkiintoinen juttu jos ei edes kalleinta mahdollista konesaligpu:ta kannata tehdä uusimmalla tsmc:n prosessilla. Mitä lie tarkoittaa vanhan prosessin käyttäminen tämän ketjun aiheelle eli peli gpu:lle? Tuleekohan peli gpu blackwell 3nm prosessilla vai ei? Voi toki olla, että tsmc 3nm prosessi on valmis peli gpu:n aikataulussa mutta ei ollut riittävän hyvälaatuinen konesaligpu-aikataulussa.

Now instead of being able to shrink process nodes for a larger transistor budget, they have to double the amount of silicon. This is due to issues with TSMC’s original 3nm, N3B.

Nvidia B100, B200, GB200 - COGS, Pricing, Margins, Ramp - Oberon, Umbriel, Miranda

The B Stands For Jensen's Benevolence

www.semianalysis.com

Tuollainen kehityssuunta potentiaalisesti pilaisi Nvidian koko markkinastrategian ja pitäisi kaikkien tulevien tekoälytuotteiden kehitys aloittaa alusta. Tai ehkä Nvidialla pelattu 4D shakkia ja ovat sisäisesti ottaneet tälläset jutut jo huomioon, vaikka nykyinen tuotemallisto antaisikin erillaista kuvaa.

Nvidian ratkaisut ovat ohjelmoitavia. Jos algoritmit muuttuvat paljon ongelmissa ovat kovakoodatut rauta-alustat kuten groq. Jos saataisiin paljon tehokkaampi ratkaisu niin uskoisin, että inferenssipuolella riittää raudalle kysyntää. Tosin yksi rauta palvelisi isompaa määrää kyselyitä ja yhä useampi palvelu käyttäisi AI:ta. Mitä tarkottaisi laskentakapasiteetin tarpeelle jokaisen google ja bing haun meneminen AI:n läpi?

 

[aleksejjj]

Brasilialaiset modaajat ovat saaneet jopa 29 % lisää suorituskykyä irti Radeon RX 5600XT:stä kasvattamalla muistikapasiteetin 6 -> 16 Gt ja kasvattamalla muistiväylän leveyden 192 -> 256-bittiseksi

https://videocardz.com/newz/modders-upgrade-radeon-rx-5600-xt-to-16gb-256b-memory-up-to-29-performance-increase-with-oc

 

[nyystero]

Brasilialaiset modaajat ovat saaneet jopa 29 % lisää suorituskykyä irti Radeon RX 5600XT:stä kasvattamalla muistikapasiteetin 6 -> 16 Gt ja kasvattamalla muistiväylän leveyden 192 -> 256-bittiseksi

https://videocardz.com/newz/modders-upgrade-radeon-rx-5600-xt-to-16gb-256b-memory-up-to-29-performance-increase-with-oc

Huhhuh, tekemisen meininkiä

 

[Jarnis]

Kun kasvattaa muistikaistaa yli 29%, saa helposti 29% lisää suorituskykyä kortilla joka on aika pahasti tuon pullonkaulan rajoittama.

 

[finWeazel]

Nopeimman RDNA4 piirin huhutaan olevan hieman hitaampi kuin täyden navi31 piirin. Oletan, että tarkoittaa suorituskykyä perinteisissä peleissä. Toisissa huhuissa ollut, että säteenseurannassa tuplattaisiin BVH-puun läpikäyntinopeus mikä tarkoittanee että rdna4 on RT-peleissä nopeampi kuin navi31. Mitä lie kertoo, jos amd ei lähde haastamaan nvidiaa parhaimman suorituskyvyn piireissä.

lähde: AMD RDNA 4 "Radeon RX 8000" GPU Rumors: Navi 48 Around Navi 31 Performance, Navi 44 Between Navi 33 & 32

 

[Joku_242]

Jos RDNA4 on rasterissa melkein yhtä nopea kuin RX 7900 XTX, mutta säteenseurantaan on tullut reilusti lisää tehoa, niin sehän kuulostaa ihan hyvältä jos hinta on kohdallaan.

 

[finWeazel]

Jos RDNA4 on rasterissa melkein yhtä nopea kuin RX 7900 XTX, mutta säteenseurantaan on tullut reilusti lisää tehoa, niin sehän kuulostaa ihan hyvältä jos hinta on kohdallaan.

Hintahan sen tuotteen tosiaan tekee. Enempi mua kiinnostaa miksi ei tuota nopeampaa korttia. Tuohan on käytännössä 4080 eli julkaisussa jo 2v wanha kortti. Onko nyt käynyt niin, että nopeampaa korttia ei enää saada ilman että hinnat pompsahtaa koska valmistus, r&d kulut jne.

 

[Joku_242]

Hintahan sen tuotteen tosiaan tekee. Enempi mua kiinnostaa miksi ei tuota nopeampaa korttia. Tuohan on käytännössä 4080 eli julkaisussa jo 2v wanha kortti. Onko nyt käynyt niin, että nopeampaa korttia ei enää saada ilman että hinnat pompsahtaa koska valmistus, r&d kulut jne.

Voi myös olla, että AMD:n on vaikea myydä tuotteita premiumiumluokassa kun sitä ostavat haluaa parasta, eikä puljulla ole tällä hetkellä kykyä kilpailla nVidian lippulaivojen kanssa.

 

[ratkakapu]

Onko nyt käynyt niin, että nopeampaa korttia ei enää saada ilman että hinnat pompsahtaa koska valmistus, r&d kulut jne.

Huhu on, että rdna4 chiplet-tuotteet on peruttu ja tulossa vain monoliittisiä piirrejä. Eli joko pullonkaula kapasiteetissa (AI/palvelinpiirit chiplettejä ja kaikki paukut niihin?), ennakoitua heikompi suorituskyky chipplet-ratkaisuna ja/tai onnettomat saannot.

Rasterointisuorituskykyhän tosiaan jo nykykorteilla on täysin riittävä. RT-potkua ja halvempaa hintaa sitä lähinnä kaivataan tällä hetkellä

 

[finWeazel]

Nvidialtahan on huhuttu multichip ratkaisua samaan tyyliin kuin konesali blackwell on. 2x256bit tsmc 4np piirit mitkä niitataan nopealla väylällä yhteen. Ilmeisesti halvempi tehdä 2x4np piirit ratkaisu kuin vastaava monoliitti tsmc 3 pohjaisella prosessilla. Samalla välttää sitäkin ongelmaa ettei cache(sram) skaalaannu uusissa valmistusprosessissa + saadaan vanhan prosessin huippuhyvät saannot alusta lähtien piireille. Saa nähdä tuleeko multi chip vai monoliitti nvidialta.

 

[Jarnis]

Ei ole varmaa tietoa, mutta huhuja on todellakin ollut että alkuperäinen suunnitelma oli että huippumallissa olisi liimattu kaksi tuollaista piiriä yhteen chipleteistä mutta homma ei mennyt niinkuin elokuvissa ja sen sijaan että RDNA4 olisi myöhästytetty asian korjaamiseksi, fiksi tehdään RDNA5-sukupolveen ja RDNA4 tulee ilman lippulaivamallia. Samalla myös epäsuorasti viitataan siihen että RNDA5 olisi sitten kahdesta piriistä yhteen liimattu huippumallissa, mutta se on sitten joskus... ööö... 2025 - 2026 huolia.

Ja koska nämä firmat kuitenkin tietävät aika lailla mitä naapuri suunnittelee tekevänsä, NVIDIA todennäköisesti meni vahvasti overkillin puolelle pitäessään huolen ettei häviä kun AMDn suunnitelmissa oli 2x piirin monsteri, joten 5090 saattaa olla melkoinen jytky. Ja jos kilpailijan malli vetää no-shown, siitä voi sitten nahkatakkimies ottaa katteet sen mukaisesti. Jos pelaajilla ei riitä pelimerkit, AI-devaajat ostavat ne kyllä pois kuljeksimasta.

 

[P c L A Y E R]

Jos RDNA4 on rasterissa melkein yhtä nopea kuin RX 7900 XTX, mutta säteenseurantaan on tullut reilusti lisää tehoa, niin sehän kuulostaa ihan hyvältä jos hinta on kohdallaan.

No joo jos se nykyinen raster perffi riittää, mitä se kyllä aikalailla tekee melkein pelissä kun pelissä. Eri asia sitten on, kuinka paljon tuo RT perffi kasvaa. Jos päästään jonnekin 4080 tienoille, mieluummin yli, niin sitten on kyllä ihan hyvä tuote, jos hinta siinä max 500€ tienoilla.

Sieltä on tulossa kuitenkin NVIDIA:lta sen verran kovia kortteja, että hintojen on oltava todella houkuttelevat. Sitten inteliltä tulossa vielä battle mage, joka saattaa hyvinkin olla musta hevonen budjettikokoonpanoihin.

 

[JiiPee]

Jos RDNA4 on rasterissa melkein yhtä nopea kuin RX 7900 XTX, mutta säteenseurantaan on tullut reilusti lisää tehoa, niin sehän kuulostaa ihan hyvältä jos hinta on kohdallaan.

Tämähän olisi pitkälti se mitä itte olen toivonut tapahtuvaksi jo pari vuotta. Eli rasterointi pistettäisiin jäihin ja alettaisiin siihen RT:n panostamaan kaikki kehitys. AMD vaan tarttis todella paljon lisää RT suorituskykyä kun ovat niin paljon takamatkalla jo valmiiksi että joku tuplattu RT teho ei vaan riitä.

 

[Joku_242]

No joo jos se nykyinen raster perffi riittää, mitä se kyllä aikalailla tekee melkein pelissä kun pelissä. Eri asia sitten on, kuinka paljon tuo RT perffi kasvaa. Jos päästään jonnekin 4080 tienoille, mieluummin yli, niin sitten on kyllä ihan hyvä tuote, jos hinta siinä max 500€ tienoilla.

Sieltä on tulossa kuitenkin NVIDIA:lta sen verran kovia kortteja, että hintojen on oltava todella houkuttelevat. Sitten inteliltä tulossa vielä battle mage, joka saattaa hyvinkin olla musta hevonen budjettikokoonpanoihin.

Onko nVidian tulevista tuotteista edes tullut vielä huhuja, ja jos on millaista sieltä on tulossa? Se nyt on aivan sama millainen RTX 5090 on jos se maksaa kaksi tonnia ja AMD:n uutuus on 500-600e paikkeilla.

Tämähän olisi pitkälti se mitä itte olen toivonut tapahtuvaksi jo pari vuotta. Eli rasterointi pistettäisiin jäihin ja alettaisiin siihen RT:n panostamaan kaikki kehitys. AMD vaan tarttis todella paljon lisää RT suorituskykyä kun ovat niin paljon takamatkalla jo valmiiksi että joku tuplattu RT teho ei vaan riitä.

Ei kai AMD ole niin huono säteenseurannassa ettei tuplattu teho sekään riittäisi tekemään tuotteesta kilpailukykyistä?

 

[P c L A Y E R]

Onko nVidian tulevista tuotteista edes tullut vielä huhuja, ja jos on millaista sieltä on tulossa? Se nyt on aivan sama millainen RTX 5090 on jos se maksaa kaksi tonnia ja AMD:n uutuus on 500-600e paikkeilla.

No aika todennäköisesti nvidian 600-700€ kortti on RT:ssä 4080:n kanssa ainakin tasoissa.

 

[aleksejjj]

Onko nVidian tulevista tuotteista edes tullut vielä huhuja, ja jos on millaista sieltä on tulossa?

Lähes varmaa on, että uudet kortit käyttävät 28 Gbps:n GDDR7-muisteja aluksi, vaikka G7:n speksit venyvät aina 40 Gbps asti. Huhujen mukaan muistiväylien leveydet eivät koe suuria muutoksia. Epävarmaa on se huhuttu 512-bittinen väylä huippumallissa. Itse en usko siihen, vaan veikkaan että 5090 tulee edelleen 384-bittisellä väylällä ja 24 Gt kapasiteetilla.

 

[AvatarX]

Ei kai AMD ole niin huono säteenseurannassa ettei tuplattu teho sekään riittäisi tekemään tuotteesta kilpailukykyistä?

Jos katsoo esim. io-techin Alan Wake 2 testejä niin 4070Ti Superilla on noin tuplasti RT-tehoa 7900xtx:een verrattuna(jos ei oteta DLSS3 huomioon), eli 4080 olisi edelleen nopeampi, puhumattakaan tulevista korteista.

 

[Joku_242]

Jos katsoo esim. io-techin Alan Wake 2 testejä niin 4070Ti Superilla on noin tuplasti RT-tehoa 7900xtx:een verrattuna(jos ei oteta DLSS3 huomioon), eli 4080 olisi edelleen nopeampi, puhumattakaan tulevista korteista.

Kyllä tuo kuulostaisi musta hyvinkin kilpailukykyiseltä jos AMD:n tuleva kortti on 500-600 euron hintaluokassa.

 

[finWeazel]

Onko nVidian tulevista tuotteista edes tullut vielä huhuja, ja jos on millaista sieltä on tulossa? Se nyt on aivan sama millainen RTX 5090 on jos se maksaa kaksi tonnia ja AMD:n uutuus on 500-600e paikkeilla.

Huhut on, että 512bit monsteri highendiin(202), 256bit kortti sen alapuolelle(203?) ja niiden alapuolelle 192 ja 128bit kortit. Varmaan amd:n kortti kisaa joko 203 tai 204korttia vastaan riippuen mihin nvidian suorituskyky asettuu. Blackwell on kokonaan uusi arkkitehtuuri, mutta nvidia ei ole avannut mitä parannuksia on tehty. Hyvin vähän kertoivat konesalipiirin julkaisun yhteydessä arkkitehtuurimuutoksista. Todnak. highendissä 5090 iso suoritushyppäys. 5080 ja siitä alaspäin paljon pienempi nopeuspäivitys versus 40x0 sarjan tuote.

Tuplattu säteenseurantasuorituskyky ei tuplaa fps:aa. Säteenseurannalla löydetään "vain" säde-kolmio leikkauskohdat. Shaderilla tarvii laskea pikselin väriä perustuen materiaaliin, valoihin yms.

Jos nopein rdna4 maksais vaikka 600e ja on 4080 tehoinen niin ennemmin jälkiviisaana olis ostanut 4080 julkaisussa. Vaikka 4080 on kalliimpi niin voi laskea hinta/vuosi kustannusta ja miettiä, että olisi pelannut jo 4080:lla 2 vuotta siinä kohtaa kun rdna4:sta saa kaupasta.

 

[Timo 2]

Huhut on, että 512bit monsteri highendiin(202),

Tähän en jaksa uskoa jos on monoliitti. Jos on 7900 xtx tyylinen, niin ehkä, mutta silti epätodennäköistä.

 

[finWeazel]

Tähän en jaksa uskoa jos on monoliitti. Jos on 7900 xtx tyylinen, niin ehkä, mutta silti epätodennäköistä.

2 x tsmc 4np piiriä huhuttu kuluttajapuolelle. Samanlainen ratkaisu kuin mikä on konesali blackwellissä. Konesalipiiri tehty niin, että cachen reunassa on 10TB/s väylä millä niitattu 2 piiriä yhteen. Piiriltä toiselle datan loikkaus tapahtuu cache-väylä-cachen kautta. Jos tuo väylä on tarpeeksi nopea niin multi chip ratkaisu näyttää monoliitilta.

sram/cachet/io jne. ei skaalannu kun mennään pienempiin prosesseihin. Huhuttu tsmc 4np prosessi käy järkeen sram skaalautuminen, saannot yms. puolesta. Negatiivisena puolena tarvittava nopea väylä/multi chip monimutkaisuus. Toisaalta tätä nvidia on ratkonut ilmeisesti a100:sta lähtien.

Blackwell piiristä kuva missä näkyy tuo väylä ja kahden piirin yhteen laittaminen. Tämä myös tsmc 4np prosessilla tehty.

Mä veikkaan että nvidia päätyi 512bit ratkaisuun koska amd huhut hullunnopeasta rdna4 chipletistä. Toinen puoli tän hetkinen datakeskusmyynti. Konesalipuolelle etenkin inferenssiraudaksi ja devaajille koneisiin tuollainen 512bit kortti olisi erittäin hyvin kalliilla hinnalla myyvä. Joku leikattu versio 2500e-3000e hintaan kuluttajille 5090:na(448bit, 32GB muistia).