NVIDIA takoi ennätystuloksen tekoälybuumin siivittämänä

[Kaotik]

Kaotik kirjoitti uutisen/artikkelin:
NVIDIAn ensimmäinen fiskaalineljännes oli kilpailijoitaan selvästi parempi, kiitos ennen kaikkea tekoälylaskentaan käytettävien piirien räjähtäneen kysynnän. Toiselle vuosineljännekselleen yhtiö ennusti vielä huikeaa kasvua ja nyt julkistettu tulos kertoo senkin olleen aliarvioitu. NVIDIA ei noudata kalenteria vaan nyt on päättynyt yhtiön fiskaalivuoden 2024 toinen neljännes.

NVIDIAn toinen vuosineljännes kasvatti yhtiön liikevaihtoa jopa yli kaksinkertaiseksi viime vuoden toiseen neljännekseen verrattuna ja kasvua edeltäväänkin neljännekseen tuli jopa 88 %. 13,5 miljardin liikevaihdolla taottiin 70,1 %:n kate ja jopa 6,1 miljardin dollarin nettovoitot, kun edeltävällä neljänneksellä voittoa kertyi ”vain” 2 miljardia dollaria.

Yhtiön huipputuloksen takaa löytyy ennen kaikkea datakeskusosasto, jonka 10,3 miljardin liikevaihto oli jopa 141 % viime neljännestä ja 171 % vuoden takaista kovempi. Kovaa tulosta selittää kasvaneen kysynnän lisäksi odotettujen Hopper-arkkitehtuurin laskentapiirien massatoimitusten aloitus.

Pelipuolen 2,48 miljardin liikevaihto peittosi edeltävän neljänneksen 11 %:lla ja ammattilaiskorteissa liikevaihto kasvoi 28 % 379 miljoonaan dollariin. Automarkkinoiden osalta neljännes sujui heikommin, liikevaihto laski 15 % edeltävään neljännekseen nähden, mutta se oli silti 15 % vuoden takaista paremmin. OEM- ja IP-osasto sai kyseenalaisen kunnian olla heikoiten pärjännyt osasto, sillä sen 66 miljoonan dollarin liikevaihto oli 14 % viime neljännestä ja jopa 53 % vuoden takaista pienempi.

NVIDIAn kerrotaan siunanneen huipputuloksen jälkeen suunnitelman ostaa omia osakkeitaan takaisin jopa 25 miljardin dollarin edestä. Yhtiöllä on parhaillaan käynnissä edellinen takaisinostokampanja, jossa on budjettia vielä vajaat 4 miljardia dollaria. Takaisinostokampanja tuo yhtiön omistusta takaisin sen omiin käsiin ja mahdollistaa osakearvon kasvamisen niiden poistuessa julkisilta markkinoilta.

NVIDIA odottaa fiskaalivuotensa kolmannen neljänneksen jatkavan nousukiitoa ja tuottavan noin 16 miljardin liikevaihdon. Yhtiö uskoo myös katteen kasvavan edelleen 71,5 prosenttiin, sillä kasvua odotetaan edelleen nimenomaan korkean katteen datakeskuspiireistä.

Lähteet: NVIDIA, AnandTech, Kuva: App Economy Insights @ X

Linkki alkuperäiseen juttuun

 

[finWeazel]

Nvidia uskoo, että pelipuoli on palannut kasvuntielle. Pelipuolen kasvu taitaa isoilta osin olla läppärien varassa. Mielenkiintoinen knoppi, että nvidian omistajista 47% omistaa RTX ON kortin. Suurin osa omistaa 7v(pascal julkaisu 2016) tai sitä wanhempaa arkkitehtuuria.

Growth was fueled by GeForce RTX 40 series GPUs for laptops and desktops, and customer demand was solid and consistent with seasonality. We believe global end demand has returned to growth after last year's slowdown. We have a large upgrade opportunity ahead of us, just 47% of our installed base have upgraded to RTX, and about 20% of a GPU with an RTX 3060 or higher performance. Laptop GPUs posted strong growth in the key back-to-school season led by RTX 4060 GPUs.

Nvidia's GPU-powered laptops have gained in popularity, and their shipments are now outpacing desktop GPUs in several regions around the world. This is likely to shift the reality of our overall gaming revenue again with Q2 and Q3 as the stronger quarters of the year, reflecting the back-to-school and holiday build schedules for laptops

lähde: Nvidia (NVDA) Q2 2024 Earnings Call Transcript | The Motley Fool

 

[ratkakapu]

Nvidia uskoo, että pelipuoli on palannut kasvuntielle. Pelipuolen kasvu taitaa isoilta osin olla läppärien varassa. Mielenkiintoinen knoppi, että nvidian omistajista 47% omistaa RTX ON kortin. Suurin osa omistaa 7v(pascal julkaisu 2016) tai sitä wanhempaa arkkitehtuuria.

GTX 16X0 (Ti / super) kortit ovat Turingia mutta RTX OFF-kortteja, ne julkaistiin 2019 ja olivat oikeastaan RTX 3050 julkaisuun (tammikuu 22) asti ainoat pelikelpoiset budjettikortit myynnissä nVidian puolella. Noilla on steam surveyssa noin 10% markkinaosuus kaikista näyttiksistä eli 13,3% siellä listatuista nVidian näyttiksistä. Lisäksi läppäreissä vielä merkittävämpi osa on ollut jotain MX250 yms korttia, se toki on Pascal arkkitehtuuria mutta itse piiri vuodelta 2019 ja varmaan sen jälkeenkin on vielä tullut jotain RTX OFF pikkupiirejä joita lukumäärällisesti menee paljon

 

[finWeazel]

GTX 16X0 (Ti / super) kortit ovat Turingia mutta RTX OFF-kortteja, ne julkaistiin 2019 ja olivat oikeastaan RTX 3050 julkaisuun (tammikuu 22) asti ainoat pelikelpoiset budjettikortit myynnissä nVidian puolella. Noilla on steam surveyssa noin 10% markkinaosuus kaikista näyttiksistä eli 13,3% siellä listatuista nVidian näyttiksistä. Lisäksi läppäreissä vielä merkittävämpi osa on ollut jotain MX250 yms korttia, se toki on Pascal arkkitehtuuria mutta itse piiri vuodelta 2019 ja varmaan sen jälkeenkin on vielä tullut jotain RTX OFF pikkupiirejä joita lukumäärällisesti menee paljon

Taisivat kuitenkin olla pascal arkkitehtuuria. Tarkoituksella kirjoitin arkkitehtuuri enkä yksittäisiä tuotenimiä postaukseeni. 20x0 sarjasta taisi olla rtx off malliakin joiden olemassaoloa en postaushetkellä muistanut. Enivei, pointti oli jossain muussa kuin saivartelussa. Paljon on vielä rtx off kortteja nvidian asiakaskunnalla käytössä.

 

[ratkakapu]

Taisivat kuitenkin olla pascal arkkitehtuuria. Tarkoituksella kirjoitin arkkitehtuuri enkä yksittäisiä tuotenimiä postaukseeni. 20x0 sarjasta tais tosin tulla rtx off mallikin minkä olemassaoloa en postaushetkellä muistanut. Enivei, pointti oli jossain muussa kuin saivartelussa. Paljo on vielä rtx off kortteja nvidian asiakaskunnalla käytössä.

Ei, kyllä ne ovat turingia mutta ilman tensor-ytimiä. Ja tosiaan mobiilipuolella taitaa olla jotain RTX 2000-sarjaan brändättyjä kortteja ilman tensoreita myös.

Saivartelusta ei ole kyse, vaan siitä että kyllä nVidia on myynyt pitkään RTX:n julkaisun jälkeen ja näköjään edelleen myy ainakin MX 450 korttia/piiriä ilman RT-tukea. Eli näin ollen ei ole kovin yllättävää, että puolet porukasta on ilman RT-tukea ja niistäkin joilla on sitä tukeva kortti niin kuinka monella kortti joka sitä järkevästi pyörittää.

 

[jive]

Hieman yllättävä tulos kun kai kaikki muut puolijohdepuolella pelaavat menevät nippa nappa mustalla tai reilusti punaisella.

 

[BNo1]

Tuossa taitaa olla pieni asiavirhe
"Yhtiöllä on parhaillaan käynnissä edellinen takaisinostokampanja, jossa on budjettia vielä vajaat 4 miljardia dollaria. Takaisinostokampanja tuo yhtiön omistusta takaisin sen omiin käsiin ja mahdollistaa osakearvon kasvamisen niiden poistuessa julkisilta markkinoilta."

Siis ymmärtääkseni yleensä takasinostetut osakkeet kuoletetaan, jolloin jäljellä olevien arvo nousee. Jos yhtiöllä ei olisi yhtään omaa omistusta jäljellä niin takaisinosto ei silti tuo omistusta takaisin (kuin ehkä hetkellisesti) koska ne osakkeet tuhotaan, jos näin ei tehdä niin silloin jäljellä olevien osakkeiden arvo ei nousisi. Ideana on siis pienentää osakkeiden määrää, ei siirtää niitä vain toisiin käsiin. On ihan selvää että omistajat vastustaisivat osakkeiden ostamista jos ne jäisivät firman käsiin koska se vähentäisi omistajien omistusosuutta yhtiöstä.

 

[Ergonpandilus]

Oli mielenkiintoista, kun inflaation (17,83%) otti mukaan Nvidian korttien hintaan ja niiden valossa vertaili v. 2020 julkaistuja 30-sarjan kortteja nyt v.2023 julkaistuihin 40-sarjan korttien hintoihin.
Value of 2020 Euro today - Inflation Calculator

30-sarjan korttien hinta nykypäivän euroissa, jos ne olisivat julkaistu nyt.
* 339€ suositushintainen RTX 3060 olisi nyt 400€
* 429€ suositushintainen RTX 3060 Ti olisi nyt 506€
* 529€ suositushintainen RTX 3070 olisi nyt 623€
* 1589€ suositushintainen RTX 3090 olisi nyt 1872€

Vastaavasti jos nyt 2023 julkaistujen korttien hinnoista poistetaan inflaatio, niin 40-sarjan korttien hinnoiksi vuonna 2020 olisi olleet alemmat:
* 339€ suositushintainen RTX 4060 olisi ollut 288€
* 459€ suositushintainen RTX 4060 Ti olisi ollut 390€
* 689€ suositushintainen RTX 4070 olisi ollut 585€
* 1999€ suositushintainen RTX 4090 olisi ollut 1696€

Eli valuuttakurssin suhtanteiden muutoksen valossa nuo edullisemmat uudet 40-sarjan RTX kortit ovat suhteellisesti laskeneet hinnassa verrattaessa 30-sarjan suositushintoihin.

 

[finWeazel]

Arvioita nvidian hopper konesalipiirien tuoantomääristä. Tälle vuodelle 500000 piiriä ja ensi vuodelle 1.5-2miljoonaa piiriä. Imee 2024 piirimäärä hyvän osan tsmc: 5nm kapasiteetista jos arviot toteutuvat. Toki ainakin tänä vuonna vielä menee 7nm a100/a800 piiriä myös kaupaksi.

Demand for Nvidia's flagship H100 compute GPU is so high that they are sold out well into 2024, the FT reports. The company intends to increase production of its GH100 processors by at least threefold, the business site claims, citing three individuals familiar with Nvidia's plans. The projected H100 shipments for 2024 range between 1.5 million and 2 million, marking a significant rise from the anticipated 500,000 units this year.

Nvidia to Reportedly Triple Output of Compute GPUs in 2024: Up to 2 Million H100s

Triple the output, triple the revenue?

www.tomshardware.com

Melkoinen kompleksisuus konesaliratkaisujen rakentamisessa. Kaukana on se aika, kun myytiin pci-e, sxm tms. korttia ja joku lätki niitä koteloihin tuhansittain.

you say it's H100, and I know you know what your -- your -- your mental image in your mind, but the H100 is 35,000 parts, 70 pounds, nearly a trillion transistors in combination; takes a robot to build -- well, many robots to build because it's 70 pounds to lift. And it takes a supercomputer to test a supercomputer. And so, these -- these things are technology marvels, and -- and the manufacturing of them is really intensive.

Nvidia (NVDA) Q2 2024 Earnings Call Transcript | The Motley Fool

NVDA earnings call for the period ending June 30, 2023.

www.fool.com

 

[muugmuug]

Siis ymmärtääkseni yleensä takasinostetut osakkeet kuoletetaan, jolloin jäljellä olevien arvo nousee. Jos yhtiöllä ei olisi yhtään omaa omistusta jäljellä niin takaisinosto ei silti tuo omistusta takaisin (kuin ehkä hetkellisesti) koska ne osakkeet tuhotaan, jos näin ei tehdä niin silloin jäljellä olevien osakkeiden arvo ei nousisi. Ideana on siis pienentää osakkeiden määrää, ei siirtää niitä vain toisiin käsiin. On ihan selvää että omistajat vastustaisivat osakkeiden ostamista jos ne jäisivät firman käsiin koska se vähentäisi omistajien omistusosuutta yhtiöstä.

Tosiaan share buyback omien osakkeiden ostolla pointti on (tai pitäisi olla, osakkeenomistajien näkökulmasta) juuri poistaa osakkeet kierrosta ja näin pienentää osakkeiden lukumäärää. Tällöin jäljelle jäävillä osakkeilla omistusosuus/arvo on isompi, helpompi maksaa osinkoa näille, ja esim eps osakekohtainen tulos kasvaa.

Käytännössä, varsinkin jenkeissä, tilanne on aina jossain määrin se että yhtiöt printtaavat lisää osakkeita työntekijöille osakepalkkioina, usein iso osa buybackeista menee vain tämän diluution korjaamiseen (eli mainostetaan osakkeenomistajien palkitsemisena, vaikka todellisuudessa raha menee johdolle). Google ja Meta/fb ovat isoimpia esimerkkejä tästä, eivät maksa mitään osinkoa, vaan lähes kaikki vapaa kassavirta on vuosien ajan käytetty share buybackeihin joilla vain siivottu osakepalkkioiden diluutiota.

 

[finWeazel]

Tosiaan share buyback omien osakkeiden ostolla pointti on (tai pitäisi olla, osakkeenomistajien näkökulmasta) juuri poistaa osakkeet kierrosta ja näin pienentää osakkeiden lukumäärää. Tällöin jäljelle jäävillä osakkeilla omistusosuus/arvo on isompi, helpompi maksaa osinkoa näille, ja esim eps osakekohtainen tulos kasvaa.

Käytännössä, varsinkin jenkeissä, tilanne on aina jossain määrin se että yhtiöt printtaavat lisää osakkeita työntekijöille osakepalkkioina, usein iso osa buybackeista menee vain tämän diluution korjaamiseen (eli mainostetaan osakkeenomistajien palkitsemisena, vaikka todellisuudessa raha menee johdolle). Google ja Meta/fb ovat isoimpia esimerkkejä tästä, eivät maksa mitään osinkoa, vaan lähes kaikki vapaa kassavirta on vuosien ajan käytetty share buybackeihin joilla vain siivottu osakepalkkioiden diluutiota.

Ei pelkästään johdolle. Piilaaksomeininki on sitouttaa myös alemmista portaista porukka firmaan osakekannustimilla. Ihan rividevaajatkin saavat merkittäviä osakekannustimia.

 

[Wintikka]

AI-boomi kestää jonkun aikaa kuten feikkirahan mainaaminen aikanaan, ja sitten on taas markkinat täynnä näyttiksiä odottamassa seuraavaa boomia tai sit ne jää valmistajien varastoon. Ketään ei varmasti usko, että AI-hullutus jatkuu useita vuosia, kun kaikki ryntää samalle sektorille samaan aikaan miljardien edestä kamaa.......

 

[Captain J]

Nvidia's GPU-powered laptops have gained in popularity, and their shipments are now outpacing desktop GPUs in several regions around the world.

Ihan mielenkiintoinen poiminta, mutta toisaalta ei niin yllättäväkään kun näissä nykyläppäreissä on ihan riittävästi potkua (jos ei mitään 4k +100Hz maks. grafiikoilla kokemusta halua).

 

[muugmuug]

Ei pelkästään johdolle. Piilaaksomeininki on sitouttaa myös alemmista portaista porukka firmaan osakekannustimilla. Ihan rividevaajatkin saavat merkittäviä osakekannustimia.

Kyllä varmasti osa menee sinnekin, hyvä niin. Yleisesti pienissä määrin osakepalkkiothan voivat olla oikein fiksu idea.

 

[finWeazel]

Nvidia on yks parhaiten palkkaa maksavista piilaaksotaloista. Uskon, että johtuu osittain osakekannustimista ja niiden arvonnoususta. Mediaanipalkka 2021 vuodelta nvidialla 228078$. Sisältää osakekannustimet.

the highest-paying Big Tech firm in Silicon Valley in 2021 — with a median compensation of $279,802 and San Francisco data storage giant Dropbox at $274,599. Rounding out the companies with a median pay of over $200,000 are Airbnb ($236,240), Okta ($233,825), Nvidia ($228,078) and Netflix ($218,400).

These were the best-paying Silicon Valley tech companies in 2022

Even with unabated economic headwinds and a stunning number of tech layoffs, tech workers' pay in 2022 remained generous.

www.sfgate.com

glassdoorin kuvaus nvidiasta

https://www.glassdoor.com/Overview/Working-at-NVIDIA-EI_IE7633.11,17.htm

 

[PRORAUTA]

AI-boomi kestää jonkun aikaa kuten feikkirahan mainaaminen aikanaan, ja sitten on taas markkinat täynnä näyttiksiä odottamassa seuraavaa boomia tai sit ne jää valmistajien varastoon. Ketään ei varmasti usko, että AI-hullutus jatkuu useita vuosia, kun kaikki ryntää samalle sektorille samaan aikaan miljardien edestä kamaa.......

Lainataanpa tuo viesti. Sitä on kiva katsoa vuosien kuluttua.

Toki näiden ai-korttien kanssa menee niin, että sitten kun kolmesta neljään sukupolvea tulee uusia kortteja saattaa nämä aikaisemman vaiheen kortit päätyä massoittain Ebayn tyylisiin kauppapaikkoihin, niiden ollessa varustettuna hiukan pienehköllä muistilla ja muutenkin huonoksi käyvällä hyötysuhteella. Ensivuoden korit tehdään TSCM:n 3nm valmistusprosessilla. Ei jokaisella yrityksellä kuten Oracle, joka tässä sukupolvessa sijoittaa kovalla kädellä näihin Ai-kortteihin ole varaa välttämättä hypätä samassa mittaluokassa seuraavaan sukupolveen mutta en usko Ai-korttien ostoinnon laantuvan muutamaan vuoteen. Se voi myös kiihtyä entisestään.

 

[PRORAUTA]

-sivusto lagitti.

 

[Obi-Lan]

Uskon, että AI kyllä jää kun siitä voi olla oikeasti hyötyä yrityksille. Luultavasti meno rauhoittuu alun boomin jälkeen ja toki ekat generaation kortit on parin vuoden päästä Ebayssä. Saa nähdä muuttuuko peliläppärit tulevaisuudessa yritysten AI läppäreiksi tms.

 

[ratkakapu]

Uskon, että AI kyllä jää kun siitä voi olla oikeasti hyötyä yrityksille. Luultavasti meno rauhoittuu alun boomin jälkeen ja toki ekat generaation kortit on parin vuoden päästä Ebayssä. Saa nähdä muuttuuko peliläppärit tulevaisuudessa yritysten AI läppäreiksi tms.

Ennustan samaa kuin Intel ja AMD eli muutamaan vuoden päästä AI:ta ajetaan pääasiassa geneerisen GPU:n sijaan prosessoreihin integroiduilla AI piireillä. Ainakin siis lokaalisti, konesalipuoli voi sitten vetää GPU-johdannaisilla piireillä edelleen.

 

[finWeazel]

Uskon, että AI kyllä jää kun siitä voi olla oikeasti hyötyä yrityksille. Luultavasti meno rauhoittuu alun boomin jälkeen ja toki ekat generaation kortit on parin vuoden päästä Ebayssä. Saa nähdä muuttuuko peliläppärit tulevaisuudessa yritysten AI läppäreiksi tms.

Ei tule löytymään ebaysta. Nvidia myy konesalioptimoitua ratkaisua pää märkänä. Pitäs myydä koko pömpeli, kun noita osia ei saa normaalissa emolevyssä toimimaan.

 

[Griffin]

AI-boomi kestää jonkun aikaa kuten feikkirahan mainaaminen aikanaan, ja sitten on taas markkinat täynnä näyttiksiä odottamassa seuraavaa boomia tai sit ne jää valmistajien varastoon. Ketään ei varmasti usko, että AI-hullutus jatkuu useita vuosia, kun kaikki ryntää samalle sektorille samaan aikaan miljardien edestä kamaa.......

Leikkirahoilla on tähänmennessä ollut käyttönä lähinnä keinottelu.
AI teknologialle taas löytyy kyllä käyttöa jatkuvasti lisää..

Käsittääkseni AI mallien opettamiseen tarvitaan tehokkaampaa rautaa ja valmiin mallin pyörittämiseen riittää tehottomampi rauta (muistivaatimus on mm pienempi).
Eiköhän tuota rautaa siis pyöritetä ensin toisessa ja sitten toisessa käyttötarkoituksessa, joten on varmasti käytössä pitkään, jos ei tapahdu huimia kehitysaskeleita.

Ennustan samaa kuin Intel ja AMD eli muutamaan vuoden päästä AI:ta ajetaan pääasiassa geneerisen GPU:n sijaan prosessoreihin integroiduilla AI piireillä. Ainakin siis lokaalisti, konesalipuoli voi sitten vetää GPU-johdannaisilla piireillä edelleen.

Käsittääkseni Nvidian AI kortit eivät juurikaan enää ole GPUita, joten on jo sinällään eriydytty, vaikka samoja palikoita löytyy myös näyttiksistä, koska niitä pystytään hyödyntämään niissä kokoajan enemmän.
---------------
Sitä olen miettinyt, jotta jos mallit tehdään NVIDIAn raudalle ja softalle, niin niiden kehittely on kallista niin niitä varmasti päivitetään pitkään.
Jos malli ei ajaudu yhtähyvin toisen valmistajan AI raudalla, niin muilla on kohtuullinen kynnys päästä markkinoille, joka on jo täynnä Nvidiaa..

Jos taas nykymallit ajautuvat kaikilla AI kiihdyttimillä sinänsä yhtähyvin (Kunhan kiihdyttimessä on nopeutta ja muistia TAI ovat käännettävissä helposti), niin sitten kilpailijoilla on helpompi tilanne: Tarvitsee vain tehdä nopeampaa, edullisempaa ja energiatehokkaampaa rautaa..
---------------
Pelikorteissa tarvitaan murto-osa muistia VS AI vääntö. Melko todennäköisesti siis pelikorteilla ei voi käsitellä, kuin kevyimpiä malleja tulevaisuudessakaan. Toki varmasti kehittäjille ne ovat edelleen kevyeen suunnitteluun ja testailuun ihan asiarautaa ja varmasti kykenevät ajamaan tiettyjä erikoistarkoituksiin tehtyjä malleja hyvinkin edullisesti.

 

[Obi-Lan]

Ei tule löytymään ebaysta. Nvidia myy konesalioptimoitua ratkaisua pää märkänä. Pitäs myydä koko pömpeli, kun noita osia ei saa normaalissa emolevyssä toimimaan.

Jaha, olen nähnyt vain talonpoikais A100 PCIe kortteja. Toki noita pömpeleitäkin voi näkyä Ebayssä mutta aika-ikkuna on sitten varmaan 5-10 vuotta ja ostajan varmaan pitää ensin keksiä miten kiertää kaikki lisenssilukot ja muut rahastustemput mitä noissa on.

 

[finWeazel]

Jaha, olen nähnyt vain talonpoikais A100 PCIe kortteja. Toki noita pömpeleitäkin voi näkyä Ebayssä mutta aika-ikkuna on sitten varmaan 5-10 vuotta ja ostajan varmaan pitää ensin keksiä miten kiertää kaikki lisenssilukot ja muut rahastustemput mitä noissa on.

Suurin osa nvidian myynnistä on isoja pömpeleitä. Parhaiten myy dgx gh200 missä on 8 kappaletta 8 gpu:n pömpeleitä ja kaikki kytketty yhteen muistiavaruuteen nvlink:in avulla. 256gpu:ta sisältäviä dgx gh200:ia kytketään toisiinsa kiinni infiniband/ethernetin avulla. OpenAI:lla huhutaan olevan noin 16000 h100 gpu:n klusteri millä opettavat seuraavaa gpt-versiota. pci-e kortit on ihan pisara meressä versus isot laatikot.

DGX pömpelit imevät niin paljon virtaakin ettei sellaista edes normiasuntoon saa asennettua. Maksimi jossain 10kW pinnassa per dgx pömpeli. Toki saa konffattua pienemmälle virrankulutukselle myös. Kai tarpeettomat pöntöt myytäisiin seuraavalle yritykselle ihan jossain muualla kuin ebay:ssa. Normitallaajat noita ei tule ostamaan.

Mun käsitys on, että isot nykyiset neuroverkkojen opetuspömpelit muuttuvat ajan kanssa inferenssiservereiksi. ts. iso pömpeli opettaa neuroverkkoja. Kun ison pömpelin tilalle tulee vielä tehokkaampi ratkaisu(blackwell?) niin wanha rauta siirtyy inferenssityöhön missä riittää vähempikin teho&muisti.

 

[KVahlman]

Buumin loppuminenhan ei toki automaattisesti tarkoita että teknologia katoaisi kuin pieru saharaan, siellä se ethereumikin edelleen on puolentoista tonnin tienoilla arvotuksessa vaikka kryptobuumi on kuollut ja kuopattu.

Jotkut jo näkee chattipalveluiden hakujen taittuneen ja ennustaa täten että alamäki on jo alkanut. Ennenaikaista, luulen.

Ugly Numbers from Microsoft and ChatGPT Reveal that AI Demand is Already Shrinking

The only areas where AI is flourishing are shamming, spamming & scamming

www.honest-broker.com

 

[finWeazel]

Jotkut jo näkee chattipalveluiden hakujen taittuneen ja ennustaa täten että alamäki on jo alkanut. Ennenaikaista, luulen.

Nvidia antoi rohkean Q3 ennusteen ja sanoi näkyvyyden asiakkaiden tarpeisiin olevan erinomaisen kirkkaan ensi vuodelle asti. Jos tilanne olisi kovin paljon muuttunut negatiiviseen suuntaan sieltä tulisi tulosvaroitusta.

Uskon, että jos myynti sakkaa niin se näkyy aikaisintaan jossain q2 2024.

 

[KVahlman]

Nvidia antoi rohkean Q3 ennusteen ja sanoi näkyvyyden asiakkaiden tarpeisiin olevan erinomaisen kirkkaan ensi vuodelle asti. Jos tilanne olisi kovin paljon muuttunut negatiiviseen suuntaan sieltä tulisi tulosvaroitusta.

Uskon, että jos myynti sakkaa niin se näkyy aikaisintaan jossain q2 2024.

No ei nyt tapahtuva yleisön kiinnostuksen taittuminen NVIDIAn myyntiin varmaan vaikutakkaan kovin nopeasti kun investoijat hakkaa AI-kiihdytintehtaan ovea toiveikkaasti vielä ainakin jonkun aikaa jos vaikka pääsis AI:sta osille. Suurin osa tuskin edes ymmärtää omaa käyttötapaustaan tekniikalle.

En myöskään oikein usko että nimenomaan nuo kaksi palvelua olisi jotenkin erityisiä tekoälybuumin indikaattoreita kun kiihdyttimiä kyllä menee muuhunkin kuin vain parin LLM:n pyörittämiseen. Mutta tietäjät tietää, varsinkin jos motivaationa on dissata jotain teknologiaa kuten tuon kirjotuksen sävystä voinee tulkita.

 

[finWeazel]

No ei nyt tapahtuva yleisön kiinnostuksen taittuminen NVIDIAn myyntiin varmaan vaikutakkaan kovin nopeasti kun investoijat hakkaa AI-kiihdytintehtaan ovea toiveikkaasti vielä ainakin jonkun aikaa jos vaikka pääsis AI:sta osille. Suurin osa tuskin edes ymmärtää omaa käyttötapaustaan tekniikalle.

En myöskään oikein usko että nimenomaan nuo kaksi palvelua olisi jotenkin erityisiä tekoälybuumin indikaattoreita kun kiihdyttimiä kyllä menee muuhunkin kuin vain parin LLM:n pyörittämiseen. Mutta tietäjät tietää, varsinkin jos motivaationa on dissata jotain teknologiaa kuten tuon kirjotuksen sävystä voinee tulkita.

Mun käsitys on, että tän hetkinen AI boom missä myydään neuroverkkojen opetukseen gpu:ta on pienempi markkina kuin mahdollinen inferenssi-markkina. Se on pahasti tuntemattomalla alueella tuleeko inferenssi markkina realisoitumaan vai ei. Tyyliin tuleeko jokainen google, bing, wikipedia, verkkokauppa(amazon,walmart,...) jne. haku menemään neuroverkon läpi.

Olen myös siinä uskossa, että tän hetkinen AI boom on todella spekulatiivinen. FOMO:n takia ostetaan konesaleja täyteen ja katsotaan myöhemmin mitä tapahtuu. Yritetään opettaa neuroverkkoja joiden hyödyllisyys olisi niin iso, että niistä saadaan tehtyä suosittu palvelu(inferenssi). Toisella puolen kiina ostaa gpu:ta niin paljon myös kuin kykenee. On iso riski, että jenkit kieltävät nykyisten suorittimien(a800, h800) myynnin kiinaan.

Uskon, että jos oikeita inferenssikäyttötapauksia ei löydy niin AI boom nvidian osalta loppuu seuraavan 12kk-24kk aikana.

Pahasti voi käydä, kun tyyliin coreweave otti 2.3 miljardia lainaa konesaliansa vastaan. CoreWeave ostaa lainalla lisää gpu:ta. Jos bisnes katoaa alta niin se on melkoinen pakkomyynti edessä

CoreWeave, a cloud computing startup backed by Nvidia and Magnetar Capital, has secured a $2.3 billion debt facility using Nvidia’s sought-after H100 GPUs as collateral. The company intends to use that money to purchase more high-end chips, among other things.

How to get your startup a loan with one easy computer part

Exciting new ways to finance your startup: using the chips you already own.

www.theverge.com

 

[KVahlman]

Jos bisnes katoaa alta niin se on melkoinen pakkomyynti edessä

Joo, lakisäätäjillä on aika iso delete-nappula tällä hetkellä. Sopivasti kielletty bisnisala ja aika monta firmaa kupsahtaa tuosta vaan. Tuskin kukaan saa aikaiseksi säädellä tosin.

 

[finWeazel]

AI pohjaisista hauista niin sen sijaan, että hakis "suomen historia" ja tulee joku sivu vastaan niin haku saattaisi summaroida useita lähteitä annetulla parametreilla. Tai voisi hakea "pc osat 1440p pelaamiseen yhteishinta alle 1500e suomalaisista nettikaupoista. Pelaan pääasiassa pelejä X,Y,Z". Lopputuloksena saisi konealgoritmin optimoimat vaihtoehdot osalistoiksi kera ostoskorien. Hakutuloksessa toki pitäö olla lähteet miksi algoritmin valitsi tietyt osat(arvostelut, linkit keskusteluforumeille, muutama vaihtoehto jne).

Paljon on mahdollisuuksia konealgoritmien käytössä. Millon todellisuus kohtaa mahdollisuudet on vaikea sanoa.

 

[finWeazel]

Tesla ostanut 10000 h100:sta nvidialta. Teslalla on ennestään 10000+ a100:sta. Taitaa iso osa myydyistä h100 asennuksista olla grace-hopper pohjaisia eli nvidian arm cpu:lla. Jos olisivat x86 pohjaisia h100 systeemeitä niin luulisi nvidian konesalimyynnin näkyvän intelin tuloksessa. h100:en x86 kaveri intel cpu ja a100:en x86 kaveri amd: cpu.

Tesla's $300 Million AI Cluster Is Going Live Today

Tesla is about to flip the switch on its new AI cluster, featuring 10,000 Nvidia H100 compute GPUs.

www.tomshardware.com

 

[zepi]

Buumin loppuminenhan ei toki automaattisesti tarkoita että teknologia katoaisi kuin pieru saharaan, siellä se ethereumikin edelleen on puolentoista tonnin tienoilla arvotuksessa vaikka kryptobuumi on kuollut ja kuopattu.

Jotkut jo näkee chattipalveluiden hakujen taittuneen ja ennustaa täten että alamäki on jo alkanut. Ennenaikaista, luulen.

Ugly Numbers from Microsoft and ChatGPT Reveal that AI Demand is Already Shrinking

The only areas where AI is flourishing are shamming, spamming & scamming

www.honest-broker.com

Tekoäly | Chat GPT:stä tullut rahasampo: Open AI:n liikevaihto noussee tänä vuonna miljardiin dollariin

Tekoälyä kehittävä Open AI julkaisi yrityksille tarkoitetun version suositusta tekoälysovelluksesta aiemmin tällä viikolla.

www.hs.fi

Tämän mukaan taas massia taotaan jo ihan merkittävää vauhtia... Ilmaisen demon käyttäjämäärä on varmaan lopulta MS:lle ja OpenAI:lle yhdentekevää, oleellista lienee niiden maksullisten tuotteiden menekki.

 

[finWeazel]

H100 teslan käyttämillä kuormilla noin 3x nopeampi kuin a100 elon musk:in mukaan.

Is Nvidia's H100 AI Chip Worth The Hype? Musk Reveals Effects On Tesla's FSD Testing - Tesla (NASDAQ:TSLA)

Musk said that the H100 has proven to be approximately three times faster than the A100 in the company's tests.

www.benzinga.com