OpenAI ja Broadcom sopivat jopa 10 gigawatin tekoälypalvelinkokonaisuudesta

[Kaotik]

OpenAI on tehnyt jo pidempään yhteistyötä useiden eri kumppaneiden tekoälypiirien parissa työskentelevän Broadcomin kanssa ja yhteistyö huipentuu OpenAI:n omiin kiihdyttimiin perustuvan palvelinkokonaisuuden rakentamiseen.

Tekoälymalleihin erikoistunut OpenAI on ollut viime aikoina toistuvasti uutisissa merkittävien palvelinprojektien tiimoilta, eikä loppua ole ainakaan vielä näkyvissä. Viimeisin projekti on OpenAI:n ja Broadcomin välinen yhteistyösopimus.

OpenAI ja Broadcom ovat kertoneet yhteistyöprojektista, jossa otetaan käyttöön 10 gigawatin edestä kustomoituja tekoälykiihdyttimiä. Toisin kuin esimerkiksi OpenAI:n AMD:n ja NVIDIAn kanssa toteutettavat projektit, Broadcomin kanssa toteutettavissa palvelimissa käytetään täysin kustomoitua laskentarautaa.

Broadcom on merkittävä tekijä eri asiakkaiden tekoälypiirien toteuttamisessa ja OpenAI on tehnyt yhtiön kanssa yhteistyötä jo 18 kuukauden ajan oman tekoälypiirinsä toteutuksen parissa. OpenAI on vastuussa varsinaisten kiihdytinten ja niiden palvelinten suunnittelusta ja varsinaiset piirit suunnitellaan yhteistyössä vankan ASIC-kokemuksen omaavan Broadcomin kanssa. Broadcom on lisäksi vastuussa palvelinten verkkototeutuksista.

OpenAI:n kiihdyttimiin perustuvien palvelinten käyttöönotto aloitetaan vuoden 2026 jälkimmäisellä puoliskolle ja valmista koko 10 gigawatin kokonaisuuden osalta pitäisi olla vuoden 2029 loppuun mennessä.

Lähteet: OpenAI, Broadcom

 

[finWeazel]

Vois alkaa sanomaan, että nvidian asema murtuu 2026 lopusta eteenpäin kun amd ja broadcom diilien tuloksena openai ostaa isot määrät muiden kuin nvidian rautaa. Tähän päälle kertausvaikutukset kun muut alkavat uskomaan ei nvidia ratkaisuihin kun toivottavasti openai näyttää että broadcom ja amd ratkaisut ovat hyviä. Google tietenkin myös sopassa mukana, ilmeisesti google painaa miljoonia tpu-piirejä vuodessa konesaliin.

Lieköhän nähdään 2027 aikana konsolidaatiota missä ei enää ole tilaa kaikille ai-kiihdytin startupeille. Näitähän on syntynyt kuin sieniä sateella.

 

[Moilaps]

En jotenkin jaksa uskoa että openai saa aikaan kannatavaa liiketoimintaa. 10 gigawattiahan puolet Suomen sähköntuotanto kapasiteetista.

 

[finWeazel]

En jotenkin jaksa uskoa että openai saa aikaan kannatavaa liiketoimintaa. 10 gigawattiahan puolet Suomen sähköntuotanto kapasiteetista.

800M viikottaista aktiivista käyttäjää openai:lla. Ei heidän tarvi hirveästi saada esim. mainosrahaa tai porukkaa käännettyä maksamaan niin viivanalle tulee rajusti rahaa. Käyttäjämäärä myös nopeassa kasvussa + diilejä yritysten ja valtioiden kanssa. Se toki openai:lla on seuraavan 5v ongelma, että kaikki rahat + lainarahat päälle menee konesalien rakentamiseen. Voittoa eivät oikein voi tehdä ennen kuin infra on rakennettu,...

USA:n energiankäytöstä konesalit hyvin pieni osa vaikka numerot suomen mittakaavassa ovatkin giganttisia. 2030 ennustettu että konesalit veisivat noin 12% usa:n energiantuotannosta, 130GW.

projected electricity demand in 2030 is set to increase to up to 130 GW (or 1,050 TWh), which would represent close to 12% of total U.S. annual demand

Data Center Energy Needs Could Upend Power Grids and Threaten the Climate | Article | EESI

Data centers are very energy-hungry and are spreading fast, which is straining the grid and will likely slow our transition to carbon-free energy.

www.eesi.org