Cerebras julkisti maailman suurimman piirin seuraajan: Wafer Scale Engine 2

[Kaotik]

Kaotik kirjoitti uutisen/artikkelin:
Cerebras nousi otsikoihin vuoden 2019 syksyllä, kun se julkisti maailman suurimman piirin. Cerebras Wafer Scale Engine rakentui jopa 1,2 biljoonasta transistorista ja oli käytännössä useita yhteen liitettyjä piirejä, joita ei irroteta toisistaan piikiekkoa leikatessa. Nyt jättipiiri on saanut seuraajan.

Cerebras Wafer Scale Engine 2 eli WSE-2 rakentuu yhteensä peräti 2,6 biljoonasta transistorista ja sen pinta-ala on samat 46 255 mm2 kuin edeltäjälläänkin. Käytännössä koon sanelee piikiekon koko. Koko komeudessa on peräti 850 000 tekoälytehtäviin erikoistunutta ydintä ja yhteensä 40 gigatavua SRAM-muistia jaettuna jokaiseen ytimeen. Piirien välinen yhteysväylä tarjoilee kaistaa peräti 220 petabittiä sekunnissa ja SRAM-muistiin kaistaa on tarjolla 20 petatavua sekunnissa.

Yhtiön mukaan TSMC:n 7 nanometrin prosessilla valmistettava WSE-2 tarjoaa kaksinkertaista suorituskykyä ensimmäiseen sukupolveen nähden, mutta mitään tarkkoja suorituskykylukuja se ei tarjoillut. WSE-2:ssa on muistikaista ja yhteysväylän kaista ovat kasvaneet noin 120 % edeltäjäänsä nähden, mutta piirin tehonkulutus on pysynyt identtisenä 15 kilowatissa.

Lähde: Tom's Hardware

Linkki alkuperäiseen juttuun

 

[demu]

Kaotik kirjoitti uutisen/artikkelin:
Cerebras nousi otsikoihin vuoden 2019 syksyllä, kun se julkisti maailman suurimman piirin. Cerebras Wafer Scale Engine rakentui jopa 1,2 biljoonasta transistorista ja oli käytännössä useita yhteen liitettyjä piirejä, joita ei irroteta toisistaan piikiekkoa leikatessa. Nyt jättipiiri on saanut seuraajan.

Cerebras Wafer Scale Engine 2 eli WSE-2 rakentuu yhteensä peräti 2,6 biljoonasta transistorista ja sen pinta-ala on samat 46 255 mm2 kuin edeltäjälläänkin. Käytännössä koon sanelee piikiekon koko. Koko komeudessa on peräti 850 000 tekoälytehtäviin erikoistunutta ydintä ja yhteensä 40 gigatavua SRAM-muistia jaettuna jokaiseen ytimeen. Piirien välinen yhteysväylä tarjoilee kaistaa peräti 220 petabittiä sekunnissa ja SRAM-muistiin kaistaa on tarjolla 20 petatavua sekunnissa.

Yhtiön mukaan TSMC:n 7 nanometrin prosessilla valmistettava WSE-2 tarjoaa kaksinkertaista suorituskykyä ensimmäiseen sukupolveen nähden, mutta mitään tarkkoja suorituskykylukuja se ei tarjoillut. WSE-2:ssa on muistikaista ja yhteysväylän kaista ovat kasvaneet noin 120 % edeltäjäänsä nähden, mutta piirin tehonkulutus on pysynyt identtisenä 15 kilowatissa.

Lähde: Tom's Hardware

Linkki alkuperäiseen juttuun

Tuollaisen piirin jäähdyttäminen vaatiikin sitten melkoisia poppakonsteja.
Tuo piiri on suurinpiirtein samassa kokoluokassa kuin tavallisen keittiön lieden yhden kattilan keittoalue, ja sellainen toimii tavallisesti 1,5-2,5kW maksimiteholla.
Kun tämä piiri vie 6-10 kertaa lieden keittoalueen verran tehoa, ei taida aivan ilmajäähyllä, eikä kyllä vesijäähylläkään jäähtyä.
Taitaa vanha vitsi kananmunien paistamisesta prosessorin päällä onnistua tällä vähän liiankin hyvin. Tehoa riittänee vaikka kokonaisen porsaan grillaamiseen.

 

[zepi]

Miksi se ei jäähtyisi vesijäähyllä?

Jäähtyyhän 300kW urheiluauton polttomoottorikin, niin miksei 15kW piiri?

 

[Kaotik]

Tuollaisen piirin jäähdyttäminen vaatiikin sitten melkoisia poppakonsteja.
Tuo piiri on suurinpiirtein samassa kokoluokassa kuin tavallisen keittiön lieden yhden kattilan keittoalue, ja sellainen toimii tavallisesti 1,5-2,5kW maksimiteholla.
Kun tämä piiri vie 6-10 kertaa lieden keittoalueen verran tehoa, ei taida aivan ilmajäähyllä, eikä kyllä vesijäähylläkään jäähtyä.
Taitaa vanha vitsi kananmunien paistamisesta prosessorin päällä onnistua tällä vähän liiankin hyvin. Tehoa riittänee vaikka kokonaisen porsaan grillaamiseen.

Jäähtyy vesijäähyllä.

 

[rusina666]

Tuollaisen piirin jäähdyttäminen vaatiikin sitten melkoisia poppakonsteja.

Asiaa voi miettiä siltä kannalta, että Intelin Core i9 11900K tuottaa yli 3 kertaa enemmän lämpöä jokaista neliömillimetriä kohden ja tuo voidaan jäähdyttää ilmalla.

Eli tämä voidaan jäähdyttää suhtellisen pienellä jäähyllä vrt. 11900K

 

[Nerkoon]

Eikö 15 kilowattia vastaa kaasugrillin polttimoiden tehoja? Kyllä tuolla ruokaa laittaisi ja perus saunankiuas taitaa sekin olla vain 6 kilowattia

 

[latee77]

Missä tällaisia käytetään?

Näyttö päälle niin sopivahko käsikonsoliksi. Näpit palaa ja hörppää muuntajan tyhjäksi, muuten ihan mukava.

 

[demu]

Asiaa voi miettiä siltä kannalta, että Intelin Core i9 11900K tuottaa yli 3 kertaa enemmän lämpöä jokaista neliömillimetriä kohden ja tuo voidaan jäähdyttää ilmalla.

Eli tämä voidaan jäähdyttää suhtellisen pienellä jäähyllä vrt. 11900K

Ehkä näinkin, mutta kun tuon piirin pinta-alalle piirille mahtuu aikamoinen määrä niitä 11900K:n kokoisia piirejä.
11900K:n TDP on 125W (todellisuudessa jotakin aivan muuta). Tämä piiri kuluttaa sähköä siis 120x11900K:n verran.

Jos 11900K jäähtyy riittävästi vaikka 360 AIO:lla (3x120mm tuuletinta eli 432 neliösenttiä), tälle vaadittaisiin vastaavasti 360x120mm samanlaista tuuletinta eli 51840 neliösenttiä (reilut 5 neliömetriä) jäähdytyspinta-alaa.
Tokihan tällaisen nestejäähyratkaisun pinta-ala on pienempi, jäähdytysritilät ovat paksumpia ja tiheämpiä, ja ilmaa pusketaan niistä läpi melkoisella paineella ja äänellä.

Jos tuollaisessa systeemissä jäähdytys katkeaa hetkeksikään niin piiri katoaa aika nopeasti savuna ilmakehään.

 

[DWL_Puavo]

Mietin että onko koko Cerebras ollut vaan virtuaalijulkaisu, eli että onko näitä edes oikeasti myyty tai otettu käyttöön. Mutta sivuiltaan löytyi kuitenkin kolme ihan kuranttia testimonialia, kehuivat jopa toimivaksi ja tehokkaaksi:

GSK (Glaxo Smith-Kleine)
Lawrence Livermore National Laboratory
Argonne National Laboratory

 

[Seeteufel]

Missä tällaisia käytetään?

Tieteelliseen laskentaan, tuossa ylempänä on pari referenssiasiakasta.

Cerebras hasn't specified pricing, but we expect the WSE-2 unit will continue to attract attention from the military and intelligence communities for any multitude of purposes, including nuclear modeling, but Cerebras can't divulge several of its customers (for obvious reasons). It's safe to assume they are the types with nearly unlimited budgets, so pricing isn't a concern. On the public-facing side, the Argonne National Laboratory is using the first systems for cancer research and basic science, like studying black holes.

Cerebras Second-Gen Wafer Scale Chip: 2.6 Trillion 7nm Transistors, 850,000 Cores, 15kW of Power

The world's largest chip

www.tomshardware.com

 

[Weega666]

Tämä on tietenkin tehty erittäin sepsifikoituihin juttuihin. Varmasti keinot sen viileänä pitämisenä on tiedossa ja mihinkään kuluttaja laitteisiin tuota ei nyt pykälletä Toki se että hörppää virtaa melkoisesti on mielenkiintoinen juttu pohtia: miten ja millä pysyy viileänä?

 

[wintersnail]

15kW mutta ilmeisesti hyvinkin energiatehokas verrattuna muihin vastaavaan käyttöön oleviin kokonaisuuksiin. Kooltaankin yllättävän pieni. Kyllähän tolla sopivasti taloo lämmittäs
Noissa linkeissä versio 1 jäähdytyksen rakenne näkyvillä.
https://www.eetimes.com/powering-and-cooling-a-wafer-scale-die/

The Cerebras CS-1 computes deep learning AI problems by being bigger, bigger, and bigger than any other chip | TechCrunch

Deep learning is all the rage these days in enterprise circles, and it isn’t hard to understand why. Whether it is optimizing ad spend, finding new drugs

techcrunch.com

 

[Mawe]

ServeTheHomella tuollainen kuva Cerebras CS-1 koneen pumpusta.
Tiedä käyttävätkö kuitenkaan vettä, ehkä 3M:n Novecia joka ei johda sähköä.
ServeTheHome

3M:n Novec käytössä:

 

[JKAVS]

Ehkä näinkin, mutta kun tuon piirin pinta-alalle piirille mahtuu aikamoinen määrä niitä 11900K:n kokoisia piirejä.
11900K:n TDP on 125W (todellisuudessa jotakin aivan muuta). Tämä piiri kuluttaa sähköä siis 120x11900K:n verran.

Jos 11900K jäähtyy riittävästi vaikka 360 AIO:lla (3x120mm tuuletinta eli 432 neliösenttiä), tälle vaadittaisiin vastaavasti 360x120mm samanlaista tuuletinta eli 51840 neliösenttiä (reilut 5 neliömetriä) jäähdytyspinta-alaa.
Tokihan tällaisen nestejäähyratkaisun pinta-ala on pienempi, jäähdytysritilät ovat paksumpia ja tiheämpiä, ja ilmaa pusketaan niistä läpi melkoisella paineella ja äänellä.

Jos tuollaisessa systeemissä jäähdytys katkeaa hetkeksikään niin piiri katoaa aika nopeasti savuna ilmakehään.

Jäähdytyksen ongelmallisin osa on lämmön johtaminen välittömästi piirin jälkeen. Kunhan lämpö saadaan siirrettyä kiertävään veteen, se saadaan kyllä hävitettyäkin, kunhan jäähdytipinta-alaa ja ilmavirtaa on riittävästi.

Kriittisin kohta on kuitenkin suoraan piiriin kosketuksissa olevat osat, koska ne määräävät mihin piirin lämpötila asettuu. Lämmönjohtavuuteen vaikuttavat kappaleen pinta-ala ja paksuus, joten jos pinta-alaa kohden tulee vähemmän lämpöä, se myös siirtyy helpommin. Käytännössä tämä näkyy pienempänä lämpötilaerona kappaleen yli. Mikropiirin tapauksessa piirin ei siis tarvitse lämmetä yhtä kuumaksi, jotta lämpö poistuisi.

 

[Loisteho]

Ehkä näinkin, mutta kun tuon piirin pinta-alalle piirille mahtuu aikamoinen määrä niitä 11900K:n kokoisia piirejä.
11900K:n TDP on 125W (todellisuudessa jotakin aivan muuta). Tämä piiri kuluttaa sähköä siis 120x11900K:n verran.

Jos 11900K jäähtyy riittävästi vaikka 360 AIO:lla (3x120mm tuuletinta eli 432 neliösenttiä), tälle vaadittaisiin vastaavasti 360x120mm samanlaista tuuletinta eli 51840 neliösenttiä (reilut 5 neliömetriä) jäähdytyspinta-alaa.
Tokihan tällaisen nestejäähyratkaisun pinta-ala on pienempi, jäähdytysritilät ovat paksumpia ja tiheämpiä, ja ilmaa pusketaan niistä läpi melkoisella paineella ja äänellä.

Jos tuollaisessa systeemissä jäähdytys katkeaa hetkeksikään niin piiri katoaa aika nopeasti savuna ilmakehään.

Urheiluautot jäähdyttää megawatin lämpötehon sellaisella yhden neliömetrin syylärillä. Siitä laskemalla tuollainen mitätön 15 kW kuorma jäähtyisi 120*120mm rivastolla.

 

[demu]

Urheiluautot jäähdyttää megawatin lämpötehon sellaisella yhden neliömetrin syylärillä. Siitä laskemalla tuollainen mitätön 15 kW kuorma jäähtyisi 120*120mm rivastolla.

Ajattelitko tosissasi, että Bugatin Megawatin moottorin tarkoituksena on toimittaa se megawatti lämpöenergiaa syylärin jäähdytettäväksi?
Millähän teholla se auto saadaan liikkeelle?

 

[Loisteho]

Ajattelitko tosissasi, että Bugatin Megawatin moottorin tarkoituksena on toimittaa se megawatti lämpöenergiaa syylärin jäähdytettäväksi?
Millähän teholla se auto saadaan liikkeelle?

Bugatin megawatin akselitehon kone tuottaa noin neljä megawattia tehoa, joista kolme menee lämpönä syyläreille ja yksi renkaille. Noissa bugatissa on kuitenkin jo yli neliömetrillä syyläreitä.

 

[demu]

Bugatin megawatin akselitehon kone tuottaa noin neljä megawattia tehoa, joista kolme menee lämpönä syyläreille ja yksi renkaille. Noissa bugatissa on kuitenkin jo yli neliömetrillä syyläreitä.

Mitä sieltä pakoputkista poistuu? Kylmää ilmaa vai?

 

[Loisteho]

Mitä sieltä pakoputkista poistuu? Kylmää ilmaa vai?

Pakokaasua, joka on jäähtynyt noin 500 astetta palotapahtumasta, eikä kanna mukanaan enää mainittavaa määrää lämpöenergiaa.

 

[demu]

Pakokaasua, joka on jäähtynyt noin 500 astetta palotapahtumasta, eikä kanna mukanaan enää mainittavaa määrää lämpöenergiaa.

Käyvätkö ne pakokaasut siellä syylärissä jäähtymässä, vai mahtaakohan valtaosa siitä 3 megawatin lämpötehosta poistua tulikuumien pakokaasujen myötä?

En sano tuntevani urheiluautojen moottoreita kovin hyvin, mutta käsittääkseni moottorin lohkossa kiertävä, moottoria jäähdyttävä jäähdytysneste kiertää vesipumpun pumppaamana termostaatin kautta jäähdyttimelle, ja palaa sieltä paluukierron kautta jäähtyneenä takaisin moottorilohkoon.
Ne kuumimmat aineet eli pakokaasut poistuvat pakoputken kautta, jolloin syylärin ei onneksi tarvitse yksinään sitä kolmen megawatin huippulämpökuormaa jäähdyttää.

Mutta jos nyt jätettäisiin tämä offtopic pois.

 

[freezer]

Joskus aikanaa koulussa heiteltiin nyrkkisääntönä et polttoaineen energiasta noin kolmannes menee kineettiseksi energiaksi ja pyörittää kamparautaa, kolmannes jäähdytysnesteen ja kolmannes pakokaasuhin.. Tosin nykyisin varmaan varsinkin tuo pakokaasujen energiamäärä on pienenmpi turbojen myötä...
Mitä jäähdytyspinta-alaan tulee, veneessä 2kpl 160x280mm kennoja haihduttaa eberin 5,5KW, kahdella 120mm deltalla, tosin ilman ja neesteen delta t on luokkaa 60 astetta...
Mut ei tuohon nyt jokatapauksesssa 5 m2 tarttee jos reilummin ilmaa liikuttaa...

 

[JKAVS]

Tietokonevesijäähdyttimien surkea jäähdytysteho jäähdyttimen pinta-alaa kohden johtuu kahdesta asiasta. Ensinnäkin ilmavirta jäähdyttimen läpi on tietokoneissa hidas, jotta äänitaso pysyisi alhaisena. Toiseksi veden ja jäähdytysilman lämpötilaero on pieni. Tietokoneiden vesijäähdyttimissähän nesteen lämpötilan ei pitäisi paljon 40 astetta ylemmäksi mennä, mutta moottorien jäähdytysneste on yleensä vähintään 90-asteista.

 

[freezer]

Ja spesiaalisovelluksissa, kuten tuo, mikään ei estäne nostamasta melutasoa ja ilmamäärä... Ja jos ilmjäähyn "cold platen" lämpö voi olla lähes 60 astetta, niin miksi se vedellä pitäisi olla 40, jos vain jäähdytystehoa haetaan...
Ja olikos se niin et delta t:n tuplaus nostaa jäähdytystehon nelinkertaiseksi?
Normi PC:n aoi jäähyt on asia erikseen, näitä perustellaan juuri hiljaisuudella ja matalilla lämmöillä...

 

[TunTuri]

Itse lähinnä pohdin että kuinkahan monta defektiä per "piiri" noissa on ja kaiketi noissa on jokin systeemi jolla saadaan vaan vialliset kohdat suljettua pois paljon normiprossuja ketterämmin (aka. vääjäämätön tuotantovikaantuminen on äkkiseltään arvaillen paremmin otettu huomioon tuon suunnittelussa)

 

[ratkakapu]

Itse lähinnä pohdin että kuinkahan monta defektiä per "piiri" noissa on ja kaiketi noissa on jokin systeemi jolla saadaan vaan vialliset kohdat suljettua pois paljon normiprossuja ketterämmin (aka. vääjäämätön tuotantovikaantuminen on äkkiseltään arvaillen paremmin otettu huomioon tuon suunnittelussa)

"Cerebras Wafer Scale Engine rakentui jopa 1,2 biljoonasta transistorista ja oli käytännössä useita yhteen liitettyjä piirejä, joita ei irroteta toisistaan piikiekkoa leikatessa. Nyt jättipiiri on saanut seuraajan."

Eiköhän jokainen piiri toimi tai ole toimimatta itsenäisesti. Jos kuvituskuva on (edellisestä?) piiristä, niin siinä näyttäisi olevan 12x7 = 84 itsenäistä piiriä ja veikkaan että piirien sisällä on myös tuplattu tiettyjä resursseja, että vika jossain kohtaa ei kosauta koko piiriä

 

[Kaotik]

"Cerebras Wafer Scale Engine rakentui jopa 1,2 biljoonasta transistorista ja oli käytännössä useita yhteen liitettyjä piirejä, joita ei irroteta toisistaan piikiekkoa leikatessa. Nyt jättipiiri on saanut seuraajan."

Eiköhän jokainen piiri toimi tai ole toimimatta itsenäisesti. Jos kuvituskuva on (edellisestä?) piiristä, niin siinä näyttäisi olevan 12x7 = 84 itsenäistä piiriä ja veikkaan että piirien sisällä on myös tuplattu tiettyjä resursseja, että vika jossain kohtaa ei kosauta koko piiriä

On ihan siitä uudesta piiristä, mutta samalta se vanhakin näyttää. Cerebrasin mukaan heillä on 100% saannot koska piiri on rakennettu kiertämään kaikki valmistusongelmat.
Käytännössä se tarkoittaa kuitenkin vain sitä, että piireillä on rutkasti enemmän ytimiä kuin mainostetaan, ekassa sukupolvessa vissiin jopa 50 % extraa mutta koska TSMC:n prosessit on niin hyviä niin 2. sukupolvessa vähemmän extraa kuin ekassa.
(Cerebras Unveils Wafer Scale Engine Two (WSE2): 2.6 Trillion Transistors, 100% Yield)

 

[sushukka]

Scifihörhönä tuli heti mieleen että kun tässä mennään jokunen vuosikymmen/sata eteenpäin, niin näinköhän tämänlaisia on fyysisesti meidän tulevat tekoälynoodit? Tämä on Richard ja tuo tuolla on Emilia. Richardilla on muutama miljoona laskentayksikköä palanut, niin se on vähän hitaampi nykyään. Pystyy kuitenkin hoitamaan helposti normaalin "ihmismäisen" kanssakäymisen vielä noin 100 000 samanaikaisen käyttäjän kanssa. Ovat kummatkin vielä suhteellisen vanhaa valmistustekniikkaa, niin sähköä menee muutama megawatti.

Näitä tarinoita on scifi-kirjat täynnä, mutta onhan tuo mielenkiintoista seurata kuinka nykyään ihan käytännössä tapaillaan näitä ensiaskelia. Liekö sitten mahdollista saavuttaa oikeasti se singulariteetti että jäädään koneelle kakkoseksi, mutta kehitys tulee olemaan reipasta ainakin jos katsoo kuinka voimakkaasti valtiot sekä yritykset investoivat nyt ai-puolelle.

 

[zepi]

On ihan siitä uudesta piiristä, mutta samalta se vanhakin näyttää. Cerebrasin mukaan heillä on 100% saannot koska piiri on rakennettu kiertämään kaikki valmistusongelmat.
Käytännössä se tarkoittaa kuitenkin vain sitä, että piireillä on rutkasti enemmän ytimiä kuin mainostetaan, ekassa sukupolvessa vissiin jopa 50 % extraa mutta koska TSMC:n prosessit on niin hyviä niin 2. sukupolvessa vähemmän extraa kuin ekassa.
(Cerebras Unveils Wafer Scale Engine Two (WSE2): 2.6 Trillion Transistors, 100% Yield)

Siellä on luokkaa 1% extraytimiä.

Anandtechistä lainaus: ”Cerebras achieves 100% yield by designing a system in which any manufacturing defect can be bypassed – initially Cerebras had 1.5% extra cores to allow for defects, but we’ve since been told this was way too much as TSMC's process is so mature.”.

Cerebras Unveils Wafer Scale Engine Two (WSE2): 2.6 Trillion Transistors, 100% Yield

www.anandtech.com

 

[Kaotik]

Siellä on luokkaa 1% extraytimiä.

Anandtechistä lainaus: ”Cerebras achieves 100% yield by designing a system in which any manufacturing defect can be bypassed – initially Cerebras had 1.5% extra cores to allow for defects, but we’ve since been told this was way too much as TSMC's process is so mature.”.

Cerebras Unveils Wafer Scale Engine Two (WSE2): 2.6 Trillion Transistors, 100% Yield

www.anandtech.com

Jahas, onkohan siellä korjattu 1.5x > 1.5% vai iskikö mulla vain lukihäriö

 

[TunTuri]

Jahas, onkohan siellä korjattu 1.5x > 1.5% vai iskikö mulla vain lukihäriö

No jokatapauksessa, tuommonen reilu prossa on jo aika hyvä, nielin ihan pureskelematta tuon 50%, mutta.. aika mainiota!

 

[Moradin]

Joku kun mietti että miten tuo jäähtyy, niin jäähtyyhän se ydinvoimalakin paitsi jos sillä tehdään jotain epämääräisiä kokeita niin kuin Tsernobylissä tasan 35v sitten