NVIDIA ja CINECA rakentavat maailman tehokkaimman tekoälysupertietokoneen

[Kaotik]

Kaotik kirjoitti uutisen/artikkelin:
NVIDIA on panostanut etenkin tekoälylaskentaan merkittävästi viimevuosina. Nyt yhtiö on ilmoittanut hankkeesta rakentaa maailman tehokkain tekoälysupertietokone yhteistyössä italialaisyliopistoista muodostuvan CINECA-konsortion kanssa.

NVIDIAn ja CINECAn supertietokone on ristitty Leonardoksi ja sen rakentaminen toteutetaan yhteistyössä ranskalaisen Atosin kanssa. Supertietokone perustuu Atosin BullSequana XH2000 -nodeihin, jotka rakentuvat neljästä NVIDIAn Ampere-arkkitehtuurin laskentapiiristä ja yhdestä Intelin tarkemmin määrittelemättömästä prosessorista. Yhteyksistä on vastuussa Mellanox HDR 200 Gb/s InfiniBand -verkko.

Yhteensä koko supertietokoneessa tulee olemaan lähes 14 000 GPU:ta. NVIDIA ei ole tarkantanut, mistä piireistä tarkemmin on kyse, mutta todennäköisimmin ne ovat laskentakäyttöön suunnattuja A100-piirejä. Koko supertietokoneessa tulee olemaan laskentatehoa noin 10 exaFLOPSia FP16-tarkkuudella. NVIDIA ei ilmoittanut supertietokoneen FP32-laskentatehoa, joten sen vertailu muiden supertietokoneiden teoreettiseen laskentatehoon ei tällä onnistu tällä haavaa.

Lähde: NVIDIA

Linkki alkuperäiseen juttuun

 

[moukula]

https://atos.net/wp-content/uploads/2020/07/BullSequanaXH2000_Features_Atos_supercomputers.pdf

Tämän mukaan XH2000-nodeissa Ampere-näyttiksien (A100) kanssa on saatavilla vain AMD-alusta. Intel-alustalla on Tesla V100.

 

[Kaotik]

https://atos.net/wp-content/uploads/2020/07/BullSequanaXH2000_Features_Atos_supercomputers.pdf

Tämän mukaan XH2000-nodeissa Ampere-näyttiksien (A100) kanssa on saatavilla vain AMD-alusta. Intel-alustalla on Tesla V100.

Eiköhän isot tilaajat saa juuri sellaisina kuin haluavat. Ja voihan kyseiset nodet tulla myös muiden saataville vaikkei ne sitä vielä olekaan.
ps. uutisen linkki korjattu oikeaksi

 

[Sinfo]

Tuo kone on yksi kolmesta EuroHPC koneista, ensimmäinen joka on nyt julkaistu.

Suomeen on tulossa samasta projektista Lumi, mutta sen laittestoa ei ole vielä julkaistu. Kone tulee käyttöön ensi vuoden alussa, joten rakennus työt on jo varmasti hyvässä mallissa (kesällä aloitettu). Ennakkotietojen mukaan sen pitäisi olla tuota Italian konetta kolmanneksen tehokaampi, mutta saas nähdä miten käy.

CSC piti Lumista esitelmän toukokuussa tutkijoille ja sanoivat siellä, että laskenta solmussa on kaksi 64-ytimistä CPUta, joten zen3 epyc on aika varmasti koneessa. Samassa tilaisuudessa sanoivat, että GPUta ei ole vielä päätetty ja testit, joiden mukaan päätös tehdään, ovat kesäkuussa. Vaihtoehtoina ovat amd ja nvidia ja testien jälkeen kesällä tiedotettaisiin koneen arkkitehtuuri. Sitä ei ole vieläkään tiedotettu, joten alkaa menemään viimetippaan. Itse veikkaan, että Lisa Su julkaiseen Lumin speksit zen3 epyc julkaisussa. Mutta saas nähdä miten käy.

Ja tuosta Intel-alustasta. Intel ei ole oikein kovassa huudossa HPC puolella tällähetkellä. Melkein voisi sanoa, että ketään ei kiinnosta mitä intel tarjoa, mutta kaikki haluaa kuulla mitä AMDllä on. Ongelmanahan intelillä on energiatehokkuus (yksi EuroHPC projektin pääkriteereistä) ja PCIe 4.0 puute.

 

[Kaotik]

Tuo kone on yksi kolmesta EuroHPC koneista, ensimmäinen joka on nyt julkaistu.

Suomeen on tulossa samasta projektista Lumi, mutta sen laittestoa ei ole vielä julkaistu. Kone tulee käyttöön ensi vuoden alussa, joten rakennus työt on jo varmasti hyvässä mallissa (kesällä aloitettu). Ennakkotietojen mukaan sen pitäisi olla tuota Italian konetta kolmanneksen tehokaampi, mutta saas nähdä miten käy.

CSC piti Lumista esitelmän toukokuussa tutkijoille ja sanoivat siellä, että laskenta solmussa on kaksi 64-ytimistä CPUta, joten zen3 epyc on aika varmasti koneessa. Samassa tilaisuudessa sanoivat, että GPUta ei ole vielä päätetty ja testit, joiden mukaan päätös tehdään, ovat kesäkuussa. Vaihtoehtoina ovat amd ja nvidia ja testien jälkeen kesällä tiedotettaisiin koneen arkkitehtuuri. Sitä ei ole vieläkään tiedotettu, joten alkaa menemään viimetippaan. Itse veikkaan, että Lisa Su julkaiseen Lumin speksit zen3 epyc julkaisussa. Mutta saas nähdä miten käy.

Ja tuosta Intel-alustasta. Intel ei ole oikein kovassa huudossa HPC puolella tällähetkellä. Melkein voisi sanoa, että ketään ei kiinnosta mitä intel tarjoa, mutta kaikki haluaa kuulla mitä AMDllä on. Ongelmanahan intelillä on energiatehokkuus (yksi EuroHPC projektin pääkriteereistä) ja PCIe 4.0 puute.

Onko tuo siis eri kuin 2019 aloitettu BullSequanoihin perustuva CSC:n supertietokone? Sen kakkosvaiheen piti valmistua 2020 ja perustua Rome Epyceihin (Zen 2), silloin ei ollut mitään mainintaa että tulisia erillisiä laskentakiihdyttimiä (ts GPUita) kakkosvaiheeseen. Ykkösvaiheessa oli Xeon Scalablet + NVIDIA V100:t

 

[Sinfo]

Onko tuo siis eri kuin 2019 aloitettu BullSequanoihin perustuva CSC:n supertietokone? Sen kakkosvaiheen piti valmistua 2020 ja perustua Rome Epyceihin (Zen 2), silloin ei ollut mitään mainintaa että tulisia erillisiä laskentakiihdyttimiä (ts GPUita) kakkosvaiheeseen. Ykkösvaiheessa oli Xeon Scalablet + NVIDIA V100:t

Tuo on mistä puhut on Mahti. Se on ollut käytössä elokuusta lähtien ja on Suomen "oma" kone. Lumi on yhteistyöhanke.

 

[Mawe]

Tuo on mistä puhut on Mahti. Se on ollut käytössä elokuusta lähtien ja on Suomen "oma" kone. Lumi on yhteistyöhanke.

Mahti vaikuttaa aika myllyltä.

Mitenkä tuollaiset superkoneet, niihin kait saa jotain osaa lisättyä, mutta ovatko pääasiassa käytössä sellaisenaan niin pitkään kuin hyötyä, vai voiko niitä modernisoida?
Luulisi et alkaa olla modernisointi hankalaa kun kaikki viheltää sellaista vauhtia kehittyä.

 

[Raikku]

Eli kannattaa alkaa jo hyvissä ajoin hamstraamaan säilykkeitä ja ammuksia?

 

[ratkakapu]

Mahti vaikuttaa aika myllyltä.

Mitenkä tuollaiset superkoneet, niihin kait saa jotain osaa lisättyä, mutta ovatko pääasiassa käytössä sellaisenaan niin pitkään kuin hyötyä, vai voiko niitä modernisoida?
Luulisi et alkaa olla modernisointi hankalaa kun kaikki viheltää sellaista vauhtia kehittyä.

Levytilaa voi usein lisäillä, mutta muuten mennään aikalailla sellaisena minä on aloitettu. Sitten kun aika ajaa ohi, niin rakennetaan uusi, jos tarvetta on edelleen. Vanhat pysyvät kyllä pitkään käytössä usein, mutta siirtyvät ison rahan tutkimuksen kärkihankkeista esim koulutukäyttöön siinä vaiheessa kun alkavat jäämään uudempien jalkoihin.

Joskus noille kehitetään niin spesifiä ohjelmistoa, että ajavat sitä siihen asti kunnes fyysisesti menevät rikki ja korvaavia osia ei enää edes rahalla saa ja sit lähtevät kierrätykseen.

 

[aild]

Taas ollaan askeleen lähempänä skynet:ia.

 

[xtomppax]

Jokohan tällä olisi jo 8K 144FPS mahdollista.

 

[Mawe]

Levytilaa voi usein lisäillä, mutta muuten mennään aikalailla sellaisena minä on aloitettu. Sitten kun aika ajaa ohi, niin rakennetaan uusi, jos tarvetta on edelleen. Vanhat pysyvät kyllä pitkään käytössä usein, mutta siirtyvät ison rahan tutkimuksen kärkihankkeista esim koulutukäyttöön siinä vaiheessa kun alkavat jäämään uudempien jalkoihin.

Joskus noille kehitetään niin spesifiä ohjelmistoa, että ajavat sitä siihen asti kunnes fyysisesti menevät rikki ja korvaavia osia ei enää edes rahalla saa ja sit lähtevät kierrätykseen.

Tätä vähän mietinkin.

Jokohan tällä olisi jo 8K 144FPS mahdollista.

Ei ilman microstutteria.

 

[jive]

Tuo kone on yksi kolmesta EuroHPC koneista, ensimmäinen joka on nyt julkaistu.

Suomeen on tulossa samasta projektista Lumi, mutta sen laittestoa ei ole vielä julkaistu. Kone tulee käyttöön ensi vuoden alussa, joten rakennus työt on jo varmasti hyvässä mallissa (kesällä aloitettu). Ennakkotietojen mukaan sen pitäisi olla tuota Italian konetta kolmanneksen tehokaampi, mutta saas nähdä miten käy.

CSC piti Lumista esitelmän toukokuussa tutkijoille ja sanoivat siellä, että laskenta solmussa on kaksi 64-ytimistä CPUta, joten zen3 epyc on aika varmasti koneessa. Samassa tilaisuudessa sanoivat, että GPUta ei ole vielä päätetty ja testit, joiden mukaan päätös tehdään, ovat kesäkuussa. Vaihtoehtoina ovat amd ja nvidia ja testien jälkeen kesällä tiedotettaisiin koneen arkkitehtuuri. Sitä ei ole vieläkään tiedotettu, joten alkaa menemään viimetippaan. Itse veikkaan, että Lisa Su julkaiseen Lumin speksit zen3 epyc julkaisussa. Mutta saas nähdä miten käy.

Ja tuosta Intel-alustasta. Intel ei ole oikein kovassa huudossa HPC puolella tällähetkellä. Melkein voisi sanoa, että ketään ei kiinnosta mitä intel tarjoa, mutta kaikki haluaa kuulla mitä AMDllä on. Ongelmanahan intelillä on energiatehokkuus (yksi EuroHPC projektin pääkriteereistä) ja PCIe 4.0 puute.

Olisi mielenkiintoista jos AMD CPUn rinnalla nähtäisiin Intel Xe HPC kortteja. Silloin voisi jo puhua markkinoiden muuttumisesta...

 

[Sami Riitaoja]

Tälläisiä tietoja julkaistu tuosta Lumista. oikeellisuudesta ei tietoa.

AMD-Based Finnish Supercomputer Will Be One of World's Most Powerful in Mid-2021

At 0.55 ExaFLOPS, EuroHPC's LUMI will challenge world's most powerful systems

www.tomshardware.com

Eli olis Epyc Milan ja AMD next gen GPU

 

[Kaotik]

Tälläisiä tietoja julkaistu tuosta Lumista. oikeellisuudesta ei tietoa.

AMD-Based Finnish Supercomputer Will Be One of World's Most Powerful in Mid-2021

At 0.55 ExaFLOPS, EuroHPC's LUMI will challenge world's most powerful systems

www.tomshardware.com

Eli olis Epyc Milan ja AMD next gen GPU

Kyllä se ihan virallista on

https://www.hpe.com/us/en/newsroom/press-release/2020/10/hewlett-packard-enterprise-wins-160m-contract-to-power-one-of-the-worlds-fastest-supercomputers-based-in-finland-to-bolster-europes-research-in-science-and-unlock-economic-growth.html

 

[demu]

Tälläisiä tietoja julkaistu tuosta Lumista. oikeellisuudesta ei tietoa.

AMD-Based Finnish Supercomputer Will Be One of World's Most Powerful in Mid-2021

At 0.55 ExaFLOPS, EuroHPC's LUMI will challenge world's most powerful systems

www.tomshardware.com

Eli olis Epyc Milan ja AMD next gen GPU

Tiedot löytyvät suomalaisistakin lähteistä:

Suomalaisen Lumi-supertietokoneen huimat speksit paljastuivat – maailmanlistan nykyinen ykkönenkin kalpenee

Lumi-tietokone käynnistetään ensi vuonna Kajaanissa.

www.tivi.fi

...
Ensi vuonna Tieteen tietotekniikan keskus CSC:n Kajaanin datakeskuksessa toimintansa aloittava Lumi-supertietokone yltää suunnitelmien mukaan yli 550 petaflopsin laskentatehoon, eli se tekee 550 miljoonaa miljardia 64-bittisten liukulukujen laskuoperaatiota sekunnissa.
...
Sen laskentateho perustuu pääosin grafiikkaprosessoreihin, jotka ovat seuraavan sukupolven AMD Instinct GPU-suorittimia. Koneessa on myös perinteisiin prosessoreihin (CPU) perustuva osio, jossa on 64-ytimisiä seuraavan sukupolven AMD EPYC -suorittimia.
...
Lumi-supertietokoneen data-analytiikkapartitiossa on 32 teratavun suuruinen jaettu muisti ja 64 visualisointiin tarkoitettua grafiikkakorttia. Tätä osiota käytetään esimerkiksi datan esi- ja jälkikäsittelyyn ja visualisointiin.
Koneen tallennusjärjestelmä rakentuu kolmesta kerroksesta: 7 petatavun huippunopea flash-teknologiaan perustuva levyjärjestelmä ja 80 petatavun perinteisempi rinnakkaislevyjärjestelmä. Lisäksi koneessa on 30 petatavun datanhallintajärjestelmä.
Yhteensä koneessa on tallennustilaa 117 petatavua. Flash-teknologiaan perustuva levyjärjestelmä siirtää dataa levyltä laskentanoodien (=solmujen) muistiin tai sieltä pois kahden teratavun sekuntivauhdilla.
Lumi-koneen eri osiot on kytketty Crayn omaan erittäin nopeaan Slingshot-kytkinverkkoon (200 Gbit/s). GPU-osion kytkinverkon globaali kaistanleveys on 160 Tt/s.
...

 

[Kaotik]

LUMI-settien jatkot:

Suomeen rakennetaan Euroopan tehokkain supertietokone LUMI - io-tech.fi

AMD:n Zen 3 -arkkitehtuurin Epyc-prosessoreihin ja seuraavan sukupolven Instinct-laskentakortteihin perustuva supertietokone tarjoaa maksimissaan 550 petaFLOPSia laskentavoimaa.

www.io-tech.fi

Suomeen rakennetaan Euroopan tehokkain supertietokone LUMI

Kaotik kirjoitti uutisen/artikkelin: Suomeen rakennetaan uusi supertietokone. CSC – Tieteen tietotekniikan keskuksen Kajaanin datakeskukseen rakennettava supertietokone tullaan tuntemaan nimellä LUMI (Large Unified Modern Infrastructure) ja se on osa EU:n EuroHPC-projektia. LUMI perustuu...

bbs.io-tech.fi