Vuoto: AMD julkaisee uudet Instinct-laskentakortit marraskuussa

[Kaotik]

Kaotik kirjoitti uutisen/artikkelin:
AMD ilmoitti aiemmin eriyttävänsä näytönohjaintensa kehitystyön pelikäyttöön suunniteltuihin RDNA-arkkitehtuureihin ja laskentakäyttöön suunniteltuihin CDNA-arkkitehtuureihin. Yhtiö on lisäksi varmistanut aiemmin, että ensimmäinen uuden sukupolven laskentakortti tullaan julkaisemaan kuluvan vuoden aikana.

Nyt tuttu vuotaja momomo_us on löytänyt Aroged-sivustolta mielenkiintoisen artikkelin, jossa on vähät välitetty salassapitosopimuksista. Arogedin julkaisemassa artikkelissa paljastetaan tietoja AMD:n kumppaneille tarkoitetun AMD Corporate Identity -julkaisun tuoreimmasta painoksesta, joka löytyy yhtiön verkkosivujen salasanoin suojatulta osiolta.

Arogedin mukaan AMD tulee tiputtamaan laskentakorteistaan näytönohjaimista juonnetun Radeon-brändäyksen. Radeon Instinct -laskentakorttien sijasta uuden sukupolven CDNA-laskentakortit tullaan tuntemaan yksinkertaisesti AMD Instinct -nimellä. Laskentakorttien uuden brändäyksen salassapitovelvollisuus päättyy sivuston ottaman kuvankaappauksen mukaan 16. marraskuuta, joka lienee samalla uuden arkkitehtuurin julkaisupäivä.



AMD tulee julkaisemaan Instinct-sarjaan MI100-, V640- ja V620 -mallit. Toistaiseksi MI- ja V-sarjojen eroista ei ole tarkempaa tietoa. Niiden kaikkien odotetaan kuitenkin perustuvan Arcturus-koodinimelliseen ensimmäiseen CDNA-piiriin, joka rakentuu vuotaneiden tietojen perusteella peräti 128 Compute Unit -yksiköstä. Laskentakorteista on tiputettu AMD:n Linux-päivitysten mukaan täysin tuki 3D-puolelle, eli ne eivät soveltuisi käyttettäviksi näytönohjaimina edes teoriassa.

Lähde: momomo_us @ Twitter, Aroged

Linkki alkuperäiseen juttuun

 

[Johan_V]

Mielenkiintoista, mutta miten mahtaa deep learning onnistua? Ainakin tähän asti Tensorflow ei ole toiminut kunnolla AMD:n korteilla.

 

[Kaotik]

Mielenkiintoista, mutta miten mahtaa deep learning onnistua? Ainakin tähän asti Tensorflow ei ole toiminut kunnolla AMD:n korteilla.

Kyllä Tensorflow on ROCm:ssä tuettu? Tuo osaa tiettävästi vähintään 8xINT4- ja 4xINT8-nopeudet tekoälyhommiin (kuten tietyt GCN ja RNDA sirutkin), mutta ei tietoa onko jotain uuttakin tulossa sille rintamalle.

 

[Johan_V]

Kyllä Tensorflow on ROCm:ssä tuettu? Tuo osaa tiettävästi vähintään 8xINT4- ja 4xINT8-nopeudet tekoälyhommiin (kuten tietyt GCN ja RNDA sirutkin), mutta ei tietoa onko jotain uuttakin tulossa sille rintamalle.

Periaatteessa kyllä, mutta toteutukset ovat ymmärtääkseni bugisia ja vaikeita saada toimimaan kunnolla. Nvidialla on huomattava etumatka. Ehkäpä AMD panostaa enemmän ajuripuoleen kun laskentakortit tulevat markkinoille. Lisäksi float ei kai ole tuettu.

 

[Kaotik]

Periaatteessa kyllä, mutta toteutukset ovat ymmärtääkseni bugisia ja vaikeita saada toimimaan kunnolla. Nvidialla on huomattava etumatka. Ehkäpä AMD panostaa enemmän ajuripuoleen kun laskentakortit tulevat markkinoille. Lisäksi float ei kai ole tuettu.

Mikä float? Eri liukuluformaattien listahan on pitkä kuin nälkävuosi kun jokainen tuo ties mitä uusia formaatteja mukaan harvase vuosi
Onhan noita Radeon Instinct -laskentakortteja ollut markkinoilla ja käytössä ties miten pitkään jo, ei ne mikään uusi asia ole. Uutta on vain että se on erillään näyttiksistä (ja tiettävästi jatkaa vahvemmin GCN:n linjoilla, sehän oli laskentahommissa pätevä arkkitehtuuri)

 

[Johan_V]

Mikä float? Eri liukuluformaattien listahan on pitkä kuin nälkävuosi kun jokainen tuo ties mitä uusia formaatteja mukaan harvase vuosi
Onhan noita Radeon Instinct -laskentakortteja ollut markkinoilla ja käytössä ties miten pitkään jo, ei ne mikään uusi asia ole. Uutta on vain että se on erillään näyttiksistä (ja tiettävästi jatkaa vahvemmin GCN:n linjoilla, sehän oli laskentahommissa pätevä arkkitehtuuri)

Ei mikään float, ainakin joiden lähteiden mukaan. Mutta ei voi tietää johtuuko bugisesta toteutuksesta vai mistä kun AMD:n käytöstä Tensorflowin kanssa on ylipäänsä hyvin vähän ohjeita.

 

[Kaotik]

Ei mikään float, ainakin joiden lähteiden mukaan. Mutta ei voi tietää johtuuko bugisesta toteutuksesta vai mistä kun AMD:n käytöstä Tensorflowin kanssa on ylipäänsä hyvin vähän ohjeita.

Sinun kannattaa olla jatkossa spesifimpi sen suhteen mitä tarkoitit, ilmeisesti tarkoitit siis liukulujen käyttöä Tensorflowssa, et liukulukuja yleisesti ja vielä tarkemmin nimenomaan niiden käyttöä Tensorflowssa Radeon RX 5700:lla (tai muulla Navi-arkkitehtuuriin perustuvalla näyttiksellä)
Syyllisen etsimiseenkään ei olisi mennyt kauaa jos edes vähän olisi vilkaissut AMD:n ROCm sivuja. GFX10 (ts RDNA/Navi) kun ei tällä haavaa ole tuettujen joukossa ollenkaan niin onko se joku ihme, jos ei toimi?

 

[Johan_V]

Sinun kannattaa olla jatkossa spesifimpi sen suhteen mitä tarkoitit, ilmeisesti tarkoitit siis liukulujen käyttöä Tensorflowssa, et liukulukuja yleisesti ja vielä tarkemmin nimenomaan niiden käyttöä Tensorflowssa Radeon RX 5700:lla (tai muulla Navi-arkkitehtuuriin perustuvalla näyttiksellä)
Syyllisen etsimiseenkään ei olisi mennyt kauaa jos edes vähän olisi vilkaissut AMD:n ROCm sivuja. GFX10 (ts RDNA/Navi) kun ei tällä haavaa ole tuettujen joukossa ollenkaan niin onko se joku ihme, jos ei toimi?

Koska koko ajan on puhuttu Tensorflowista, niin en uskonut olevan kovinkaan suuri hyppäys ymmärtää että tarkoitin float tukea Tensorflowissa. Olisi mukava siirtyä AMD:en, mutta kun näyttää että mikään hyötykäyttöön liittyvä ei toimi kunnolla, tai jos toimii niin helvetin bugisesti.

 

[Kaotik]

Koska koko ajan on puhuttu Tensorflowista, niin en uskonut olevan kovinkaan suuri hyppäys ymmärtää että tarkoitin float tukea Tensorflowissa. Olisi mukava siirtyä AMD:en, mutta kun näyttää että mikään hyötykäyttöön liittyvä ei toimi kunnolla, tai jos toimii niin helvetin bugisesti.

Kun näissä (näytönohjaimet, laskenta, tekoäly jne) yhteyksissä floateilla tarkoitetaan usein myös eri liukulukuformaatteja niin paha siitä oli tietää kumpaa nyt tarkoitetaan.
Aika absurdia väittää, että "näyttäisi ettei mikään hyötykäyttöön liittyvä toimi kunnolla" kun otantasi on yksi sovellus ja rajapinta, joka ei tue korttia jolla sitä koitat ajaa. Samaan vaivaan haukkunet myös CUDAt sun muut bugisiksi kun eivät toimi korteilla, jotka ei sitä rajapintaa tue?

 

[Johan_V]

Kun näissä (näytönohjaimet, laskenta, tekoäly jne) yhteyksissä floateilla tarkoitetaan usein myös eri liukulukuformaatteja niin paha siitä oli tietää kumpaa nyt tarkoitetaan.
Aika absurdia väittää, että "näyttäisi ettei mikään hyötykäyttöön liittyvä toimi kunnolla" kun otantasi on yksi sovellus ja rajapinta, joka ei tue korttia jolla sitä koitat ajaa. Samaan vaivaan haukkunet myös CUDAt sun muut bugisiksi kun eivät toimi korteilla, jotka ei sitä rajapintaa tue?

Tällä hetkellä Deep learning == Tensorflow. En jaksa kaivaa löytyykö jostain tilastoa deep learningin osuudesta korttien hyötykäytössä, mutta veikkaisin että suurin osuus joka tapauksessa.

 

[Kaotik]

Tällä hetkellä Deep learning == Tensorflow. En jaksa kaivaa löytyykö jostain tilastoa deep learningin osuudesta korttien hyötykäytössä, mutta veikkaisin että suurin osuus joka tapauksessa.

Vaikka deep learning olisi vain tensorflowta, niin edelleen miten ihmeessä vedät johtopäätöksen "mikään hyötykäyttöön liittyvä ei toimi kunnolla" kun otantasi on kuluttajanäytönohjain rajapinnalla, joka ei tue kyseistä näytönohjainta? Vaikka jätettäisiin huomioitta se että hyötykäyttö on aika tavalla muutakin kuin syväoppimista, se olisi oikeastaan sama kuin valittaisit siitä ettei CUDA-sovellukset toimi heittämällä Radeoneilla.

 

[Sinfo]

AMD:n ROCM pitäisi teoriassa toimia ihan hyvin Vegalla/Polariksella. Testasin juuri tänään ja sain ainakin HIP:in toimimaan. Tensorflow:n ja PyTorch:n (tensorflow ei todellakaan ole yhtäkuin deep learning) kaltaiset deeplearning softat pitäisi toimia myös. Mutta koska AMD on uusi tällä markkinalla, niin bugeja löytyy ja myös uusia ongelmia, joihin ei vielä löydy valmista ratkaisua, kuten nVidian kanssa löytyisi. Mikä hankaloittaa AMD käyttöä merkittävästi.

Phoronixissa on seurattu ROCM kehitystystä ja se iänikuinen kysymys on milloin saadaan Navi tuki ja AMD:n kehittäjät ovat sanoneet, että se on kyllä tulossa. Mutta ei ole tiedossa milloin. Yleisenä toiveena on, että kun CDNA tulee, niin ROCM saisi merkkittävän parannuksen - mitä se kipeästi tarvitsee.

Eli siis summattuna, niitä ongelmia: ROCM on vielä oikeastaan beta tasolla. Tämä näkyy ongelmina asennuksessa, mikä ei todellakaan ole läpihuuto juttu. Lisäksi on ongelmat kolmannen osapuolen softassa, jonka tuki vähän mitä sattuu. ROCM stackiin kuuluu myös läjä kirjastoja (rocBLAS, rocFFT, rocSPARSE,...) ja työkaluja, jotka tuntuu olevan vähän vaiheessa kanssa. Lisäksi on dokumentaation, esimerkkien, tutoriaalien, yms. puutetta ymäriinsä.

Oma mielipiteeni on, että AMD voisi ihan oikeasti panostaa ROCM puolelle enemmän. Tällä menolla esim. LUMI on varmasti vajaa käytöllä pitkään valmistumisen jälkeen, kun ei ole vielä ohjelmat valmiina sitä vartan.

 

[Mechanical Man]

AMD:n ROCM pitäisi teoriassa toimia ihan hyvin Vegalla/Polariksella. Testasin juuri tänään ja sain ainakin HIP:in toimimaan. Tensorflow:n ja PyTorch:n (tensorflow ei todellakaan ole yhtäkuin deep learning) kaltaiset deeplearning softat pitäisi toimia myös. Mutta koska AMD on uusi tällä markkinalla, niin bugeja löytyy ja myös uusia ongelmia, joihin ei vielä löydy valmista ratkaisua, kuten nVidian kanssa löytyisi. Mikä hankaloittaa AMD käyttöä merkittävästi.

Phoronixissa on seurattu ROCM kehitystystä ja se iänikuinen kysymys on milloin saadaan Navi tuki ja AMD:n kehittäjät ovat sanoneet, että se on kyllä tulossa. Mutta ei ole tiedossa milloin. Yleisenä toiveena on, että kun CDNA tulee, niin ROCM saisi merkkittävän parannuksen - mitä se kipeästi tarvitsee.

Eli siis summattuna, niitä ongelmia: ROCM on vielä oikeastaan beta tasolla. Tämä näkyy ongelmina asennuksessa, mikä ei todellakaan ole läpihuuto juttu. Lisäksi on ongelmat kolmannen osapuolen softassa, jonka tuki vähän mitä sattuu. ROCM stackiin kuuluu myös läjä kirjastoja (rocBLAS, rocFFT, rocSPARSE,...) ja työkaluja, jotka tuntuu olevan vähän vaiheessa kanssa. Lisäksi on dokumentaation, esimerkkien, tutoriaalien, yms. puutetta ymäriinsä.

Oma mielipiteeni on, että AMD voisi ihan oikeasti panostaa ROCM puolelle enemmän. Tällä menolla esim. LUMI on varmasti vajaa käytöllä pitkään valmistumisen jälkeen, kun ei ole vielä ohjelmat valmiina sitä vartan.

Eiköhän nuo supertietokonevoitot missä myös AMD:n gpu:t ja yleinen AMD:n taloudellinen tilanne (joka siis on vasta lyhyen aikaa ollut hyvä) tuo resursseja sinne kehitykseen myös. Kehittäjien rekrytoiminen on aina silti oma ongelmansa myös AMD:n kokoisella firmalla, joten mitään super nopeaa resurssien nousua on vaikea uskoa näkyvän kuitenkaan.

 

[jive]

Ihan viisasta edetä yksi markkina kerrallaan. En jaksa uskoa että tekoälytuki olisi alue jossa on paljonkaan voitettavaa, koska NVIDIA on niin vahva. Jos siitä halutaan siivu pitää muut alueet rullata jo hyvin ja luoda kassavirtaa. Aikoinaan AMDllä oli Saksassa iso ohjelmistopaja joka lyötiin lihoiksi puolijohdevalmistuksen ohella kun yritettiin pitää firma pinnalla. Nyt jos pinnalla pysytään muutenkin, ohjelmistopuoli tehnee paluun varsinkin Xilinx kuvion takia.

 

[Mechanical Man]

Ihan viisasta edetä yksi markkina kerrallaan. En jaksa uskoa että tekoälytuki olisi alue jossa on paljonkaan voitettavaa, koska NVIDIA on niin vahva. Jos siitä halutaan siivu pitää muut alueet rullata jo hyvin ja luoda kassavirtaa. Aikoinaan AMDllä oli Saksassa iso ohjelmistopaja joka lyötiin lihoiksi puolijohdevalmistuksen ohella kun yritettiin pitää firma pinnalla. Nyt jos pinnalla pysytään muutenkin, ohjelmistopuoli tehnee paluun varsinkin Xilinx kuvion takia.

Xilinxin puolellahan on käsittääkseni tekoälyosaamista muutenkin. Pitäisi kyllä ostaa lisää mad osakkeita.