AMD julkaisi lisää Ryzen AI Max -testejä myyntioppaassa

[Kaotik]

AMD julkisti CES 2025 -messuilla muiden muassa uudet Ryzen AI Max -sarjan prosessorit erittäin järeällä integroidulla GPU:lla. Messuilla julkaistiin kourallinen testejä, joissa verrokkina oli muita integroituja ratkaisuja.

Nyt AMD on julkaissut virallisen oppaan Ryzen AI Max -prosessoreiden myyntiä varten, joka sisältää paitsi CES-messuilla nähdyt testit, myös ensimmäiset erillisnäytönohjaimia vastaan ajetut testit. Testeissä verrattiin Asuksen ROG Flow Z13 -kannettavaa Intelin Core i9-13900H -prosessorilla ja NVIDIAn GeForce RTX 4070 -mobiilinäytönohjaimella nimetöntä AMD:n Ryzen AI Max+ 395 -prosessorilla varustettua kannettavaa vastaan. AMD:n mukaan RTX 4070:llä varustetut kannettavat kilpailevat Ryzen AI Max+ 395:iä vastaan samankaltaisella TDP:llä ja samoissa kokoluokissa.



AMD:n testien mukaan Ryzen AI Max+ 395:n Radeon 8060S -näytönohjaimella voittaa Core i9-13900H:lla ja RTX 4070 -mobiilinäytönohjaimella jokaisessa testatussa pelissä, joskin osassa tapauksia ne ovat likimain tasoissa eron ollessa vain yksittäisiä ruutuja sekunnissa. Pienimmillään ero on 1 FPS Counter-Strike 2:ssa ja Shadow of the Tomb Raiderissa ja suurimmillaan Borderlands 3:n 45 FPS (68 %), Baldur’s Gate 3:n 30 FPS (53 %) ja Hitman 3:n 62 FPS (50 %). Kaikkien pelien keskimääräinen ero on 23 %. Testit on ajettu 1080p-resoluutiolla ilman skaalauksia tai ruutujen generointia tai muita vastaavia kikkoja. Testattuja pelejä on yhteensä 17 ja ne edustavat laajaa kattausta pääasiassa AAA-luokan pelejä.

Lähde: AMD (PDF)

 

[finWeazel]

2.2x 4090 llama flopsissa/ai:saa harhaanjohtaminen jatkuu näemmä yhä. Malliversio(4bit 79B) vaatii muistia vajaan 50GB. 4090:en menee swapille pcie:n yli keskusmuistiin, hidas kuin mikä swappaamisen takia.

APU isolla muistilla kyllä hyvä llaman kanssa. APUun saa isomman muistin kuin peli gpu:hun asian olisi voinut ilmaista vähemmän harhaanjohtavasti. Nimimerkillä yksi syy monien joukossa ostaa macbooki 128GB muistilla oli isot kielimallit.

 

[Moilaps]

Suorituskyky vaikuttaa hyvältä, mutta käytännössä ratkaisu lisää hintaa ja idle virrankulutusta.

 

[Alatuberkuloosi]

2.2x 4090 llama flopsissa/ai:saa harhaanjohtaminen jatkuu näemmä yhä. Malliversio(4bit 79B) vaatii muistia vajaan 50GB. 4090:en menee swapille pcie:n yli keskusmuistiin, hidas kuin mikä swappaamisen takia.

AMD olisi kyllä voinut ottaa NVIDIAan yhteyttä että mitä testejä käytettäis että saadaan markkinointimateriaaleista reilut

Itse uutiseen, olen miettinyt pikkutietokonetta jossa olisi AI Max -prosessori, 370 tai ehkä 395+ ja oculink pelaamista varten. 395+ jättäisi tarpeen oculinkille aikalailla pois. Alkaa pian saamaan...

 

[pomk]

2.2x 4090 llama flopsissa/ai:saa harhaanjohtaminen jatkuu näemmä yhä. Malliversio(4bit 79B) vaatii muistia vajaan 50GB. 4090:en menee swapille pcie:n yli keskusmuistiin, hidas kuin mikä swappaamisen takia.

Miksei laitteen muistikapasiteettia saisi hyödyntää laskennassa? Ja miksei ilmeisen todellisia suorituskykylukuja saisi käyttää markkinoinnissa?

Väite on aika tarkkarajainen tuossa jopa "fastest x86 consumer ai pc to run llama 70B llm".
Millä tapaa väite on "harhaanjohtava"? Väitteen asettelu antaa ymmärtää että väite käsittää vain x86 prossut ja ei ainakaan paljon alle 70B malleja.

edit: joku käppyrä jossa y akselilla on suorituskyky ja x akselilla mallin koko olis ollu toki ehkä informatiivisempi ja kertonut selkeämmin että missä kohtaa (ja miksi) 4090 myllytetään suorituskyvyssä. Siitä näkisi kanssa että kerroin senkun kasvaa mitä isommaksi mallit tuosta 70B:stä kasvavat. Joku 160B varmaan mahtuis vielä.

 

[moukula]

2.2x 4090 llama flopsissa/ai:saa harhaanjohtaminen jatkuu näemmä yhä. Malliversio(4bit 79B) vaatii muistia vajaan 50GB. 4090:en menee swapille pcie:n yli keskusmuistiin, hidas kuin mikä swappaamisen takia.

APU isolla muistilla kyllä hyvä llaman kanssa. APUun saa isomman muistin kuin peli gpu:hun asian olisi voinut ilmaista vähemmän harhaanjohtavasti. Nimimerkillä yksi syy monien joukossa ostaa macbooki 128GB muistilla oli isot kielimallit.

Kuis harhaanjohtava? Osoittaa vaan hyvin, että mikäli workflow vaatii paljon muistia ja hyötyy GPU-kiihdytyksestä, niin silloin perus desktop-pc 4090:llä on huono valinta. Kun lukee benchmarkkeja niin omalla vastuulla on osata tulkita että mitä mikäkin luku käytännössä tarkoittaa.

 

[finWeazel]

Kuis harhaanjohtava? Osoittaa vaan hyvin, että mikäli workflow vaatii paljon muistia ja hyötyy GPU-kiihdytyksestä, niin silloin perus desktop-pc 4090:llä on huono valinta. Kun lukee benchmarkkeja niin omalla vastuulla on osata tulkita että mitä mikäkin luku käytännössä tarkoittaa.

Toinen laite swappaa hitaan väylän yli ja toisessa malli mahtuu kokonaan nopeaan muistiin. Tätä ole avattu slaidissa. Olisi vaikka voinut asteriskin päähän laittaa model uses 46GB memory tms.

 

[Halpuuttaja]

4090:en menee swapille pcie:n yli keskusmuistiin, hidas kuin mikä swappaamisen takia.

Ei vissiin ihan noin mene vaan mallin layereitä laitetaan niin monta GPU:n muistiin kuin mahtuu, loput layerit CPU:lle ja niiden inferenssi myöskin lasketaan CPU:lla (tässä tapauksessa Ryzen 7900X).

Tätä ole avattu slaidissa.

Kyllä slaidissa linkattiin Nvidian blogiin, jossa kerrotaan miten CPU offloading LM Studiossa (eli llama.cpp:ssä) hoituu.

 

[pomk]

Toinen laite swappaa hitaan väylän yli ja toisessa malli mahtuu kokonaan nopeaan muistiin. Tätä ole avattu slaidissa. Olisi vaikka voinut asteriskin päähän laittaa model uses 46GB memory tms.

Niin. Eikös ton amd:n laitteen koko pointti ole että siihen saa halvalla paljon muistia? Kyllä kaikki sen ostavat ymmärtävät että ostavat muistikapasiteettia.

Outoa että moista etua ei saisi markkinointimateriaaleissa näyttää käytännön esimerkillä.

 

[pomk]

Kyllä slaidissa linkattiin Nvidian blogiin, jossa kerrotaan miten CPU offloading LM Studiossa (eli llama.cpp:ssä) hoituu.

Ja lukee kans että nvidian laitteen TDP on jo itsessään noin kahdeksankertainen.

 

[finWeazel]

Miksei laitteen muistikapasiteettia saisi hyödyntää laskennassa? Ja miksei ilmeisen todellisia suorituskykylukuja saisi käyttää markkinoinnissa?

Tottakai saa hyödyntää. Olisi tosin suotavaa kertoa mitä markkinointislaidin 2.2x luvun takana on ettei synny väärinymmärrystä. Samankaltainen tapaus kuin miksi nvidian framegen dlss4 fps:at ovat harhaanjohtavaa.

 

[pomk]

Samankaltainen tapaus kuin miksi nvidian framegen dlss4 fps:at ovat harhaanjohtavaa.

Toki tässä yhteydessä sentään lasketaan samat laskut ja saadaan sama lopputulos, toisin ku frame gen hommassa.

Tottakai saa hyödyntää. Olisi tosin suotavaa kertoa mitä markkinointislaidin 2.2x luvun takana on ettei synny väärinymmärrystä.

Miten tuon voisi väärinymmärtää? Luvun laskentatapa on ymmärtääkseni aika selvä.

 

[Halpuuttaja]

Ja lukee kans että nvidian laitteen TDP on jo itsessään noin kahdeksankertainen.

Tossa testiskenaariossa tosin aika järjetöntä ihmetellä 4090:n TDP:tä kun se idlaa suurimman osan ajasta odotellen prossun saavan oman osuutensa valmiiksi. Prossun kulutus varmaan se merkittävämpi jopa, koska sitä käytetään ylivoimainen valtaosa ajasta, jos layerit jaettu 50/50.

Silloinkin kun 4090:llä ajetaan kaikki layerit VRAMissa niin jäädään johonkin 2/3 TDP:stä.

 

[Alatuberkuloosi]

Mun mielestä noissa dioissa olis voinut käyttää 3DMark2001 -testiä, siinä on aivan hiton hieno se aulakohtaus. Siinä testissä ei myöskään kuulu mitään säälittävää ulinaa.

Mutta asiaan, mietin että tämä kun on tehokkain APU mitä on tehty niin aletaan vihdoinkin olla pisteessä että erillissen näytönohjaimen voi ihan oikeasti jättää pois 1080p resoluutiolla jos on hieman vaatimattomampi, mutta ei edes tarvitse luopua paljosta. High -asetuksilla aletaan olla raskaissa peleissä 60+ fps

 

[zepi]

Mun mielestä noissa dioissa olis voinut käyttää 3DMark2001 -testiä, siinä on aivan hiton hieno se aulakohtaus. Siinä testissä ei myöskään kuulu mitään säälittävää ulinaa.

Mutta asiaan, mietin että tämä kun on tehokkain APU mitä on tehty niin aletaan vihdoinkin olla pisteessä että erillissen näytönohjaimen voi ihan oikeasti jättää pois 1080p resoluutiolla jos on hieman vaatimattomampi, mutta ei edes tarvitse luopua paljosta. High -asetuksilla aletaan olla raskaissa peleissä 60+ fps

18v sen jälkeen kun AMD osti ATI:n…

 

[Alatuberkuloosi]

18v sen jälkeen kun AMD osti ATI:n…

No on se aika huikeaa että pystyy pelaamaan mukavasti ilman erillistä näytönohjainta. Kaikki saatu samaan pakettiin, ai että. Minitietokone tällä piirillä...