AMD-spekulaatioketju (RDNA:n ja CDNA:n tulevat sukupolvet)

[Chroniksu]

Ei nimistä voi suoraan tehdä päätelmiä minkä tason kortti on kyseessä. 7800xt on täsmälleen keskitason kortti. 7900gre edustaa ylempää keskitasoa. 8800xt on luultavasti rtx 5070:n kilpailija kuten 7800xt on rtx 4070:n kilpailija.

No ainakin Vram:n määrässä tulee tälläkin kertaa pointsit AMD:lle. Ellei sitten RTX 5070:ssa käytettävä GDDR7 tasaa tilejä, kun sitä verrataan RX 8800 16Gt GDDR6 kanssa.

Odotan innolla benchmarkeja.

 

[leffo]

Kertokaapa kokeneemmat kortinostajat, että mitenköhän mahtaa tuon 8800XT:n saatavauuden kanssa käydä? Onko mahdollista odottaa ensikommentteja käyttäjiltä ilmestymisen jälkeen ja silti saada kortti kohtuu nopeasti kotiin?

Voihan sitä tilata julkaisussa ja odottaa sen vähintään 30 päivän palautusajan puitteissa. Jos on olematon saatavuus niin joudut silti odottaa jotain pari kuukautta. Riippuen missä asuu voi iskeä vaikka Verkkokaupan myymälään noutotilauksen. Ja sitten on Klarnat sun muut joilla ei tarvitse omaa rahaa sitoa vuoronumeroon jossain tilausjonossa.

 

[Yann]

Onko kahden RX 7900 XTX kortin systeemi kuitenkin paras, jos tarvitsee paljon VRAM vai jääkö hitaaksi verrattuna tuleviin näytönohjaimiin?

 

[Taneli-]

Onko kahden RX 7900 XTX kortin systeemi kuitenkin paras, jos tarvitsee paljon VRAM vai jääkö hitaaksi verrattuna tuleviin näytönohjaimiin?

Ennemmin tai myöhemmin tietysti tulee jäämään. Jos siis vertaat vaikka kahteen 680 korttiin tms..

 

[Clarenz]

Onko kahden RX 7900 XTX kortin systeemi kuitenkin paras, jos tarvitsee paljon VRAM vai jääkö hitaaksi verrattuna tuleviin näytönohjaimiin?

Tämän hetken huhujen mukaan tehokkain uusi 8000-sarjalainen ei voita rasteroinnissa 7900xtx:ää, mutta säteenseurannassa voittaa. Mutta kohtahan tuo selviää, eiköhän nuo hyvin alkuvuodesta tule julki.

 

[hkultala]

Onko kahden RX 7900 XTX kortin systeemi kuitenkin paras, jos tarvitsee paljon VRAM vai jääkö hitaaksi verrattuna tuleviin näytönohjaimiin?

Yleisesti ottaen kahden kortin systeemi ei auta yhtään siihen, että tarvii paljon näyttömuistia suurten tekstuurien takia, koska ne tekstuurit pitää kuitenkin duplikoida molempien korttien muisteihin.

Ja kahden kortin systeemi on aina ongelmallinen kuormantasauksen yms. kannalta.

 

[Yann]

Yleisesti ottaen kahden kortin systeemi ei auta yhtään siihen, että tarvii paljon näyttömuistia suurten tekstuurien takia, koska ne tekstuurit pitää kuitenkin duplikoida molempien korttien muisteihin.

Ja kahden kortin systeemi on aina ongelmallinen kuormantasauksen yms. kannalta.

Llama 3.3 70B ( vaatii n. 40 GB muistia GPU:lta) kielimallin ajaminen lokaalisti kiinnostaisi, mutta mietin mikä olisi halvin vaihtoehto, jolla tämä onnistuisi vielä kohtalaisesti. Mitä olen netistä lukenut, niin
-Mac Mini M4 Pro 64 GB n. 2500 euroa n. 5 tokens/s
-Macbook Pro M4 Max 64/128 GB n. 5000-6000 euroa n. 10 tokens/s
-Kahden GPU:n systeemi NVIDIA tai AMD n. 3000 euroa ? tokens/s virrankulutus?

 

[Halpuuttaja]

Llama 3.3 70B ( vaatii n. 40 GB muistia GPU:lta) kielimallin ajaminen lokaalisti kiinnostaisi, mutta mietin mikä olisi halvin vaihtoehto, jolla tämä onnistuisi vielä kohtalaisesti. Mitä olen netistä lukenut, niin
-Mac Mini M4 Pro 64 GB n. 2500 euroa n. 5 tokens/s
-Macbook Pro M4 Max 64/128 GB n. 5000-6000 euroa n. 10 tokens/s
-Kahden GPU:n systeemi NVIDIA tai AMD n. 3000 euroa ? tokens/s virrankulutus?

Ite ajanut tuota yhdellä 4090:llä. 2,5-bittiseksi kvantisoituna (iq2_s) ja kv-cache q8 niin pyörii n. 8k kontekstilla nippanappa. Toki laatu kärsii noin pieneksi puserrettuna enemmän mutta mitenkään rikki ei mene esim kieliopillisesti tms.

Käytetyt 3090:t suosiossa alan harrastajien parissa, AMD:llä tekoälyjutut laahaa yhä perässä. R/localllama subredditiin kandee sukeltaa jos meinaat tuhansia upottaa projektiin, luulen että rahan arvoisia vinkkejä ym.

Kandee myös huomioida pienemmät, yhteen näyttikseen helpommin mahtuvat mallit esim Gemma 27b ja Qwen 2.5 32b. L3 70b ei ole mitenkään valovuosia edellä.