Qualcomm lähtee tekoälykiihdytinmarkkinoille

[Kaotik]

Qualcomm on julkistanut AI200- ja AI250-kiihdyttimet räkkipalvelimiin. Ne on suunniteltu nimenomaisesti päättelytehtäviin eli pyörittämään jo opetettuja malleja.

Kiihdyttimistä ei tiedetä vielä paljoakaan, mutta oletettavasti ne perustuvat yhtiön Hexagon-kiihdyttimiin. AI200:ssa tulee olemaan käytössä maksimissaan 768 Gt LPDDR-muistia per kiihdytin, kun AI250 tulee ottamaan käyttöön Near-Memory Computing -teknologian, jonka pitäisi kasvattaa efektiivistä muistikaistaa jopa 10-kertaiseksi.

AI200-räkit tulevat saataville ensi vuoden aikana ja AI250-räkit vuonna 2027. Yhden nestejäähdytetyn räkin tehonkulutukseksi ilmoitetaan 160 kilowattia.

Lähteet: Qualcomm Unveils AI200 and AI250—Redefining Rack-Scale Data Center Inference Performance for the AI Era | Qualcomm, Qualcomm unveils AI200 and AI250 AI inference accelerators — Hexagon takes on AMD and Nvidia in the booming data center realm

 

[Puhelinkoppi]

160kW per räkki. Ei ihme, että sähkönkulutus ja sähkön hinta on räjähtämässä käsiin. 6 tuollaista imaisee lähes megawatin. Onko järkee vai ei, kysyn vaan.

 

[finWeazel]

160kW per räkki. Ei ihme, että sähkönkulutus ja sähkön hinta on räjähtämässä käsiin. 6 tuollaista imaisee lähes megawatin. Onko järkee vai ei, kysyn vaan.

Nvidian kyber mikä tulee olikohan 2027 niin 1MW per räkki. Tosin per token se vie vähemmän watteja kuin aikaisemmat räkit,... tokenia per watti on mittari millä mitataan energiatehokkuutta.

 

[_j03_]

160kW per räkki. Ei ihme, että sähkönkulutus ja sähkön hinta on räjähtämässä käsiin. 6 tuollaista imaisee lähes megawatin. Onko järkee vai ei, kysyn vaan.

Samalla räjähtää loputkin elektroniikkavehkeet kun kaikki tuotantokapasiteetti menee näihin kupla ei voi puhjeta tarpeeksi nopeaan.