Tubettaja tehnyt hyvän videon miten onnistunut alentamaan nykymuistien latensseja

[Kanto]

Tubettaja LaurieWired tehnyt mielenkiintoisen videon miten on onnistunut alentamaan muistien latensseja.

Tehnyt vielä hyvän ohjelman
GitHub - LaurieWired/tailslayer: Library for reducing tail latency in RAM reads

Mielenkiintoista tietoa

 

[hsalonen]

Eh.. lisää tämä minun kirjoittama kirjasto projektiisi , joka käyttää dokumentoimattomia toiminnallisuuksia monistaakseen sinun dataasi ympäri muistia - ja saat vähän lisää nopeutta.

--

Minä olisin potkimassa tämän käyttäjiä pois minun projekteista, koska tietoturva, kakkakoodi ja youtuben katselu.

 

[BIOS]

Tubettaja LaurieWired tehnyt mielenkiintoisen videon miten on onnistunut alentamaan muistien latensseja.

Et sitten yhtään enempää avannut asiaa tuohon videoon liittyen, joka on "vain" 54 minuuttia pitkä.

Voit muuten pudottaa niitä muistien latensseja emolevysi BIOSin/UEFIn kautta, jos emolevy on sellaista mallia, joka sellaisen mahdollistaa. Pätee nykymuisteihinkin.

 

[Kanto]

Et sitten yhtään enempää avannut asiaa tuohon videoon liittyen, joka on "vain" 54 minuuttia pitkä.

Voit muuten pudottaa niitä muistien latensseja emolevysi BIOSin/UEFIn kautta, jos emolevy on sellaista mallia, joka sellaisen mahdollistaa. Pätee nykymuisteihinkin.

No se on jokaisen oma asia jos ei videota jaksa katsoa.
Ja onko se vastaavanlainen "hyöty, tai haitta" kuin tämän videon kertoma asia.

Itse näin tämnän mielenkiintoisena asiana muistien kannalta, vaikka hyöty on aika minimaalinen.

 

[timetraveller]

Olisi kohteliasta avata videon sisältöä muille eikä olettaa jokaisella olevan aikaa kaikkeen, mihin sinulla on. Esimerkiksi Grokilla voi tehdä sen automatisoidusti. Sitä voi käyttää myös muutenkin tiivistämään informatiivisten videoiden tärkeimmät pointit.

 

[Infy]

Katselin tuota videota jonkun verran alusta, sen voinee tiivistää näin:

Tietokoneiden keskusmuisti on valmistettu DRAM-muistipiireistä (Dynamic Random Access Memory). 'Dynamic' viittaa siihen, että jokaisen muistisolun sähköinen varaus on virkistettävä säännöllisesti, eli tieto on kirjoitettava uudelleen lyhyin väliajoin. Tämän operaation aikana kyseinen muistisolu ei ole tietokoneen käytettävissä. Nykyaikaisissa DRAM-muisteissa tämä on kuitenkin ratkaistu niin, ettei koko muistipiiri ole käyttämätön virkistyksen aikana, vaan prosessi suoritetaan pienemmissä osissa (pankkeina). Videossa esitetään idea, jossa samaa dataa voitaisiin kopioida useampaan paikkaan keskusmuistissa; tällöin tieto olisi aina käytettävissä, vaikka jokin niistä paikoista olisi parhaillaan virkistyksen alaisena.

 

[atomi]

tässä vielä AI tiivistelmä

• DRAM-muistin perusongelma: RAM-muisti perustuu kondensaattoreihin, jotka vuotavat virtaa. Tämän vuoksi muisti pitää "virkistää" (refresh) muutaman mikrosekunnin välein. Tänä aikana muisti on hetkellisesti "sokea" eikä sieltä voi lukea tietoa.
• Viivepiikit (Tail Latency): Tavallisesti lukeminen kestää noin 80 nanosekuntia, mutta jos haku osuu päällekkäin virkistysjakson kanssa, viive nousee yli 400 nanosekuntiin. Tämä on suuri ongelma esimerkiksi erittäin nopeassa pörssikaupankäynnissä.
• Tail Slayer -menetelmä: Ratkaisuna on monistaa sama tieto usealle eri muistikanavalle, joilla on toisistaan riippumattomat virkistysaikataulut. Kun tietoa tarvitaan, lähetetään lukupyyntö usealle kanavalle samanaikaisesti.
• Nopein voittaa: Koska virkistysjaksot tapahtuvat eri aikaan eri kanavilla, ainakin yksi pyynnöistä menee todennäköisesti läpi ilman viivettä. Ohjelma ottaa vastaan nopeimman vastauksen ja hylkää hitaat.
• Monen ytimen käyttö: Jotta menetelmä toimii, lukupyynnöt on tehtävä eri prosessoriytimiltä. Tämä estää prosessorin sisäisen jonoutumisen, joka tapahtuisi, jos yksi ydin jäisi odottamaan hidasta vastausta.
• Tulokset: Menetelmällä saavutettiin merkittäviä tuloksia: viivepiikit (P99.99) pienenivät Intel- ja AMD-järjestelmissä jopa 7–15-kertaisiksi verrattuna perinteiseen lukutapaan.
• Hinta ja hyöty: Menetelmä vaatii enemmän RAM-muistia ja prosessoritehoa (koska tieto monistetaan), mutta se tarjoaa lähes täydellisen ennustettavuuden viiveissä, mikä on kriittistä matalan latenssin järjestelmissä.