- Liittynyt
- 17.10.2016
- Viestejä
- 758
Ton jonsbon linkin avaamalla näkee aika hyvin sisuskalut.Onko noiden kiintolevypaikkojen takana joku hot-swap -ratkaisu vai miten homma hoituu? Kuvassa vasemmanpuoleisemmassa levyssä näkyisi sellaiseen viittaava.
Follow along with the video below to see how to install our site as a web app on your home screen.
Huomio: This feature may not be available in some browsers.
Ton jonsbon linkin avaamalla näkee aika hyvin sisuskalut.Onko noiden kiintolevypaikkojen takana joku hot-swap -ratkaisu vai miten homma hoituu? Kuvassa vasemmanpuoleisemmassa levyssä näkyisi sellaiseen viittaava.
Ajaa joo, mutta tarkoitin kommentin just tohon backplaneen liittyen. CS381:ssä data liikkuu levyihin kahden SFF-8643 portin kautta kun DS380 ja N3 tarvii 8 SATA-kaapelia samaan.Eikö ds380 aja riittävän hyvin asiaansa?
Siitähän löytyy 8 hotswap paikkaa 3.5" kiintolevyille ja 4 kpl 2,5" ssd:täkin saa kotelon sisään. Ottaa arctikin tuulettimet tilalle ja jäähtyy kiintolevyt paremmin.
Max 16/24 levyäMikäs näistä LSIn SAS korteista kannatttaa tänä päivänä valita (kasvatus varaus n. 8 sata-levylle)?
Ebaysta löytyy pilvin pimein noita, mallinumerot ei sano paljoakaan ja hinnat melko samoja.
Yleisesti ottaen nuo SATA-kortit ovat roskaa, helpommalla pääset kun hommaat käytetyn SAS-controllerin.Jonsbon tulevaan N3 koteloon tarkoitus nassia kasailla. Onkohan tämä ihan ok laajennuskortti? AXAGON PCES-SA6, PCIe-lisäkortti, 6 x sisäinen SATA 6G -portti - 69,00€
8 HDD:tä tulee koteloon joten kaksi niistä menee suoraan emolle ja 6kpl tuohon. Ei liene haittaa vaikka kaikki ei ole samassa kortissa?
Käyttöjärjestelmänä Unraid
The only reliable way of adding SATA or SAS ports to a system is with LSI SAS HBAs (and SAS
expanders, if at least one controller is present).
Any card using the SAS2008, SAS2308 or SAS3008 controller will work, but some may need to
be crossflashed to IT mode to operate as HBAs and not entry-level RAID cards. This includes
rebadged cards from other vendors – although Dell cards are somewhat trickier to crossflash.
Ihan hyvä pointti tuo virrankulutus. Tuo voi olla yksi syys esim tuohon minun kompon virrankulutukseen..No jaa, itsellä ollut käytössä Unraidissa Realtekin piirillä oleva PCIe 1x -> 2X SATA kortti useamman vuoden 24/7 käytössä ilman ongelmia.
6x voi olla eri maailma varsinkin jos pelkkää SSD laittaa kiinni, itse halusin pitää koko NAS reilusti alle 30W ja moni SAS-kortti vei itse jo pelkästään puolet tuosta, jotkut jopa yli 30W itsenään.
LSI:n HBA korteista tuli mieleen, että kannattaa ottaa peruskoteloissa huomioon se, että nämä kortit tarvitsevat heatsinkille jonkinlaista ilmavirtaa, eikä siihen välttämättä peruskoteloiden tuuletus riitä.
Näin kävi esim. oman Node 304:n kanssa, jossa ei tule suoraa ilmavirtaa kyljestä. Täten LSI SAS 9207-8i:n jäähdytinsiili oli IR mittarilla mitattuna siellä 80 asteen paikkeilla. Ratkaisuna tähän on Noctua A4x10 FLX + 2 x M3 12mm ruuvit, joilla tuon saa "ruuvattua" suoraan kiinni jäähdytyssiiliin. Koteloissa, joissa tulee suoraan ilmavirtaa kortille esimerkiksi kyljen tuulettimesta, ei tälle todennäköisesti ole tarvetta.
Kokeilin juuri sormella oman uudelleenfläshätyn IBM M1015 -ohjaimen siiliä, eikä ollut idlenä polttavan kuuma mitä 80°C pitäisi olla. Mutta katsotaan mitä on tunnin päästä, kun laitoin scrubin päälle...
Oma jokin vastaava kortti kävi kyllä myös lämpimänä. Huomasin ihan kun alkuun kasasin ja muutaman kerran revin koko tornin ulos kotelosta. Kädellä koskien oli selvästi lämmin tuo kortti. Tarkoitus oli hommata joku röpellin vähän avustamaan ilmavirran kanssa, mutta enpähän ole saanut aikaiseksi. Puoli vuottako tuo nyt on tuolla hyryyttänyt ilman ongelmia. Tuommosta kuvan viritystä ei valitettavasti mahdu omaan koteloon niin tarvitsisi hieman erilaisen röpellin. Käsikopelolla kokeilluista lämmöistä päätellen ei varmasti olisi haitaksi jos ylimääräistä tuuletusta tuolle järjestäisi
Esim. LSI SAS 9217-8i spekseissä sanotaan toimintalämpötilaksi 0-55 C. Voihan se toimia kuumempanakin luotettavasti, mutta siinä on riskinsä.
Se on YMPÄRISTÖN lämpötila, ei piirin lämpötila.
Onko kukaan bongannut euroopasta tilattavia niputettuja sata kaapeleita?
Juu jokunen viesti ylöspäin laitoin että itsellä tuo ssd nassi ois varmaan seuraava vaihtoehto. Mutta en oo kyl erityisemmin löytänyt vielä kokonaisuuksia.Onko muuten porukka alkanut katsella ssd-only ja etenkin M.2 ssd-nassien rakentelua sillä silmällä? 4TB ssd:tä saa parhaimmillaan alle 200€ hinnoin, joten 4-12TB nassit ovat ihan kuluttajahinnoissa - pitäisi vaan saada sopivia emoja / koteloita.
Sata ssd:t ovat melkeimpä kalliimpia + m.2:set mahdollistaisivat pienemmän kotelon jos vaan löytyisi hommaan erikoistuneita emoja / barebones paketteja.
Onko muuten porukka alkanut katsella ssd-only ja etenkin M.2 ssd-nassien rakentelua sillä silmällä? 4TB ssd:tä saa parhaimmillaan alle 200€ hinnoin, joten 4-12TB nassit ovat ihan kuluttajahinnoissa - pitäisi vaan saada sopivia emoja / koteloita.
Sata ssd:t ovat melkeimpä kalliimpia + m.2:set mahdollistaisivat pienemmän kotelon jos vaan löytyisi hommaan erikoistuneita emoja / barebones paketteja.
PCI-bifurkaatiokorttien asentelu vaatii vain ison kotelon. Hyvin suunnitellun M.2 ssd-nassin etu olisi se, että se on pieni ja litteä - tyyliin mitä nuo asustorin flashstor vehkeet ovat, mutta omalla itse managoidulla käyttöjärjestelmällä.Vähän liian pieniä vielä omaan makuun.
Jos näyttistä ei tarvitse, sovittemella 4x nvme x16 paikkaan. (vaatii emolevyn jossa 4x4x4x4 bifurcation)
matx luokkaan saisi siis 6x nvmen, jos emolla 2 paikkaa.
Ostin juuri 2x 10GbE + 4x 2.5GbE Qnap-switchin, maksoi 150€ kotiin kannettuna, pöytäkoneessa on ollut jo vuosia 2.5GbE verkkokortti ja läppäriin sai 30€:llä usb-c 2.5:sen.
SSD nassin suurin hyöty itselleni olisi äänettömyys + nopeat hakuajat jotka haittaavat pyörivällä levyllä aika paljon inkremental-backuppien ottamista / käyttöä. Nykyinen nas ottaa aikansa kun se siivoaa täydeltä levyltä tilaa vanhoja snapshotteja puhdistelemalla ja vanhojen backuppien selaaminen on myös tuskaista.
Heitetään nyt omakin lusikka soppaan.
Tavoitteena oli rakentaa pitkäikäinen, riittävän tehokas, sekä tarpeeksi hiljainen NAS-palvelin, inspiraatiota hain: Building a NAS
Projekti edennyt muutaman mutkan kautta seuraavaan pisteeseen:
Alunperin NAS oli rakennettu Fractal Design Node 804 koteloon 10TB lätyillä, mutta nälkä kasvoi syödessä
- Kotelo SuperMicro SC846E16-R1200B(ebay)
- Kotelotuulettimet
- Virtalähde SuperMicro PWS-920P-SQ * 2 (ebay)
- Emolevy SuperMicro X10SL7-F (ebay)
- Prosessori Intel® Xeon® Processor E3-1246 v3(ebay)
- Jäähy Arctic Alpine 12 CO
- RAM 32GB (4 * 8GB) DDR3 ECC (ebay)
- LSI 6Gbps SAS HBA LSI 9211-8i (ebay)
- Western Digital My Book 10TB * 9 ("shuckattu" - Amazon.de)
- Western Digital Elements 14TB * 8 ("shuckattu" - Amazon.de)
- Kingston A2000 500GB NVME (Adapterina Silverstone ECM21 PCI-E -> M.2)
- SanDisk Ultra Fit USB 3.1 32GB * 2
Järjestelmä
Käyttöjärjestelmäksi valikoitu FreeNAS 11.3U2, jonka olen sittemmin päivittänyt TrueNAS 12.0-U5.1:een.
TrueNAS on asennettu kahdelle 32GB USB-muistitikulle (mirrorina).
Mekaaniset levyt ovat jaettuna kahteen ZFS-pooliin (yksi VDEV kummassakin), ylimääräinen 10TB on varalla ja toimii "scratch disk":nä. Plex kirjaston metadatat NVME:llä.
Käytössä muutamia TrueNAS:n plugineita (eli jaileja), kuten
- Raid-Z2 8 x 10TB (kapasiteetti käytännössä ~40TB)
- Raid-Z2 8 x 14TB (kapasiteetti käytännössä ~56TB)
- Plex Media Server
- Grafana - Lähinnä kovalevyjen S.M.A.R.T. datan esittämiseen
- Graylog - Syslog server
Jäähdytys
Kotelossa vakiona olevat tuulettimet ovat sanalla sanoen äänekkäitä ja tähän piti löytää ratkaisu.
Aloitin poistamalla alkuperäiset tuulettimet ja purin ns. fan wallin, jossa oli kolme 80mm hot-swap tuuletinta.
Fan-wallin korvasin kolmella 120mm Noctuan NF-12 tuulettimilla, jotka sopivat tilalle täydellisesti!
Tuulettimien yläpuolle jäi muutama sentti tyhjää, jonka täytin jesarilla päällystetyllä solumuovilla. Koko komeus on kasassa nippusiteillä.
Pienellä rälläköinnillä kotelon takaosaan mahtui yksi Arcticin 120mm tuuletin.
Kotelon sisäiset tuulettimet eivät kykene (järkevällä äänitasolla) pitämään kovalevyjä riittävän viileinä, joten kotelon etupuolelle laitoin kolme 140mm Noctuan NF-14 tuuletinta 3D-tulostettuun kehikkoon.
Tuulettimien nopeutta säädetään kovalevyjen ja CPU:n lämpötilojen mukaan ohjaus-scriptillä.
Levypaikasta riippuen, kovalevyjen lämpötilat ovat 31°C ja 36°C välillä, vaihtelevälin noin yhden asteen verran.
Käyttöönotto (testaus, konffaus ym.)
Järjestelmän käyttööottotestauksen suoritin hyvin pitkälle FreeNAS/TrueNAS foorumin ohjeiden mukaan, muutamia hyödyllisiä linkkejä
Yhden kovalevyn leipoessa kiinni, huomasin levyjen paikantamisen backplanesta olevan haasteellista.
- Hard Drive Burn-in Testing
- Building, Burn-In, and Testing your FreeNAS system
- Flashing the LSI2308 firmware on a Supermicro X10SL7-F motherboard.
- How To: Change IPMI Sensor Thresholds using ipmitool
- Scrub and SMART testing schedules
Lyhyen selvittelyn jälkeen asia ratkesi lyhyellä bash-scriptillä, joka näyttää kaikkien levyjen paikat backplanessa.
Koodi:============================================================================================================================================================= | [SLOT 06]: Y5JL**** (/dev/da15) 33 C | [SLOT 12]: 9KGV**** (/dev/da5) 33 C | [SLOT 18]: 1EHD**** (/dev/da13) 32 C | [SLOT 24]: 1EHM**** (/dev/da12) 32 C | ------------------------------------------------------------------------------------------------------------------------------------------------------------- | [SLOT 05]: X0H7**** (/dev/da3) 34 C | [SLOT 11]: X0H6**** (/dev/da1) 33 C | [SLOT 17]: 1EHM**** (/dev/da7) 32 C | [SLOT 23]: 1EHM**** (/dev/da10) 35 C | ------------------------------------------------------------------------------------------------------------------------------------------------------------- | [SLOT 04]: X0H6**** (/dev/da0) 35 C | [SLOT 10]: N/A | [SLOT 16]: 1EHH**** (/dev/da16) 34 C | [SLOT 22]: 1EHH**** (/dev/da11) 36 C | ------------------------------------------------------------------------------------------------------------------------------------------------------------- | [SLOT 03]: X0H6**** (/dev/da2) 36 C | [SLOT 9]: N/A | [SLOT 15]: N/A | [SLOT 21]: 1EHE**** (/dev/da9) 36 C | ------------------------------------------------------------------------------------------------------------------------------------------------------------- | [SLOT 02]: QBJX**** (/dev/da4) 35 C | [SLOT 8]: N/A | [SLOT 14]: N/A | [SLOT 20]: 1EH8**** (/dev/da8) 36 C | ------------------------------------------------------------------------------------------------------------------------------------------------------------- | [SLOT 01]: X0H7**** (/dev/da6) 35 C | [SLOT 7]: N/A | [SLOT 13]: N/A | [SLOT 19]: 1EHH**** (/dev/da14) 36 C | =============================================================================================================================================================
Kokoonpano syö yllättävän maltillisesti sähköä, ainakin jos IPMI:in näyttämiin lukuihin on uskominen
Power consumption Graph and History
Power Statistics Last Hour Time Past 24 Hr Time Past 7 days Time Average (W) 165 None 164 None 167 None Minimum (W) 160 2021/08/28 12:41:05 153 2021/08/28 11:18:28 152 2021/08/23 09:00:33 Maximum (W) 177 2021/08/28 12:45:01 213 2021/08/28 09:45:02 224 2021/08/25 04:44:32
Ihan mielenkiinnosta kyselen kun tottakai on erilaisia käyttötarpeita, mutta mihin kotikäytössä tarvitsee Epyc tason rautaa? En siis halua vittuilla vaan kyselen mielenkiinnosta onko mitä kaikkea mahdolisuuksia ylipäätänsä olemassa mitä ei ole itse tajunnut ottaa käyttöön.
Tällä hetkellä oma nas pyörii Asrock J5040-ITX:lla ja tehoja riittää mainiosti, mutta käytännössä tämä minulla onkin vain verkkolevynä eikä muuta.
Tokihan täällä voi näitä jotklut kasailla ihan työpaikan tarkoituksiin missä käyttäjiä kymmeniä.
Itellä oli kans samalta myyjältä yks Epyc-kokoonpano pitkään watchlistillä. Tuli kuitenkin vastaan sopuhintainen Xeon E5-2680 V4, mikä riittää ihan hyvin minun tarpeisiin ja lienee ihan kiva "päivitys" 9600K:lle. Harmi vaan kun nuo asialliset X99-emolevyt on kuitenkin vielä aika hintavia...
Jos käyttötarve on pelkkä NAS, niin käytännössä jo RasPi riittää valtaosalle hyvin. Jos samalla laatikolla on tarkoitus pyörittää jotain palveluita sisäverkossa, niin kannattaa palveluista riippuen katsoa hieman järeämpää rautaa. Jos käyttö menee tästä vielä pidemmälle ja virtualisointi alkaa kiinnostaa, niin alkaisin itse katsella palvelinrautaa.
Mää en kyllä jotain raspia lähtis suositteleen nas käyttöön ellei tarkoitus ole pyöritellä vaan ihan yhtä asemaa siinä.
Ensinnäkin asemien lisäys siihen menee kikkailuksi ja toiseksi jos siinä alkaisi jotain pariteetti tason pakkaa ajamaan niin suuresti epäilen kyseisen kikottimen kykyä laskea pariteettia.
Toki varmaan toimii jos ei ole minnekkään kiire.
Ihan mielenkiinnosta kyselen kun tottakai on erilaisia käyttötarpeita, mutta mihin kotikäytössä tarvitsee Epyc tason rautaa? En siis halua vittuilla vaan kyselen mielenkiinnosta onko mitä kaikkea mahdolisuuksia ylipäätänsä olemassa mitä ei ole itse tajunnut ottaa käyttöön.
Tällä hetkellä oma nas pyörii Asrock J5040-ITX:lla ja tehoja riittää mainiosti, mutta käytännössä tämä minulla onkin vain verkkolevynä eikä muuta.
Tokihan täällä voi näitä jotklut kasailla ihan työpaikan tarkoituksiin missä käyttäjiä kymmeniä.
time for i in {1..100}; do dd if=/dev/random of=/mnt/$(uuid) bs=1MB count=1000 status=progress; done; uptime
time cat /mnt/*-* | dd of=/dev/null bs=1MB status=progress; uptime
--foreground_target=(target)
Device or label for foreground writes
--background_target=(target)
Device or label to move data to in the background
--promote_target=(target)
Device or label to promote data to on read
--background_target=hdd
kertoo että kylmä data siirrellään hdd:lle. --foreground_target=nvme
taas määrittelee että kirjoitukset raapaistaan NVM-e asemalle tai useammalle. Ja --promote_target=ssd
määrittelisi ssd asemat lukucacheksi. Tai jos haluaa nvme:tä käyttää luku että kirjoitus cachena niin määrittelee sen molempiin.--write-mostly
ja --write-behind
jolloin lukemiset pääasiassa tapahtuu nvm-e asemalta ja kirjoituksissa sallitaan toi SATA asema jäädä jälkeen jolloin kirjoitukset ei ota niin isoa osumaa myöskään. Mietin tässä pitääkö joku raidi kortti hommata kun en jaksa lähteä proxmox kelkkaan ihan ylläpidon takia sitten, kun tulee ongelmia.
Lähinnä pyörittelin proxmoxia jonkun aikaa sit, kun meni solmuun niin ei sitä omilla taidoilla saanut ehjättyä. Niin siitä lähtien pyörittänyt win10:iä sen kanssa päässyt helpolla kun on ollut erillinen nassi qnap missä raid:illa levyt.
Nyt jos jatkaa tuota winkkari tietä ja luopuu qnapista niin pitäs järkevä raidi kortti hommata. Nykyisellään on on tuo LSI 9201-16i. Mutta sitä ei taida saada toimimaan raidina?
Käyttönä on : yksi virtuaalikone (ha), wintoosassa pyörii sitten blueiris.
prossuna 3600 GE, msi x570 tomahawk emo. Käyttis pyörii ssd levyllä. Pyöriviä levyjä on 4 kpl.
Eli mikä virtapihi raidi kortti jossa ois 5,6,10 raidit.
Mites truenas yms ylläpidon kannalta toimiiko miten luotettavasti? versus jos nyt win 10 pitää asennalla pari viikon välein joku päivitys.
Miten proxmox ylipäätään liittyy raidiin? Ja ei missään nimessä rautaraidia näin 2020-luvulla.
Minä asentaisin TrueNas Scalen ja sitten teet sinne niin monta käyttäjää kuin haluat. Root on vakiona, apuja löytyy pitkin nettiä, mutta melkein helpoin. Ja saat hyvän ZFS tiedostojärjestelmän samalla, asentaisin RAID5 (z1) 4 levyllä. Jos arveluttaa, niin RAID6 (z2) ja saat 2 levyn kapasiteetin 4 levyllä.Mietin tässä pitääkö joku raidi kortti hommata kun en jaksa lähteä proxmox kelkkaan ihan ylläpidon takia sitten, kun tulee ongelmia.
Lähinnä pyörittelin proxmoxia jonkun aikaa sit, kun meni solmuun niin ei sitä omilla taidoilla saanut ehjättyä. Niin siitä lähtien pyörittänyt win10:iä sen kanssa päässyt helpolla kun on ollut erillinen nassi qnap missä raid:illa levyt.
Nyt jos jatkaa tuota winkkari tietä ja luopuu qnapista niin pitäs järkevä raidi kortti hommata. Nykyisellään on on tuo LSI 9201-16i. Mutta sitä ei taida saada toimimaan raidina?
Käyttönä on : yksi virtuaalikone (ha), wintoosassa pyörii sitten blueiris.
prossuna 3600 GE, msi x570 tomahawk emo. Käyttis pyörii ssd levyllä. Pyöriviä levyjä on 4 kpl.
Eli mikä virtapihi raidi kortti jossa ois 5,6,10 raidit.
Mites truenas yms ylläpidon kannalta toimiiko miten luotettavasti? versus jos nyt win 10 pitää asennalla pari viikon välein joku päivitys.
Minä asentaisin TrueNas Scalen ja sitten teet sinne niin monta käyttäjää kuin haluat. Root on vakiona, apuja löytyy pitkin nettiä, mutta melkein helpoin. Ja saat hyvän ZFS tiedostojärjestelmän samalla, asentaisin RAID5 (z1) 4 levyllä. Jos arveluttaa, niin RAID6 (z2) ja saat 2 levyn kapasiteetin 4 levyllä.
Mutta mä tekisin näin:
3-4 levyä = z1 (2-3 levyn kapasiteetti)
5-8 levyä = z2 (3-6 levyn kapasiteetti)
9-12 levyä = z3 (6-9 levyn kapasiteetti)
13-16 levyä = 2 vdev z2 (9-12 levyn kapasiteetti, kaksi peilaavaa z2 poolia yhdeksi jaoksi).
Huomiona se, että ZFS ei vielä tue jälkeenpäin levyjen lisäystä. Tuki on tulossa, mutta sitä ei löydy vielä release versiosta mistään. Kun se tulee, niin voit sitten tehdä reflow:n ja voit lisäillä levyjä olemassa olevaan vdeviin.
Eli tuo osaa hyödyntää emolla olevat levyt zfs:ään jos ei ole erillistä korttia kiinni?
Joo eli slogia ja l2arci. Eli ei sitten ssd:tä vaan max määrä muistia mitä pystyy emolla laittaa?Mitä meinaat cachella? ZIL SLOG, special vdev, vai L2arc? Et todennäköisesti hyödy näistä mistään.
Joo, yleensä se maksimi muistimäärä on paras ja toimivin ratkaisu. L2arc on tosi harvoin hyötyä. Special vdevistä on hyötä jos on miljoonia tiedostoja, enimmäkseen tiedostolistauksessa/selauksessa.Joo eli slogia ja l2arci. Eli ei sitten ssd:tä vaan max määrä muistia mitä pystyy emolla laittaa?
ZFS hyötyy eniten ramista. Oliko jo Truenas Scalessa jo persistent l2arc cache joka säilyy boottien yli? Se auttaa lukuihin, jos on alle 100 gigaa muistia. Jos on 100 gigaa tai enemmän, niin zfs kiihtyy hitaimmillakin levyillä aika nopeasti ja l2arc:n hyöty on aika minimaalinen, paitsi että ehkä meta tiedolle? Mutta muista että sata väylä antaa vain 500MB/s ja nvme saa enemmän sequentaalia, mutta ramilla pääsee reilusti yli ton...Joo eli slogia ja l2arci. Eli ei sitten ssd:tä vaan max määrä muistia mitä pystyy emolla laittaa?