Linus tech tips að Tapa gögnum af Fileserver

Skjámynd

Höfundur
Hjaltiatla
Besserwisser
Póstar: 3116
Skráði sig: Mið 07. Okt 2009 20:54
Reputation: 533
Staðsetning: ::1
Staða: Ótengdur

Linus tech tips að Tapa gögnum af Fileserver

Pósturaf Hjaltiatla » Sun 30. Jan 2022 10:15



Er Þetta ekki bara gott dæmi um að það er ekki verið að monitora netþjón eftir að hann var settur upp, t.d að láta senda sér email ef það koma upp critical villur.Einnig mjög einfalt að stilla scrub tasks og SMART error check tösk í Webgui í freenas/truenas core. Munur á Raid og Raidz er að ZFS allavegana lætur þig vita af villunum og það er ekki eins mikil hætta á silent data corruption. Þegar það koma upp checksum errorar þá reynir ZFS að leiðrétta villur og lætur þig vita af því ef það gekk eða ekki (en að sjálfsögðu þarftu að vakta þær villur). Ef það væri verið að vakta netþjóninn þá eflaust hefðu þau geta brugðist betur við.
Já ágætt að minna á að Raid/RaidZ != backup ;)


Einhverjar skoðanir á þessu máli ?
Síðast breytt af Hjaltiatla á Sun 30. Jan 2022 10:17, breytt samtals 1 sinni.


Just do IT
  √

Skjámynd

Njall_L
Stjórnandi
Póstar: 1247
Skráði sig: Mið 29. Okt 2014 20:58
Reputation: 375
Staða: Tengdur

Re: Linus tech tips að Tapa gögnum af Fileserver

Pósturaf Njall_L » Sun 30. Jan 2022 10:31

Eins og hann viðurkennir nú sjálfur í þessu myndbandi þá er þetta akkúrat dæmi um eitthvað sem hefði verið hægt að afstýra ef búnaðnum hefði verið haldið við og hann monitoraður.

Að því sögðu þá fannst mér þetta gott myndband fyrir smá vitunarvakningu að svona búnaður er ekki alveg set it and forget it, tók það sem dæmi til míns sjálfs og kíkti aðeins yfir búnaðinn sem ég er sjálfur að keyra hérna heimavið.


Löglegt WinRAR leyfi

Skjámynd

nidur
/dev/null
Póstar: 1367
Skráði sig: Fim 18. Ágú 2011 16:50
Reputation: 193
Staðsetning: In the forest
Staða: Ótengdur

Re: Linus tech tips að Tapa gögnum af Fileserver

Pósturaf nidur » Sun 30. Jan 2022 10:49

Ekki gaman að tapa gögnum, en það var gaman að sjá þá viðurkenna svona basic villur í uppsetningu á ZFS. Algerlega þeim að kenna.

Scrub er algert basic atriði í svona, og að kíkja á statusinn við og við.



Skjámynd

Revenant
</Snillingur>
Póstar: 1031
Skráði sig: Fim 24. Jún 2004 12:36
Reputation: 132
Staða: Ótengdur

Re: Linus tech tips að Tapa gögnum af Fileserver

Pósturaf Revenant » Sun 30. Jan 2022 10:52

Afritun er ekki ókeypis og er alltaf mat hversu mikil þörf er á henni.

Eins og hann bendir á eru þetta "nice to have" gögn sem myndu kosta 5-10.000 USD á mánuði í afritun í skýjalausn (8-16 milljónir króna á ári).
Að afrita 1 PB yfir 10 gígabit nettengingu tekur síðan 9-10 daga á fullum afköstum. Að sama skapi tekur það jafn langan tíma (oftast mun lengri) að endurheimta þessi gögn frá skýjaþjónustu.

Þegar þú ert komin í mjög stór gagnasett (PB+) þá hættir hefðbundin afritun að vera skilvirk því tíminn sem tekur að afrita (og endurheimta) er bara allt of langur.



Skjámynd

Höfundur
Hjaltiatla
Besserwisser
Póstar: 3116
Skráði sig: Mið 07. Okt 2009 20:54
Reputation: 533
Staðsetning: ::1
Staða: Ótengdur

Re: Linus tech tips að Tapa gögnum af Fileserver

Pósturaf Hjaltiatla » Sun 30. Jan 2022 11:01

Revenant skrifaði:Afritun er ekki ókeypis og er alltaf mat hversu mikil þörf er á henni.

Eins og hann bendir á eru þetta "nice to have" gögn sem myndu kosta 5-10.000 USD á mánuði í afritun í skýjalausn (8-16 milljónir króna á ári).
Að afrita 1 PB yfir 10 gígabit nettengingu tekur síðan 9-10 daga á fullum afköstum. Að sama skapi tekur það jafn langan tíma (oftast mun lengri) að endurheimta þessi gögn frá skýjaþjónustu.

Þegar þú ert komin í mjög stór gagnasett (PB+) þá hættir hefðbundin afritun að vera skilvirk því tíminn sem tekur að afrita (og endurheimta) er bara allt of langur.


Góður punktur með RTO (Recovery Time Objective) og með stór gagnasett þá er Local snapshot í Truenas core algjör snilld að mínu mati ef Storage pool er haldið við af einhverju viti. Persónulega finnst mér það einn af sterkari fídusum ZFS t.d ef það kemur upp Ransomware og þú þarft að restore-a gögnum frá Snapshoti af diskastæðunni sjálfri sérstaklega með stór gagnasett og að þurfa ekki að fara alla leið á aðra diskastæðu til að recovera gögn. En auðvitað í þessu tilfelli er um að ræða Data corruption og á ekkert endilega við svo sem.


Just do IT
  √


TheAdder
FanBoy
Póstar: 707
Skráði sig: Mið 09. Des 2020 11:22
Reputation: 196
Staða: Tengdur

Re: Linus tech tips að Tapa gögnum af Fileserver

Pósturaf TheAdder » Sun 30. Jan 2022 11:19

Þetta er mjög gagnlegt myndband hjá þeim. Viðvörun um að hafa hlutina í lagi.
Mér finnst reyndar frekar furðulegt/áhugavert að það sé ekki komin UT einstaklingur eða deild í fasta vinnu hjá þeim, eins stórt og þetta batterý er orðið, þá er ótrúlegt að það rúlli áfram með UT vinnuna í hjáverkum hinna og þessa.


NZXT 710i - Ryzen 7 5800X - 32GiB 3200 M/T RAM - X570 Aorus Ultra - PowerColor Radeon RX 7900 XTX - 1TB Samsung 970 Pro, 2TB Samsung 970 Evo

Skjámynd

Höfundur
Hjaltiatla
Besserwisser
Póstar: 3116
Skráði sig: Mið 07. Okt 2009 20:54
Reputation: 533
Staðsetning: ::1
Staða: Ótengdur

Re: Linus tech tips að Tapa gögnum af Fileserver

Pósturaf Hjaltiatla » Sun 30. Jan 2022 11:23

TheAdder skrifaði:Þetta er mjög gagnlegt myndband hjá þeim. Viðvörun um að hafa hlutina í lagi.
Mér finnst reyndar frekar furðulegt/áhugavert að það sé ekki komin UT einstaklingur eða deild í fasta vinnu hjá þeim, eins stórt og þetta batterý er orðið, þá er ótrúlegt að það rúlli áfram með UT vinnuna í hjáverkum hinna og þessa.

Hann kom reyndar inná að þetta voru ekki Mission critical gögn, ég reikna með að bókhaldskerfi og álíka mikilvæg gögn falli undir mikilvæg gögn hjá þeim og vonandi að þau gögn séu afrituð að einhverju viti (hann hefur einhvern tíman komið inná 3-2-1 backup regluna í eldri video-um). Spurning hvort hann tileinki sér það sem hann predikar hvað það varðar ;)
Síðast breytt af Hjaltiatla á Sun 30. Jan 2022 11:24, breytt samtals 1 sinni.


Just do IT
  √


TheAdder
FanBoy
Póstar: 707
Skráði sig: Mið 09. Des 2020 11:22
Reputation: 196
Staða: Tengdur

Re: Linus tech tips að Tapa gögnum af Fileserver

Pósturaf TheAdder » Sun 30. Jan 2022 11:29

Ég fór í það minnsta og kláraði alert stillingar hjá mér og staðfesti að scrub tasks væru í lagi :D


NZXT 710i - Ryzen 7 5800X - 32GiB 3200 M/T RAM - X570 Aorus Ultra - PowerColor Radeon RX 7900 XTX - 1TB Samsung 970 Pro, 2TB Samsung 970 Evo

Skjámynd

Höfundur
Hjaltiatla
Besserwisser
Póstar: 3116
Skráði sig: Mið 07. Okt 2009 20:54
Reputation: 533
Staðsetning: ::1
Staða: Ótengdur

Re: Linus tech tips að Tapa gögnum af Fileserver

Pósturaf Hjaltiatla » Sun 30. Jan 2022 11:41

TheAdder skrifaði:Ég fór í það minnsta og kláraði alert stillingar hjá mér og staðfesti að scrub tasks væru í lagi :D

Getur einnig reynt að cherry picka gögn og afrita t.d yfir í Amazon S3 glacier deep archive eða Backblaze sem er aðeins ódýrara í gegnum Cloud sync task fídusinn í truenas core.
Sjálfur er ég hrifnari af S3 því þeir bjóða uppá að senda þér búnað gegn gjaldi bæði til að upload gögnum í skýið eða ef þú þarft að recovera gögnum og Exporta yfir á File server.

https://aws.amazon.com/snowball/?whats- ... order=desc
https://www.amazonaws.cn/en/snowball/faq/
Síðast breytt af Hjaltiatla á Sun 30. Jan 2022 11:42, breytt samtals 2 sinnum.


Just do IT
  √


TheAdder
FanBoy
Póstar: 707
Skráði sig: Mið 09. Des 2020 11:22
Reputation: 196
Staða: Tengdur

Re: Linus tech tips að Tapa gögnum af Fileserver

Pósturaf TheAdder » Sun 30. Jan 2022 11:46

Hjaltiatla skrifaði:
TheAdder skrifaði:Ég fór í það minnsta og kláraði alert stillingar hjá mér og staðfesti að scrub tasks væru í lagi :D

Getur einnig reynt að cherry picka gögn og afrita t.d yfir í Amazon S3 glacier deep archive eða Backblaze sem er aðeins ódýrara í gegnum Cloud sync task fídusinn í truenas core.
Sjálfur er ég hrifnari af S3 því þeir bjóða uppá að senda þér búnað gegn gjaldi bæði til að upload gögnum í skýið eða ef þú þarft að recovera gögnum og Exporta yfir á File server.

https://aws.amazon.com/snowball/?whats- ... order=desc
https://www.amazonaws.cn/en/snowball/faq/

Ég þakka ábendinguna, þegar ég fer að vera með critical gögn, þá fer ég í frekari afritanir.


NZXT 710i - Ryzen 7 5800X - 32GiB 3200 M/T RAM - X570 Aorus Ultra - PowerColor Radeon RX 7900 XTX - 1TB Samsung 970 Pro, 2TB Samsung 970 Evo

Skjámynd

Baldurmar
FanBoy
Póstar: 788
Skráði sig: Þri 20. Jún 2006 12:07
Reputation: 137
Staða: Ótengdur

Re: Linus tech tips að Tapa gögnum af Fileserver

Pósturaf Baldurmar » Mán 31. Jan 2022 11:17

Hjaltiatla skrifaði:
TheAdder skrifaði:Ég fór í það minnsta og kláraði alert stillingar hjá mér og staðfesti að scrub tasks væru í lagi :D

Getur einnig reynt að cherry picka gögn og afrita t.d yfir í Amazon S3 glacier deep archive eða Backblaze sem er aðeins ódýrara í gegnum Cloud sync task fídusinn í truenas core.
Sjálfur er ég hrifnari af S3 því þeir bjóða uppá að senda þér búnað gegn gjaldi bæði til að upload gögnum í skýið eða ef þú þarft að recovera gögnum og Exporta yfir á File server.

https://aws.amazon.com/snowball/?whats- ... order=desc
https://www.amazonaws.cn/en/snowball/faq/


BackBlaze býður líka upp á physical medium til að fá backup:
https://www.backblaze.com/restore.html
Restore By Mail

Have a USB Flash Drive (256GB for $99) or a USB Hard Drive (up to a 8TB for $189) sent to you via FedEx. You can even send the drive back to Backblaze within 30 days for a refund.


Gigabyte X570 - Ryzen 5900 @ 4.5ghz all core - 5ghz single core - 64gb TridentZ 3400mhz - GTX 1070 8gb

Skjámynd

Dropi
FanBoy
Póstar: 773
Skráði sig: Fim 10. Júl 2008 20:54
Reputation: 224
Staða: Ótengdur

Re: Linus tech tips að Tapa gögnum af Fileserver

Pósturaf Dropi » Þri 01. Feb 2022 09:00

Unraid er með default scrub (parity check) vikulega, er ég að skilja þá rétt að þeirra server keyrði parity check nákvæmlega 0 sinnnum á 4-5 árum ?!

Hef verið LTT fan í mörg mörg ár, vá hvað mér finnst þeir glæfralegir með gögnin sín.


LG 38GN95B-B 3840x1600p160Hz - Logitech GMX508 - dasKeyboard Professional 4
Xiaomi Mi Notebook Pro 15 i7/16/256
R5 5600 - 32GB DDR4@3200 - Asus X470 Strix - Zotac RTX 3080Ti Holo Amp
Unraid Xeon E5 2637 v4 - 256GB DDR4 ECC - Huananzhi F8 X99 - 4x 4TB Seagate Exos SAS

Skjámynd

Höfundur
Hjaltiatla
Besserwisser
Póstar: 3116
Skráði sig: Mið 07. Okt 2009 20:54
Reputation: 533
Staðsetning: ::1
Staða: Ótengdur

Re: Linus tech tips að Tapa gögnum af Fileserver

Pósturaf Hjaltiatla » Þri 01. Feb 2022 11:24

Dropi skrifaði:Unraid er með default scrub (parity check) vikulega, er ég að skilja þá rétt að þeirra server keyrði parity check nákvæmlega 0 sinnnum á 4-5 árum ?!

Hef verið LTT fan í mörg mörg ár, vá hvað mér finnst þeir glæfralegir með gögnin sín.

Finnst þetta frekar skrítið ef rétt reynist , Truenas core Býr líka til sjálfkrafa scrub task þegar þú býrð til Storage pool.
Mögulega hafa þau verið að fikta eitthvað en já ég skildi hlutina þannig eftir að horfa á video-ið.

https://www.truenas.com/docs/core/tasks/scrubtasks/


Just do IT
  √


TheAdder
FanBoy
Póstar: 707
Skráði sig: Mið 09. Des 2020 11:22
Reputation: 196
Staða: Tengdur

Re: Linus tech tips að Tapa gögnum af Fileserver

Pósturaf TheAdder » Þri 01. Feb 2022 11:30

Dropi skrifaði:Unraid er með default scrub (parity check) vikulega, er ég að skilja þá rétt að þeirra server keyrði parity check nákvæmlega 0 sinnnum á 4-5 árum ?!

Hef verið LTT fan í mörg mörg ár, vá hvað mér finnst þeir glæfralegir með gögnin sín.


Rétt skilið hjá þér, þeir voru að keyra ekki einn, heldur tvo petabyte servera með þeirra eigin zfs uppsetningu í debian.
Þetta er hreinlega ótrúlegt hjá þessu batteríi 8-[


NZXT 710i - Ryzen 7 5800X - 32GiB 3200 M/T RAM - X570 Aorus Ultra - PowerColor Radeon RX 7900 XTX - 1TB Samsung 970 Pro, 2TB Samsung 970 Evo