SlideShare une entreprise Scribd logo
1  sur  60
Linux adatkezelési
      képességei
             avagy
RAID, LVM és állományrendszerek




          Szalai Ferenc
        szferi@avaxio.hu

                            http://www.avaxio.hu
                             http://www.avaxio.hu
Nézz magadba és rendszereidre!




                        http://www.avaxio.hu
                         http://www.avaxio.hu
Mi a tipikus konfiguráció?




                        http://www.avaxio.hu
                         http://www.avaxio.hu
1 szerverben, 1 vagy maximum
      néhány merevemez.
      Nincs redundancia!




                       http://www.avaxio.hu
                        http://www.avaxio.hu
Azán, ha megtörténik a baj




                       http://www.avaxio.hu
                        http://www.avaxio.hu
Sírás van




            http://www.avaxio.hu
             http://www.avaxio.hu
vagy mentés




legyen mentés!
                 http://www.avaxio.hu
                  http://www.avaxio.hu
Előzzük meg a bajt!
Használjunk hibatűrő megoldásokat!




                           http://www.avaxio.hu
                            http://www.avaxio.hu
Olcsó merevlemezekből építkezzünk
          (SATA, ATA)




                          http://www.avaxio.hu
                           http://www.avaxio.hu
RAID: Redundant Array of
          Inexpensive Disks
(David A. Patterson, Garth A. Gibson
   and Randy Katz, 1988 junius)




                            http://www.avaxio.hu
                             http://www.avaxio.hu
RAID szintek




               http://www.avaxio.hu
                http://www.avaxio.hu
Elemi egység: BLOKK




                      http://www.avaxio.hu
                       http://www.avaxio.hu
RAID 0 - stripe




Nincs redundancia!
                     http://www.avaxio.hu
                      http://www.avaxio.hu
RAID 0

     Sebességre hajtunk!




                           http://www.avaxio.hu
                            http://www.avaxio.hu
RAID 1 - mirror




                  http://www.avaxio.hu
                   http://www.avaxio.hu
RAID 5
 Parittás (pl. Hamming ECC) a te
               barátod!




                           http://www.avaxio.hu
                            http://www.avaxio.hu
Jó nekem a 1TB-os lemez?




                     http://www.avaxio.hu
                      http://www.avaxio.hu
Problémák nagy lemezekkel
●
  Nagy sebesség eltérések a lemez
  elején vs végén (20-30%)
●
  Hosszú RAID szinkronizációs idő
●
  Egybe vesztünk sokat
●
  Élettartam problémák (<< 300.000
  óra két hiba között)




                           http://www.avaxio.hu
                            http://www.avaxio.hu
A dupla merevlemez
meghibásodások száma arányos a
 merevlemez számának 3-adik
        hatványával!




                        http://www.avaxio.hu
                         http://www.avaxio.hu
Sok lemeznél a RAID5 nem
megoldás! Legalább RAID6 legyen!




                         http://www.avaxio.hu
                          http://www.avaxio.hu
RAID6
 Parittásbol sosem elég! Legyen
           rögtön kettő!




                          http://www.avaxio.hu
                           http://www.avaxio.hu
Kevert RAID szintek
●
  Alap szintek
  kombinálhatók.
●
  Pl: RAID 0+1,
  RAID1+0




                      http://www.avaxio.hu
                       http://www.avaxio.hu
Az örök dilemma:
Hardver vagy softver RAID?




                       http://www.avaxio.hu
                        http://www.avaxio.hu
3ware 9560 PCI-E RAID vezérlő
             Vs.
     Linux szoftver RAID




                        http://www.avaxio.hu
                         http://www.avaxio.hu
http://www.avaxio.hu
 http://www.avaxio.hu
http://www.avaxio.hu
 http://www.avaxio.hu
Linux szoftver RAID HOGYAN




                      http://www.avaxio.hu
                       http://www.avaxio.hu
Kell egy eszköz!




                   http://www.avaxio.hu
                    http://www.avaxio.hu
MDADM a te barátod




                     http://www.avaxio.hu
                      http://www.avaxio.hu
mdadm --create --auto=yes 
--level=5 --raid-devices=3 
–-spare-devices=1 
/dev/md0 /dev/sdn /dev/sdk 
/dev/sdl /dev/sdm

mdadm –-stop /dev/md0



                        http://www.avaxio.hu
                         http://www.avaxio.hu
cat /proc/mdstat
Personalities : [raid0] [raid6] [raid5] [raid4]
md3 : active raid5 sdl[4] sdm[3](S) sdk[1]
  sdn[0]
      976772992 blocks level 5, 64k chunk,
  algorithm 2 [3/2] [UU_]
      [>....................] recovery = 0.0%
  (241152/488386496) finish=134.9min
  speed=60288K/sec

unused devices: <none>




                                      http://www.avaxio.hu
                                       http://www.avaxio.hu
mdadm --detail /dev/md3
/dev/md3:
      Version : 00.90.03
 Creation Time : Sat Oct 13 07:03:46 2007
    Raid Level : raid5
    Array Size : 976772992 (931.52 GiB 1000.22 GB)
   Device Size : 488386496 (465.76 GiB 500.11 GB)
  Raid Devices : 3
 Total Devices : 4
Preferred Minor : 3
   Persistence : Superblock is persistent

  Update Time : Sat Oct 13 07:03:46 2007



State : clean, degraded,       recovering
Active Devices : 2
Working Devices : 4
Failed Devices : 0
 Spare Devices : 2

     Layout : left-symmetric
   Chunk Size : 64K

Rebuild Status : 0% complete

         UUID : f1b7a549:ceee3fb8:8cf68a7e:6edfe29a
        Events : 0.1

  Number Major Minor RaidDevice State
   0    8   208     0   active sync /dev/sdn
   1    8   160     1   active sync /dev/sdk
   4    8   176     2   spare rebuilding /dev/sdl

    3       8   192        -      spare     /dev/sdm




                                                       http://www.avaxio.hu
                                                        http://www.avaxio.hu
mdadm –-fail
mdadm –-remove
mdadm –-add
mdadm –-assemble –-scan
 /dev/md0
mdadm –-monitor –-demonise –
 scan
(/etc/default/mdadm)
(/etc/cron.d/mdadm ->
 checkarray)
                        http://www.avaxio.hu
                         http://www.avaxio.hu
mdadm --detail –-scan >>
 /etc/mdadm/mdadm.conf

ARRAY /dev/md3 level=raid5 num-
 devices=3 spares=2
 UUID=f1b7a549:ceee3fb8:8cf68a7
 e:6edfe29a



                           http://www.avaxio.hu
                            http://www.avaxio.hu
Figyeljünk a nevekre!
  /dev/disk/by-id




                        http://www.avaxio.hu
                         http://www.avaxio.hu
Daraboljunk intelligensen!
 (Linux Volume Management (LVM)
azaz PV, VG, LV és egyéb állatfajták)




                             http://www.avaxio.hu
                              http://www.avaxio.hu
Emlékeztető:
Még mindig blokk az elemi egység




                          http://www.avaxio.hu
                           http://www.avaxio.hu
http://www.avaxio.hu
 http://www.avaxio.hu
Fizikai kötetek - PV
pvcreate /dev/md3
pvcreate /dev/hda1
pvscan
PV /dev/md3         lvm2 [931.52 GB]
  Total: 1 [931.52 GB] / in use: 0 [0   ] / in no VG: 1
  [931.52 GB]
pvresize
pvdisplay
pvremove


                                             http://www.avaxio.hu
                                              http://www.avaxio.hu
Az LVM egyik legfontosabb előnye a
        méretgazdálkodás




                           http://www.avaxio.hu
                            http://www.avaxio.hu
Kötet csoportok – VG
vgcreate barmi /dev/md3 /dev/hda1
vgs
VG    #PV #LV #SN Attr   VSize   VFree
barmi   1   0   0 wz--n- 931.52G 931.52G
vgdisplay
vgrename
vgremove




                                      http://www.avaxio.hu
                                       http://www.avaxio.hu
Logikai kötetek - LV
lvcreate -i 2 -n var -L 300M
 barmi
/dev/barmi/var
lvs
 LV   VG    Attr   LSize
 Origin Snap% Move Log Copy%
  var barmi -wi-a- 300.00M
lvdisplay
lvremove
lvresize
lvreduce               http://www.avaxio.hu
                        http://www.avaxio.hu
Figyelemre méltó apróság:
        snapshot




                      http://www.avaxio.hu
                       http://www.avaxio.hu
lvcreate –-snapshot -L 512M 
-n backup /dev/sda1

●
  a snapshot készítése előtte
  állítsunk le minden I/O műveletet
●
  a méret az eredeti kötet 10-20%
  kell csak legyen



                             http://www.avaxio.hu
                              http://www.avaxio.hu
http://www.avaxio.hu
 http://www.avaxio.hu
Paraméter                              Default    Opt
/sys/block/sda/queue/max_sectors_kb          128    64
/sys/block/sda/queue/nr_requests             128   512
blockdev –setra                              256 16384
/sys/block/sda/queue/scheduler        deadline cfq




ionice -c2 -n0




                                                    http://www.avaxio.hu
                                                     http://www.avaxio.hu
Melyik állományrendszert
       használjunk?




                      http://www.avaxio.hu
                       http://www.avaxio.hu
Az esetek 90%-ban az ext3
     tökéletesen megfelelő
a maradék 10%-ban használjunk
             XFS-t




                        http://www.avaxio.hu
                         http://www.avaxio.hu
Minden ellenállás hasztalan




                        http://www.avaxio.hu
                         http://www.avaxio.hu
Nem lehet végtelen mennyiségű
  merevlemezt egy szerverbe
            pakolni!




                        http://www.avaxio.hu
                         http://www.avaxio.hu
Adatorientált tervezésre van
szükség! Vigyük a merevlemezelet
       a szerveren kívülre




                         http://www.avaxio.hu
                          http://www.avaxio.hu
(legalább) Két megközelítés van:




                          http://www.avaxio.hu
                           http://www.avaxio.hu
BLOKK szintű
(SAN=Storage Area Network)




                      http://www.avaxio.hu
                       http://www.avaxio.hu
Állományrendszer szintű
(NAS=Network Attached Storage)




                        http://www.avaxio.hu
                         http://www.avaxio.hu
NAS
●
  állomány rendszer a adattároló
  szerver oldalon
●
  Protokollok: NFS, SMB
●
  Problémák
    –   Bonyolult protokoll
    –   alacsony szintű biztonság
    –   hibatűrés és terhelés kiegyenlítés nehezen
        megvalósítható
    –   gyenge klaszerizációs képességek



                                             http://www.avaxio.hu
                                              http://www.avaxio.hu
SAN
●
  állomány rendszer a kliens oldalon
●
  Protokollok: FC, iSCSI, AoE, SRB
  over Inifinband
●
  Problémák:
    –   gyenge biztonság
    –   FC: dedikált hálózat kell hozzá
    –   gyenge klaszterizációs képességek




                                            http://www.avaxio.hu
                                             http://www.avaxio.hu
Hova tovább, tovatovább?




                      http://www.avaxio.hu
                       http://www.avaxio.hu
Klaszterizált megoldások:




                       http://www.avaxio.hu
                        http://www.avaxio.hu
Lustre, GlusterFS, StarFish, stb.
      szokjuk a szavakat




                            http://www.avaxio.hu
                             http://www.avaxio.hu
Kalandra fel!




                http://www.avaxio.hu
                 http://www.avaxio.hu

Contenu connexe

En vedette

Leyenda oriental
Leyenda orientalLeyenda oriental
Leyenda orientalhjonilton
 
Ppoint jara sthefania
Ppoint jara sthefaniaPpoint jara sthefania
Ppoint jara sthefaniasthefijara
 
REVISEDSpanishbrochureback
REVISEDSpanishbrochurebackREVISEDSpanishbrochureback
REVISEDSpanishbrochurebackTony Brady
 
El cuarto rey mago
El cuarto rey magoEl cuarto rey mago
El cuarto rey magohjonilton
 
Recommendation Letter.ORU-Dr. Pierce
Recommendation Letter.ORU-Dr. PierceRecommendation Letter.ORU-Dr. Pierce
Recommendation Letter.ORU-Dr. PierceDenise Putnam
 
Questões de interpretação
Questões de interpretaçãoQuestões de interpretação
Questões de interpretaçãoCEM
 
Google Education apps wvhetc 2016 sept
Google Education apps wvhetc 2016 sept Google Education apps wvhetc 2016 sept
Google Education apps wvhetc 2016 sept Rachel Plybon - Beach
 
Neurotransmission, Neuropsychiatry, and Neuropharmacology 2013
Neurotransmission, Neuropsychiatry, and Neuropharmacology 2013 Neurotransmission, Neuropsychiatry, and Neuropharmacology 2013
Neurotransmission, Neuropsychiatry, and Neuropharmacology 2013 dfsmithdfsmith
 
Quisper launch: 3. Quisper introduction - Jo Goosens
Quisper launch: 3. Quisper introduction - Jo GoosensQuisper launch: 3. Quisper introduction - Jo Goosens
Quisper launch: 3. Quisper introduction - Jo GoosensQuisper
 
CA Project and Portfolio Management 14.x - Advanced Reporting for the End User
CA Project and Portfolio Management 14.x - Advanced Reporting for the End UserCA Project and Portfolio Management 14.x - Advanced Reporting for the End User
CA Project and Portfolio Management 14.x - Advanced Reporting for the End UserCA Technologies
 

En vedette (16)

Content Marketing
Content MarketingContent Marketing
Content Marketing
 
Leyenda oriental
Leyenda orientalLeyenda oriental
Leyenda oriental
 
Ppoint jara sthefania
Ppoint jara sthefaniaPpoint jara sthefania
Ppoint jara sthefania
 
REVISEDSpanishbrochureback
REVISEDSpanishbrochurebackREVISEDSpanishbrochureback
REVISEDSpanishbrochureback
 
Magazine cover
Magazine coverMagazine cover
Magazine cover
 
Youtube lesson
Youtube lessonYoutube lesson
Youtube lesson
 
El cuarto rey mago
El cuarto rey magoEl cuarto rey mago
El cuarto rey mago
 
Recommendation Letter.ORU-Dr. Pierce
Recommendation Letter.ORU-Dr. PierceRecommendation Letter.ORU-Dr. Pierce
Recommendation Letter.ORU-Dr. Pierce
 
Questões de interpretação
Questões de interpretaçãoQuestões de interpretação
Questões de interpretação
 
SkatePark
SkateParkSkatePark
SkatePark
 
Google Education apps wvhetc 2016 sept
Google Education apps wvhetc 2016 sept Google Education apps wvhetc 2016 sept
Google Education apps wvhetc 2016 sept
 
Fatti statistiche e persone
Fatti statistiche e personeFatti statistiche e persone
Fatti statistiche e persone
 
too sexy
too sexytoo sexy
too sexy
 
Neurotransmission, Neuropsychiatry, and Neuropharmacology 2013
Neurotransmission, Neuropsychiatry, and Neuropharmacology 2013 Neurotransmission, Neuropsychiatry, and Neuropharmacology 2013
Neurotransmission, Neuropsychiatry, and Neuropharmacology 2013
 
Quisper launch: 3. Quisper introduction - Jo Goosens
Quisper launch: 3. Quisper introduction - Jo GoosensQuisper launch: 3. Quisper introduction - Jo Goosens
Quisper launch: 3. Quisper introduction - Jo Goosens
 
CA Project and Portfolio Management 14.x - Advanced Reporting for the End User
CA Project and Portfolio Management 14.x - Advanced Reporting for the End UserCA Project and Portfolio Management 14.x - Advanced Reporting for the End User
CA Project and Portfolio Management 14.x - Advanced Reporting for the End User
 

Similaire à Linux adattárolási képességei

Budapest.rb 2011/01 - Rails Deployment
Budapest.rb 2011/01 - Rails DeploymentBudapest.rb 2011/01 - Rails Deployment
Budapest.rb 2011/01 - Rails DeploymentDigital Natives
 
Hardware hacking 1x1 by Dnet
Hardware hacking 1x1 by DnetHardware hacking 1x1 by Dnet
Hardware hacking 1x1 by Dnethackersuli
 
Drupal gyorstárazási stratégiák
Drupal gyorstárazási stratégiákDrupal gyorstárazási stratégiák
Drupal gyorstárazási stratégiákJános Fehér
 

Similaire à Linux adattárolási képességei (6)

Polygon Hírek III. évfolyam 2009 VMware
Polygon Hírek III. évfolyam 2009 VMwarePolygon Hírek III. évfolyam 2009 VMware
Polygon Hírek III. évfolyam 2009 VMware
 
Vmware alapú virtualizáció
Vmware alapú virtualizációVmware alapú virtualizáció
Vmware alapú virtualizáció
 
Budapest.rb 2011/01 - Rails Deployment
Budapest.rb 2011/01 - Rails DeploymentBudapest.rb 2011/01 - Rails Deployment
Budapest.rb 2011/01 - Rails Deployment
 
Hardware hacking 1x1 by Dnet
Hardware hacking 1x1 by DnetHardware hacking 1x1 by Dnet
Hardware hacking 1x1 by Dnet
 
Drupal gyorstárazási stratégiák
Drupal gyorstárazási stratégiákDrupal gyorstárazási stratégiák
Drupal gyorstárazási stratégiák
 
JavaScript - Hogyan készül
JavaScript - Hogyan készülJavaScript - Hogyan készül
JavaScript - Hogyan készül
 

Plus de Ferenc Szalai

Hardware Renaissance
Hardware RenaissanceHardware Renaissance
Hardware RenaissanceFerenc Szalai
 
Miért vagyok Python rajongó? - avagy kalandozások egy nyílt forrású programoz...
Miért vagyok Python rajongó? - avagy kalandozások egy nyílt forrású programoz...Miért vagyok Python rajongó? - avagy kalandozások egy nyílt forrású programoz...
Miért vagyok Python rajongó? - avagy kalandozások egy nyílt forrású programoz...Ferenc Szalai
 
CoLinux - avagy két dudás egy csárdában
CoLinux - avagy két dudás egy csárdábanCoLinux - avagy két dudás egy csárdában
CoLinux - avagy két dudás egy csárdábanFerenc Szalai
 
Mesterséges agyak - scifi és valóság határán
Mesterséges agyak - scifi és valóság határánMesterséges agyak - scifi és valóság határán
Mesterséges agyak - scifi és valóság határánFerenc Szalai
 
Emlekező áramköri elemek fizikája
Emlekező áramköri elemek fizikájaEmlekező áramköri elemek fizikája
Emlekező áramköri elemek fizikájaFerenc Szalai
 
Science Meetup bemutató
Science Meetup bemutatóScience Meetup bemutató
Science Meetup bemutatóFerenc Szalai
 
Nagy-teljesítményű, költséghatékony adattárolási technológiák könyvtári körny...
Nagy-teljesítményű, költséghatékony adattárolási technológiák könyvtári körny...Nagy-teljesítményű, költséghatékony adattárolási technológiák könyvtári körny...
Nagy-teljesítményű, költséghatékony adattárolási technológiák könyvtári körny...Ferenc Szalai
 
Adattároló klaszterek
Adattároló klaszterekAdattároló klaszterek
Adattároló klaszterekFerenc Szalai
 
Grid és adattárolás
Grid és adattárolásGrid és adattárolás
Grid és adattárolásFerenc Szalai
 
Grid és adattárolás
Grid és adattárolásGrid és adattárolás
Grid és adattárolásFerenc Szalai
 
Grid Underground projekt
Grid Underground projektGrid Underground projekt
Grid Underground projektFerenc Szalai
 
Identity 2.0 - a vágy titogzatos tárgya
Identity 2.0 - a vágy titogzatos tárgyaIdentity 2.0 - a vágy titogzatos tárgya
Identity 2.0 - a vágy titogzatos tárgyaFerenc Szalai
 
Grid Underground (GUG) - avagy hogyan építsünk IT szolgáltatás hálózatot a su...
Grid Underground (GUG) - avagy hogyan építsünk IT szolgáltatás hálózatot a su...Grid Underground (GUG) - avagy hogyan építsünk IT szolgáltatás hálózatot a su...
Grid Underground (GUG) - avagy hogyan építsünk IT szolgáltatás hálózatot a su...Ferenc Szalai
 
Budapest New Technology Meetup - az elmúlt egy évünk
Budapest New Technology Meetup - az elmúlt egy évünkBudapest New Technology Meetup - az elmúlt egy évünk
Budapest New Technology Meetup - az elmúlt egy évünkFerenc Szalai
 
Az agy túlélő készlete - avagy tanulási tanácsok az iskolapad utáni mindennap...
Az agy túlélő készlete - avagy tanulási tanácsok az iskolapad utáni mindennap...Az agy túlélő készlete - avagy tanulási tanácsok az iskolapad utáni mindennap...
Az agy túlélő készlete - avagy tanulási tanácsok az iskolapad utáni mindennap...Ferenc Szalai
 
Alapvető beállítások egy levelező rendszer működéséhez
Alapvető beállítások egy levelező rendszer működéséhezAlapvető beállítások egy levelező rendszer működéséhez
Alapvető beállítások egy levelező rendszer működéséhezFerenc Szalai
 
A ClusterGrid rendszer - avagy hogyan üzemeltessünk, több mint 1000 csomópont...
A ClusterGrid rendszer - avagy hogyan üzemeltessünk, több mint 1000 csomópont...A ClusterGrid rendszer - avagy hogyan üzemeltessünk, több mint 1000 csomópont...
A ClusterGrid rendszer - avagy hogyan üzemeltessünk, több mint 1000 csomópont...Ferenc Szalai
 
Kutatokejszakaja 2008 - személyes bemutatkozás
Kutatokejszakaja 2008 - személyes bemutatkozásKutatokejszakaja 2008 - személyes bemutatkozás
Kutatokejszakaja 2008 - személyes bemutatkozásFerenc Szalai
 
Egy kutató elme mindennapjai
Egy kutató elme mindennapjaiEgy kutató elme mindennapjai
Egy kutató elme mindennapjaiFerenc Szalai
 

Plus de Ferenc Szalai (20)

Hardware Renaissance
Hardware RenaissanceHardware Renaissance
Hardware Renaissance
 
Miért vagyok Python rajongó? - avagy kalandozások egy nyílt forrású programoz...
Miért vagyok Python rajongó? - avagy kalandozások egy nyílt forrású programoz...Miért vagyok Python rajongó? - avagy kalandozások egy nyílt forrású programoz...
Miért vagyok Python rajongó? - avagy kalandozások egy nyílt forrású programoz...
 
CoLinux - avagy két dudás egy csárdában
CoLinux - avagy két dudás egy csárdábanCoLinux - avagy két dudás egy csárdában
CoLinux - avagy két dudás egy csárdában
 
Mesterséges agyak - scifi és valóság határán
Mesterséges agyak - scifi és valóság határánMesterséges agyak - scifi és valóság határán
Mesterséges agyak - scifi és valóság határán
 
Emlekező áramköri elemek fizikája
Emlekező áramköri elemek fizikájaEmlekező áramköri elemek fizikája
Emlekező áramköri elemek fizikája
 
Science Meetup bemutató
Science Meetup bemutatóScience Meetup bemutató
Science Meetup bemutató
 
Virtualization
VirtualizationVirtualization
Virtualization
 
Nagy-teljesítményű, költséghatékony adattárolási technológiák könyvtári körny...
Nagy-teljesítményű, költséghatékony adattárolási technológiák könyvtári körny...Nagy-teljesítményű, költséghatékony adattárolási technológiák könyvtári körny...
Nagy-teljesítményű, költséghatékony adattárolási technológiák könyvtári körny...
 
Adattároló klaszterek
Adattároló klaszterekAdattároló klaszterek
Adattároló klaszterek
 
Grid és adattárolás
Grid és adattárolásGrid és adattárolás
Grid és adattárolás
 
Grid és adattárolás
Grid és adattárolásGrid és adattárolás
Grid és adattárolás
 
Grid Underground projekt
Grid Underground projektGrid Underground projekt
Grid Underground projekt
 
Identity 2.0 - a vágy titogzatos tárgya
Identity 2.0 - a vágy titogzatos tárgyaIdentity 2.0 - a vágy titogzatos tárgya
Identity 2.0 - a vágy titogzatos tárgya
 
Grid Underground (GUG) - avagy hogyan építsünk IT szolgáltatás hálózatot a su...
Grid Underground (GUG) - avagy hogyan építsünk IT szolgáltatás hálózatot a su...Grid Underground (GUG) - avagy hogyan építsünk IT szolgáltatás hálózatot a su...
Grid Underground (GUG) - avagy hogyan építsünk IT szolgáltatás hálózatot a su...
 
Budapest New Technology Meetup - az elmúlt egy évünk
Budapest New Technology Meetup - az elmúlt egy évünkBudapest New Technology Meetup - az elmúlt egy évünk
Budapest New Technology Meetup - az elmúlt egy évünk
 
Az agy túlélő készlete - avagy tanulási tanácsok az iskolapad utáni mindennap...
Az agy túlélő készlete - avagy tanulási tanácsok az iskolapad utáni mindennap...Az agy túlélő készlete - avagy tanulási tanácsok az iskolapad utáni mindennap...
Az agy túlélő készlete - avagy tanulási tanácsok az iskolapad utáni mindennap...
 
Alapvető beállítások egy levelező rendszer működéséhez
Alapvető beállítások egy levelező rendszer működéséhezAlapvető beállítások egy levelező rendszer működéséhez
Alapvető beállítások egy levelező rendszer működéséhez
 
A ClusterGrid rendszer - avagy hogyan üzemeltessünk, több mint 1000 csomópont...
A ClusterGrid rendszer - avagy hogyan üzemeltessünk, több mint 1000 csomópont...A ClusterGrid rendszer - avagy hogyan üzemeltessünk, több mint 1000 csomópont...
A ClusterGrid rendszer - avagy hogyan üzemeltessünk, több mint 1000 csomópont...
 
Kutatokejszakaja 2008 - személyes bemutatkozás
Kutatokejszakaja 2008 - személyes bemutatkozásKutatokejszakaja 2008 - személyes bemutatkozás
Kutatokejszakaja 2008 - személyes bemutatkozás
 
Egy kutató elme mindennapjai
Egy kutató elme mindennapjaiEgy kutató elme mindennapjai
Egy kutató elme mindennapjai
 

Linux adattárolási képességei

  • 1. Linux adatkezelési képességei avagy RAID, LVM és állományrendszerek Szalai Ferenc szferi@avaxio.hu http://www.avaxio.hu http://www.avaxio.hu
  • 2. Nézz magadba és rendszereidre! http://www.avaxio.hu http://www.avaxio.hu
  • 3. Mi a tipikus konfiguráció? http://www.avaxio.hu http://www.avaxio.hu
  • 4. 1 szerverben, 1 vagy maximum néhány merevemez. Nincs redundancia! http://www.avaxio.hu http://www.avaxio.hu
  • 5. Azán, ha megtörténik a baj http://www.avaxio.hu http://www.avaxio.hu
  • 6. Sírás van http://www.avaxio.hu http://www.avaxio.hu
  • 7. vagy mentés legyen mentés! http://www.avaxio.hu http://www.avaxio.hu
  • 8. Előzzük meg a bajt! Használjunk hibatűrő megoldásokat! http://www.avaxio.hu http://www.avaxio.hu
  • 9. Olcsó merevlemezekből építkezzünk (SATA, ATA) http://www.avaxio.hu http://www.avaxio.hu
  • 10. RAID: Redundant Array of Inexpensive Disks (David A. Patterson, Garth A. Gibson and Randy Katz, 1988 junius) http://www.avaxio.hu http://www.avaxio.hu
  • 11. RAID szintek http://www.avaxio.hu http://www.avaxio.hu
  • 12. Elemi egység: BLOKK http://www.avaxio.hu http://www.avaxio.hu
  • 13. RAID 0 - stripe Nincs redundancia! http://www.avaxio.hu http://www.avaxio.hu
  • 14. RAID 0 Sebességre hajtunk! http://www.avaxio.hu http://www.avaxio.hu
  • 15. RAID 1 - mirror http://www.avaxio.hu http://www.avaxio.hu
  • 16. RAID 5 Parittás (pl. Hamming ECC) a te barátod! http://www.avaxio.hu http://www.avaxio.hu
  • 17. Jó nekem a 1TB-os lemez? http://www.avaxio.hu http://www.avaxio.hu
  • 18. Problémák nagy lemezekkel ● Nagy sebesség eltérések a lemez elején vs végén (20-30%) ● Hosszú RAID szinkronizációs idő ● Egybe vesztünk sokat ● Élettartam problémák (<< 300.000 óra két hiba között) http://www.avaxio.hu http://www.avaxio.hu
  • 19. A dupla merevlemez meghibásodások száma arányos a merevlemez számának 3-adik hatványával! http://www.avaxio.hu http://www.avaxio.hu
  • 20. Sok lemeznél a RAID5 nem megoldás! Legalább RAID6 legyen! http://www.avaxio.hu http://www.avaxio.hu
  • 21. RAID6 Parittásbol sosem elég! Legyen rögtön kettő! http://www.avaxio.hu http://www.avaxio.hu
  • 22. Kevert RAID szintek ● Alap szintek kombinálhatók. ● Pl: RAID 0+1, RAID1+0 http://www.avaxio.hu http://www.avaxio.hu
  • 23. Az örök dilemma: Hardver vagy softver RAID? http://www.avaxio.hu http://www.avaxio.hu
  • 24. 3ware 9560 PCI-E RAID vezérlő Vs. Linux szoftver RAID http://www.avaxio.hu http://www.avaxio.hu
  • 27. Linux szoftver RAID HOGYAN http://www.avaxio.hu http://www.avaxio.hu
  • 28. Kell egy eszköz! http://www.avaxio.hu http://www.avaxio.hu
  • 29. MDADM a te barátod http://www.avaxio.hu http://www.avaxio.hu
  • 30. mdadm --create --auto=yes --level=5 --raid-devices=3 –-spare-devices=1 /dev/md0 /dev/sdn /dev/sdk /dev/sdl /dev/sdm mdadm –-stop /dev/md0 http://www.avaxio.hu http://www.avaxio.hu
  • 31. cat /proc/mdstat Personalities : [raid0] [raid6] [raid5] [raid4] md3 : active raid5 sdl[4] sdm[3](S) sdk[1] sdn[0] 976772992 blocks level 5, 64k chunk, algorithm 2 [3/2] [UU_] [>....................] recovery = 0.0% (241152/488386496) finish=134.9min speed=60288K/sec unused devices: <none> http://www.avaxio.hu http://www.avaxio.hu
  • 32. mdadm --detail /dev/md3 /dev/md3: Version : 00.90.03 Creation Time : Sat Oct 13 07:03:46 2007 Raid Level : raid5 Array Size : 976772992 (931.52 GiB 1000.22 GB) Device Size : 488386496 (465.76 GiB 500.11 GB) Raid Devices : 3 Total Devices : 4 Preferred Minor : 3 Persistence : Superblock is persistent Update Time : Sat Oct 13 07:03:46 2007 State : clean, degraded, recovering Active Devices : 2 Working Devices : 4 Failed Devices : 0 Spare Devices : 2 Layout : left-symmetric Chunk Size : 64K Rebuild Status : 0% complete UUID : f1b7a549:ceee3fb8:8cf68a7e:6edfe29a Events : 0.1 Number Major Minor RaidDevice State 0 8 208 0 active sync /dev/sdn 1 8 160 1 active sync /dev/sdk 4 8 176 2 spare rebuilding /dev/sdl 3 8 192 - spare /dev/sdm http://www.avaxio.hu http://www.avaxio.hu
  • 33. mdadm –-fail mdadm –-remove mdadm –-add mdadm –-assemble –-scan /dev/md0 mdadm –-monitor –-demonise – scan (/etc/default/mdadm) (/etc/cron.d/mdadm -> checkarray) http://www.avaxio.hu http://www.avaxio.hu
  • 34. mdadm --detail –-scan >> /etc/mdadm/mdadm.conf ARRAY /dev/md3 level=raid5 num- devices=3 spares=2 UUID=f1b7a549:ceee3fb8:8cf68a7 e:6edfe29a http://www.avaxio.hu http://www.avaxio.hu
  • 35. Figyeljünk a nevekre! /dev/disk/by-id http://www.avaxio.hu http://www.avaxio.hu
  • 36. Daraboljunk intelligensen! (Linux Volume Management (LVM) azaz PV, VG, LV és egyéb állatfajták) http://www.avaxio.hu http://www.avaxio.hu
  • 37. Emlékeztető: Még mindig blokk az elemi egység http://www.avaxio.hu http://www.avaxio.hu
  • 39. Fizikai kötetek - PV pvcreate /dev/md3 pvcreate /dev/hda1 pvscan PV /dev/md3 lvm2 [931.52 GB] Total: 1 [931.52 GB] / in use: 0 [0 ] / in no VG: 1 [931.52 GB] pvresize pvdisplay pvremove http://www.avaxio.hu http://www.avaxio.hu
  • 40. Az LVM egyik legfontosabb előnye a méretgazdálkodás http://www.avaxio.hu http://www.avaxio.hu
  • 41. Kötet csoportok – VG vgcreate barmi /dev/md3 /dev/hda1 vgs VG #PV #LV #SN Attr VSize VFree barmi 1 0 0 wz--n- 931.52G 931.52G vgdisplay vgrename vgremove http://www.avaxio.hu http://www.avaxio.hu
  • 42. Logikai kötetek - LV lvcreate -i 2 -n var -L 300M barmi /dev/barmi/var lvs LV VG Attr LSize Origin Snap% Move Log Copy% var barmi -wi-a- 300.00M lvdisplay lvremove lvresize lvreduce http://www.avaxio.hu http://www.avaxio.hu
  • 43. Figyelemre méltó apróság: snapshot http://www.avaxio.hu http://www.avaxio.hu
  • 44. lvcreate –-snapshot -L 512M -n backup /dev/sda1 ● a snapshot készítése előtte állítsunk le minden I/O műveletet ● a méret az eredeti kötet 10-20% kell csak legyen http://www.avaxio.hu http://www.avaxio.hu
  • 46. Paraméter Default Opt /sys/block/sda/queue/max_sectors_kb 128 64 /sys/block/sda/queue/nr_requests 128 512 blockdev –setra 256 16384 /sys/block/sda/queue/scheduler deadline cfq ionice -c2 -n0 http://www.avaxio.hu http://www.avaxio.hu
  • 47. Melyik állományrendszert használjunk? http://www.avaxio.hu http://www.avaxio.hu
  • 48. Az esetek 90%-ban az ext3 tökéletesen megfelelő a maradék 10%-ban használjunk XFS-t http://www.avaxio.hu http://www.avaxio.hu
  • 49. Minden ellenállás hasztalan http://www.avaxio.hu http://www.avaxio.hu
  • 50. Nem lehet végtelen mennyiségű merevlemezt egy szerverbe pakolni! http://www.avaxio.hu http://www.avaxio.hu
  • 51. Adatorientált tervezésre van szükség! Vigyük a merevlemezelet a szerveren kívülre http://www.avaxio.hu http://www.avaxio.hu
  • 52. (legalább) Két megközelítés van: http://www.avaxio.hu http://www.avaxio.hu
  • 53. BLOKK szintű (SAN=Storage Area Network) http://www.avaxio.hu http://www.avaxio.hu
  • 54. Állományrendszer szintű (NAS=Network Attached Storage) http://www.avaxio.hu http://www.avaxio.hu
  • 55. NAS ● állomány rendszer a adattároló szerver oldalon ● Protokollok: NFS, SMB ● Problémák – Bonyolult protokoll – alacsony szintű biztonság – hibatűrés és terhelés kiegyenlítés nehezen megvalósítható – gyenge klaszerizációs képességek http://www.avaxio.hu http://www.avaxio.hu
  • 56. SAN ● állomány rendszer a kliens oldalon ● Protokollok: FC, iSCSI, AoE, SRB over Inifinband ● Problémák: – gyenge biztonság – FC: dedikált hálózat kell hozzá – gyenge klaszterizációs képességek http://www.avaxio.hu http://www.avaxio.hu
  • 57. Hova tovább, tovatovább? http://www.avaxio.hu http://www.avaxio.hu
  • 58. Klaszterizált megoldások: http://www.avaxio.hu http://www.avaxio.hu
  • 59. Lustre, GlusterFS, StarFish, stb. szokjuk a szavakat http://www.avaxio.hu http://www.avaxio.hu
  • 60. Kalandra fel! http://www.avaxio.hu http://www.avaxio.hu