Pozn.: Měl jsem krátkou příležitost se potkat s diskovým polem HPE 3PAR 8400, tak jsem sepsal svoje poznatky. Nejzajímavější bylo, že se jednalo o konfiguraci dvou polí v různých datových centrech v geografickém clusteru (o tom příště).
Pozn.: U diskových polí (Storage System) se obecně používá anglický termín Host pro zařízení, která se připojují na pole a my jim poskytujeme diskový prostor. Host znamená česky hostitel, což mi jako termín připadá dost zvláštní, protože mi přijde, že hostitel je pole a ten kdo se připojuje je spíš host (anglicky Guest) nebo klient. Ještě je zde to zmatení, že české a anglické slovo host má opačný význam. Takže já v řadě článků o polích různě míchám termíny, používám Host (a je myšleno anglické slovo) nebo klient, apod. Snad to ale v kontextu každý pochopí.
HPE 3PAR StoreServ Storage - základní vlastnosti
Diskové pole HPE 3PAR 8400 je HPE 3PAR StoreServ Storage řady 8000 vybavený systémem HP 3PAR Operating System (OS, momentálně verze 3.2.2 (MU4) P50).
Mezi HPE 3PAR patří aktuálně dvě řady polí, řada 8000 (8200, 8400, 8440, 8450 AllFlash) a 20000 (20450, 20800, 20850). Všechny mají stejný OS, Feature set, rozhraní pro správu. Řada 20000 jsou nejvýkonnější pole, každý kontrolér má 2x ASIC, do clusteru můžeme zapojit až 8 kontrolérů, má největší rozšiřitelnost, kapacitu a výkon.
Řada 8000 má 12 Gbps SAS BackEnd, obsahuje 16 Gbps Fibre Channel porty na kontroléru, ASIC 5-té generace, do clusteru můžeme zapojit maximálně 4 kontroléry.
Architektura je založena na zapojování kontrolérů do clusteru. V základu máme Controller Enclosure, který obsahuje dva kontroléry, tedy uzly (node) clusteru. Podle modelu pole můžeme rozšiřovat na 4, 6 nebo 8 uzlů clusteru, tak že připojujeme další Controller Enclosure. Tím zvýšíme spolehlivost a výkon. Uzly clusteru se zapojují jako Full Mesh, HPE to pak označuje jako Virtualized Storage Architecture. Kontroléry fungují jako Active/Active. Výkon je rovnoměrně rozprostřený přes všechny disky na všech policích. Pro RAID nespecifikujeme určité disky, ale všechny RAID typy se mohou nacházet na stejném disku. Nepoužívá tradiční Spare disk, ale Spare je distribuovaný, trocha volného prostoru na každém disku.
Je podporována deduplikace, ale pouze na SSD discích vytvořených jako speciální Volume. Adaptive Flash Cache (AFC) je čtecí cache tvořená SSD disky, může jít pouze o část prostoru na SSD discích. Pole podporuje konvergovaný přístup pomocí blokového přístupu - SAN (Ethernet iSCSI a FCoE, optika Fibre Channel) i souborového - NAS (NFS, CIFS/SMB, objektový přístup) - HPE 3PAR File Persona. Pole můžeme rozdělit na nezávislé administrační části (virtual domains), kdy máme sdílené diskové pole, ale admin má přístup pouze k části zdrojů. Vysoká dostupnost může být řešena nejen v rámci disků, ale i přes různé police (Enclosure).
Oficiální dokumentace
- HPE 3PAR StoreServ 8000 Storage - Product documentation
- HPE 3PAR StoreServ 8000 Storage Series Cabling Configuration Guide
- HPE 3PAR StoreServ 8000 Storage Installation Guide
- Single Point of Connectivity Knowledge (SPOCK) website
- HP 3PAR Management Console User's Guide
- HPE 3PAR StoreServ Management Console 3.0 User Guide
Konfigurace a zapojení
Základem 3PAR pole je Controller Enclosure, také označovaný Base Storage System, což je 2U vysoká police. Zepředu můžeme vložit až 24 disků velikosti 2,5“ a vzadu se nachází 2 kontroléry. V tomto případě jde o HPE 3PAR StoreServ 8400 2N Base. Číslice 4 v označení 8400 značí, že můžeme mít až 4 kontroléry, takže můžeme připojit druhý Controller Enclosure a dostaneme cluster o 4 uzlech. Každý kontrolér je osazený
- procesor 6-core 2.2GHz, cache 16GB
- 2x 12Gbps SAS porty pro připojení diskové police, Slot 0
- 2x 16Gbps Fibre Channel pro data, Slot 1
- 1x PCI port pro rozšiřující kartu HBA, Slot 2
- 2x 1Gbps Ethernet port, pro management a Remote Copy nebo File Persona (RCIP), Slot 3
- 2x cluster expansion ports pro připojení dalších kontrolérů
Porty na kontroléru se označují Node:Slot:Port, disky se označují Cage:Disk:0 (přesně to je Cage:Magazine:Disk, ale v magazine je vždy jeden disk, takže číslo magazine odpovídá pozici disku, a disk v magazine je 0). Jako rozšiřující kartu můžeme použít 4-port 16 Gbps FC, 2-port 10 Gbps iSCSI/FCoE, 4-port 1 Gbps Ethernet Adapter, 2-port 10Gbps Ethernet Adapter.
K základně můžeme připojit řadu Expansion Disk Enclosure, které se u HPE často označují jako Cage (klec). Buď o velikosti 2U pro 24 SFF 2,5“ disků (HP 3PAR 8000 SFF(2.5in) Fld Int Drv Encl) nebo o velikosti 4U pro 24 LFF 3,5“ (HP 3PAR 8000 LFF(3.5in) Fld Int Drv Encl). Počet diskových polic, které můžeme připojit, záleží na modelu a jsou per police s kontroléry. Pro 3PAR 8400 je to 0 až 11 polic pokud máme jeden Controller Enclosure, pokud použijeme dva, tak je maximum 22 polic.
Obrázek z oficiální dokumentace, který ukazuje propojení diskových polic.
HPE 3PAR Remote Support
Abychom mohli použít vzdálenou pomoc, ale také monitoring pole a zasílání událostí, tak musíme použít Service Processor. To jsou speciální appliance, které můžeme nasadit jako virtuální stroj pro VMware, pro každý kontrolér jedna. Ta pak monitoruje pole a posílá chybové události a výkonové statistiky do HPE pomocí HTTPS, nebo lokálně pomocí emailu.
Správa 3PAR pole
Pro správu můžeme použít několik možností. Můžeme se připojit pomocí SSH na příkazovou řádku (CLI) pole. Můžeme využít starší, ale hodně využívanou aplikaci HPE 3PAR Management Console (MC), což je aplikace, kterou instalujeme na stanici. Nebo novou StoreServ Management Console (SSMC), kterou musíme nainstalovat na nějaký server a pak se na ni připojujeme pomocí webového rozhraní. Defaultní uživatel je 3paradm
s heslem 3pardata
. Také je možno pole napojit na HPE OneView, které provádí centrální správu serverů, diskových polí a sítí.
StoreServ Management Console (SSMC)
SSMC je moderní webová aplikace, která má design ve stylu OneView. Umožňuje kompletní správu pole, měla by umět vše jako starší MC, ale navíc podporuje monitoring výkonu, lepší reporty a alerty. Správa nových vlastností se doplňuje pouze do SSMC a ne MC (vždy můžeme použít CLI).
SSMC musíme nainstalovat na nějaký server s Windows nebo Linux OS. Odtud poskytuje webové rozhraní, standardně pomocí HTTPS na portu 8443. Při instalaci vytvoříme uživatele pro Administrator Console. Při prvním spuštění se připojíme na console a nakonfigurujeme připojení na pole. Následně se již připojujeme přímo a používáme účet na pole.
HPE 3PAR Management Console (MC)
MC je starší aplikace pro správu, kterou můžeme stále použít. Jedná se o aplikaci, kterou instalujeme na klienta a pak se připojujeme na pole (šifrované spojení TCP 5783 nebo nešifrované TCP 5782). Můžeme se připojit k více systémům najednou. Vzhled podobný jako MS Outlook, může být přehlednější než SSMC.
Command Line Interface (CLI)
Vše je možno konfigurovat přes příkazovou řádku (CLI). Můžeme se připojit pomocí SSH (například Putty), případně pro připojení můžeme nainstalovat speciální aplikaci HPE 3PAR OS CLI, která nainstaluje i různé integrace. Používá se Linuxový formát. Pár příkladů:
zobrazení nápovědy hpe3par cli% help createcpg informace o kontrolérech hpe3par cli% shownode kontrola zdraví pole hpe3par cli% checkhealth výpis verzí firmware všech komponent hpe3par cli% showversion
Nástroje pro OS
HPE nabízí několik utilit pro Windows a Linux, které pomohou na straně OS.
- Host Explorer - běží jako služba, komunikuje pomocí iSCSI nebo FC a poskytuje diskovému poli podrobné informace o klientovi
- HP3PARInfo - nástroj do příkazové řádky, poskytuje detailní informace o svazku (LUN) namapovaném na serveru, umožňuje identifikovat jednotlivé LUNy exportované serveru (zobrazuje jméno Volumu z diskového pole)
Termíny a principy
Na fyzických discích vytváříme Chunklets, které podle typu seskupujeme do logických disků, kde definujeme RAID. Logické disky seskupujeme do Common Provisionig Groups a uvnitř vytváříme svazky Virtual Volume. Když svazek exportujeme (export) klientovi, tak vznikne LUN (VLUN).
- Chunklets - základní disková jednotka (allocation unit), pevná velikost 1 GB, vytváří se automaticky na každém disku, jsou vytvořeny standardní Chunklets a Spare chunklets (místo Spare disku), dovoluje vytvářet svazky přes různé disky o různé velikosti, protože se vždy alokuje určitý počet chunklets, teprve nad nimi se vytváří RAID
- Logical Disk (LD) - logický disk je kombinace chunkletů, kde se seskupují chunklety z disků stejného typu (Nearline - NL, Fast Class - FC, SSD), vytváří se RAID (podporován RAID 0 (defaultně vypnutý), 1, 5 (vypnutý pro NL), 6)
- Common Provisionig Groups (CPG) - virtuální pool logických disků, kontejner pro svazky, nad nimi běží adaptivní a dynamická optimalizace, na CPG nastavujeme řadu vlastností a politik pro dostupnost, pro svazky určuje RAID a typ použitých disků (tier), automaticky se vytváří Default CPG pro skupiny disků a různé RAID, na CPG můžeme pustit funkci Compact CPG, která uvolní vrácený prostor
- Virtual Volume (VV) - logický prostor uvnitř CPG, obsahuje vlastní data, může být různého typu Base (základní), Virtual Copy (Snapshot), Physical Copy (Clone) nebo různě poskytovaný Full Provisioned (třeba pro logy), Thinly Provisioned (třeba pro virtualizaci), Thin Dedup (na SSD discích)
- Virtual LUN (VLUN) - exportovaný (přiřazený) svazek na server (host), klient vidí Volume jako lokální disk
Pole podporuje dvě optimalizační metody:
- Dynamická optimalizace (Dynamic Optimization) - online, bez výpadku přesouvá data na různé Tiery - typy disků (NL, FA, SSD) nebo typy RAID, podle vlastností CPG. Je licencováno.
- Adaptivní optimalizace (Adaptive Optimization) - vytvoříme politiky pro nastavení a plánování, probíhá analýza dat a automaticky se generují příkazy na přesun. Standardně se Volume nachází v jednom CPG, které má disky jednoho typu. AO umožní, aby Volume byl přes více typů disků (Tier) a řeší subvolume přiřazení dat. Je licencováno.
Operace s diskem (Virtual Volume - VLUN)
Popíšeme si běžné operace vytvoření svazku, klienta (host) a jejich přiřazení (export). Vycházím z toho, že Common Provisionig Groups (CPG) již máme vytvořené. Popis bude pro Management Console a pro SSMC pouze uvedeme položky menu (principiálně je obdobné).
Vytvoření Virtual Volume
HPE 3PAR Management Console
- v levé dolní části (Manager Pane) se přepneme na Provisioning
- ve stromě (Management Tree) otevřeme Storage System - jméno - Virtual Volumes a pravým tlačítkem (nebo v menu) vybereme Create Virtual Volume
- v prvním kroku průvodce si přečteme nápovědu a v druhém zadáme parametry pro svazek
- důležitý je parametr Name, kam zadáme jméno pro Volume, Size, kde volíme požadovanou velikost, User CPG, v jakém CPG se svazek vytvoří, typ provisioning, můžeme nastavit Copy CPG
- v dolní části okna můžeme zatrhnout Show advanced options, pak se zobrazí několik dalších položek, které můžeme vyplnit, a přibude další krok
- klikneme na Next, zobrazí se shrnutí, a Finish vytvoří svazek
SSMC (StoreServ Management Console)
- levý horní roh 3PAR StoreServ (Mega Menu) - Block Persona - vybereme Virtual Volumes - klikneme na tlačítko Create virtual volume
- v průvodci vyplníme údaje a můžeme rovnou provést Export
Vytvoření Virtual Volume Set
Několik svazků můžeme spojit do skupiny a pak s nimi pracovat najednou (například pokud mít má jeden server více disků).
- spustíme aplikaci HPE 3PAR Management Console
- v levé dolní části (Manager Pane) se přepneme na Provisioning
- ve stromě (Management Tree) otevřeme Storage System - jméno - Virtual Volumes Sets a pravým tlačítkem (nebo v menu) vybereme Create Virtual Volume Set
- zadáme jméno pro skupinu, v dalším kroku vybereme existující svazky a ukončíme Finish
Vytvoření Host (serveru)
HPE 3PAR Management Console
- v levé dolní části (Manager Pane) se přepneme na Hosts
- ve stromě (Management Tree) otevřeme Storage System - jméno - Hosts a pravým tlačítkem (nebo v menu) vybereme Create Host
- v průvodci vyplníme parametry, zadáme jméno pro hosta, vybereme operační systém, můžeme zadat popisné informace
- pro připojení přes Fibre Channel vybereme nebo zadáme WWN, pro iSCSI vybereme nebo zadáme IQN (iSCSI Name)
- klikneme na Next, zobrazí se shrnutí, a Finish vytvoří hosta
SSMC (StoreServ Management Console)
- levý horní roh 3PAR StoreServ (Mega Menu) - Block Persona - vybereme Hosts - klikneme na tlačítko Create host
Vytvoření Host Set
Několik klientů (Host) můžeme spojit do skupiny a pak s nimi pracovat najednou (například když máme cluster serverů a přiřazujeme jim společný disk).
- spustíme aplikaci HPE 3PAR Management Console
- v levé dolní části (Manager Pane) se přepneme na Provisioning
- ve stromě (Management Tree) otevřeme Storage System - jméno - Host Sets nebo Hosts a pravým tlačítkem (nebo v menu) vybereme Create Host Set
- zadáme jméno pro skupinu, v dalším kroku vybereme existující Hosts a ukončíme Finish
Přiřazení (Export) Volume na Host - vytvoření VLUN
HPE u 3PAR polí používá pro přiřazení disku (Volume/LUN) ke klientovi (Host) termín Export. Na rozdíl od jinde používaného mapování (mapping), přiřazení (assign) nebo present. Exportovat svazek můžeme buď u Hosts nebo Virtual Volumes, pokaždé se spustí stejný průvodce.
HPE 3PAR Management Console
- v levé dolní části (Manager Pane) se přepneme na Hosts nebo Provisioning
- ve stromě (Management Tree) otevřeme Storage System - jméno - Hosts nebo Virtual Volumes (a označíme Volume)
- a pravým tlačítkem (nebo v menu) vybereme Export Volume nebo Export
- v průvodci vybíráme kombinaci Virtual Volume a Host
- můžeme také přepnout zobrazení na Virtual Volume Set a Host Set a přiřazovat skupiny
- klikneme na Next, zobrazí se shrnutí, a Finish exportuje svazek klientovi a vytvoří VLUN
SSMC (StoreServ Management Console)
- levý horní roh 3PAR StoreServ (Mega Menu) - Block Persona - vybereme Virtual Volumes - označíme požadovaný svazek (Virtual Volume) - v rozbalovacím Actions menu klikneme na Export
Zrušení přiřazení svazku na klienta
HPE 3PAR Management Console
- v levé dolní části (Manager Pane) se přepneme na Provisioning
- ve stromě (Management Tree) otevřeme Storage System - jméno - VLUNs
- na záložce VLUN Templates označíme požadované a pravým tlačítkem nebo v menu zvolíme Unexport Volume
- zobrazí se varující dialog, kde potvrdíme odstranění VLUNu tlačítkem Delete
SSMC (StoreServ Management Console)
- levý horní roh 3PAR StoreServ (Mega Menu) - Block Persona - vybereme Virtual Volumes - označíme požadovaný svazek (Virtual Volume) - přepneme zobrazení na Exports (uprostřed vedle názvu svazku) - v rozbalovacím Actions menu klikneme na Unexport
Smazání Virtual Volume
HPE 3PAR Management Console
- v levé dolní části (Manager Pane) se přepneme na Provisioning
- ve stromě (Management Tree) otevřeme Storage System - jméno - Virtual Volumes a vpravo na záložce Virtual Volumes najdeme požadovaný svazek
- pravým tlačítkem (nebo v menu) vybereme Remove
- zobrazí se potvrzující dialog s údaji, potvrdíme OK
- zobrazí se další upozornění, že dojde k odstranění dat, potvrdíme Delete
SSMC (StoreServ Management Console)
- levý horní roh 3PAR StoreServ (Mega Menu) - Block Persona - vybereme Virtual Volumes - označíme požadovaný svazek (Virtual Volume) - v rozbalovacím Actions menu klikneme na Delete
super
chcelo by to aj nimble, primeru, msa ;)