300 likes | 431 Views
Servervirtualisierung bei der GWDG. Andreas Ißleiber ( aisslei@gwdg.de ) http://www.gwdg.de/~aisslei. Virtualisierung bei der GWDG, Struktur. Backup TSM. Server für Backup der „Guests“. GÖNET. VMWARE ESX Server. Management Server. SAN (gemeinsamer Zugriff auf Massenspeicher).
E N D
Servervirtualisierung bei der GWDG Andreas Ißleiber(aisslei@gwdg.de) http://www.gwdg.de/~aisslei
Virtualisierung bei der GWDG, Struktur BackupTSM Server für Backup der „Guests“ GÖNET VMWARE ESX Server Management Server SAN (gemeinsamer Zugriff auf Massenspeicher) Management Client (Helpdesk)
VMWARE, Features: • Virtualisierung von diversen Betriebssystemen(Windows, Linux, BSD, Solaris etc.) • Zuweisung unterschiedlicher Umgebungsparameter(CPU(s), RAM, HDD, Netz) • Snapshots (mehrere …, automatisiert und zeitgesteuert) • Memory Sharing (optimal bei gleichen OS) S<< 1512 MB Hosts: ESX RAM S=1512 MB Guests: RAM 256 MB 256 MB 256 MB 256 MB 512 MB
Features:DRS (Distributed ResourceScheduler) DRS überwacht permanent die Auslastung der verschiedenen Ressourcen-Pools und richtet die Ressourcen nach Anforderungen der Guests automatisch aus Eines der wichtigsten DRS Features ist: VMOTION Hierarchisch unterhalb der DRS Gruppe befinden sich die einzelnen Ressourcenpools. In diesem Ressourcenpools können Grenzwerte für CPU, Memory etc. gesetzt werden. Die gleichen Einstellungen lassen sich aber auch pro Gastsystem vornehmen
VMWARE, Features: VMOTION … automatische, ressourcenabhängige Migration von Guests über die Hardwaregrenzen hinweg. Die Gastsysteme bleiben dabei „eingeschaltet“. Gigabit Switch Schritt 1 Bei Überlastung des ESX 1 werdendie Guests migriert Schritt 2 Guestkonfiguration wird von ESX 1 nach ESX 2 migriert ESX 1 ESX 2 ESX 3 Schritt 3 RAM Inhalt des Guest wird über spez. Netzwerkinterfaces kopiert. Änderungen im RAM des Guest, während der Übertragung, werden am Schluss des VMOTION-Prozesses erneut synchronisiert. Die Festplatteninhalte selbst sind für alle ESX-Server im SAN erreichbar. Migration zum anderen ESX Host Guest
Features:High Availability (HA): • Bei Ausfall eines Hosts, übernehmen die verbleibenden Hosts die „laufenden“ Guests • Dazu müssen ausreichend Ressourcen verfügbar sein • Zwei getrennte Netzwerk- verbindungen zwischen den beteiligten Hosts sind erforderlich • HA-failover wird durch „Hello Packets“ sowie Erreichbarkeit des z.B. default gateways geprüft (Fehlalarme vermeiden durch Erhöhung der Management-Interfaces/IP-Adressen) Aktivieren des HA im VCenter
Features:High Availability (HA): HA: Automatischer (re)Start der Gastsysteme, bei Ausfall eines, oder mehrerer Hosts Default gateway Schritt 1 Erkennung des „Isolation“ eines Hosts (keine Hello Packets empfangen, default gateway nicht erreichbar) Schritt 2 File-Locking im SAN für die „laufenden“ Guests wird deaktiviert,sodass die anderen Hosts die Guests starten können ESX 1 ESX 2 ESX 3 Ausfall ! Schritt 3 Guests werden auf aktiven Hosts gestartet. Funktion des HA Master wird ggf. von anderem Hosts übernommen. SAN -rw------- 1 root root 404750336 Mar 2 10:14 GWDG_radius1-neu-edf07efb.vswp -rw------- 1 root root 12884901888 Apr 20 14:08 GWDG_radius1-neu-flat.vmdk -rw------- 1 root root 8684 Mar 17 15:16 GWDG_radius1-neu.nvram -rw------- 1 root root 409 Apr 2 13:40 GWDG_radius1-neu.vmdk
Features:Update Manager: • … sorgt für automatische Updates/Patches der Hosts. • Lädt automatisch Updates/Patches zum vorgegebenem Zeitpunkt herunter • Update wird automatisch installiert, oder (… wenn ein reboot des Hosts erforderlich)von Hand aktiviert
SAN und Netz… • Die Filesysteme der virtuellen Maschinen (Guests) liegen ausschließlich im SAN uns sind als „LUN“ gemounted (FS=VMFS3) • SAN ist essentiell für VMWARE, da die VMWARE Server • auf das gleiche Filesystem zugreifen müssen, damit VMOTION und HA funktionieren kann • Virtueller Switch:Ein virtueller Switch in VMWARE erlaubt über VLANs dieAnbindung mehrerer Netzwerke an die ESX Server und damit an die Guests. • Netzwerkänderungen sind leichter durchführbar, als bei „physischen“ Switches
Virtualisierung bei der GWDG, Hardware Stand: 9.4.2009 • 2 x HP Proliant DL580 G5 mit jeweils … :- CPU: 4 x QuadCore Xeon 2,4 GHz- RAM: 256 Gbyte - FC: 2 x 4 Gbit FibreChannel Anschluß- LAN: 3 x 1 Gbit LAN Anschluß • SAN:- 12,5 Tbyte EMC CX-3-80- 12,0 Tbyte Transtec (FalconStor) • Bestellung weiterer 2 Proliant Server mit jeweils 2 QC CPUs erfolgte am 17.4.2009. Lieferung voraussichtlich Ende April 2009
Leistung & Ressourcen • Speicher (RAM) … die wertvollste Ressource • CPU Leistung ist derzeit reichlich vorhanden • Massenspeicher (Festplatten der Guests) im SAN , kann leicht erweitert werden, Kosten sind abhängig von der Qualität des SAN (FC Platten, SATA , SCSI-HDD)
Virtualisierung bei der GWDG, Gastsysteme Verteilung der Gastsysteme (Stand: 04/09): • Anzahl virtueller Server (Guests): 277 davon… • 205 Systeme der Universität(162)Verwaltung der UNI (19) sowie Max-Planck-Institute(24) • 51 Serversysteme der GWDG • 21 Testsysteme (UNI, MPG, GWDG) • Nach OS sortiert: • 150 x Windows Systeme (W2k3, XP, Vista, Server 2008) 3 x FreeBSD117 x LINUX (Sles, Opensuse, Ubuntu, Redhat, RHEL, Debian, sonstige)7 x Sondersysteme (Solaris etc.)
Virtualisierung bei der GWDG, Performance Summe der Ressourcen des gesamten Struktur (Stand: 04/09): System load (CPU & Memory, Stand: 04/09): Produktivsysteme (2 x HP Proliant) Testsysteme (Dell Blades) nicht produktiv im Einsatz
VMWARE, Features: Management (zentral) & Monitoring, eigener Client VCENTER
Leistung & Ressourcen der neuen Struktur 2 x HP Proliant DL580G5 Σcpu = 76.8 GHz 4 x QC 2,4GHz256 GByte 4 x QC 2,4GHz256 GByte Σmem= 512 GByte Ab Mai 2009: 4 x HP Proliant DL580G5 4 x QC 2,4GHz128 GByte 4 x QC 2,4GHz128 GByte 2 x QC 2,4GHz128 GByte 2 x QC 2,4GHz128 GByte Σcpu = 115.2 GHz Σmem= 512 GByte
Leistung & Ressourcen: Vergleich 5 x Dell Server 1955 (Blades) bei 74 aktiven Guests 8 x 2.3 GHz 16 GB 16 x 2,4 GHz 256 GB 2 x HP Proliant DL580G5bei 185 aktiven Guests
Virtualisierung bei der GWDG, Performance Summe der Ressourcen des gesamten Struktur (Stand: 04/09): System load (CPU & Memory, Stand: 04/09):
Leistung & Ressourcen Verhältnis zwischen ESX Server und Guests bei HP Proliant DL580 G5 als Server 1 Host : Guests 160 …
VMWARE Limitations: • Guest system maximum RAM: 64 GB • Number of hosts in a HA cluster: 32 • Number of hosts in a DRS cluster: 32 • Maximum number of processors per virtual machine: 4 • Number of virtual CPUs per server: 192 • Number of virtual machines per server: 170 • Number of cores per server: 32 • Number of (hyperthreaded) logical processors/server: 32
Tipps… • Externe Überwachung der Stati von Hosts und ggf. Guests sowie Erfassung der Leistungsdaten. -> SNMP -> CACTI, Nagios • Zur HA Verbesserung mehrere (auch virtuelle) Managementinterfaces nutzen/instrallieren • Möglichst mehrere Hosts im Cluster einsetzen (weniger „Verschnitt“) und weniger Ausfall bei „Maintenance“ • LUN Größen von ca. 1-2 Tbyte, max. 60 Guests • Bei Guests mit der Tendenz zum „einschlafen“ -> Ressourcen reservieren • Backup: Alternativen suchen
Was kann bei VMWARE verbessert werden … • Unterschiedliche Prozessoren in den ESX-Servern müssen durch komplexe CPU Masken an die Prozessoren angepasstwerden, damit VMOTION funktioniert • Kleine Details im Monitoring, Fehler bei der Darstellung • HA: Überprüfung der Ressourcen bei Aktivierung des HA • Undurchschaubare Lizenzpolitik und FLEXNet als Lizenzserver
Weitere Themen … • Zugriff auf den ESX Server (Webseite) • Zugriff auf das Managementsystem (Virtual Infrastructure Client) • Leistungen virtueller Maschinen (Speicher, CPU) • SAN Anbindung • Ressourcengruppen (Einstellungen) • Starten, Stoppen, Ändern virt. Maschinen • Netzwerke (virtual Switch) • Clonen virt. Maschinen • Alarme, Ereignisse • Rechte und Gruppierungen • VMOTION, Maintenance-mode, HA • Gruppierung von Guests in VMOTION • Einrichten einer virtuellen Maschine
Neue Server einrichten… 1.) Kunde beantragt Server auf Sharepoint Webseite http://sharepoint3.top.gwdg.de/gwdg/VServer/default.aspx 2.) eMail wird automatisch erzeugt und an support@gwdg.de geschickt 3.) Helpdesk kann im Sharepoint den Status auf „bearbeiten“ setzen 4.) Nachdem der Server eingerichtet ist, kann „Helpdesk“ im Sharepoint den Status auf „erledigt“ setzen, wobei der beantragenden Benutzer eine eMail bekommt. IP-Adressen und Firewallregeln müssen vom Benutzer definiert/beantragt werden
VMWARE Betrieb… Sinnvolles… • Gute, weitreichende Community • http://communities.vmware.com • http://communities.vmware.com/community/vmug • http://vmware-forum.de (auch in deutsch) • Best Practices zu diversen Themen bei vmware.com (meist als PPT, oder PDF)
- W2K3 TS als Zugang für non-Windows Systeme (VI) • - Limitations: 177 Guests, • - Lizensierungen, Enterprise, Academic, (Foundation) • - Backup, VCB, VRanger • - VMWARE 4.0 • - Maintenance Mode • - ISO Fileserver, CD Images • - HA, Failover • - VMOTION CPU ID • - Was sollte virtualisiert werden ? Mailserver etc. • - SNMP Überwachung etc. • - 32 Bit , 64 Bit und SMP • - Beantragungen, Abrechnungen (SNMP oder statisch) • - Updates / Automatisch und Client Updates • - Problem einschlafender Guests -> Ressourcenerhöhung
? Vielen Dank! S C S I O C S Y T E M S S C I S C O Y S T E M S … Fragen CISCO S YSTEMS LOWER UPPER NORMAL POWER POWER und Diskussionen! Vortrag ist unter: … http://www.gwdg.de/~aisslei/… zu finden