Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example...

30
Διαχείριση Υπολογιστικού Πλέγματος EGEE Χριστόδουλος Ευσταθιάδης Δώρος Γεωργίου

Transcript of Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example...

Page 1: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO

ΔιαχείρισηΥπολογιστικούΠλέγματος EGEE

Χριστόδουλος ΕυσταθιάδηςΔώρος Γεωργίου

Page 2: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Introduction

EGEE (Enabling Grids for E-sciencE)Προέρχεται από το EU-DataGrid. Ξεκίνησε λειτουργία το Μάρτιο 2004.

Στόχος:Παροχή σε ερευνητές, τόσο του ακαδημαϊκούόσο και του βιομηχανικού τομέα, τηςδυνατότητας πρόσβασης σε υπολογιστικούς καιαποθηκευτικούς πόρους μεγάλης κλίμακας, ανεξαρτήτου γεωγραφικής τοποθεσίας.

Page 3: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO EGEE - ΑρχιτεκτονικήΥποδομή EGEE41000 CPUs5PB Disk Storage100000 Concurrent JobsAvailable 24/7

Τα User Interfaces χρησιμοποιούνως επί το πλείστον λειτουργικόσύστημα Scientific Linux (CERN version)

Page 4: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Middleware

Middleware (Ενδιάμεσο Λογισμικό)Είναι το λογισμικό το οποίο παρέχει τιςυπηρεσίες στο hardware να συμμετέχειστο Grid.

Μπορεί να χαρακτηριστεί ωςο «εγκέφαλος» του Grid

Page 5: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO g-Lite Middleware Το EGEE χρησιμοποιεί το g-Lite Middleware.Δημιουργήθηκε από το CERN (European Organization for Nuclear Research).Updates κάθε 15 ημέρες.

Administrator EGEE (για κάθε site)Υπεύθυνος για:

• Διαρκή ενημέρωση του συστήματος• Configuration του συστήματος• Monitoring του συστήματος• Διαμοιρασμό Πόρων στα VOs

Page 6: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Πλεονεκτήματα/Μειονεκτήματα

Κατανεμημένη συντήρηση.Πιο μικρός αριθμός υπολογιστών ανάadministratorΤαχύτητα στην αντιμετώπιση προβλημάτωνΕύκολος έλεγχος των Worker Nodes

Σε περιπτώσεις πολύ μικρού αριθμούworker nodes σε ένα CE, ο λόγοςκόστους/απόδοσης είναι μεγάλος.

Page 7: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO g-Lite Update

Διαρκής ενημέρωση του middlewareΚάθε 15 ημέρες ενημερώνεται μέσωmailing-list.Υπάρχει repository με τις αναβαθμίσεις(YUM).Μέσω του εργαλείου YAIM (Yet Another Installation Manager), o administrator εκτελεί τις αναβαθμίσεις.

Page 8: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO ΥΑΙΜ (Yet Another Installation Manager)

Εργαλείο που παρέχει δυνατότητες configuration ενδιάμεσουλογισμικού.Usage: /opt/glite/yaim/bin/yaim <action> <parameters>Actions:-i | --install : Install one or several meta package. Compulsory parameters: -s, -m-c | --configure : Configure already installed services. Compulsory parameters: -s, -n-r | --runfunction : Execute a configuration function. Compulsory parameters: -s, -f-v | --verify : Goes through on all the functions and checks that the necessary variables required

for a given configuration target are all defined in site-info.def. Compulsory parameters: -s –n-d | --debug : Turns "set -x" on, rude debug information for development. -e | --explain : Doesn't perform configuration but explains what the functions are doing by printing

out the comments found inside them. Compulsory parameters: -s -n -h | --help : Prints out this help.Parameters:-s | --siteinfo: : Location of the site-info.def file-m | --metapackage : Name of the metapackage(s) to install–n | --nodetype : Name of the node type(s) to configure-f | --function : Name of the functions(s) to execute

Page 9: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Administrator jobs – g-Lite Installation

Η εισαγωγή νέου UI στο site γίνεται απότον administrator εγκαθιστώντας τοενδιάμεσο λογισμικό g-Lite σε κάθεκαινούριο node.

Bash Shell$./execute_to sa1-machines-sl4.list

"yum -y install glite-WN lcg-CA"

Page 10: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Script Example

execute_to.sh#!/bin/bash -x#Author Asterios Katsifodimos#for every host in the file given in the 1st argument#run the command given by the second argument to the specific host#gnome-terminal is used so that every command for every host is #executed and printed in a new seperate window

for host in `cat $1`do

gnome-terminal -e "ssh root@$host.grid.ucy.ac.cy \"$2\""done

Page 11: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Administrator jobs - Update

Για εύκολη αναβάθμιση/συντήρηση τουενδιάμεσου λογισμικού των worker nodes, ο administrator χρησιμοποιεί τεχνικέςscripting.Σύνδεση σε κάθε μηχανή του site καιεκτέλεσηΓίνεται μέσω του προγράμματος apt-getBash Shell$./execute_to sa1-machines-sl4.list “apt-get update“

Page 12: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Administrator jobs - Configuration

Για καθορισμό υπηρεσιών πουπαρέχονται από τα worker nodes του site.Μετά από κάθε αναβάθμιση.Σε περίπτωση που προκύπτουν failures (hardware ή software).

To configuration γίνεται επίσης με bash scripts.

Page 13: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Configuration Examples

Bash ShellΣβήσιμο αρχείων:$./execute_to sa1-machines-sl4.list "rm -rf /tmp/*“

Configuration:$./execute_to sa1-machines-sl4.list "/opt/glite/yaim/bin/yaim --configureglite-WN“

$./dist_apt_sources.sh sa3-machines-sl3.list

Page 14: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Configuration Examples

dist_apt_sources.sh#!/bin/bash#Author Asterios Katsifodimos# Distribute some files in the hosts specified# in the file that is specified in the first argument

for host in `cat $1` do

scp -r ../lcg.list root@$host.grid.ucy.ac.cy:/etc/apt/sources.list.d/

scp -r ../lcg-ca.list root@$host.grid.ucy.ac.cy:/etc/apt/sources.list.d/ done

Page 15: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Administrator jobs - VOs

VO (Virtual Organization)Στο EGEE υπάρχουν τα VΟs, στα οποίαείναι εγγεγραμμένοι οι χρήστες.Σε κάθε VO παραχωρούνταισυγκεκριμένοι πόροι/υπηρεσίες από κάθεsite.O administrator ορίζει το ποσοστό τωνπόρων που διαμοιράζονται στα VOs.

Page 16: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO

Η ανάγκη για συνεχή και απρόσκοπτη λειτουργία των sites και ηανάγκη για αποτελεσματική διαχείριση των πόρων, οδηγούν στηνύπαρξη του monitoring.EGEE standards: 70% site availability

Administrator jobs - Monitoring

Page 17: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Administrator jobs - Monitoring

Gstat

Page 18: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Administrator jobs - Monitoring

GridIce

Page 19: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Administrator jobs - Monitoring

SAM (Site Availability Monitoring)

Page 20: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Administrator jobs - Monitoring

Τα προαναφερθέντα δείχνουν ανά πάσαστιγμή την κατάσταση των sites.Συνδυασμός αυτών Απαραίτητος γιαορθή διάγνωση.Υπάρχει και επιπρόσθετος έλεγχος απόCICs (Core Infrastructure Center), πουκάνουν assign tickets στους administrators εάν εντοπιστεί κάποιο πρόβλημα με το site που διαχειρίζονται.48 ώρες διορία για επίλυση προβλήματος

Page 21: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO

Αφού εντοπιστεί κάποιο πρόβλημα στο site, οadministrator αναγνωρίζει τη φύση του προβλήματος καιτο επιλύει εάν αυτό είναι δυνατόν.

Παράλληλα , δηλώνει downtime και, μέσω ενός portal, ενημερώνονται οι grid users και administrators στοEGEE.

Problems – Detection/Solving

Page 22: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO FailuresHardware FailuresΚατάρρευση UIΔυσλειτουργία σκληρού δίσκου (πιο συχνό)Καμένο power supplyΔιακοπή ρεύματοςΑποτυχία δικτύουκτλ.

Software FailuresBug στο ενδιάμεσο λογισμικόΛάθη κατά το configuration

Page 23: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Αντιμετώπιση Failures

Hardware FailuresΑντιμετωπίζονται με γνωστές και άμεσεςδιαδικασίες, όσο το δυνατόν πιο γρήγοραγίνεται.Γίνεται περιοδική αποθήκευση backups ούτωςώστε να μην δημιουργηθεί πρόβλημα σεπερίπτωση διακοπής ρεύματος. Επίσης, ελέγχεται η ορθή λειτουργία των UPS.Εάν υπάρχει κάποιο πρόβλημα με το δίκτυο, ο administrator δεν φέρει καμία ευθύνη.

Page 24: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Αντιμετώπιση Failures

Software FailuresΗ ανίχνευση τους είναι πιο δύσκολη, και δενυπάρχει καθορισμένη μέθοδος αντιμετώπισηςπροβλημάτων, εφ’ όσον κάθε πρόβλημα έχεισυγκεκριμένες ιδιαιτερότητες.Απαιτούνται συγκεκριμένες ενέργειες από τονadministrator για επίλυση των προβλημάτων.

Page 25: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Αντιμετώπιση Failures

Ενέργειες του administrator για επίλυσηπροβλημάτων

Ανάγνωση της περιγραφής του προβλήματος που έχει σταλείαπό το CIC.Ανασκόπηση στα Monitoring εργαλεία.Αναζήτηση βοήθειας από βάσεις δεδομένων όπου υπάρχουνλύσεις για παρόμοια προβλήματα.Αναζήτηση βοήθειας στα mailing-lists του EGEE.Προσπάθεια αναπαραγωγής του προβλήματος για αναγνώρισητης αιτίας πρόκλησής του.Αναζήτηση βοήθειας από το CIC.Εάν προκύψει λύση, report στο Savannah/GGUS, εάν όχι, report αποτυχία επίλυσης και συνέχιση προσπάθειας!

Page 26: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO EGEE στην ΚύπροΣτην Κύπρο υπάρχουν 2 sitesΠανεπιστήμιο Κύπρου80 CPUs1 CE (Computing Element)1 SE (Storage Element)Πανεπιστήμιο Λευκωσίας10 CPUs1 CE (Computing Element)

Κάθε site έχει 1 administrator. Τα δύο sites μοιράζονται το SE του UCY.

Page 27: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO EGEE στην Κύπρο

To site του Πανεπιστημίου Κύπρου

Page 28: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Συμπεράσματα

Η - σε διαφορετική περίπτωση χρονοβόρα -δουλειά του administrator, γίνεται πιο απλή με τηχρήση bash scripting, αφού με ένα απλό script μπορεί να διαχειριστεί τους κόμβους του site, ανάλογα με το τι θέλει να κάνει. Η ανίχνευση προβλημάτων και η διαδικασίαεπίλυσής τους είναι μία δύσκολη και επίπονηδιαδικασία, ειδικά όσον αφορά τα προβλήματασε επίπεδο λογισμικού.

Page 29: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Βιβλιογραφία1. Enabling Grids for E-sciencE http://www.eu-egee.org/2. Failure Management in Grids: The Case of the EGEE Infrastructure,

K.Neocleous, M. D. Dikaiakos, P. Fragopoulou and E. P. Markatos,Parallel Processing Letters, Volume 17, Number 4, December 2007

3. LCG/EGEE Grids & System Administration, Pesentation by Fotis Georgatos, University of Athens, October 23rd – 24th , 2006

4. GridIce http://mon.egee-see.org/gridice/site/site.php5. GStat http://goc.grid.sinica.edu.tw/gstat/CY-01-KIMON/6. HPCL http://grid.ucy.ac.cy7. Grid Café http://gridcafe.web.cern.ch/gridcafe/

Page 30: Διαχείριση Υπολογιστικού Πλέγματος fileCompany LOGO Script Example execute_to.sh #!/bin/bash -x #Author Asterios Katsifodimos #for every host in the

Company

LOGO Ερωτήσεις


Φυσικές μονάδες υπολογιστικού συστήματος

Φυσικές μονάδες υπολογιστικού συστήματος

LEGGERE LA CHIESA La Bella eterna - Asterios Editore LA BELLA...12 HIEROTHEOS VLACHOS. LA BELLA ETERNA medico – che ti assista nelle tue lotte. Che ti conduca per mano in un percorso

LEGGERE LA CHIESA La Bella eterna - Asterios Editore LA BELLA...12 HIEROTHEOS VLACHOS. LA BELLA ETERNA medico – che ti assista nelle tue lotte. Che ti conduca per mano in un percorso

Topic 2: Bash Shell Programmingcgi.di.uoa.gr/.../k24/lectures/old/topic2-bashShellProgramming.pdf · Topic 2: Bash Shell Programming* * ... Inherits many features from C & Korn shells

Topic 2: Bash Shell Programmingcgi.di.uoa.gr/.../k24/lectures/old/topic2-bashShellProgramming.pdf · Topic 2: Bash Shell Programming* * ... Inherits many features from C & Korn shells

ΚΕΦΑΛΑΙΟ 3 - pi-schools.gr · ΚΕΦΑΛΑΙΟ 3 : Υπολογιστικά Φύλλα Εξοικείωση µε το περιβάλλον εργασίας ενός υπολογιστικού

ΚΕΦΑΛΑΙΟ 3 - pi-schools.gr · ΚΕΦΑΛΑΙΟ 3 : Υπολογιστικά Φύλλα Εξοικείωση µε το περιβάλλον εργασίας ενός υπολογιστικού

Prof. Asterios LIOLIOS Board of Directors EGNATIA ODOS S.A ...library.tee.gr/digital/m2241/m2241_liolios.pdf · Xanthi - Ehinos 50 Bulgaria 8. Komotini - Nimfaia 25 Bulgaria IX 9.

Prof. Asterios LIOLIOS Board of Directors EGNATIA ODOS S.A ...library.tee.gr/digital/m2241/m2241_liolios.pdf · Xanthi - Ehinos 50 Bulgaria 8. Komotini - Nimfaia 25 Bulgaria IX 9.

2-4 Ιουλίου 2018 Λάρνακα, Κύπροςhdms18.cs.ucy.ac.cy/hdms18-booklet.pdf · Μεγάλου Όγκου Δεδομένων και Υπολογιστικού Νέφους,

2-4 Ιουλίου 2018 Λάρνακα, Κύπροςhdms18.cs.ucy.ac.cy/hdms18-booklet.pdf · Μεγάλου Όγκου Δεδομένων και Υπολογιστικού Νέφους,

χChek RC2 User Manual - University of Torontoarie/xchek/xchek_user_manual.pdf · 4.1 Loading a model ... in bash, # MEMORYMIN=512m ... This language is described in the NuSMV User

χChek RC2 User Manual - University of Torontoarie/xchek/xchek_user_manual.pdf · 4.1 Loading a model ... in bash, # MEMORYMIN=512m ... This language is described in the NuSMV User

BIBLIOTHIKI ASTERIOS 1 peccato originale pagine 3... · pagani, ma il nome di Romani. L’Impero Romano allora si estende-va a tutto l’Oriente e l’Occidente ed era bilingue: si

BIBLIOTHIKI ASTERIOS 1 peccato originale pagine 3... · pagani, ma il nome di Romani. L’Impero Romano allora si estende-va a tutto l’Oriente e l’Occidente ed era bilingue: si

L’uomo e il Diouomo - Benvenuto su Asterios DioUomo pagine 3-60.pdf · mente e di cuore: don Gian Antonio (Allegri), don Agostino. PREFAZIONE 11 ... (Col 2,8), ovvero la filo -

L’uomo e il Diouomo - Benvenuto su Asterios DioUomo pagine 3-60.pdf · mente e di cuore: don Gian Antonio (Allegri), don Agostino. PREFAZIONE 11 ... (Col 2,8), ovvero la filo -

Topic 2: Bash Shell Programmingcgi.di.uoa.gr/.../courses/k24/lectures/topic2-bashShellProgramming.pdf · 2 Προγραµµατισµός Bash κελύφους Πιο εύκολο

Topic 2: Bash Shell Programmingcgi.di.uoa.gr/.../courses/k24/lectures/topic2-bashShellProgramming.pdf · 2 Προγραµµατισµός Bash κελύφους Πιο εύκολο