• Διαχείριση αραιών πινάκων,
• Τεχνικές χωρίς ρητό σχηματισμό πίνακα (matrix-free),
• Επαναληπτική βελτίωση της λύσης (iterative refinement),
• Ατελής LU παραγοντοποίηση (incomplete LU),
• Μεθόδοι Krylov για:
o Γραμμικά συστήματα,
o Μη γραμμικά συστήματα (Newton/Krylov),
o Προβλήματα ιδιοτιμών.
• Προσταθεροποίηση (Preconditioning)
• Υπολογισμοί μεικτής ακρίβειας (mixed precision)

Το μάθημα εισάγει τους φοιτητές στις σύγχρονες υπολογιστικές μεθόδους για την επίλυση συστημάτων εξισώσεων. Έμφαση δίνεται στην αποδοτική υλοποίηση και στην κατανόηση της συμπεριφοράς των μεθόδων σε συστήματα μεγάλης κλίμακας. Με την ολοκλήρωση του μαθήματος, οι φοιτητές θα είναι σε θέση να εφαρμόζουν, να αναλύουν και να επιλέγουν τους κατάλληλους αλγορίθμους για την επίλυση συστημάτων με γνώμονα την κλιμακωσιμότητα (scalability). Θα αποκτήσουν ένα σύνολο μεθόδων και τεχνικών, άμεσα εφαρμόσιμο σε απαιτητικά προβλήματα, και θα είναι προετοιμασμένοι για μελλοντική μετάβαση σε παράλληλες υλοποιήσεις.

Με την επιτυχή ολοκλήρωση του μαθήματος, οι φοιτητές θα είναι σε θέση να:
• Υλοποιούν μεθόδους Krylov (όπως CG και GMRES) για την επίλυση γραμμικών συστημάτων.
• Επιλέγουν και εφαρμόζουν κατάλληλες τεχνικές προσταθεροποίησης (preconditioning), όπως Jacobi και ατελή LU (ILU), με βάση τα χαρακτηριστικά του προβλήματος.
• Επεκτείνουν τις μεθόδους Krylov σε μη γραμμικά προβλήματα μέσω της μεθόδου Newton–Krylov.
• Υλοποιούν μεθόδους Krylov για τον υπολογισμό ιδιοτιμών.
• Κατανοούν και αναλύουν τη σχέση των ιδιοτιμών με τη σύγκλιση και τη σταθερότητα των μεθόδων Krylov.
• Εφαρμόζουν τεχνικές μεικτής ακρίβειας (mixed precision).
• Αναλύουν και επιλέγουν κατάλληλους αλγορίθμους με γνώμονα την κλιμακωσιμότητα και τη μελλοντική εφαρμογή σε περιβάλλοντα υψηλής απόδοσης.
• Αναπαριστούν και διαχειρίζονται αραιούς πίνακες χρησιμοποιώντας κατάλληλες δομές αποθήκευσης (π.χ. CSR/CSC).
• Εφαρμόζουν τεχνικές χωρίς ρητό σχηματισμό πίνακα (matrix-free) για την αποδοτική επίλυση μεγάλων συστημάτων.

1. Γραπτή τελική εξέταση (30%):
• Δοκιμασία Πολλαπλής Επιλογής
• Ερωτήσεις Σύντομης Απάντησης

2. Ατομική Εργασία (70%):
Οι προγραμματιστικές εργασίες συνοδεύονται από σύντομη προφορική υποστήριξη, κατά την οποία οι φοιτητές παρουσιάζουν τη μεθοδολογία και τα αποτελέσματά τους. Η διαδικασία αυτή συμβάλλει στην αξιολόγηση της κατανόησης των μεθόδων και της ορθής υλοποίησης.

Εβδομάδα 1 – Εισαγωγή
• Επαναφορά βασικών εννοιών από Γραμμική Άλγεβρα και Αριθμητική ΑνάλυσηΕνημέρωση διανυσμάτων, εσωτερικό γινόμενο, πολλαπλασιασμός πίνακα-διανύσματος
o Δείκτης κατάστασης (condition number) και επιπτώσεις σφαλμάτων στρογγυλοποίησης
o Κλασικές μέθοδοι (άμεσες: Gauss, LU, επαναληπτικές: Jacobi)
• Περιορισμοί κλασικών μεθόδων για μεγάλα συστήματα

Εβδομάδα 2 – Άμεσες μέθοδοι και επαναληπτική βελτίωση
• Dense LU: υψηλό κόστος και περιορισμοί σε μεγάλα συστήματα
• Sparse / Incomplete LU (ILU): μειωμένο κόστος και κατανάλωση μνήμης, αλλά μικρότερη ακρίβεια
• Iterative refinement: βελτίωση της ακρίβειας των λύσεων
• Σύνδεση με condition number και σφάλματα στρογγυλοποίησης

Εβδομάδα 3, 4 – Διακριτοποίηση & Αναπαράσταση Συστημάτων
• Διακριτοποίηση PDEs με τη μέθοδο πεπερασμένων διαφορών
• Εισαγωγή σε αραιούς πίνακες και βασικές δομές αποθήκευσης (CSR/CSC)
• Αναπαράσταση γραμμικών συστημάτων: πλήρεις πίνακες (dense), αραιοί πίνακες (sparse), matrix-free operators
• Πολλαπλασιασμός πίνακα-διανύσματος στις τρεις μορφές: Κατανόηση της επίδρασης της αναπαράστασης (dense, sparse, matrix-free) στην πολυπλοκότητα και τη χρήση μνήμης.

Εβδομάδα 5 – Μέθοδοι Krylov I: Θεμελιώδεις έννοιες
• Υπόχωροι Krylov
• Αλγόριθμοι Arnoldi και Lanczos
• Εύρεση λύσης σε “έξυπνους” υποχώρους αντί για ολόκληρο χώρο

Εβδομάδα 6, 7 – Μέθοδοι Krylov II: CG και GMRES
• Μέθοδος Conjugate Gradient
• Μέθοδος GMRES
• Αποδοτική υλοποίηση

Εβδομάδα 8 – Προσταθεροποίηση (Preconditioning)
• Ρόλος και επίδραση στην ταχύτητα σύγκλισης
• Βασικές τεχνικές: Jacobi, incomplete LU (ILU)
• Ισορροπία κόστους κατασκευής και ταχύτητας σύγκλισης

Εβδομάδα 9 – Μη γραμμικά συστήματα
• Μέθοδος Newton για μη γραμμικά συστήματα
• Συνδυασμός με Krylov solvers (Newton-Krylov)
• matrix-free υλοποιήσεις

Εβδομάδα 10, 11 – Προβλήματα Ιδιοτιμών
• Υπολογισμός ιδιοτιμών με μεθόδους Krylov
• Restarted Arnoldi και διαχείριση μνήμης σε μεγάλα προβλήματα
• Σύνδεση με ανάλυση σταθερότητας και σύγκλισης

Εβδομάδα 12 – Mixed precision
• Single vs Double precision: ταχύτητα vs ακρίβεια
• Ισορροπία μεταξύ ταχύτητας και ακρίβειας

Εβδομάδα 13 – Επισκόπηση βιβλιοθηκών υψηλών επιδόσεων
• Βελτιστοποιημένοι πυρήνες γραμμικής άλγεβρας (Intel MKL)
• Στρατηγικές διαμερισμού δεδομένων για μεγάλα προβλήματα (METIS)
• Βιβλιοθήκες για κατανεμημένους υπολογισμούς (PETSc)
• Σύνδεση με εφαρμογές μεγάλης κλίμακας

Οι εργαστηριακές ασκήσεις ακολουθούν τη διδασκόμενη θεωρία και στοχεύουν στην πρακτική κατανόηση και εφαρμογή των αντίστοιχων υπολογιστικών μεθόδων. Έμφαση δίνεται στη σύγκριση υλοποιήσεων ως προς χρόνο εκτέλεσης και κατανάλωση μνήμης. Το εργαστηριακό μέρος υλοποιείται στο περιβάλλον MATLAB, το οποίο επιλέγεται λόγω της ευρείας χρήσης του στην επιστημονική υπολογιστική, της υποστήριξης πράξεων γραμμικής άλγεβρας και αραιών πινάκων, καθώς και της δυνατότητας γρήγορης ανάπτυξης και δοκιμής αλγορίθμων.