Του Ιωάννη Κόντου**
Εισαγωγή
Τα αυτόνομα οπλικά συστήματα με Τεχνητή Νοημοσύνη (ΤΝ) αναμένεται ότι θα έχουν σημαντικές στρατηγικές επιπτώσεις για την ασφάλεια στρατών και υποδομών σε μελλοντικούς πολέμους.
Τα σμήνη από οπλισμένα μη επανδρωμένα συστήματα (ΜΕΣ) ενδεχομένως ελεγχόμενα από λογισμικό ΤΝ μπορεί να χρησιμοποιηθούν σε επιθέσεις εναντίον χερσαίων, θαλάσσιων ή ιπτάμενων στόχων. Οι πρόσφατες εξελίξεις στην ΤΝ και τα αυτόνομα συστήματα έχουν αυξήσει σημαντικά την αξία που αποδίδουν στην ανάπτυξη της ΤΝ μεγάλες στρατιωτικές δυνάμεις όπως οι ΗΠΑ, η Κίνα, η Ρωσία και η Ινδία.
Κανένα κράτος δεν έχει δηλώσει επίσημα την πρόθεσή του να κατασκευάσει πλήρως αυτόνομα οπλικά συστήματα. Αυτό οφείλεται ενδεχομένως στην «ευθραυστότητα» που αναφέρεται ως αδυναμία της ΤΝ που όμως ενδέχεται σύντομα να μειωθεί. Τα ελεγχόμενα από κέντρο ελέγχου ΜΕΣ, και μελλοντικά τα αυτόνομα, που χρησιμοποιούνται σε σμήνη είναι μια εξέλιξη που προξενεί σοβαρό προβληματισμό λόγω της μεγάλης δυσκολίας αντιμετώπισης επιθέσεων από αυτά. Και αυτό μεταξύ άλλων επειδή τα σμήνη των ΜΕΣ έχουν πολλά μέλη που πολύ γρήγορα για να αντιμετωπισθούν από ανθρώπους.
Τα σμήνη από ΜΕΣ εξελίσσονται σε οπλικά συστήματα που θα είναι δύσκολο να τα αντιμετωπίσουν οι άνθρωποι χειριστές ΑΝΤΙ-ΜΕΣ συστημάτων λόγω αδυναμίας εποπτείας μεγάλου όγκου ταχέως μεταβαλλόμενων δεδομένων. Στη συνέχεια περιγράφεται μια πρόταση του γράφοντος για λύση στο πρόβλημα αυτό.
Αυτό σημαίνει ότι οι κανόνες που διέπουν τον ανθρώπινο έλεγχο της άμυνας εναντίον επιθέσεων από ΜΕΣ θα χρειαστεί να μεταβληθούν σε συνδυασμό με την εφαρμογή συστημάτων υποστήριξης των ανθρωπίνων αποφάσεων με αξιοποίηση των μεθόδων της Επεξηγηματικής ΤΝ γνωστής διεθνώς ως ΧΑΙ.
Διεθνείς Εξελίξεις
Στρατιωτικά σμήνη από μερικές εκατοντάδες ΜΕΣ έχουν ήδη επιδειχθεί και στο μέλλον είναι πιθανό να δούμε σμήνη χιλιάδων ΜΕΣ ή και εκατομμυρίων ακόμη όπως προβλέπει το Πολεμικό Ναυτικό των ΗΠΑ.
Ο στρατός των ΗΠΑ δαπανά ένα δισεκατομμύριο δολάρια σε νέα οχήματα αεράμυνας γνωστά ως IM-SHORAD με κανόνια, δύο τύπους πυραύλων, παρεμβολές, ηλεκτρομαγνητικές βολές και ΜΕΣ αναχαίτισης.
Ένα σμήνος από 75 ΜΕΣ, συμπεριλαμβανομένων επιθετικών ΜΕΣ καμικάζι, παρουσιάστηκε πρόσφατα από τον Ινδικό Στρατό.
Τέτοια σμήνη είναι πιθανό να συγχρονίσουν τις επιθέσεις τους, έτσι ώστε να επιτεθούν από πολλές τις κατευθύνσεις ταυτόχρονα, με αποτέλεσμα την συντριβή της άμυνας.
Σε μια ενημέρωση για το πρόγραμμα DARPA-Army που ονομάζεται SESU (System-of-Systems Enhanced Small Unit), το οποίο συνέδεσε το πεζικό με ένα μείγμα ΜΕΑ και ρομπότ εδάφους, οι επιστήμονες παρατήρησαν ότι οι ανθρώπινοι χειριστές συνέχιζαν να θέλουν να παρεμβαίνουν στις ενέργειες των ρομπότ. Όμως οι προσπάθειες μικρο-διαχείρισης των συστημάτων υποβάθμισαν την απόδοσή τους. Υπάρχουν δύο λύσεις στο πρόβλημα αυτό.
Η μία λύση είναι να κρατήσουμε μακριά από το πεδίο της μάχης τα αυτόνομα οπλικά συστήματα με ΤΝ δεδομένου ότι δεν διαθέτουν ανθρώπινη ηθική συνείδηση.
Η Campaign to Stop Killer Robots έχει υποστηρίξει εδώ και καιρό την υπόθεση κατά των αυτόνομων όπλων και η ΕΕ φαίνεται να συμφωνεί. Σημειωτέον ότι το Ευρωπαϊκό Κοινοβούλιο καθόρισε τη θέση του ως εξής:
«Η απόφαση για την επιλογή στόχου και την θανατηφόρα δράση χρησιμοποιώντας ένα αυτόνομο οπλικό σύστημα πρέπει πάντα να λαμβάνεται από έναν άνθρωπο που ασκεί ουσιαστικό έλεγχο και κρίση, σύμφωνα με τις αρχές της αναλογικότητας και της αναγκαιότητας». Με άλλα λόγια, τα αυτόνομα όπλα που παίρνουν τις δικές τους αποφάσεις θα πρέπει να τεθούν εκτός νόμου.
Ωστόσο, οι ΗΠΑ φαίνεται να προτιμούν μια δεύτερη λύση. Μια επιτροπή που διορίστηκε από την κυβέρνηση και που υπέβαλε έκθεση στο Κογκρέσο πρότεινε προσφάτως ότι ένα σύστημα με ΤΝ είναι πιθανό να κάνει λιγότερα λάθη από τους ανθρώπους και θα ήταν καλύτερο στον εντοπισμό στόχων. «Είναι επιτακτική ανάγκη να εξετάσουμε τουλάχιστον αυτή την υπόθεση», δήλωσε ο αντιπρόεδρος της επιτροπής και πρώην αναπληρωτής υπουργός Άμυνας. Υπάρχει δε και το στρατιωτικό επιχείρημα:
Εάν τα όπλα που ελέγχονται από την ΤΝ μπορούν να νικήσουν αυτά που ελέγχονται από ανθρώπους, τότε όποιος δεν έχει τα πρώτα θα χάσει και η αποτυχία να τα αναπτύξει σημαίνει αποδοχή της ήττας.
Δεν είναι σαφές κατά πόσον η νομική συζήτηση θα είναι σε θέση να συμβαδίσει με την ταχεία εξέλιξη της τεχνολογίας, δεδομένου του μακρού χρόνου που έχει διαρκέσει. Με αυτόν τον ρυθμό, μεγάλης κλίμακας σμήνη με ΤΝ μπορεί να χρησιμοποιηθούν επιχειρησιακά πριν από την ολοκλήρωση της συζήτησης. Άρα απαιτείται η λύση του προβλήματος προ της ολοκλήρωσης της συζήτησης με την προσεκτική εφαρμογή τέτοιων συστημάτων.
Άμυνα εναντίον σμήνους ΜΕΣ
Τα σμήνη από ΜΕΣ είναι δύσκολο να νικηθούν. Το να κλωτσάς και να πατάς πολλά από ένα σμήνος μυρμηγκιών δεν ακυρώνει την συλλογική αποστολή τους. Ομοίως, αν δεν απομακρυνθούν όλα τα μέλη ενός σμήνους από ΜΕΣ, το σμήνος μπορεί ακόμα να ολοκληρώσει την αποστολή του. Τα αυτόνομα σμήνη από ΜΕΣ είναι από τις πιο τρομακτικές εφαρμογές της ΤΝ σε οπλικά συστήματα.
Η αφαίρεση ενός ΜΕΣ τη φορά μπορεί να είναι αποτελεσματική εάν ένα σμήνος δεν είναι πολύ μεγάλο. Το σύστημα Iron Dome του Ισραήλ έχει επιδείξει αυτή την ικανότητα στη μάχη αλλά είναι σχετικά δαπανηρό. Τα λέιζερ υψηλής ενέργειας είναι μια άλλη τεχνολογία που αναπτύσσεται για την καταστροφή των ΜΕΣ. Είναι δύσκολο όμως να αποδώσουν σε μια ομιχλώδη μέρα. Η καταστροφή ενός προς ένα ΜΕΣ είναι αμφίβολο αν θα είναι αποτελεσματική για μεγάλα σμήνη. Στρατιωτικοί ειδικοί στο θέμα προειδοποιούν για την εμφάνιση σμηνών με εκατοντάδες, χιλιάδες, ακόμη και ένα εκατομμύριο μέλη.
Τα συστήματα ΑΝΤΙ-ΜΕΣ πρέπει να αποφασίσουν σε ποιο εχθρικό ΜΕΣ να επιτεθούν και πρέπει να το κάνουν γρήγορα χρησιμοποιώντας τεχνολογία αυτόνομων συστημάτων ΤΝ.
Τα κλασικά συστήματα αντιαεροπορικής άμυνας είναι πολύ ακριβά και προορίζονται για να αντιμετωπίσουν απειλές από μεγάλα επανδρωμένα αεροσκάφη. Το ζητούμενο είναι να ελαχιστοποιείται κάθε φορά το κόστος αντιμετώπισης ανάλογα με το κόστος του επερχόμενου εχθρικού ΜΕΣ. Η αντιμετώπιση δύναται να συνίσταται είτε σε εξουδετέρωση ή σε καταστροφή του αναγνωρισθέντος εχθρικού ΜΕΣ με μεθόδους που ορισμένες αναφέρονται παρακάτω.
Εξουδετέρωση των ΜΕΣ
- Έχουν κατασκευαστεί συστήματα εξουδετέρωσης των ΜΕΣ με μεθόδους όπως:
- Τεχνολογία ηλεκτρονικού πολέμου
- Απομόνωση του σήματος που εκπέμπει το κέντρο ελέγχου του ΜΕΣ
- Σύλληψη του ΜΕΣ με δίχτυ
- Εκπομπή μικροκυματικού παλμού από το έδαφος
- Εκπομπή μικροκυματικού παλμού από φίλια ΜΕΣ που έχουν εισχωρήσει σε σμήνος από εχθρικά ΜΕΣ. Ο παλμός αυτός καταστρέφει τα ηλεκτρονικά τμήματα πολλών μελών του σμήνους.
Η τελευταία μέθοδος παρουσιάζει αρκετά πλεονεκτήματα. Αυτό συμβαίνει κυρίως λόγω της μειωμένης απόστασης από τους στόχους που απαιτεί πολύ λιγότερη ενέργεια για να εξουδετερώσει τα ηλεκτρονικά συστήματα πολλών εχθρικών ΜΕΣ ταυτόχρονα. Απαιτεί όμως τεχνολογία παραγωγής μικρο- κυματικών παλμών με συσκευές στερεάς κατάστασης.
Εάν η ισχύς εκπομπής ενός μικροκυματικού παλμού αυξηθεί αρκετά, κάθε μεταλλικό αντικείμενο στην εμβέλεια του γίνεται κεραία λήψης. Ένας τέτοιος παλμός μπορεί να απενεργοποιήσει ολόκληρο το σμήνος καίγοντας τα ηλεκτρονικά σε κάθε μέλος ΜΕΣ.
Το επόμενο βήμα στον ανταγωνισμό εξοπλισμών σμηνών ΜΕΣ είναι η προστασία από μικροκυματικούς παλμούς. Αυτό μπορεί να γίνει περιβάλλοντας τα ηλεκτρονικά των ΜΕΣ με ένα κλωβό Faraday δηλαδή ένα προστατευτικό στρώμα μετάλλου. Το πρόσθετο βάρος όμως θα μειώσει την αποτελεσματικότητα του σμήνους καταλαμβάνοντας χώρο και προξενώντας κατανάλωση επιπλέον ενέργειας μειώνοντας την εμβέλειά του.
Καταστροφή των ΜΕΣ
Η πλήρης καταστροφή εχθρικών ΜΕΣ δύναται να επιτευχθεί με τις εξής μεθόδους μεταξύ άλλων:
- Προσβολή με πυροβόλο όπλο από το έδαφος
- Προσβολή με πυροβόλο όπλο από τον αέρα με φορέα ένα ΜΕΣ
- Προσβολή με Λέιζερ υψηλής ενέργειας από το έδαφος Ελληνική Πρόταση Αμύνης εναντίον σμηνών με Επεξηγηματική ΤΝ ή ΧΑΙ.
Σε πρόσφατη δημοσίευση ο γράφων πρότεινε μία μέθοδο υποστήριξης των χειριστών συστημάτων Αντι-ΜΕΣ για σμήνη με την χρήση της ΧΑΙ που δημοσιεύθηκε το 2021 με τίτλο:
“Human-system interface with explanation of actions for autonomous anti-uav systems” στο περιοδικό «International Journal of Artificial Intelligence & Applications» και εντάσσεται στην ΧΑΙ σε συνδυασμό με την Μηχανική Συνείδηση (Machine Consciousness).
Το θέμα της εργασίας αυτής αφορά εφαρμογή στην λειτουργία αυτόνομων συστημάτων αμύνης εναντίον σμηνών ΜΕΣ της αυτομάτως παραγόμενης «εξήγησης» ή «explanation» που παρουσιάζει προσφάτως έντονο ερευνητικό και αναπτυξιακό ενδιαφέρον όπως τεκμηριώνεται και από τις επενδύσεις της DARPA κατά το 2021 στο πεδίο αυτό που αναφέρονται από το Υπουργείο Άμυνας των ΗΠΑ.
Στην εργασία του γράφοντος περιγράφεται συνοπτικά μια νέα πρόταση βασισμένη στην τεχνολογία επεξεργασίας φυσικής γλώσσας σχετικά με τον επεξηγηματικό λόγο και με την χρήση ρητορικών σχέσεων. Η πρόταση βασίζεται στην επεξεργασία πληροφοριών που σχετίζονται με τις πιθανές κακόβουλες ενέργειες ενός εισβάλλοντος σμήνους εχθρικών ΜΕΣ.
Ο στόχος του προτεινόμενου συστήματος είναι να διευκολύνει την εποπτεία που οφείλει να ασκεί ο χρήστης ενός αυτόνομου αμυντικού συστήματος προκειμένου να ελαχιστοποιηθεί ο κίνδυνος λανθασμένων ενεργειών και περιττής δαπάνης πυρομαχικών.
Η ασφάλεια των αυτόνομων συστημάτων άμυνας ΑΝΤΙ-ΜΕΣ είναι μείζονος σημασίας γιατί οι αποφάσεις πρέπει να επιβλέπονται από άνθρωπο που θα αναλάβει την τελική ευθύνη για τις αποφάσεις αυτές. Η νέα πρόταση αφορά στην αυτόματη παραγωγή επεξηγηματικού κειμένου των αποφάσεων του αμυντικού συστήματος.
Το υποσύστημα με ΤΝ της διεπαφής του χρήστη με το αυτόνομο αμυντικό σύστημα μπορεί να συμμετέχει σε ένα διάλογο σχετικά με τη λειτουργία και τις αποφάσεις που λαμβάνει το σύστημα. Ο διάλογος αυτός υποστηρίζει και την τυχόν οπτική απεικόνιση που παρουσιάζεται στον χρήστη του συστήματος. Αυτός ο διάλογος βασίζεται σε πληροφορίες που περιγράφουν την κίνηση πολλών αντικειμένων στο χώρο εμπλοκής. Με τον όρο «διάλογος» εννοούμε την ανταλλαγή ερωτήσεων και απαντήσεων και προτάσεων για την αντιμετώπιση των εχθρικών ΜΕΣ με την συνεργασία ενός εποπτεύοντος χρήστη και ενός αυτόνομου αμυντικού συστήματος.
Επομένως η διεπαφή έχει σχεδιαστεί για να διευκολύνει την επίβλεψη που ασκεί ένας χρήστης σε ένα αυτόνομο αμυντικό σύστημα ώστε να μεγιστοποιεί την ασφάλεια των ενεργειών που αναλαμβάνει το σύστημα. Η έλλειψη μιας τέτοιας ευφυούς διεπαφής αναγκάζει τον χρήστη ενός συστήματος να διαχειριστεί μια κορεσμένη οθόνη υπολογιστή που απεικονίζει τη δυναμική συμπεριφορά δεκάδων ή και εκατοντάδων αντικειμένων.
Στο πεδίο της μάχης το στρατιωτικό προσωπικό καλείται να λάβει αποφάσεις που στηρίζονται σε συλλογισμούς με βάση τις διαθέσιμες πληροφορίες.
Η εκτέλεση των συλλογισμών αυτών απαιτεί ταχύτητα μεγαλύτερη από την ταχύτητα επεξεργασίας του ανθρώπινου νου λόγω της κρισιμότητας και του επείγοντος της κατάστασης.
Ακόμη και σύγχρονα συστήματα αμύνης έναντι ΜΕΣ δεν διαθέτουν λειτουργίες που προβλέπονται από την εν λόγω πρόταση. Αυτές οι λειτουργίες είναι απαραίτητες όταν το σμήνος που εισβάλλει σε μια περιοχή αποτελείται από μεγάλο αριθμό ΜΕΣ. Σε μια τέτοια περίπτωση, η εμφάνιση σε μια οθόνη της επιχειρησιακής κατάστασης μπορεί να είναι τόσο κορεσμένη που να καθιστά το έργο του επιβλέποντος ανθρώπου πολύ δύσκολο.
Επομένως η φιλικότητα προς τον χρήστη των διεπαφών των αυτόνομων συστημάτων αμύνης είναι πολύ σημαντική για την αντιμετώπιση εισβολών μεγάλων σμηνών ΜΕΣ που οι άνθρωποι δυσκολεύονται να αντιμετωπίσουν χωρίς υποστήριξη από υπολογιστικό σύστημα.
Πρόταση Συγκρότησης Τεχνολογικής Πανστρατιάς
Επαναλαμβάνω εν κατακλείδι την πρόταση που έχω διατυπώσει κατά καιρούς για την συγκρότηση Τεχνολογικής Πανστρατιάς με θέμα την μέγιστη δυνατή ανάπτυξη της εγχώριας Νέας Αμυντικής Τεχνολογίας και κυρίως για την άμυνα εναντίον σμηνών ΜΕΣ.
Η εντοπιότητα της τεχνολογίας αυτής είναι απαραίτητη δεδομένης της μεγάλης εξάρτησης των νέων οπλικών συστημάτων από το λογισμικό των on-board υπολογιστών. Το λογισμικό αυτό εύκολα μπορεί να παγιδευτεί και ενδεχομένως να τεθεί σε λανθασμένη λειτουργία από τους ξένους κατασκευαστές του σε περίπτωση που τα συμφέροντα της χώρας τους αποκλίνουν από τα δικά μας.
Η πανστρατιά, που προτείνεται θα εμπλέκει διάφορους αρμόδιους φορείς του Δημοσίου και ιδιωτικές επιχειρήσεις Ελληνικών συμφερόντων. Επομένως ο γενικός συντονισμός μιας τέτοιας τεχνολογικής πανστρατιάς προς όφελος της Εθνικής Άμυνας και Ασφάλειας θα ήταν σκόπιμο να ασκείται από ένα κεντρικό όργανο υπό τον Πρωθυπουργό.
(*)Πρώτη δημοσίευση κειμένου: Εφημερίδα «Δημοκρατία»
(**)Ιωάννης Κόντος, ομότιμος καθηγητής Τεχνητής Nοημοσύνης, ΕΚΠΑ και μέλος του ΙΗΑ
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου