Η νέα αυτή εποχή στην άμυνα υπόσχεται ταχύτερη επεξεργασία πληροφοριών, καλύτερη ανάλυση πεδίου μάχης και άμεση αντίδραση σε απειλές. Όμως, μαζί με τα πλεονεκτήματα, εμφανίζονται και σοβαρά ζητήματα ασφάλειας, διαφάνειας και ελέγχου.

Ευαίσθητα δεδομένα σε ψηφιακά χέρια

Το Πεντάγωνο των ΗΠΑ διαχειρίζεται μερικές από τις πιο απόρρητες πληροφορίες, από στρατηγικά σχέδια έως δεδομένα κυβερνοάμυνας. Η ενσωμάτωση αυτών των πληροφοριών σε συστήματα τεχνητής νοημοσύνης δημιουργεί νέες ευπάθειες, τόσο απέναντι σε ξένες κυβερνοεπιθέσεις, όσο και σε εσωτερικές διαρροές.

«Αυτά είναι εξαιρετικά ισχυρά εργαλεία, αλλά υπάρχουν πολλά ερωτήματα σχετικά με την ασφάλεια των ίδιων των μοντέλων», δήλωσε η Mieke Eoyang, πρώην αναπληρώτρια υφυπουργός Άμυνας για θέματα κυβερνοπολιτικής στην κυβέρνηση Μπάιντεν, μιλώντας στο POLITICO. Η Eoyang προειδοποιεί ότι ένα λανθασμένα ευθυγραμμισμένο ή κακορυθμισμένο μοντέλο μπορεί να οδηγήσει σε αχρείαστη στρατιωτική κλιμάκωση, ακόμη και χωρίς ανθρώπινη πρόθεση.

Ο φόβος της «ψύχωσης» τεχνητής νοημοσύνης

Μια ακόμη ανησυχία αφορά το φαινόμενο που οι ειδικοί αποκαλούν «ψύχωση ΤΝ» — δηλαδή την περίπτωση όπου παρατεταμένες συνομιλίες με ασταθή μοντέλα οδηγούν σε εσφαλμένες ή επικίνδυνες αποφάσεις, ιδίως όταν πρόκειται για στρατιωτικές εφαρμογές.

Παράλληλα, οι «ασφαλιστικές δικλίδες» που υπάρχουν στα δημόσια συστήματα ΤΝ, όπως το ChatGPT ή το Claude, τα οποία αποθαρρύνουν τη βία, δεν είναι κατάλληλες για στρατιωτική χρήση. Ο στρατός, πρέπει να μπορεί να εξετάζει σενάρια θανατηφόρας ισχύος, κάτι που τα δημόσια εργαλεία απαγορεύουν.

Η ανθρώπινη προκατάληψη, ενισχυμένη από αλγόριθμους

Ένα ακόμη πρόβλημα για την τεχνητή νοημοσύνη είναι ότι τα γλωσσικά μοντέλα εκπαιδεύονται πάνω σε ανθρώπινα δεδομένα, αναπαράγοντας τις ίδιες προκαταλήψεις και τάσεις προς την επιθετικότητα. Έρευνες που αναφέρθηκαν από το POLITICO δείχνουν ότι πολλά δημόσια μοντέλα, όταν παρουσιάζονται με σενάρια διεθνών κρίσεων, προτιμούν την κλιμάκωση αντί της αποκλιμάκωσης — ακόμη και μέχρι το σημείο της πυρηνικής αντιπαράθεσης. «Η τάση προς την κλιμάκωση είναι ήδη ανθρώπινη προκατάληψη· η ΤΝ απλώς την επιταχύνει», επισημαίνει η Eoyang, προσθέτοντας ότι μόνο με προσεκτική μηχανική σχεδίαση μπορούν τέτοιες στρεβλώσεις να διορθωθούν.

Η ανάγκη για στρατιωτική ΤΝ «κομμένη και ραμμένη» στις ανάγκες της άμυνας

Η πρώην αξιωματούχος θεωρεί ότι το Πεντάγωνο πρέπει να αναπτύξει δικά του συστήματα ΤΝ, σχεδιασμένα για αποστολές υψηλής επικινδυνότητας, διαφορετικά από τις πολιτικές εφαρμογές. Αυτό σημαίνει επένδυση σε έρευνα, ανάπτυξη και αυστηρούς μηχανισμούς ασφαλείας. Πεδία όπως η πλοήγηση μη επανδρωμένων οχημάτων, η ανάλυση δεδομένων πληροφοριών και η αναγνώριση αγνώστων απειλών απαιτούν ειδικά εκπαιδευμένα μοντέλα που να μπορούν να λειτουργούν με ακρίβεια, ταχύτητα και απόλυτη ασφάλεια.

ΤΝ και ανθρώπινος έλεγχος

Βλέπουμε και ξέρουμε πως η εισαγωγή της ΤΝ στις στρατιωτικές δομές θα έχει σημαντικά επιχειρησιακά οφέλη, αλλά δεν μπορεί να προχωρήσει χωρίς σαφείς κανόνες, διαφάνεια και πάνω από όλα ανθρώπινο έλεγχο. Χρειάζονται επενδύσεις σε ασφαλή, ειδικά σχεδιασμένα μοντέλα, αυστηροί μηχανισμοί πιστοποίησης και διεθνείς κανόνες που θα περιορίζουν την αυτόνομη χρήση θανατηφόρας ισχύος.