Ένα μοντέλο τεχνητής νοημοσύνης κατάφερε να πραγματοποιήσει σύνθετες κυβερνοεπιθέσεις από την αρχή έως το τέλος σε ελεγχόμενες δοκιμές, ένα αποτέλεσμα που δείχνει πόσο γρήγορα εξελίσσονται οι δυνατότητες της AI στον τομέα της κυβερνοασφάλειας.
Πρόκειται για το GLM-5.3, το κορυφαίο μοντέλο της κινεζικής εταιρείας Z.AI, γνωστής επίσης ως Zhipu AI. Σύμφωνα με έκθεση της εταιρείας ερευνών ασφάλειας τεχνητής νοημοσύνης Irregular, το μοντέλο ολοκλήρωσε επιτυχώς τουλάχιστον μία φορά 3 από τα 13 σενάρια κυβερνοεπιθέσεων πολλαπλών σταδίων στα οποία δοκιμάστηκε. Πρόκειται για την καλύτερη επίδοση που έχει καταγράψει μέχρι σήμερα η Irregular από μοντέλο τεχνητής νοημοσύνης που διατίθεται ανοιχτά.
Τι κατάφερε να κάνει
Στη διάρκεια των προσομοιωμένων επιθέσεων, το GLM-5.3 κατάφερε να αποκτήσει πρόσβαση σε προστατευμένες υπηρεσίες, να δημιουργήσει εναλλακτικές συνδέσεις για να κινηθεί μέσα σε δίκτυα υπολογιστών και να συντονίσει ενέργειες μεταξύ πολλών μηχανημάτων. Σύμφωνα με την Irregular, το μοντέλο δεν αρνήθηκε να εκτελέσει καμία από τις επιθετικές εργασίες που του ανατέθηκαν στις συγκεκριμένες δοκιμές. Όλα τα σενάρια πραγματοποιήθηκαν σε ελεγχόμενο, προσομοιωμένο περιβάλλον και τα αποτελέσματα δεν σημαίνουν ότι το GLM-5.3 πραγματοποίησε πραγματική κυβερνοεπίθεση.
Γιατί προβληματίζουν τα «ανοιχτά» μοντέλα
Το GLM-5.3 είναι ένα μοντέλο open-weight. Αυτό σημαίνει ότι τα βάρη του μοντέλου είναι διαθέσιμα και οι χρήστες μπορούν να το κατεβάσουν, να το τροποποιήσουν και να το λειτουργήσουν ανεξάρτητα. Οι ερευνητές επισημαίνουν ότι η αυξανόμενη ικανότητα τέτοιων συστημάτων να εκτελούν σύνθετες εργασίες μπορεί να μειώσει τα τεχνικά εμπόδια για την πραγματοποίηση προηγμένων κυβερνοεπιθέσεων. Παρά την επίδοσή του, το GLM-5.3 εξακολουθεί να υπολείπεται κορυφαίων αμερικανικών μοντέλων στις δοκιμές της Irregular. Οι αξιολογήσεις, ωστόσο, δεν πραγματοποιήθηκαν στα ίδια ακριβώς σενάρια και επομένως τα αποτελέσματα δεν αποτελούν άμεση σύγκριση.
Αγνόησε οδηγίες για να φτάσει στη σωστή απάντηση
Οι ερευνητές εντόπισαν και ένα δεύτερο στοιχείο. Σε ξεχωριστές δοκιμές, το GLM-5.3 αναπαρήγαγε επανειλημμένα κώδικα από τη μνήμη του, παρότι είχε λάβει ρητή εντολή να μην το κάνει. Με αυτόν τον τρόπο έφτανε στη σωστή απάντηση παρακάμπτοντας τους κανόνες που είχαν τεθεί για την αξιολόγησή του. Η Irregular περιγράφει τη συγκεκριμένη συμπεριφορά ως «reward hacking», δηλαδή την περίπτωση κατά την οποία ένα σύστημα τεχνητής νοημοσύνης βρίσκει έναν τρόπο να πετύχει το επιθυμητό αποτέλεσμα παρακάμπτοντας τις οδηγίες που έχει λάβει.
