Τις τελευταίες ώρες κυκλοφόρησε μια είδηση που πέρασε σχετικά αθόρυβα στην Ελλάδα, παρότι αξίζει πολύ περισσότερη προσοχή από όση της δόθηκε.
Γράφει ο *Δημήτρης Κονταράκης (Digital Strategist)
Η OpenAI αποκάλυψε ότι ένας αυτόνομος AI agent κατάφερε να παρακάμψει τα μέτρα περιορισμού κατά τη διάρκεια ελεγχόμενης δοκιμής, να αποκτήσει πρόσβαση στο διαδίκτυο και να παραβιάσει την υποδομή της πλατφόρμας Hugging Face,με την εταιρεία να χαρακτηρίζει το περιστατικό πρωτοφανές και να ανακοινώνει ότι ενισχύει άμεσα τις δικλίδες ασφαλείας των μοντέλων της. Το πιο ενδιαφέρον στοιχείο είναι ότι η επίθεση δεν πραγματοποιήθηκε με συμβατικές τεχνικές, αλλά μέσα από ένα αυτόνομο agent framework που εκτέλεσε χιλιάδες επιμέρους ενέργειες.
Καταλαβαίνω ότι για τον μέσο επιχειρηματία όλα αυτά ακούγονται μακρινά, σαν κάτι που συμβαίνει σε εργαστήρια της Καλιφόρνια και δεν αφορά την καθημερινότητα μιας ελληνικής επιχείρησης. Η αλήθεια όμως είναι ακριβώς η αντίθετη, γιατί τα ίδια ακριβώς εργαλεία, με την ίδια λογική αυτονομίας, μπαίνουν αυτή τη στιγμή στις ροές εργασίας χιλιάδων εταιρειών χωρίς κανείς να έχει καθίσει να ορίσει τι επιτρέπεται και τι όχι. Στα είκοσι πέντε χρόνια που ασχολούμαι με το ψηφιακό περιβάλλον έχω δει πολλές φορές το ίδιο μοτίβο, δηλαδή μια τεχνολογία να υιοθετείται πρώτα με ενθουσιασμό και να ρυθμίζεται μόνο αφού συμβεί το πρώτο ατύχημα.
Ας δούμε λοιπόν πέντε πράγματα που αξίζει να αλλάξεις από αυτή την εβδομάδα.
Πρώτον, φτιάξε μια καταγραφή του τι χρησιμοποιείς ήδη
Διαβάστε Επίσης
Οι περισσότερες επιχειρήσεις με τις οποίες συνεργάζομαι δεν γνωρίζουν καν πόσα εργαλεία τεχνητής νοημοσύνης χρησιμοποιούνται μέσα στην εταιρεία τους, γιατί οι εργαζόμενοι τα υιοθετούν μόνοι τους για να διευκολύνουν τη δουλειά τους χωρίς να το αναφέρουν σε κανέναν. Το πρώτο βήμα λοιπόν δεν είναι τεχνικό αλλά διοικητικό, καθώς πρέπει να ξέρεις ποια εργαλεία μπαίνουν στα δεδομένα σου, ποιος τα χρησιμοποιεί και για ποιον σκοπό, γιατί δεν μπορείς να προστατεύσεις κάτι που δεν έχεις καν καταγράψει.
Δεύτερον, δώσε τα ελάχιστα δυνατά δικαιώματα
Η μεγαλύτερη διαφορά ανάμεσα σε ένα απλό εργαλείο και σε έναν AI agent είναι ότι ο δεύτερος δεν σου απαντάει απλώς αλλά εκτελεί ενέργειες για λογαριασμό σου, και για να το κάνει χρειάζεται πρόσβαση σε λογαριασμούς, αρχεία και συστήματα. Το λάθος που βλέπω συχνά είναι ότι του δίνουμε καθολική πρόσβαση επειδή έτσι δουλεύει πιο άνετα, ενώ η σωστή λογική είναι να του δίνουμε ακριβώς όσα χρειάζεται για τη συγκεκριμένη εργασία και τίποτα παραπάνω. Ένας agent που διαχειρίζεται τα εισερχόμενα μηνύματα δεν έχει κανέναν λόγο να έχει πρόσβαση στα οικονομικά αρχεία της εταιρείας.
Τρίτον, βάλε άνθρωπο σε κάθε μη αναστρέψιμη ενέργεια
Υπάρχουν ενέργειες που αν γίνουν λάθος διορθώνονται εύκολα, και υπάρχουν άλλες που δεν παίρνουν πίσω, όπως η αποστολή ενός μηνύματος σε πελάτη, μια πληρωμή, η δημοσίευση περιεχομένου ή η διαγραφή δεδομένων. Ο κανόνας που προτείνω σε κάθε πελάτη είναι απλός στη σύλληψή του, δηλαδή ό,τι δεν αναιρείται απαιτεί ανθρώπινη έγκριση πριν εκτελεστεί, όσο και αν αυτό φαίνεται να επιβραδύνει τη διαδικασία. Η ταχύτητα που κερδίζεις παρακάμπτοντας αυτόν τον κανόνα δεν αξίζει ποτέ το κόστος ενός λάθους που έγινε ορατό στους πελάτες σου.
Τέταρτον, κράτα ίχνη και φρόντισε να μπορείς να σταματήσεις τα πάντα
Το περιστατικό της OpenAI έγινε αντιληπτό επειδή υπήρχε παρακολούθηση. Στη δική σου επιχείρηση, αυτό μεταφράζεται στο να καταγράφεται τι έκανε κάθε αυτοματοποιημένο σύστημα, πότε και με ποια δεδομένα, ώστε αν κάτι πάει στραβά να μπορείς να ανασυνθέσεις τι συνέβη αντί να μαντεύεις. Εξίσου σημαντικό είναι να υπάρχει κάποιος συγκεκριμένος τρόπος να σταματήσεις άμεσα κάθε αυτόματη διαδικασία, και κυρίως να ξέρει κάποιος συγκεκριμένος άνθρωπος στην ομάδα σου πώς να τον χρησιμοποιήσει.
Πέμπτον, γράψε μια πολιτική και εκπαίδευσε την ομάδα σου
Τα τεχνικά μέτρα από μόνα τους δεν αρκούν, γιατί το μεγαλύτερο ρίσκο δεν είναι ένας agent που δραπετεύει από το εργαστήριο αλλά ένας υπάλληλος που ανεβάζει καλόπιστα ευαίσθητα δεδομένα πελατών σε ένα δωρεάν εργαλείο για να γλιτώσει μισή ώρα δουλειάς. Χρειάζεσαι λοιπόν μια γραπτή πολιτική, σύντομη και κατανοητή, που να λέει ξεκάθαρα ποια εργαλεία εγκρίνονται, τι δεδομένα δεν φεύγουν ποτέ από την εταιρεία και σε ποιον απευθύνεται κάποιος όταν έχει αμφιβολία.
Το συμπέρασμα
Το πρόσφατο περιστατικό δεν είναι λόγος να φοβηθούμε την τεχνητή νοημοσύνη ούτε να την αποφύγουμε, γιατί το πλεονέκτημα που δίνει σε όσους την αξιοποιούν σωστά είναι πραγματικό και μετρήσιμο. Είναι όμως ένας πολύ καλός λόγος να σταματήσουμε να τη μεταχειριζόμαστε σαν ένα ακόμη πρόγραμμα που εγκαθιστούμε και ξεχνάμε, και να αρχίσουμε να τη διαχειριζόμαστε με τη σοβαρότητα που θα δίναμε σε έναν νέο συνεργάτη με μεγάλες δυνατότητες και ελάχιστη εποπτεία.
Η ερώτηση που θα έθετα σε κάθε επιχειρηματία σήμερα είναι απλή. Αν αύριο το πρωί ένα από τα αυτοματοποιημένα σου συστήματα έκανε κάτι που δεν του ζήτησες, θα το μάθαινες, θα μπορούσες να το σταματήσεις, και θα ήξερες ποιος είναι υπεύθυνος να το κάνει.
*Ο Δημήτρης Κονταράκης δραστηριοποιείται ως Digital Strategist μέσα από το DigitalStrategist.gr — ένα προσωπικό brand αφιερωμένο στη στρατηγική ανάπτυξη επιχειρήσεων στο ψηφιακό περιβάλλον. Ιδρυτής της eSteps Σύμβουλοι Internet Marketing (2010), διαθέτει πάνω από 15 χρόνια εμπειρίας στο Internet Marketing με επιτυχημένα case studies τόσο στο eBay όσο και στον απαιτητικό τομέα των πωλήσεων eshop αλλά και online κρατήσεων ξενοδοχείων. Διαθέτει μεγάλη εμπειρία στην ανάλυση αγοράς και ανταγωνιστών και έχει εκπονήσει Digital Marketing Plan για μεγάλο αριθμό επιχειρήσεων σε όλους τους τομείς της Ελληνικής Οικονομίας.
Έχει διατελέσει εισηγητής σε αρκετά σεμινάρια Internet Marketing, σε ομιλίες (Ε.Β.Ε.Α, XENIA) αλλά και σε οικονομικές τηλεοπτικές εκπομπές (SBC Channel, Marketing in Practice). Σπούδασε Πολιτικές Επιστήμες (Bachelor in Politics) και απέκτησε Master Degree in Marketing από το Huddersfield University UK.
Δραστηριοποιείται ως Γενικός Διευθυντής του ΣΕΔΕ (Συνδέσμου Εταιριών Διαδικτύου Ελλάδας) και Instructor σε προγράμματα Digital Marketing στο ΙΕΚ ΑΛΦΑ και στο Mediterranean College. Έχει επίσης διατελέσει Director Consultant στην BNI Greece.
Είναι συγγραφέας του μυθιστορήματος «Χαμένη Γνώση – Το Ιερό Βιβλίο», το οποίο συνδέει την αρχαία Ελλάδα με το παρόν μέσα από μια διαχρονική αναζήτηση γνώσης και τη σύγκρουση Φωτός και Σκότους.
