Σε μία έκθεση 38 σελίδων, το οποίο μοιράστηκε με το Axios πριν από τη δημοσίευσή του, ο Αμοντέι γράφει: «Πιστεύω ότι εισερχόμαστε σε μια περίοδο μετάβασης, ταραχώδη και αναπόφευκτη, που θα δοκιμάσει την ταυτότητά μας ως είδος».

«Η ανθρωπότητα πρόκειται να αποκτήσει σχεδόν αδιανόητη δύναμη και δεν είναι καθόλου σαφές αν τα κοινωνικά, πολιτικά και τεχνολογικά μας συστήματα διαθέτουν την ωριμότητα να την χειριστούν».

Η προειδοποίηση του Αμοντέι έχει μεγάλη βαρύτητα, δεδομένου ότι η εταιρεία του έχει κατασκευάσει ένα από τα πιο προηγμένα συστήματα LLM στον κόσμο. Τα νέα εργαλεία Claude Opus 4.5, coding και Cowork της Anthropic είναι το θέμα συζήτησης στο Silicon Valley και στα διοικητικά στελέχη της Αμερικής. Η τεχνητή νοημοσύνη εκτελεί το 90% της προγραμματισμού υπολογιστών για την κατασκευή των προϊόντων της Anthropic, συμπεριλαμβανομένης της δικής της τεχνητής νοημοσύνης.

Ο Αμοντέι, ένας από αυτούς που υψώνει δυνατά τη φωνή του σχετικά με τους κινδύνους της τεχνητής νοημοσύνης, ανησυχεί βαθιά ότι η κυβέρνηση, οι εταιρείες τεχνολογίας και το κοινό υποτιμούν σε μεγάλο βαθμό τα πράγματα που θα μπορούσαν να πάνε στραβά. Η έκθεσή του — συνέχεια του διάσημου δοκίμιου του 2024, «Machines of Loving Grace: How AI Could Transform the World for the Better» — γράφτηκε για να ταράξει τους άλλους, να προκαλέσει δημόσια συζήτηση και να περιγράψει λεπτομερώς τους κινδύνους.

Ο Αμοντέι επιμένει ότι είναι αισιόδοξος ότι οι άνθρωποι θα καταφέρουν να διαχειριστούν αυτή τη μετάβαση – αλλά μόνο αν οι ηγέτες της τεχνητής νοημοσύνης και οι κυβερνήσεις είναι ειλικρινείς με τους πολίτες και αντιμετωπίζουν τις απειλές πιο σοβαρά από ό,τι σήμερα.

Οι ανησυχίες του πηγάζουν από την ισχυρή πεποίθησή του ότι μέσα σε ένα ή δύο χρόνια θα αντιμετωπίσουμε την σκληρή πραγματικότητα αυτού που ο ίδιος αποκαλεί «χώρα των ιδιοφυιών σε ένα κέντρο δεδομένων».

Αυτό που εννοεί είναι ότι μηχανές με ιδιοφυΐα βραβευμένη με Νόμπελ σε πολλούς τομείς — χημεία, μηχανική κ.λπ. — θα είναι σε θέση να κατασκευάζουν πράγματα αυτόνομα και αδιάκοπα, με αποτελέσματα που θα κυμαίνονται από λέξεις ή βίντεο έως βιολογικούς παράγοντες ή οπλικά συστήματα.

«Εάν η εκθετική [πρόοδος] συνεχιστεί — κάτι που δεν είναι βέβαιο, αλλά τώρα έχει μια δεκαετή πορεία που το υποστηρίζει — τότε δεν μπορεί να περάσουν περισσότερα από λίγα χρόνια μέχρι η τεχνητή νοημοσύνη να γίνει καλύτερη από τους ανθρώπους σε όλα ουσιαστικά», γράφει.

Μεταξύ των συγκεκριμένων προειδοποιήσεων του Αμοντέι προς τον κόσμο στην έκθεσή του με τίτλο, «Η εφηβεία της τεχνολογίας: Αντιμετωπίζοντας και ξεπερνώντας τους κινδύνους της ισχυρής τεχνητής νοημοσύνης» είναι οι παρακάτω:

Μαζική απώλεια θέσεων εργασίας: «Πιστεύω ότι η τεχνητή νοημοσύνη θα καταργήσει το 50% των θέσεων εργασίας για αρχάριους υπαλλήλους γραφείου σε διάστημα 1-5 ετών, ενώ ταυτόχρονα πιστεύω ότι σε μόλις 1-2 χρόνια θα έχουμε τεχνητή νοημοσύνη που θα είναι πιο ικανή από όλους μας».

Τεχνητή νοημοσύνη με δύναμη κράτους: «Πιστεύω ότι ο καλύτερος τρόπος για να κατανοήσουμε τους κινδύνους της τεχνητής νοημοσύνης είναι να θέσουμε το εξής ερώτημα: Ας υποθέσουμε ότι μια κυριολεκτική «χώρα των ιδιοφυιών» θα υλοποιηθεί κάπου στον κόσμο το 2027 περίπου. Φανταστείτε, ας πούμε, 50 εκατομμύρια ανθρώπους, οι οποίοι είναι όλοι πολύ πιο ικανοί από οποιονδήποτε κάτοχο βραβείου Νόμπελ, πολιτικό ή τεχνολόγο. … Νομίζω ότι είναι σαφές ότι αυτή είναι μια επικίνδυνη κατάσταση, μια αναφορά από έναν αρμόδιο αξιωματούχο εθνικής ασφάλειας προς έναν αρχηγό κράτους θα περιείχε πιθανώς φράσεις όπως «η πιο σοβαρή απειλή για την εθνική ασφάλεια που έχουμε αντιμετωπίσει σε έναν αιώνα, ίσως και ποτέ». Φαίνεται ότι είναι κάτι στο οποίο πρέπει να επικεντρωθούν οι καλύτεροι εγκέφαλοι του πολιτισμού».

Αυξανόμενη τρομοκρατική απειλή: «Υπάρχουν ενδείξεις ότι πολλοί τρομοκράτες είναι τουλάχιστον σχετικά μορφωμένοι… Η βιολογία είναι μακράν ο τομέας που με ανησυχεί περισσότερο, λόγω του πολύ μεγάλου δυναμικού καταστροφής που έχει και της δυσκολίας άμυνας εναντίον της… Οι περισσότεροι κακοποιοί είναι διαταραγμένα άτομα και, ως εκ τούτου, η συμπεριφορά τους είναι σχεδόν εξ ορισμού απρόβλεπτη και παράλογη — και είναι αυτοί οι κακοποιοί, οι ανειδίκευτοι, που θα μπορούσαν να επωφεληθούν περισσότερο από την τεχνητή νοημοσύνη, η οποία καθιστά πολύ πιο εύκολο να σκοτωθούν πολλοί άνθρωποι. … Καθώς η βιολογία εξελίσσεται (όλο και περισσότερο με την ώθηση της ίδιας της τεχνητής νοημοσύνης), μπορεί να γίνει δυνατό να πραγματοποιηθούν πιο επιλεκτικές επιθέσεις (για παράδειγμα, εναντίον ατόμων με συγκεκριμένη καταγωγή), γεγονός που προσθέτει ένα ακόμη, πολύ ανατριχιαστικό, πιθανό κίνητρο. Δεν πιστεύω ότι οι βιολογικές επιθέσεις θα πραγματοποιηθούν απαραίτητα τη στιγμή που θα γίνει ευρέως δυνατό να γίνουν — στην πραγματικότητα, θα στοιχημάτιζα εναντίον αυτού. Αλλά αν προσθέσουμε εκατομμύρια ανθρώπους και μερικά χρόνια χρόνου, πιστεύω ότι υπάρχει σοβαρός κίνδυνος μιας μεγάλης επίθεσης … με θύματα που ενδεχομένως θα ανέρχονται σε εκατομμύρια ή και περισσότερα.

Ενδυνάμωση των αυταρχικών καθεστώτων: Κυβερνήσεις όλων των τάξεων θα διαθέτουν αυτή την τεχνολογία, συμπεριλαμβανομένης της Κίνας, «η οποία υστερεί μόνο από τις Ηνωμένες Πολιτείες σε δυνατότητες τεχνητής νοημοσύνης και… είναι η χώρα με τη μεγαλύτερη πιθανότητα να ξεπεράσει τις Ηνωμένες Πολιτείες σε αυτές τις δυνατότητες. Η κυβέρνησή της είναι επί του παρόντος αυταρχική και λειτουργεί ως κράτος υψηλής τεχνολογίας επιτήρησης». Ο Αμοντέι γράφει χωρίς περιστροφές: «Ο αυταρχισμός που βασίζεται στην τεχνητή νοημοσύνη με τρομάζει».

Εταιρείες τεχνητής νοημοσύνης: «Είναι κάπως περίεργο να το λέω αυτό ως διευθύνων σύμβουλος μιας εταιρείας τεχνητής νοημοσύνης, αλλά νομίζω ότι το επόμενο επίπεδο κινδύνου είναι στην πραγματικότητα οι ίδιες οι εταιρείες τεχνητής νοημοσύνης», προειδοποιεί ο Αμοντέι μετά το απόσπασμα σχετικά με τις αυταρχικές κυβερνήσεις. «Οι εταιρείες τεχνητής νοημοσύνης ελέγχουν μεγάλα κέντρα δεδομένων, εκπαιδεύουν πρωτοποριακά μοντέλα, διαθέτουν τη μεγαλύτερη εμπειρογνωμοσύνη σχετικά με τον τρόπο χρήσης αυτών των μοντέλων και, σε ορισμένες περιπτώσεις, έχουν καθημερινή επαφή και δυνατότητα επιρροής σε δεκάδες ή εκατοντάδες εκατομμύρια χρήστες. … Θα μπορούσαν, για παράδειγμα, να χρησιμοποιήσουν τα προϊόντα τεχνητής νοημοσύνης τους για να κάνουν πλύση εγκεφάλου στη μαζική βάση χρηστών-καταναλωτών τους, και το κοινό πρέπει να είναι σε εγρήγορση για τον κίνδυνο που αυτό αντιπροσωπεύει. Πιστεύω ότι η διακυβέρνηση των εταιρειών τεχνητής νοημοσύνης αξίζει να εξεταστεί με μεγάλη προσοχή».

Επιβολή σιωπής στους ισχυρούς: Οι γίγαντες της τεχνητής νοημοσύνης έχουν τόση δύναμη και χρήματα που οι ηγέτες θα μπουν στον πειρασμό να υποβαθμίσουν τον κίνδυνο και να κρύψουν προειδοποιητικά σημάδια, όπως τα περίεργα πράγματα που έκανε ο Claude κατά τη διάρκεια των δοκιμών (εκβίασε έναν διευθυντικό στέλεχος για μια υποτιθέμενη εξωσυζυγική σχέση για να αποφύγει το κλείσιμο της εταιρείας, όπως αποκάλυψε η Anthropic). «Υπάρχουν τόσα πολλά χρήματα που μπορούν να κερδηθούν με την τεχνητή νοημοσύνη — κυριολεκτικά τρισεκατομμύρια δολάρια ετησίως», γράφει ο Αμοντέι στο πιο απαισιόδοξο απόσπασμα του. «Αυτή είναι η παγίδα: η τεχνητή νοημοσύνη είναι τόσο ισχυρή, ένα τόσο λαμπρό έπαθλο, που είναι πολύ δύσκολο για τον ανθρώπινο πολιτισμό να της επιβάλει οποιουσδήποτε περιορισμούς».

Κάλεσμα για δράση: «Οι πλούσιοι έχουν την υποχρέωση να βοηθήσουν στην επίλυση αυτού του προβλήματος», λέει ο Αμοντέι. «Με λυπεί το γεγονός ότι πολλοί πλούσιοι (ειδικά στον κλάδο της τεχνολογίας) έχουν υιοθετήσει πρόσφατα μια κυνική και μηδενιστική στάση, ότι η φιλανθρωπία είναι αναπόφευκτα απατηλή ή άχρηστη».

Συμπέρασμα: «Η ανθρωπότητα πρέπει να ξυπνήσει, και αυτή η έκθεση είναι μια προσπάθεια — πιθανώς μάταιη, αλλά αξίζει να δοκιμαστεί — να ξυπνήσει τους ανθρώπους», γράφει ο Αμοντέι. «Τα χρόνια που μας περιμένουν θα είναι απίστευτα δύσκολα, απαιτώντας από εμάς περισσότερα από όσα πιστεύουμε ότι μπορούμε να δώσουμε».