Οι κατασκευαστές ιατρικών συσκευών σπεύδουν να προσθέσουν τεχνητή νοημοσύνη στα προϊόντα τους. Ενώ οι υποστηρικτές της νέας τεχνολογίας ισχυρίζονται ότι θα φέρει επανάσταση στην ιατρική, οι ρυθμιστικές Αρχές λαμβάνουν όλο και περισσότερες καταγγελίες για τραυματισμούς ασθενών.

Το 2021, μια μονάδα του γίγαντα της υγειονομικής περίθαλψης Johnson & Johnson ανακοίνωσε «ένα άλμα προς τα εμπρός»: Είχε προσθέσει τεχνητή νοημοσύνη σε μια ιατρική συσκευή που χρησιμοποιείται για τη θεραπεία της χρόνιας ιγμορίτιδας, μιας φλεγμονής των ιγμορείων. Η Acclarent δήλωσε ότι το λογισμικό για το σύστημα πλοήγησης TruDi θα χρησιμοποιεί πλέον έναν αλγόριθμο μηχανικής μάθησης για να βοηθά τους ειδικούς του αυτιού, της μύτης και του λαιμού στις χειρουργικές επεμβάσεις.

Η συσκευή βρισκόταν ήδη στην αγορά για περίπου τρία χρόνια. Μέχρι τότε, η Αμερικανική Υπηρεσία Τροφίμων και Φαρμάκων (FDA) είχε λάβει ανεπιβεβαίωτες αναφορές για επτά περιπτώσεις δυσλειτουργίας της συσκευής και μια άλλη αναφορά για τραυματισμό ασθενούς. Από τη στιγμή που προστέθηκε η τεχνητή νοημοσύνη στη συσκευή, η FDA έχει λάβει ανεπιβεβαίωτες αναφορές για τουλάχιστον 100 δυσλειτουργίες και ανεπιθύμητα συμβάντα. Σύμφωνα με τις αναφορές, τουλάχιστον 10 άτομα τραυματίστηκαν μεταξύ του τέλους του 2021 και του Νοεμβρίου του 2025. Τα περισσότερα περιστατικά αφορούσαν σφάλματα του συστήματος πλοήγησης TruDi, το οποίο έδωσε λανθασμένες πληροφορίες στους χειρουργούς σχετικά με τη θέση των εργαλείων τους, ενώ τα χρησιμοποιούσαν μέσα στο κεφάλι των ασθενών κατά τη διάρκεια των επεμβάσεων. Σύμφωνα με αναφορές, εγκεφαλονωτιαίο υγρό διέρρευσε από τη μύτη ενός ασθενούς. Σε μια άλλη περίπτωση, ένας χειρουργός τρύπησε κατά λάθος τη βάση του κρανίου ενός ασθενούς. Σε δύο άλλες περιπτώσεις, οι ασθενείς φέρεται να υπέστησαν εγκεφαλικά επεισόδια μετά από τυχαίο τραυματισμό μιας μεγάλης αρτηρίας.

Δικαστικές διαμάχες

Οι αναφορές της FDA για τις συσκευές ενδέχεται να είναι ελλιπείς και δεν αποσκοπούν στον προσδιορισμό των αιτίων των ιατρικών ατυχημάτων, επομένως δεν είναι σαφές ποιον ρόλο μπορεί να έχει διαδραματίσει η τεχνητή νοημοσύνη σε αυτά τα συμβάντα. Τα δύο θύματα εγκεφαλικού επεισοδίου υπέβαλαν αγωγή στο Τέξας, ισχυριζόμενοι ότι η τεχνητή νοημοσύνη του συστήματος TruDi συνέβαλε στους τραυματισμούς τους. «Το προϊόν ήταν αναμφισβήτητα ασφαλέστερο πριν από την ενσωμάτωση των αλλαγών στο λογισμικό για την ενσωμάτωση της τεχνητής νοημοσύνης από ό,τι μετά την εφαρμογή των τροποποιήσεων στο λογισμικό», αναφέρεται σε μία από τις αγωγές. Το Reuters δεν μπόρεσε να επαληθεύσει ανεξάρτητα τους ισχυρισμούς των αγωγών.

Όταν ρωτήθηκε για τις εκθέσεις της FDA σχετικά με τη συσκευή TruDi, η Johnson & Johnson παρέπεμψε τις ερωτήσεις στην Integra LifeSciences, η οποία το 2024 αγόρασε την Acclarent και το σύστημα πλοήγησης TruDi. Η Integra LifeSciences δήλωσε ότι οι εκθέσεις «δεν κάνουν τίποτα περισσότερο από το να υποδεικνύουν ότι ένα σύστημα TruDi χρησιμοποιήθηκε σε μια χειρουργική επέμβαση όπου συνέβη ένα ανεπιθύμητο συμβάν». Πρόσθεσε ότι «δεν υπάρχουν αξιόπιστα στοιχεία που να αποδεικνύουν αιτιώδη σύνδεση μεταξύ του συστήματος πλοήγησης TruDi, της τεχνολογίας τεχνητής νοημοσύνης και τυχόν φερόμενων τραυματισμών».

Η κατανόηση των περιστατικών έρχεται καθώς η τεχνητή νοημοσύνη αρχίζει να μεταμορφώνει τον κόσμο της υγειονομικής περίθαλψης. Οι υποστηρικτές της προβλέπουν ότι η νέα τεχνολογία θα βοηθήσει στην εύρεση θεραπειών για σπάνιες ασθένειες, στην ανακάλυψη νέων φαρμάκων, στη βελτίωση των δεξιοτήτων των χειρουργών και στην ενδυνάμωση των ασθενών. Ωστόσο, μια ανασκόπηση του Reuters σχετικά με τα αρχεία ασφάλειας και νομικά αρχεία, καθώς και συνεντεύξεις με γιατρούς, νοσηλευτές, επιστήμονες και ρυθμιστικές Αρχές, τεκμηριώνουν ορισμένους από τους κινδύνους της τεχνητής νοημοσύνης στην ιατρική, καθώς οι κατασκευαστές συσκευών, οι τεχνολογικοί γίγαντες και οι προγραμματιστές λογισμικού αγωνίζονται να την εφαρμόσουν.

Εγκρίσεις και ανακλήσεις συσκευών

Τουλάχιστον 1.357 ιατρικές συσκευές που χρησιμοποιούν τεχνητή νοημοσύνη έχουν πλέον εγκριθεί από την FDA – διπλάσιος αριθμός από αυτόν που είχε επιτραπεί μέχρι το 2022. Το σύστημα TruDi δεν είναι το μόνο που τίθεται υπό αμφισβήτηση: Η FDA έχει λάβει αναφορές που αφορούν δεκάδες άλλες συσκευές με τεχνητή νοημοσύνη, συμπεριλαμβανομένου ενός καρδιογράφου που φέρεται να παρέβλεψε ανώμαλους καρδιακούς παλμούς και μιας συσκευής υπερήχων που φέρεται να αναγνώρισε εσφαλμένα μέρη του σώματος του εμβρύου.

Ερευνητές από τα πανεπιστήμια Johns Hopkins, Georgetown και Yale διαπίστωσαν πρόσφατα ότι 60 ιατρικές συσκευές που χρησιμοποιούν τεχνητή νοημοσύνη και έχουν εγκριθεί από την FDA συνδέονταν με 182 ανακλήσεις προϊόντων, σύμφωνα με μια ερευνητική επιστολή που δημοσιεύθηκε στο JAMA Health Forum τον Αύγουστο. Η ανασκόπησή τους έδειξε ότι το 43% των ανακλήσεων πραγματοποιήθηκε λιγότερο από ένα χρόνο μετά την έγκριση των συσκευών. Αυτό είναι περίπου το διπλάσιο του ποσοστού ανάκλησης όλων των συσκευών που έχουν εγκριθεί σύμφωνα με παρόμοιους κανόνες της FDA, όπως σημειώνεται στην ανασκόπηση.

Η έκρηξη της τεχνητής νοημοσύνης αποτελεί πρόβλημα για την FDA, όπως δήλωσαν πέντε νυν και πρώην επιστήμονες της υπηρεσίας στο Reuters: Η υπηρεσία δυσκολεύεται να συμβαδίσει με τον καταιγισμό ιατρικών συσκευών ενισχυμένων με τεχνητή νοημοσύνη που ζητούν έγκριση, μετά την απώλεια βασικών στελεχών. Ένας εκπρόσωπος του υπουργείου Υγείας και Κοινωνικών Υπηρεσιών των ΗΠΑ, στο οποίο υπάγεται η FDA, δήλωσε ότι η υπηρεσία επιδιώκει να ενισχύσει τις δυνατότητές της σε αυτόν τον τομέα.

Οι κίνδυνοι των chatbots

Μια άλλη μορφή τεχνητής νοημοσύνης, τα γενετικά chatbots τεχνητής νοημοσύνης, κάνει επίσης την είσοδό της στην ιατρική. Πολλοί γιατροί χρησιμοποιούν πλέον την τεχνητή νοημοσύνη για να εξοικονομήσουν χρόνο, όπως για παράδειγμα στην μεταγραφή των σημειώσεων των ασθενών. Ωστόσο, οι γιατροί αναφέρουν επίσης ότι πολλοί ασθενείς χρησιμοποιούν τα chatbots για να αυτοδιαγνωστούν ή να αμφισβητήσουν τις επαγγελματικές συμβουλές, δημιουργώντας νέες προκλήσεις και κινδύνους.

Η τεχνητή νοημοσύνη έκανε επιχειρηματική και κοινωνική αίσθηση μετά την κυκλοφορία του ChatGPT πριν από περίπου τρία χρόνια. Το ChatGPT και άλλα δημοφιλή chatbots, όπως το Gemini της Google και το Claude της Anthropic, χρησιμοποιούν τη λεγόμενη γενετική τεχνητή νοημοσύνη για τη δημιουργία περιεχομένου. Βασίζονται σε μεγάλα γλωσσικά μοντέλα, ή LLM, τα οποία έχουν εκπαιδευτεί σε τεράστιες ποσότητες κειμένου και άλλων δεδομένων για να κατανοούν και να παράγουν ανθρώπινη γλώσσα. Αυτά τα εργαλεία τεχνητής νοημοσύνης εισάγονται πλέον σε ιατρικούς τομείς, όπως οι εφαρμογές υγειονομικής περίθαλψης για καταναλωτές. Ωστόσο, η τεχνητή νοημοσύνη δεν περιορίζεται μόνο στα LLM, και η τεχνολογία αυτή είχε ήδη κάνει την εμφάνισή της στην ιατρική πολύ πριν από την εμφάνιση των AI bots. Ο τομέας αυτός έχει ιστορία που ξεπερνά τα 70 χρόνια: Ένα κομβικό σημείο ήταν όταν ο Βρετανός μαθηματικός Άλαν Τούρινγκ έθεσε το ερώτημα «Μπορούν οι μηχανές να σκέφτονται;» σε μια εργασία του το 1950.

Η FDA ενέκρινε τις πρώτες ιατρικές συσκευές με τεχνητή νοημοσύνη το 1995 – δύο συστήματα που χρησιμοποιούσαν λογισμικό αντιστοίχισης προτύπων για τον έλεγχο του καρκίνου του τραχήλου της μήτρας. Ο τύπος τεχνητής νοημοσύνης που χρησιμοποιείται σήμερα στις ιατρικές συσκευές ονομάζεται συχνά μηχανική μάθηση, μαζί με ένα υποσύνολο γνωστό ως βαθιά μάθηση (deep learning), τα οποία εκπαιδεύονται σε δεδομένα για την εκτέλεση συγκεκριμένων εργασιών. Η τεχνολογία χρησιμοποιείται στην ακτινολογία, για παράδειγμα, για τη βελτίωση και την ανάλυση ιατρικών εικόνων. Μπορεί να βοηθήσει στη διάγνωση καρκίνων, εντοπίζοντας όγκους που οι γιατροί μπορεί να παραβλέψουν.

Τραυματισμοί ασθενών στα χειρουργεία

Τέτοια συστήματα χρησιμοποιούνται επίσης σε χειρουργικές συσκευές. Τον Ιούνιο του 2022, ένας χειρουργός εισήγαγε ένα μικρό μπαλόνι στην κοιλότητα των ιγμορείων της Έριν Ραλφ σε ένα νοσοκομείο στο Φορτ Γουόρθ του Τέξας. Σύμφωνα με μια αγωγή που κατέθεσε η Ραλφ, ο Δρ Μαρκ Ντιν χρησιμοποιούσε το σύστημα πλοήγησης TruDi, το οποίο χρησιμοποιεί τεχνητή νοημοσύνη, για να επιβεβαιώσει τη θέση των εργαλείων του μέσα στο κεφάλι της. Η διαδικασία, γνωστή ως μπαλονάκι στα ιγμόρεια, είναι μια ελάχιστα επεμβατική τεχνική για τη θεραπεία της χρόνιας ιγμορίτιδας. Ένα μπαλόνι φουσκώνεται για να διευρύνει το άνοιγμα του ιγμορείου, ώστε να επιτρέψει καλύτερη αποστράγγιση και να ανακουφίσει τη φλεγμονή.

Accurate navigation is critical in performing balloon dilation. As Ryan Vaughn, MD, discusses, TruDi® Navigation System acts like a computer-guided GPS providing the information needed to help physicians deliver effective procedures.

Learn more: https://t.co/WJ62nigYE0 #ENT pic.twitter.com/zLVVein5kb

— Acclarent (@Acclarent) April 11, 2023

Ωστόσο, σύμφωνα με την αγωγή που κατέθεσεη Ραλφ στο Περιφερειακό Δικαστήριο του Ντάλας κατά της Acclarent και άλλων εναγόμενων, το σύστημα TruDi «εξαπάτησε και παραπλάνησε» τον Ντιν. Μια καρωτίδα αρτηρία – η οποία τροφοδοτεί με αίμα τον εγκέφαλο, το πρόσωπο και τον αυχένα – φέρεται να τραυματίστηκε, προκαλώντας θρόμβωση. Σύμφωνα με τα έγγραφα που κατατέθηκαν στο δικαστήριο, ο δικηγόρος της Ραλφ δήλωσε στον δικαστή ότι τα αρχεία του Ντιν έδειχναν ότι «δεν είχε ιδέα ότι βρισκόταν κοντά στην καρωτίδα αρτηρία». Το Reuters δεν μπόρεσε να εξετάσει τα αρχεία, τα οποία υπόκεινται σε δικαστική προστατευτική εντολή.

Αφού η Ραλφ έφυγε από το νοσοκομείο, έγινε εμφανές ότι είχε υποστεί εγκεφαλικό επεισόδιο. Η μητέρα τεσσάρων παιδιών επέστρεψε και πέρασε πέντε ημέρες στην εντατική, σύμφωνα με μια εκστρατεία συγκέντρωσης χρημάτων στο GoFundMe που οργανώθηκε για να υποστηρίξει την ανάρρωσή της. Ένα τμήμα του κρανίου της αφαιρέθηκε «για να επιτρέψει στον εγκέφαλό της να πρηστεί», ανέφερε η έκκληση στο GoFundMe. «Εξακολουθώ να κάνω θεραπεία», είπε η Ραλφ σε μια συνέντευξη περισσότερο από ένα χρόνο αργότερα σε ένα blog για θύματα εγκεφαλικού επεισοδίου. «Είναι δύσκολο να περπατήσω χωρίς στήριγμα και να ξανακάνω το αριστερό μου χέρι να λειτουργεί».

The TruDi® Shaver Blade is continuing to make an impact on the #ENT world! We’re excited to share that Dr. Biggerstaff in Indiana, had a successful outcome whilst using the shaver blade.

To learn more about TruDi® Shaver Blade & risk related information : https://t.co/NxZ17JDGiF pic.twitter.com/xvLsweZQAC

— Acclarent (@Acclarent) March 14, 2023

Τον Μάιο του 2023, ο Ντιν χρησιμοποιούσε το TruDi σε μια άλλη επέμβαση ιγμορίτιδας, όταν η καρωτίδα αρτηρία της ασθενούς Ντόνα Φέρνιχο φέρεται να «έσπασε». Το αίμα «εκτοξεύτηκε παντού» – φτάνοντας πάνω  και σε έναν εκπρόσωπο της Acclarent που παρακολουθούσε την επέμβαση, σύμφωνα με μια αγωγή που κατέθεσε η Φέρνιχο στο Ομοσπονδιακό Δικαστήριο των ΗΠΑ στο Φορτ Γουόρθ  κατά της Acclarent και αρκετών κατασκευαστών. Μία από τις καρωτίδες αρτηρίες της Φέρνιχο υπέστη βλάβη. Σύμφωνα με την αγωγή της, υπέστη εγκεφαλικό επεισόδιο την ημέρα της επέμβασης. Η Acclarent «γνώριζε ή θα έπρεπε να γνωρίζει ότι η υποτιθέμενη τεχνητή νοημοσύνη προκαλούσε ή επιδείνωνε την τάση του προϊόντος του ενσωματωμένου συστήματος πλοήγησης να είναι ασυνεπές, ανακριβές και αναξιόπιστο», ισχυρίζεται η αγωγή.

Η Acclarent έχει αρνηθεί τις κατηγορίες και στις δύο αγωγές, οι οποίες βρίσκονται σε διαδικασία εκδίκασης, σύμφωνα με τα έγγραφα του δικαστηρίου. Η εταιρεία ισχυρίζεται ότι δεν σχεδίασε ούτε κατασκεύασε το σύστημα TruDi, αλλά μόνο το διανέμει, σύμφωνα με τα έγγραφα του δικαστηρίου. Η ιδιοκτήτρια της Acclarent, Integra LifeSciences, δήλωσε στο Reuters ότι δεν υπάρχουν στοιχεία που να συνδέουν την τεχνολογία τεχνητής νοημοσύνης με τυχόν φερόμενους τραυματισμούς.

Εργαλείο μάρκετινγκ

Ο Ντιν άρχισε να παρέχει συμβουλευτικές υπηρεσίες στην Acclarent το 2014 και έλαβε περισσότερα από 550.000 δολάρια σε αμοιβές συμβούλου από την εταιρεία μέχρι το 2024, σύμφωνα με την Open Payments, μια ομοσπονδιακή βάση δεδομένων που παρακολουθεί τις οικονομικές σχέσεις μεταξύ εταιρειών και γιατρών. Τουλάχιστον 135.000 δολάρια από αυτές τις αμοιβές αφορούσαν το σύστημα TruDi.

Ένας δικηγόρος του Ντιν δήλωσε ότι ο γιατρός δεν μπορούσε να σχολιάσει λόγω του απορρήτου των ασθενών και της εν εξελίξει δικαστικής διαμάχης. Η Integra δήλωσε ότι ο Ντιν δεν είναι πλέον σύμβουλος της TruDi και ότι οι πληρωμές που του έγιναν μετά την εξαγορά της Acclarent αφορούσαν γεύματα. Το 2021, ο τότε πρόεδρος της Acclarent, Τζεφ Χόπκινς, πίεζε να ενσωματωθεί η τεχνητή νοημοσύνη στην TruDi «ως εργαλείο μάρκετινγκ» για να ισχυριστεί ότι η συσκευή «διαθέτει νέα και καινοτόμο τεχνολογία», σύμφωνα με την αγωγή της Φέρνιχο.

Το λογισμικό TruDi χρησιμοποιεί μηχανική μάθηση για να αναγνωρίσει συγκεκριμένα τμήματα της ανατομίας ενός ασθενούς και να υπολογίσει «τη συντομότερη, έγκυρη διαδρομή μεταξύ δύο σημείων που καθορίζονται από τον γιατρό», σύμφωνα με μια ανάρτηση της Acclarent στο LinkedIn. Η τεχνολογία έχει σχεδιαστεί για να απλοποιεί τον χειρουργικό σχεδιασμό και να παρέχει ανατροφοδότηση σε πραγματικό χρόνο κατά τη διάρκεια διαδικασιών όπως οι επεμβάσεις των ιγμορείων.

Σύμφωνα με την αγωγή της Φέρνιχο, οι υπεύθυνοι της Acclarent είχαν προσεγγίσει τον Ντιν σχετικά με το σχέδιο προσθήκης τεχνητής νοημοσύνης. Ο χειρουργός προειδοποίησε τον Χόπκινς και την Acclarent «ότι υπήρχαν ζητήματα που έπρεπε να επιλυθούν», προσθέτει η καταγγελία. Παρά την προειδοποίηση αυτή, η αγωγή ισχυρίζεται ότι η Acclarent «χαμήλωσε τα πρότυπα ασφαλείας της για να βιαστεί να βγάλει την νέα τεχνολογία στην αγορά» και έθεσε «ως στόχο μόνο 80% ακρίβεια για μέρος αυτής της νέας τεχνολογίας πριν την ενσωματώσει στο σύστημα πλοήγησης TruDi». Το Reuters δεν μπόρεσε να διαπιστώσει εάν ο Dean εξέδωσε την προειδοποίηση. Οι δημοσιογράφοι δεν μπόρεσαν να εξετάσουν το υλικό που υποβλήθηκε προς υποστήριξη των ισχυρισμών της Φέρνιχο, το οποίο υπόκειται σε δικαστική προστατευτική εντολή. Ο Χόπκινς, πρώην πρόεδρος της Acclarent, δεν απάντησε σε αίτημα για σχόλιο.

Λάθος μέρη του σώματος

Η FDA προειδοποιεί ότι οι αναφορές για ανεπιθύμητα συμβάντα και δυσλειτουργίες συσκευών είναι περιορισμένες: Συχνά στερούνται λεπτομερειών, έχουν υποστεί επεξεργασία για την προστασία εμπορικών μυστικών και δεν μπορούν να χρησιμοποιηθούν από μόνες τους για την απόδοση ευθυνών. Η υπηρεσία λαμβάνει επίσης μερικές φορές πολλαπλές αναφορές για ένα μόνο περιστατικό. Το Reuters διαπίστωσε ότι τουλάχιστον 1.401 από τις αναφορές που υποβλήθηκαν στην FDA μεταξύ του 2021 και του Οκτωβρίου 2025 αφορούν ιατρικές συσκευές που περιλαμβάνονται σε έναν κατάλογο της FDA με 1.357 προϊόντα που χρησιμοποιούν τεχνητή νοημοσύνη. Η υπηρεσία δηλώνει ότι ο κατάλογος δεν είναι εξαντλητικός. Από αυτές τις αναφορές, τουλάχιστον 115 αναφέρουν προβλήματα με λογισμικό, αλγόριθμους ή προγραμματισμό.

Μια αναφορά της FDA τον Ιούνιο του 2025 ισχυριζόταν ότι το λογισμικό τεχνητής νοημοσύνης που χρησιμοποιείται για προγεννητικούς υπέρηχους αναγνώριζε εσφαλμένα τα μέρη του σώματος του εμβρύου. Το λογισμικό, που ονομάζεται Sonio Detect, χρησιμοποιεί τεχνικές μηχανικής μάθησης για να βοηθήσει στην ανάλυση εικόνων του εμβρύου. «Ο αλγόριθμος τεχνητής νοημοσύνης του λογισμικού Sonio Detect είναι ελαττωματικός και ταυτοποιεί εσφαλμένα τις δομές του εμβρύου και τις συσχετίζει με λάθος μέρη του σώματος», ανέφερε η αναφορά, η οποία δεν αναφέρει ότι κάποιος ασθενής υπέστη βλάβη. Το Sonio Detect ανήκει στη Samsung Medison, μια μονάδα της Samsung Electronics. Η Samsung Medison δήλωσε ότι η έκθεση της FDA σχετικά με το Sonio Detect «δεν υποδεικνύει κανένα ζήτημα ασφάλειας, ούτε η FDA έχει ζητήσει οποιαδήποτε ενέργεια από τη Sonio». Ο εκπρόσωπος του HHS δεν απάντησε σε ερωτήσεις σχετικά με το Sonio Detect.

Τουλάχιστον 16 αναφορές ισχυρίστηκαν ότι καρδιακά μόνιτορ με τεχνητή νοημοσύνη που κατασκευάζονται από τον γίγαντα των ιατρικών συσκευών Medtronic δεν αναγνώρισαν ανώμαλους ρυθμούς ή παύσεις. Καμία από τις αναφορές δεν ανέφερε τραυματισμούς. Η Medtronic ενημέρωσε την FDA ότι ορισμένα από τα περιστατικά προκλήθηκαν από «σύγχυση των χρηστών». Οι αλγόριθμοι τεχνητής νοημοσύνης της σειράς εμφυτεύσιμων καρδιακών μόνιτορ LINQ της Medtronic περιγράφονται ως «τεχνητή νοημοσύνη deep learning». Σύμφωνα με τον ιστότοπο της εταιρείας, έχουν μειώσει σημαντικά τις ψευδείς ειδοποιήσεις και έχουν διατηρήσει τις πραγματικές ειδοποιήσεις για καρδιακά συμβάντα. Ωστόσο, η εταιρεία αναφέρει επίσης στον ιστότοπό της και στην τεκμηρίωση του προϊόντος ότι η τεχνολογία τεχνητής νοημοσύνης της, AccuRhythm AI, μπορεί να ταξινομήσει εσφαλμένα πραγματικούς ανώμαλους καρδιακούς ρυθμούς ή παύσεις.

Η Medtronic δήλωσε στο Reuters ότι εξέτασε και τα 16 περιστατικά και κατέληξε στο συμπέρασμα ότι η συσκευή της δεν εντόπισε μόνο ένα περιστατικό ανώμαλου καρδιακού ρυθμού. «Κανένα από αυτά τα περιστατικά δεν προκάλεσε βλάβη στον ασθενή», ανέφερε. Η Medtronic δήλωσε ότι ορισμένα από τα περιστατικά σχετίζονταν με προβλήματα στην εμφάνιση των δεδομένων και όχι με την τεχνολογία τεχνητής νοημοσύνης. Αρνήθηκε να εξηγήσει πλήρως τι πήγε στραβά σε κάθε περιστατικό. Ο εκπρόσωπος του HHS δήλωσε ότι η υπηρεσία δεν συζητά πιθανά ή τρέχοντα θέματα συμμόρφωσης.

Περικοπές στην FDA υπό την κυβέρνηση Τραμπ

Σε συνεντεύξεις, πέντε νυν και πρώην επιστήμονες της FDA που εξέτασαν ιατρικές συσκευές που λειτουργούν με τεχνητή νοημοσύνη δήλωσαν στο Reuters ότι οι ομοσπονδιακές ρυθμιστικές Αρχές είναι πλέον λιγότερο στελεχωμένες για να αντιμετωπίσουν τον καταιγισμό νέων συσκευών. Περίπου πριν από τέσσερα χρόνια, η FDA επέκτεινε τον κατάλογο των επιστημόνων της που ειδικεύονται στην τεχνητή νοημοσύνη, ιδίως για την εξέταση ιατρικών συσκευών απεικόνισης και ακτινολογίας που χρησιμοποιούν την τεχνολογία αυτή. Πολλοί από τους νεοπροσληφθέντες τοποθετήθηκαν στο Τμήμα Απεικόνισης, Διαγνωστικής και Αξιοπιστίας Λογισμικού (DIDSR). Η μονάδα αυτή έγινε ο βασικός πόρος της υπηρεσίας για την αξιολόγηση της ασφάλειας της τεχνητής νοημοσύνης στην ιατρική, όπως δήλωσαν στο Reuters ένας νυν και δύο πρώην υπάλληλοι της FDA. Στις αρχές του περασμένου έτους, ο αριθμός των υπαλλήλων της μονάδας αυξήθηκε σε περίπου 40 άτομα.

«Ορισμένοι ανώτεροι ρυθμιστές δεν έχουν ιδέα πώς λειτουργούν αυτές οι τεχνολογίες», δήλωσε ένας πρώην υπάλληλος. «Συζητήσαμε εκτενώς με τους ανώτερους ρυθμιστές και τους εξηγήσαμε γιατί πιστεύουμε ότι αυτή η τεχνολογία είναι ασφαλής ή μη ασφαλής για χρήση στην αγορά». Δεν ήταν εύκολο να προσελκύσουν κορυφαία ταλέντα στη δημόσια διοίκηση. Για την πρόσληψη επιστημόνων πληροφορικής συχνά χρειαζόταν να τους πείσουν να απορρίψουν υψηλότερες αμοιβές στον ιδιωτικό τομέα.

Στο πλαίσιο της εργασίας τους, οι επιστήμονες προσπαθούσαν να «σπάσουν» τα μοντέλα τεχνητής νοημοσύνης των συσκευών, σύμφωνα με έναν πρώην υπάλληλο. Δοκίμαζαν τους αλγόριθμους μιας συσκευής σε διάφορες κλινικές καταστάσεις και έλεγχαν αν η απόδοση της τεχνητής νοημοσύνης επιδεινωνόταν με την πάροδο του χρόνου. Προσπαθούσαν επίσης να ελαχιστοποιήσουν τις «ψευδαισθήσεις», κατά τις οποίες τα μοντέλα τεχνητής νοημοσύνης μερικές φορές παράγουν ψευδείς πληροφορίες, σύμφωνα με έγγραφο που δημοσίευσαν αξιωματούχοι της FDA τον Οκτώβριο. Ωστόσο, στις αρχές του περασμένου έτους, η κυβέρνηση Τραμπ άρχισε να διαλύει την ομάδα τεχνητής νοημοσύνης στο πλαίσιο της εκστρατείας μείωσης του κόστους του Έλον Μασκ, του Τμήματος Κυβερνητικής Αποδοτικότητας (DOGE). Περίπου 15 από τους 40 επιστήμονες τεχνητής νοημοσύνης της μονάδας DIDSR απολύθηκαν ή επέλεξαν να αποχωρήσουν, σύμφωνα με πηγές της FDA. Μια άλλη μονάδα που διαμόρφωνε την πολιτική για τις συσκευές που χρησιμοποιούν τεχνητή νοημοσύνη, το Κέντρο Αριστείας Ψηφιακής Υγείας, έχασε περίπου το ένα τρίτο του προσωπικού του, που αριθμούσε περίπου 30 άτομα.

Αύξηση των ιατρικών συσκευών με τεχνητή νοημοσύνη

Τις τελευταίες τρεις δεκαετίες, η FDA ενέκρινε τουλάχιστον 1.357 ιατρικές συσκευές που χρησιμοποιούν τεχνητή νοημοσύνη. Περισσότερες από τις μισές προστέθηκαν τα τελευταία τρία χρόνια. Ο Άντριου Νίξον, εκπρόσωπος του HHS, δήλωσε ότι η FDA εφαρμόζει τα ίδια αυστηρά πρότυπα στις ιατρικές συσκευές που υποστηρίζονται από μηχανική μάθηση και άλλη τεχνητή νοημοσύνη, όπως και σε οποιοδήποτε άλλο προϊόν. «Η ασφάλεια των ασθενών είναι η ύψιστη προτεραιότητα της FDA και βρίσκεται στην πρώτη γραμμή του έργου μας για την προστασία και την προώθηση της δημόσιας υγείας», δήλωσε ο Νίξον.

«Η FDA βλέπει τεράστιες προοπτικές στον τομέα της ψηφιακής υγείας», συμπεριλαμβανομένων των συσκευών που υποστηρίζονται από τεχνητή νοημοσύνη και μηχανική μάθηση, «για τη διάγνωση και τη θεραπεία μιας σειράς παθήσεων». Δήλωσε ότι η FDA συνεχίζει να προσλαμβάνει και να αναπτύσσει ταλέντα με εμπειρία στον τομέα της ψηφιακής υγείας, της τεχνητής νοημοσύνης και άλλων αναδυόμενων τεχνολογιών. Από την εφαρμογή των περικοπών, ο φόρτος εργασίας έχει σχεδόν διπλασιαστεί για ορισμένους αξιολογητές συσκευών, σύμφωνα με δύο πρώην υπαλλήλους. «Αν δεν διαθέτεις τους απαραίτητους πόρους, είναι πιο πιθανό να σου ξεφύγουν πράγματα», δήλωσε ένας πρώην αξιολογητής συσκευών που αποχώρησε πέρυσι.

Η FDA απαιτεί κλινικές δοκιμές για τα νέα φάρμακα, αλλά τα ιατρικά βοηθήματα υπόκεινται σε διαφορετικό έλεγχο. Σύμφωνα με τους κανόνες της FDA, τα περισσότερα βοηθήματα με τεχνητή νοημοσύνη που κυκλοφορούν στην αγορά δεν απαιτείται να δοκιμάζονται σε ασθενείς. Αντ’ αυτού, οι κατασκευαστές πληρούν τους κανόνες της FDA αναφέροντας προηγουμένως εγκεκριμένα βοηθήματα που δεν είχαν δυνατότητες τεχνητής νοημοσύνης, λέει ο Δρ Αλεξάντερ Έβερχαρτ, καθηγητής στην ιατρική σχολή του Πανεπιστημίου της Ουάσιγκτον στο Σαιντ Λούις και ειδικός σε θέματα ρύθμισης ιατρικών βοηθημάτων.

Η τοποθέτηση νέων συσκευών ως ενημερώσεων υφιστάμενων συσκευών είναι μια πρακτική που εφαρμόζεται εδώ και πολύ καιρό, αλλά ο Έβερχαρτ λέει ότι η τεχνητή νοημοσύνη φέρνει νέα αβεβαιότητα στο status quo. «Πιστεύω ότι η παραδοσιακή προσέγγιση της FDA για τη ρύθμιση των ιατρικών συσκευών δεν είναι επαρκής για να διασφαλίσει ότι οι τεχνολογίες τεχνητής νοημοσύνης είναι ασφαλείς και αποτελεσματικές», δήλωσε ο Έβερχαρτ στο Reuters. «Βασιζόμαστε στους κατασκευαστές για να κάνουν καλή δουλειά στην κυκλοφορία των προϊόντων. Δεν ξέρω τι ισχύει στην FDA που να αποτελεί ουσιαστικό μέτρο προστασίας».