Η Υπηρεσία Τροφίμων και Φαρμάκων των ΗΠΑ (FDA) εξετάζει ένα νέο μοντέλο αξιολόγησης για τις ιατρικές συσκευές που χρησιμοποιούν παραγωγική τεχνητή νοημοσύνη. Η πρόταση θα αντιμετωπίζει, σε υψηλό επίπεδο, ορισμένα από αυτά τα συστήματα περισσότερο σαν κλινικούς επαγγελματίες που πρέπει να αποδεικνύουν την επάρκειά τους και λιγότερο σαν στατικά προϊόντα λογισμικού.
Γιατί αλλάζει η συζήτηση
Η FDA επισημαίνει σε έγγραφο συζήτησης ότι οι συσκευές με παραγωγική AI διαφέρουν ουσιαστικά από πολλά παραδοσιακά ιατροτεχνολογικά προϊόντα. Οι απαντήσεις τους μπορεί να παρουσιάζουν μεγαλύτερη μεταβλητότητα, ενώ η συμπεριφορά τους μπορεί να εξελίσσεται με τον χρόνο. Αυτό δυσκολεύει ένα πλαίσιο που βασίζεται στην υπόθεση ότι το προϊόν έχει σταθερή λειτουργία και προβλέψιμο αποτέλεσμα.
Η αλλαγή έχει πρακτική σημασία για εργαλεία που χρησιμοποιούνται στην κλινική φροντίδα, από εφαρμογές πληροφόρησης έως συστήματα που υποστηρίζουν τη λήψη αποφάσεων ή παρέχουν φροντίδα με ή χωρίς γιατρό στον κύκλο της διαδικασίας. Ένα λανθασμένο αποτέλεσμα δεν έχει την ίδια βαρύτητα σε κάθε χρήση, γι’ αυτό και η FDA εξετάζει τη σύνδεση ανάμεσα στη δραστηριότητα μιας συσκευής και στις συνέπειες ενός σφάλματος.
Έλεγχος πριν και μετά την κυκλοφορία
Το έγγραφο εξετάζει τόσο την αξιολόγηση πριν από την έγκριση όσο και την εποπτεία μετά την κυκλοφορία. Η προτεινόμενη προσέγγιση βάσει επάρκειας θα μπορούσε να περιλαμβάνει καθορισμένα σημεία αναφοράς και επιβεβαίωση της απόδοσης σε κλινικά περιβάλλοντα, σε μια λογική εμπνευσμένη από τον τρόπο με τον οποίο αξιολογούνται και πιστοποιούνται οι ανθρώπινοι κλινικοί επαγγελματίες.
Παράλληλα, η FDA εξετάζει αν θα μπορούσε να γίνει αποδεκτή μεγαλύτερη αβεβαιότητα πριν από την κυκλοφορία, με αντάλλαγμα πιο έντονη παρακολούθηση της συσκευής στην πράξη. Μια τέτοια επιλογή θα απαιτούσε αυστηρό έλεγχο της απόδοσης μετά την κυκλοφορία, ώστε πιθανά προβλήματα να εντοπίζονται και να αντιμετωπίζονται έγκαιρα.
Ποιον θα πρέπει να ανταγωνίζεται η AI;
Ένα από τα βασικά ερωτήματα είναι το πρότυπο σύγκρισης. Η FDA αναφέρει ότι, για πολλές συσκευές, η απόδοση θα μπορούσε να συγκρίνεται είτε με μια ομάδα καταρτισμένων κλινικών επαγγελματιών, των οποίων η κοινή κρίση αποτυπώνει το ισχύον πρότυπο φροντίδας, είτε με τον διάμεσο κλινικό επαγγελματία στην καθημερινή πράξη.
Η επιλογή του σημείου αναφοράς θα επηρεάσει άμεσα το τι θεωρείται επαρκής απόδοση και πώς σταθμίζεται ο κίνδυνος. Δεν αρκεί, επομένως, ένα σύστημα να παράγει πειστικές απαντήσεις· θα πρέπει να αποδεικνύει ότι λειτουργεί με ασφάλεια στο συγκεκριμένο κλινικό πλαίσιο για το οποίο προορίζεται.
Πρόταση σε προκαταρκτικό στάδιο
Η FDA διευκρινίζει ότι το έγγραφο δεν αποτελεί οδηγία για τους κατασκευαστές και ότι η προσπάθεια βρίσκεται ακόμη σε προκαταρκτική φάση. Η υπηρεσία ζητά σχόλια από τα ενδιαφερόμενα μέρη, επιδιώκοντας ένα ευέλικτο ρυθμιστικό μοντέλο που θα προστατεύει ασθενείς και καταναλωτές, θα στηρίζει την καινοτομία και θα επιτρέπει την έγκαιρη πρόσβαση σε ασφαλείς και αποτελεσματικές συσκευές.
Η συζήτηση δείχνει ότι η εποπτεία της παραγωγικής AI στην υγεία δεν μπορεί να περιορίζεται σε έναν εφάπαξ έλεγχο. Όσο τα συστήματα μεταβάλλονται και επηρεάζουν την κλινική φροντίδα, η αξιολόγηση της επάρκειας, η σαφής σύγκριση με την ανθρώπινη πρακτική και η συνεχής παρακολούθηση θα αποτελούν εξίσου κρίσιμα μέρη της διαδικασίας.