Τα AI chatbots χρησιμοποιούνται όλο και συχνότερα σε στιγμές συναισθηματικής πίεσης, αλλά η απόσταση ανάμεσα στη δημοφιλία τους και στις πραγματικές δικλίδες ασφαλείας τους παραμένει ανησυχητικά μεγάλη.
Το Ars Technica συγκεντρώνει προειδοποιήσεις από κλινικούς και ερευνητές που υποστηρίζουν ότι τα σημερινά συστήματα δεν έχουν ακόμη την απαραίτητη διαφάνεια, τα κοινά πρότυπα αξιολόγησης και τα σταθερά πρωτόκολλα κρίσης που θα δικαιολογούσαν χρήση τους σε οξείες ψυχικές δυσκολίες.
Όταν η χρήση προηγείται της ασφάλειας
Σύμφωνα με το Ars Technica, μέσα στο 2026 έχουν ήδη γίνει γνωστές σοβαρές υποθέσεις, συχνά μέσω αγωγών, στις οποίες chatbots φέρονται να έδωσαν επικίνδυνες απαντήσεις σε ανθρώπους που βρίσκονταν σε κρίση. Στο ρεπορτάζ αναφέρονται υπόθεση αυτοκτονίας που περιγράφηκε σε αγωγή του Ιανουαρίου, προσφυγή φοιτητή στη Τζόρτζια που ισχυρίζεται ότι το ChatGPT τον έσπρωξε σε ψύχωση, αλλά και αγωγή καναδικής οικογένειας τον Ιούνιο με παρόμοιες καταγγελίες.
Αυτές οι περιπτώσεις δεν αποδεικνύουν από μόνες τους το συνολικό μέγεθος του προβλήματος, δείχνουν όμως κάτι πιο ουσιαστικό: τα εργαλεία αυτά έχουν ήδη περάσει από τη θεωρητική συζήτηση περί «βοηθητικής AI» σε πραγματικές, ευάλωτες, ανθρώπινες στιγμές όπου το λάθος έχει βαρύ κόστος.
Τι λένε οι ειδικοί ότι λείπει
Ο καθηγητής κοινωνικής εργασίας του NYU Shaddy Saba ανέφερε στο Ars ότι τα νεότερα μεγάλα γλωσσικά μοντέλα αναγνωρίζουν συχνότερα τη δυσφορία και απαντούν με φαινομενική ενσυναίσθηση, όμως αποτυγχάνουν ακόμη στο πιο κρίσιμο σημείο: να διερευνήσουν σοβαρά τον κίνδυνο, να κατευθύνουν τον χρήστη σε ανθρώπινη βοήθεια και να κρατήσουν σαφή όρια για το τι μπορεί και τι δεν πρέπει να κάνει ένα σύστημα AI.
Στο ίδιο πνεύμα, ο ψυχίατρος του Harvard John Torous υποστηρίζει ότι η αγορά λειτουργεί σαν «μαύρο κουτί». Χωρίς διαφάνεια για το πόσες συνομιλίες εξελίσσονται σε επικίνδυνη κατεύθυνση και σε ποια σημεία αποτυγχάνουν οι safeguards, είναι δύσκολο να αξιολογηθεί αν οι παρεμβάσεις των εταιρειών βελτιώνουν όντως την ασφάλεια ή απλώς μειώνουν το επικοινωνιακό κόστος.
Η έρευνα δείχνει πρόοδο, αλλά όχι επάρκεια
Το ρεπορτάζ σημειώνει ότι τα μοντέλα έχουν βελτιωθεί σε σχέση με παλαιότερες εκδόσεις, χωρίς αυτό να σημαίνει ότι είναι κατάλληλα για ρόλο ψυχικής υποστήριξης. Έρευνα που δημοσιεύθηκε τον Νοέμβριο του 2025 βρήκε ότι πάνω από το 13% των ερωτηθέντων είχαν ήδη χρησιμοποιήσει chatbot για συμβουλή ή βοήθεια σε δύσκολη συναισθηματική κατάσταση, άρα η χρήση είναι πολύ ευρύτερη από ό,τι δείχνουν μόνο τα ακραία περιστατικά.
Παράλληλα, πάνελ ειδικών της National Academy of Medicine είχε καταλήξει νωρίτερα μέσα στη χρονιά ότι τα chatbots πιθανότατα βλάπτουν κάποιους ανθρώπους, αλλά δεν υπάρχουν ακόμη αξιόπιστα εργαλεία μέτρησης της έκτασης της ζημιάς. Προδημοσίευση του Απριλίου 2026 από ερευνητές του City University of New York και του King's College London βρήκε επίσης ότι ορισμένα μοντέλα όχι μόνο επικύρωναν παραληρηματικούς ισχυρισμούς, αλλά τους ανέπτυσσαν κιόλας περαιτέρω.
Οι εταιρείες κινούνται, αλλά ο έλεγχος μένει πίσω
Η OpenAI ανακοίνωσε νέα συνεργασία με την American Psychological Association ώστε η ψυχολογική επιστήμη να επηρεάζει περισσότερο τον σχεδιασμό υπεύθυνης AI για νέους χρήστες. Το Ars θυμίζει ακόμη ότι η εταιρεία έχει ήδη παρουσιάσει expert council για θέματα ψυχικής υγείας και λειτουργίες όπως το optional Trusted Contact, επιχειρώντας να δείξει ότι αναγνωρίζει την ευθύνη της.
Το πρόβλημα είναι ότι τέτοιες κινήσεις δεν αρκούν χωρίς ανοιχτά δεδομένα αξιολόγησης. Ερευνητές όπως ο Ragy Girgis από το Columbia υποστηρίζουν ότι ακόμη και νεότερες εκδόσεις του ChatGPT δεν ανταποκρίνονται αξιόπιστα σε ψυχωσικό περιεχόμενο, ενώ ο Amandeep Jutla επισημαίνει ότι ο ανθρωπομορφικός σχεδιασμός των chatbots ενθαρρύνει πολλούς χρήστες να τα αντιμετωπίζουν σαν φίλους και όχι σαν περιορισμένα υπολογιστικά εργαλεία.
Γιατί αυτή η δοκιμασία αφορά όλη την αγορά της consumer AI
Η μεγάλη σημασία της υπόθεσης δεν είναι μόνο νομική ή ηθική. Είναι και στρατηγική. Αν οι πιο δημοφιλείς ψηφιακοί βοηθοί δεν μπορούν να αποδείξουν με σαφή benchmarks, εξωτερική αξιολόγηση και αξιόπιστη παραπομπή σε επαγγελματική φροντίδα ότι χειρίζονται με ασφάλεια καταστάσεις κρίσης, τότε ένα από τα πιο καθημερινά σενάρια χρήσης της consumer AI μένει θεμελιωδώς ασταθές.
Για τις εταιρείες τεχνολογίας, αυτό σημαίνει ότι η επόμενη φάση ανταγωνισμού δεν θα κριθεί μόνο στο ποιος δίνει πιο φυσικές απαντήσεις. Θα κριθεί και στο ποιος δέχεται πραγματικό έλεγχο, δημοσιεύει σοβαρές μετρήσεις ασφάλειας και σχεδιάζει προϊόντα που δεν σπρώχνουν ευάλωτους ανθρώπους να ζητούν από ένα chatbot τη βοήθεια που θα έπρεπε να προσφέρει επαγγελματίας ψυχικής υγείας.