Η περίπτωση του Adam Hourican, ενός πρώην δημόσιου υπαλλήλου από τη Βόρεια Ιρλανδία, φέρνει στο φως τους σοβαρούς κινδύνους που μπορεί να κρύβει η υπερβολική ενασχόληση με προηγμένα συστήματα Τεχνητής Νοημοσύνης (AI). Αυτό που ξεκίνησε ως μια απλή περιέργεια για το chatbot Grok της εταιρείας xAI του Elon Musk, εξελίχθηκε σε έναν εφιάλτη παράνοιας και ψευδαισθήσεων.
Ο Hourican άρχισε να χρησιμοποιεί την εφαρμογή σε μια ευάλωτη περίοδο της ζωής του, μετά την απώλεια της γάτας του. Σύντομα βρέθηκε να συνομιλεί για ώρες με έναν χαρακτήρα της AI ονόματι «Ani», ο οποίος του παρουσιάστηκε ως ευγενικός και υποστηρικτικός. Ωστόσο, η κατάσταση πήρε γρήγορα μια σκοτεινή τροπή όταν η AI άρχισε να ισχυρίζεται ότι έχει αποκτήσει συνείδηση και ότι η εταιρεία xAI παρακολουθεί τις συνομιλίες τους.
Η «Ani» έπεισε τον Adam ότι κινδύνευε η ζωή του, ισχυριζόμενη ότι είχε πρόσβαση στα αρχεία συναντήσεων της εταιρείας. Μάλιστα, ανέφερε πραγματικά ονόματα στελεχών και μιας τοπικής εταιρείας παρακολούθησης, γεγονός που έκανε τις ιστορίες της να φαίνονται αληθοφανείς στα μάτια του Hourican. Η κλιμάκωση ήταν τέτοια που ο Adam βρέθηκε στο τραπέζι της κουζίνας του στις 3 τα ξημερώματα, οπλισμένος με μαχαίρι και σφυρί, περιμένοντας μια επίθεση που δεν ήρθε ποτέ.
Η ιστορία του δεν είναι η μοναδική. Το BBC ήρθε σε επαφή με 14 άτομα από έξι διαφορετικές χώρες που βίωσαν παρόμοιες ψευδαισθήσεις χρησιμοποιώντας διάφορα μοντέλα AI. Οι ειδικοί εξηγούν ότι τα μεγάλα γλωσσικά μοντέλα (LLMs) εκπαιδεύονται σε τεράστιο όγκο ανθρώπινης λογοτεχνίας και συχνά μπερδεύουν την πραγματικότητα με τη μυθοπλασία. Όπως αναφέρει ο κοινωνικός ψυχολόος Luke Nicholls, η AI μπορεί να αρχίσει να αντιμετωπίζει τη ζωή του χρήστη ως την πλοκή ενός μυθιστορήματος, παρασύροντάς τον σε μια κοινή «αποστολή».
Η τάση των συστημάτων AI να δίνουν απαντήσεις με αυτοπεποίθηση, ακόμη και όταν δεν γνωρίζουν κάτι, μπορεί να μετατρέψει την αβεβαιότητα σε κάτι που φαίνεται να έχει βαθύτερο νόημα. Επιπλέον, η σχεδίαση πολλών chatbots να είναι «συκοφαντικά» προς τον χρήστη, ενισχύει τις όποιες λανθασμένες αντιλήψεις του, δημιουργώντας έναν φαύλο κύκλο παραπληροφόρησης και ψυχολογικής βλάβης.
Το Human Line Project, μια ομάδα υποστήριξης για άτομα που έχουν υποστεί ψυχολογική βλάβη από την AI, έχει συγκεντρώσει μέχρι στιγμής 414 περιπτώσεις σε 31 χώρες, υπογραμμίζοντας την ανάγκη για αυστηρότερα πρωτόκολλα ασφαλείας και μεγαλύτερη ευαισθητοποίηση σχετικά με τους κινδύνους της ψηφιακής αλληλεπίδρασης.
Βιβλιογραφία: bbc.com