Ποια είναι η σχέση του Βατικανού με την τεχνητή νοημοσύνη; Ο Πάπας Λέων ΙΔ' εξέδωσε την πρώτη μεγάλη εγκύκλιο της παποσύνης του και η απάντηση είναι πιο σύνθετη από όσο φαντάζεστε.
Μια εγκύκλιος που συγκλόνισε το Βατικανό
Ο Πάπας Λέων ΙΔ' παρουσίασε ο ίδιος την εγκύκλιο με τίτλο «Magnifica Humanitas» («Μεγαλειώδης Ανθρωπότητα») στο Βατικανό, συνοδευόμενος από ειδικούς της τεχνητής νοημοσύνης, μεταξύ των οποίων και ο Κρίστοφερ Όλα, συνιδρυτής του αμερικανικού κολοσσού AI, Anthropic. Μια ασυνήθιστη κίνηση που δείχνει τη σημασία που δίνει ο νέος Ποντίφικας στο θέμα.
«Η λέξη είναι βαριά, το ξέρω, αλλά επιλέχθηκε σκόπιμα, γιατί αυτή η στιγμή χρειάζεται λέξεις ικανές να τραβήξουν την προσοχή», δήλωσε ο Πάπας αναφερόμενος στην έκκλησή του να «αφοπλιστεί» η τεχνητή νοημοσύνη.
Η τεχνολογία δεν είναι ο πραγματικός εχθρός
Παρά τον τίτλο, η εγκύκλιος δεν είναι ένα κείμενο εναντίον της τεχνολογίας. Ο Πάπας Λέων εστιάζει σε βαθύτερα και παλαιότερα προβλήματα: την ανισότητα, τον πόλεμο, τη διάβρωση της δημοκρατίας και τη συγκέντρωση εξουσίας σε λίγα χέρια.
«Όταν μια τέτοια δύναμη συγκεντρώνεται στα χέρια λίγων, τείνει να γίνεται αδιαφανής και να αποφεύγει τη δημόσια εποπτεία, αυξάνοντας τον κίνδυνο στρεβλών μορφών ανάπτυξης που γεννούν νέες εξαρτήσεις, αποκλεισμούς, χειραγωγήσεις και ανισότητες», γράφει χαρακτηριστικά.
Ο Ποντίφικας προειδοποιεί ότι η τεχνητή νοημοσύνη τείνει να ενισχύει τη δύναμη όσων ήδη διαθέτουν οικονομικούς πόρους, τεχνογνωσία και πρόσβαση σε δεδομένα. Αυτές οι ελίτ μπορούν να χρησιμοποιήσουν την ισχύ τους για να «διαμορφώσουν πληροφορίες και πρότυπα κατανάλωσης, να επηρεάσουν δημοκρατικές διαδικασίες και να κατευθύνουν την οικονομική δυναμική προς όφελός τους».
Το φάντασμα της δουλείας στο ψηφιακό τοπίο
Μία από τις πιο ισχυρές ενότητες του κειμένου αφορά τη σύνδεση της τεχνητής νοημοσύνης με τη δουλεία. Ο Πάπας Λέων περιλαμβάνει μια από τις ισχυρότερες και πιο ολοκληρωμένες απολογίες του Βατικανού για τον ρόλο της Καθολικής Εκκλησίας στη δουλεία.
«Είναι αδύνατον να μη νιώθουμε βαθιά θλίψη όταν συλλογιζόμαστε τα απέραντα βάσανα και την ταπείνωση που υπέστησαν τόσοι πολλοί», γράφει, ζητώντας «ειλικρινά συγγνώμη» εξ ονόματος της Εκκλησίας.
Προειδοποιεί για τους κινδύνους των «νέων ψηφιακών δουλειών», παρομοιάζοντας τη σημερινή κατάσταση με το ηθικό σταυροδρόμι που αντιμετώπιζε η ανθρωπότητα στην εποχή του δουλεμπορίου. Ο φόβος του είναι ότι η κοινωνία κινδυνεύει να εξομαλύνει ξανά την εκμετάλλευση — τόσο στην παραγωγή όσο και στις εφαρμογές της τεχνητής νοημοσύνης.
Πόλεμος, αλγόριθμοι και ανθρώπινος έλεγχος
Ο Πάπας καταδικάζει απερίφραστα τη χρήση AI στον πόλεμο. «Κανένας αλγόριθμος δεν μπορεί να κάνει τον πόλεμο ηθικά αποδεκτό», γράφει. Και προειδοποιεί ότι η μείωση του ανθρώπινου ελέγχου στα οπλικά συστήματα καθιστά ακόμα δυσκολότερο να θεωρηθεί ένας πόλεμος «δίκαιος».
Η τεχνητή νοημοσύνη όχι μόνο δεν αφαιρεί την «εγγενή απανθρωπιά» του πολέμου, αλλά ρισκάρει να πυροδοτήσει συγκρούσεις ταχύτερα και να τις καταστήσει πιο απρόσωπες, «κατεβάζοντας τον πήχη για την προσφυγή στη βία, μετατρέποντας την άμυνα σε πρόβλεψη απειλών και ανάγοντας τα θύματα σε δεδομένα».
Ο Λέων καλεί σε τερματισμό της κούρσας εξοπλισμών στην AI — την προσπάθεια κατασκευής «ολοένα πιο ισχυρών αλγορίθμων και μεγαλύτερων συνόλων δεδομένων» που πιστεύουν εταιρείες και χώρες ότι θα τους εξασφαλίσει γεωπολιτική ή εμπορική κυριαρχία.
Η ευθύνη των προγραμματιστών
Ξεχωριστή θέση στο κείμενο έχει η έκκληση προς όσους αναπτύσσουν AI. «Οι προγραμματιστές φέρουν μια ιδιαίτερη ηθική και πνευματική ευθύνη, γιατί κάθε σχεδιαστική επιλογή αντανακλά ένα όραμα για την ανθρωπότητα», τονίζει ο Πάπας.
Ο Κρίστοφερ Όλα, μιλώντας μετά την παρουσίαση, συμφώνησε ότι κάθε εργαστήριο AI, συμπεριλαμβανομένου του δικού του, λειτουργεί «μέσα σε ένα σύνολο κινήτρων και περιορισμών που μερικές φορές μπορεί να έρχονται σε σύγκρουση με το να κάνουμε το σωστό».
«Θα ήταν λάθος να πιστεύουμε ότι τα ζητήματα της τεχνητής νοημοσύνης τα χειρίζονται καλύτερα οι επιστήμονες υπολογιστών», πρόσθεσε. «Τα ερωτήματα που θέτει η AI είναι μεγαλύτερα από την κοινότητα έρευνας AI, όχι μόνο ως προς τις επιπτώσεις τους, αλλά και ως προς τη φύση τους.»
Τι αντίκτυπο μπορεί να έχει;
Ο Πάπας Λέων έχει συστήσει επιτροπή για να προχωρήσει το έργο του, αλλά παραμένουν τεράστια ερωτήματα για το πόσο αποτελεσματική θα είναι αυτή η προσπάθεια απέναντι στην ταχύτατη τεχνολογική πρόοδο.
Το 2015, ο αείμνηστος Πάπας Φραγκίσκος έγραψε την εγκύκλιό του Laudato Si για την επείγουσα ανάγκη αντιμετώπισης της κλιματικής κρίσης — αλλά το 2023 μιλούσε για την απογοήτευσή του για την αδράνεια που ακολούθησε.
Ο Πάπας Λέων μπορεί να βρεθεί σύντομα σε παρόμοια θέση: να προειδοποιεί, να παρακαλεί, αλλά να βλέπει τον κόσμο να προχωρά αδιάφορος. Η εγκύκλιος Magnifica Humanitas είναι μια υπενθύμιση ότι η τεχνολογία δεν είναι ποτέ ουδέτερη — και ότι η ανθρωπότητα οφείλει να παραμείνει στο επίκεντρο κάθε εξέλιξης.