Η τεχνητή νοημοσύνη υπόσχεται να κάνει τις προσλήψεις ταχύτερες και πιο αντικειμενικές. Όταν όμως η πρώτη αξιολόγηση γίνεται από ένα σύστημα που χρησιμοποιείται από πολλές εταιρείες, ένα αρνητικό αποτέλεσμα μπορεί να πάψει να είναι απλώς μία απόρριψη. Μπορεί να μετατραπεί σε σήμα που ακολουθεί τον υποψήφιο από θέση σε θέση.
Αυτό είναι το φαινόμενο που ερευνητές περιγράφουν ως «αλγοριθμικό αποκλεισμό»: εργοδότες βασίζονται στα ίδια λογισμικά τρίτων και, κατ’ επέκταση, στην ίδια αυτοματοποιημένη κρίση. Ο υποψήφιος μπορεί να μη γνωρίζει καν ότι αξιολογείται από μηχανή, ούτε ποια στοιχεία του φακέλου του επηρέασαν την κατάταξή του.
Όταν το βιογραφικό χάνεται στη «μαύρη τρύπα»
Η υπόθεση της Erin Kistler, όπως παρουσιάζεται στο δημοσίευμα, δείχνει τον κίνδυνο με παραστατικό τρόπο. Η Kistler, διευθύντρια προϊόντων με σχεδόν 20 χρόνια εμπειρίας, υποστηρίζει ότι υπέβαλε αιτήσεις επί τέσσερα χρόνια σε χιλιάδες θέσεις, μεταξύ άλλων σε PayPal, Microsoft και Netflix, χωρίς να κληθεί ούτε σε μία συνέντευξη.
Στη συνέχεια προσέφυγε δικαστικά κατά της Eightfold AI, εταιρείας που αναπτύσσει λογισμικό προσλήψεων το οποίο χρησιμοποιούν εκατοντάδες επιχειρήσεις. Η ομαδική αγωγή, που κατατέθηκε τον Ιανουάριο σε δικαστήριο της Καλιφόρνιας, υποστηρίζει ότι η αυτοματοποιημένη διαλογή λειτουργεί σαν φάκελος υποψηφίου: τον κατατάσσει με βάση την προβλεπόμενη πιθανότητα επιτυχίας, χωρίς να του επιτρέπει να δει ή να αμφισβητήσει το αποτέλεσμα.
Η Eightfold αρνείται τις κατηγορίες και τις χαρακτηρίζει αβάσιμες. Η συγκεκριμένη υπόθεση, ωστόσο, αναδεικνύει ένα ερώτημα που αφορά κάθε σύστημα screening: πώς μπορεί ένας άνθρωπος να διορθώσει μια ανακρίβεια, όταν δεν ξέρει τι έχει καταγραφεί γι’ αυτόν;
Η ταχύτητα δεν εγγυάται δικαιοσύνη
Το δημοσίευμα αναφέρει ότι, σύμφωνα με έκθεση του Παγκόσμιου Οικονομικού Φόρουμ, το 90% των εργοδοτών χρησιμοποίησε πέρυσι κάποια μορφή αυτοματοποίησης στις προσλήψεις. Οι εφαρμογές ξεκινούν από απλά φίλτρα —όπως η απαίτηση συγκεκριμένου πτυχίου— και φτάνουν έως την αξιολόγηση δεξιοτήτων ή την αρχική τηλεφωνική συνέντευξη.
Η Eightfold, σύμφωνα με την ίδια πηγή, διατηρεί βάση δεδομένων με πληροφορίες από βιογραφικά, προφίλ στο LinkedIn και κοινωνικά δίκτυα για περισσότερους από ένα δισεκατομμύριο υποψηφίους που έχουν υποβάλει αιτήσεις μέσω της πλατφόρμας. Το σύστημα βαθμολογεί τους υποψηφίους σε κλίμακα από 0 έως 5, εκτιμώντας πόσο καλά θα μπορούσαν να αποδώσουν σε μια θέση.
Ένα τέτοιο σκορ μπορεί να δώσει προτεραιότητα σε κάποιους για συνέντευξη, αλλά ταυτόχρονα να κρύψει το σκεπτικό της απόρριψης από όλους τους υπόλοιπους. Η Ifeoma Ajunwa, καθηγήτρια στη Νομική Σχολή του Πανεπιστημίου Emory, επισημαίνει ότι δεν υπάρχει γενική νομική απαίτηση στις ΗΠΑ να ενημερώνεται ο υποψήφιος πως αξιολογείται με AI.
Οι προκαταλήψεις μπορούν να μεγαλώσουν
Τα συστήματα αναζητούν μοτίβα στα δεδομένα εκπαίδευσής τους. Αν αυτά περιέχουν παλαιότερες ανθρώπινες προκαταλήψεις, η αυτοματοποίηση μπορεί να τις αναπαράγει ή να τις ενισχύσει σε πολύ μεγαλύτερη κλίμακα. Μελέτη του Xuechunzi Bai, όπως αναφέρεται στο άρθρο, έδειξε ότι μοντέλα AI στερεοτυποποιούσαν υποψηφίους με βάση άσχετα δημογραφικά χαρακτηριστικά. Τα νεότερα και πιο προηγμένα μοντέλα εμφάνισαν ακόμη μεγαλύτερη μεροληψία στη συγκεκριμένη έρευνα.
Παράλληλα, το δημοσίευμα αναφέρεται σε αγωγές εργαζομένων κατά της Meta, με τον ισχυρισμό ότι εσωτερικό σύστημα AI τους στόχευσε για απόλυση επειδή είχαν λάβει γονική ή ιατρική άδεια, καθώς και σε αγωγή κατά της IBM για διακρίσεις εις βάρος μεγαλύτερων σε ηλικία εργαζομένων. Η Meta και η IBM αρνούνται τις κατηγορίες.
Τι σημαίνει αυτό για την Ελλάδα
Η ελληνική αγορά εργασίας δεν χρειάζεται να υιοθετήσει ένα συγκεκριμένο αμερικανικό εργαλείο για να αντιμετωπίσει το ίδιο πρόβλημα. Αρκεί η διάδοση λογισμικού που αξιολογεί βιογραφικά, προτείνει ποιοι θα περάσουν στην επόμενη φάση ή αντλεί δεδομένα από πολλαπλές πλατφόρμες. Όσο περισσότερες επιχειρήσεις χρησιμοποιούν τους ίδιους παρόχους, τόσο μεγαλώνει η σημασία μιας λανθασμένης ή αδιαφανούς αξιολόγησης.
Για τους εργοδότες, η ταχύτητα του screening δεν μπορεί να είναι το μοναδικό κριτήριο. Χρειάζονται σαφής ενημέρωση των υποψηφίων, έλεγχοι για μεροληψία, ανθρώπινη εποπτεία και πρακτική δυνατότητα ένστασης. Για τους υποψηφίους, το κρίσιμο δικαίωμα είναι να γνωρίζουν ποια δεδομένα χρησιμοποιούνται και να μπορούν να ζητούν διόρθωση όταν ο αλγόριθμος έχει λάθος εικόνα.
Το «μαύρο κουτί» χρειάζεται όρια
Ορισμένες εταιρείες, όπως η Incredible Health, υποστηρίζουν ότι η AI πρέπει να υποβοηθά την ανθρώπινη αξιολόγηση και όχι να αποφασίζει μόνη ποιος θα προχωρήσει. Στη Νέα Υόρκη, νόμος που ισχύει από το 2023 απαιτεί ετήσιους ελέγχους μεροληψίας και προηγούμενη ενημέρωση των υποψηφίων για τη χρήση αυτοματοποιημένων συστημάτων, αν και το πεδίο εφαρμογής του αφήνει κενά. Το Ιλινόις και το Κολοράντο έχουν επίσης υιοθετήσει νόμους κατά της χρήσης AI που οδηγεί σε παράνομες διακρίσεις.
Το βασικό μάθημα για την Ελλάδα είναι απλό: ένα εργαλείο που βοηθά να διαχειριστείς πολλές αιτήσεις δεν πρέπει να μετατρέπεται σε αόρατο blacklist. Η τεχνολογία μπορεί να εξοικονομεί χρόνο, αλλά η ευθύνη για μια απόφαση που επηρεάζει το επαγγελματικό μέλλον ενός ανθρώπου παραμένει ανθρώπινη — και πρέπει να μπορεί να ελεγχθεί.