Στην εποχή της τεχνητής νοημοσύνης, ποιος προσλαμβάνεται, απορρίπτεται ή απολύεται φαίνεται να είναι υπόθεση αλγορίθμων. Σε μια αγορά εργασίας πλημμυρισμένη από αιτήσεις για θέσεις που προκηρύσσονται, τα εργαλεία της AI υπόσχονται ταχύτητα και αντικειμενικότητα στο «φιλτράρισμα» των υποψηφίων. Ωστόσο, κύμα αγωγών που φτάνουν στα δικαστήρια των ΗΠΑ – για ηλικιακές διακρίσεις, έλλειψη διαφάνειας στην αξιολόγηση και άλλα ζητήματα – εγείρουν σοβαρά ερωτήματα για τον τρόπο με τον οποίο οι άνθρωποι σήμερα βρίσκουν δουλειά ή την χάνουν, χωρίς καν να γνωρίζουν ότι τους αξιολογεί μηχανή.
Ένα αλγοριθμικό σύστημα μπορεί να αποκλείει συστηματικά τον ίδιο υποψήφιο από πολλές θέσεις εργασίας
Το βαθύτερο πρόβλημα είναι ότι οι περισσότεροι εργοδότες δεν φτιάχνουν τα δικά τους AI συστήματα προσλήψεων αλλά βασίζονται στα ίδια λογισμικά τρίτων. Ως αποτέλεσμα, μια αρνητική αξιολόγηση μπορεί να ακολουθεί έναν υποψήφιο από εταιρεία σε εταιρεία, ένα φαινόμενο που οι ερευνητές το ονομάζουν «αλγοριθμικό αποκλεισμό». Με άλλα λόγια, εκατοντάδες εργοδότες βασίζονται στην ίδια «κρίση» για έναν υποψήφιο.
Όμως, όταν ένας άνθρωπος σε απορρίπτει σε μια συνέντευξη για δουλειά, μπορείς πάντα να δοκιμάσεις αλλού. Αντιθέτως, ένα αλγοριθμικό σύστημα – που χρησιμοποιείται σε δεκάδες εταιρείες ταυτοχρόνως – μπορεί να «θυμάται» την αξιολόγηση και το «αρνητικό σήμα» να διαχέεται σε ολόκληρο το σύστημα προσλήψεων, αποκλείοντας συστηματικά τον ίδιο υποψήφιο από πολλές θέσεις εργασίας. Από όλα αυτά προκύπτει ένα θεμελιώδες ερώτημα: Πόση διαφάνεια και έλεγχο πρέπει να έχουν οι υποψήφιοι πάνω σε μηχανές που αποφασίζουν για το επαγγελματικό τους μέλλον;
Η «μαύρη τρύπα» των βιογραφικών
Όπως αναφέρει δημοσίευμα του Guardian, τα τελευταία τέσσερα χρόνια η Erin Kistler έχει υποβάλει αιτήσεις για χιλιάδες θέσεις εργασίας σε εταιρείες όπως η Paypal, η Microsoft και η Netflix, μόνο για να διαπιστώσει ότι το βιογραφικό της εξαφανιζόταν σε μια μαύρη τρύπα. Ως διευθύντρια προϊόντων με σχεδόν 20 χρόνια εμπειρίας, θεωρεί ότι πληρούσε τις προϋποθέσεις για κάθε θέση, ωστόσο δεν κλήθηκε ποτέ ούτε σε μία συνέντευξη.
Η ίδια τώρα μηνύει την Eightfold AI, την εταιρεία της Silicon Valley που αναπτύσσει λογισμικό πρόσληψης το οποίο χρησιμοποιούν εκατοντάδες εταιρείες, συμπεριλαμβανομένων εκείνων στις οποίες υπέβαλε αίτηση, στο πλαίσιο μιας ομαδικής αγωγής. Η υπόθεση κατατέθηκε τον Ιανουάριο σε δικαστήριο της Καλιφόρνιας και είναι μία από τις πρώτες που υποστηρίζει ότι η αυτοματοποιημένη διαλογή υποψηφίων λειτουργεί ως φάκελος υποψηφίων, κατατάσσοντάς τους βάσει της πιθανότητας επιτυχίας τους, χωρίς να τους δίνεται η ευκαιρία να δουν ή να αμφισβητήσουν τα αποτελέσματα.
Άλλοι εργαζόμενοι μηνύουν τη Meta για ένα εσωτερικό σύστημα τεχνητής νοημοσύνης που φέρεται να τους είχε στοχεύσει για απολύσεις επειδή είχαν λάβει γονική ή ιατρική άδεια. Επίσης, μια πρόσφατη αγωγή κατά της IBM ισχυρίζεται ότι εργαλεία τεχνητής νοημοσύνης έκαναν διακρίσεις εις βάρος εργαζομένων μεγαλύτερης ηλικίας. Και οι τρεις εταιρείες, αναφέρει το βρετανικό μέσο, αρνούνται τις κατηγορίες, με την Eightfold και την IBM να τις χαρακτηρίζουν αβάσιμες.
Πρόσχημα αντικειμενικότητας;
Οι εταιρείες στις ΗΠΑ στρέφονται όλο και περισσότερο προς την τεχνητή νοημοσύνη για να λαμβάνουν ταχύτερες και αποδοτικότερες αποφάσεις στον χώρο εργασίας, συχνά υπό το πρόσχημα της αντικειμενικότητας. Ωστόσο, ειδικοί που μελετούν αυτό το είδος λογισμικού αναφέρουν ότι μπορεί επίσης να εισάγει ή να επιδεινώσει προκαταλήψεις που θα μπορούσαν να ακολουθούν τους υποψηφίους σε όλες τις προσπάθειές τους να βρουν δουλειά.
«Στην πραγματικότητα, δεν υπάρχει νόμος που να απαιτεί ειδοποίηση ή γνωστοποίηση της χρήσης αυτών των συστημάτων πρόσληψης με τεχνητή νοημοσύνη», δήλωσε η Ifeoma Ajunwa, καθηγήτρια στη Νομική Σχολή του Πανεπιστημίου Emory και ιδρυτική διευθύντρια του προγράμματος «AI and the Future of Work». «Επομένως, οι εταιρείες δεν ενημερώνουν πάντα τους εργαζόμενους όταν αξιολογούνται με τη βοήθεια της τεχνητής νοημοσύνης» πρόσθεσε.
Πέρυσι, το 90% των εργοδοτών χρησιμοποίησε κάποια μορφή αυτοματοποίησης στη διαδικασία πρόσληψης, σύμφωνα με μια έκθεση του Παγκόσμιου Οικονομικού Φόρουμ. Αυτά τα εργαλεία κυμαίνονται από βασικό φιλτράρισμα – όπως ο αποκλεισμός υποψηφίων που δεν διαθέτουν πτυχίο τετραετούς φοίτησης ή κάποια άλλη προϋπόθεση – έως τη χρήση τεχνητής νοημοσύνης για την αξιολόγηση των δεξιοτήτων ενός υποψηφίου ή ακόμα και για τη διεξαγωγή της αρχικής τηλεφωνικής συνέντευξης.
Στην περίπτωση της Eightfold, η εταιρεία αυτοχαρακτηρίζεται ως «η μεγαλύτερη, αυτοανανεούμενη πηγή δεδομένων ταλέντων στον κόσμο». Ενημερώνει συνεχώς μια εσωτερική βάση δεδομένων με πληροφορίες από βιογραφικά, προφίλ στο LinkedIn και προφίλ στα κοινωνικά δίκτυα πάνω από ενός δισεκατομμυρίου υποψηφίων που έχουν υποβάλει αιτήσεις για θέσεις εργασίας μέσω της πλατφόρμας της.
Χρησιμοποιώντας αυτά τα δεδομένα, εφαρμόζει τεχνητή νοημοσύνη για να βαθμολογεί τους υποψηφίους σε κλίμακα από 0 έως 5, προβλέποντας πόσο καλά θα αποδώσουν σε μια συγκεκριμένη θέση εργασίας. Η βαθμολογία αυτή θα μπορούσε να δώσει προτεραιότητα σε ορισμένους υποψηφίους έναντι άλλων για συνεντεύξεις.
«Ένα μεγάλο μέρος του προβλήματος είναι ότι οι υποψήφιοι για εργασία δεν γνωρίζουν τι αναφέρουν οι φάκελοι», δήλωσε η Rachel Dempsey, δικηγόρος που εκπροσωπεί την Kistler. Όπως τονίζει, οι υποψήφιοι για εργασία δικαιούνται την ίδια διαφάνεια σχετικά με τα στοιχεία που λαμβάνονται υπόψη στη διαδικασία πρόσληψης. Έτσι μπορούν είτε να αμφισβητήσουν ανακρίβειες είτε να εργαστούν για να βελτιώσουν παράγοντες που επηρεάζουν την υποψηφιότητά τους. Ωστόσο, χωρίς καμία εικόνα, είναι αδύνατο να γνωρίζει κανείς αν αυτοί οι αλγόριθμοι κάνουν ρητή διάκριση εις βάρος τους. Η έννοια του ‘μαύρου κουτιού’ είναι πολύ τρομακτική», λέει.
Αναπαράγονται προκαταλήψεις
Σχεδόν όλα τα συστήματα τεχνητής νοημοσύνης έχουν εκπαιδευτεί να αναζητούν μοτίβα, τα οποία μπορούν να ενισχύσουν στερεότυπα ή παλαιότερες προκαταλήψεις. «Καθώς έχουμε διεξαγάγει περισσότερη έρευνα σχετικά με τα συστήματα πρόσληψης με τεχνητή νοημοσύνη, διαπιστώνουμε στην πραγματικότητα ότι τείνουν να αναπαράγουν πολλές από τις ίδιες προκαταλήψεις που έχουν οι ανθρώπινοι διευθυντές», επισήμανε η Ajunwa.
Ενώ οι ανθρώπινοι υπεύθυνοι προσλήψεων μπορεί να είναι άδικοι – επιλέγοντας, για παράδειγμα, τον υποψήφιο που ανήκε στην ίδια αδελφότητα – «το μέγεθος της μεροληψίας είναι ακόμα μεγαλύτερο με την τεχνητή νοημοσύνη», δήλωσε από την πλευρά του ο Xuechunzi Bai, επίκουρος καθηγητής στο Πανεπιστήμιο του Σικάγου, ο οποίος έχει ερευνήσει τη μεροληψία στις προσλήψεις.
Σε μελέτη του Bai με φανταστικές δημογραφικές ομάδες, τα μοντέλα AI κατέληξαν να «στερεοτυποποιούν» υποψηφίους βάσει άσχετων χαρακτηριστικών, χωρίς να συνδέονται αυτά με τα προσόντα τους. Διαπιστώθηκε μεγαλύτερη μεροληψία από την τεχνητή νοημοσύνη σε σύγκριση με τις ανθρώπινες αποφάσεις πρόσληψης που εξετάστηκαν πέρυσι, ενώ τα νεώτερα και πιο προηγμένα μοντέλα AI έβγαζαν αποφάσεις πρόσληψης με μεγαλύτερη μεροληψία.
Οι συνέπειες των μεροληψιών της τεχνητής νοημοσύνης για έναν υποψήφιο μπορούν να εκτείνονται πέρα από μία θέση εργασίας. Σύμφωνα με την Ajunwa, «στην πραγματικότητα, έχεις τεθεί αλγοριθμικά στον μαύρο κατάλογο», ενώ η Katie Creel, συν-συγγραφέας μιας πρόσφατης μελέτης για τους κινδύνους του «αλγοριθμικού αποκλεισμού» στα συστήματα πρόσληψης υπογράμμισε ότι οι άνθρωποι μπορεί να καταλήξουν να αποκλείονται από θέσεις εργασίας περισσότερο από ό,τι θα συνέβαινε διαφορετικά.
Επίσης κάποιες εταιρείες, όπως η Incredible Health, επιμένουν ότι η AI δεν πρέπει να λαμβάνει η ίδια αποφάσεις για το πώς θα βαθμολογηθεί ο υποψήφιος και ποιος θα προχωρήσει στην επόμενη φάση των συνεντεύξεων, αλλά απλώς να υποβοηθά την αξιολόγηση από ανθρώπους – μια προσέγγιση που έχει εξελιχθεί σε νομική υποχρέωση σε αρκετές αμερικανικές πολιτείες.
Στη Νέα Υόρκη, ένας νόμος που τέθηκε σε ισχύ το 2023 απαιτεί από τους εργοδότες που χρησιμοποιούν αυτοματοποιημένα συστήματα στις προσλήψεις να διενεργούν ετήσιους ελέγχους για μεροληψία και να ενημερώνουν εκ των προτέρων τους υποψηφίους σχετικά με τη χρήση της τεχνολογίας. Ο νόμος, ωστόσο, ισχύει μόνο για λογισμικό που «βοηθά ουσιαστικά» ή αντικαθιστά τη λήψη αποφάσεων, δημιουργώντας ένα κενό για περιπτώσεις όπου οι άνθρωποι συμμετέχουν στη διαδικασία. Πρόσφατοι νόμοι από το Ιλινόις και το Κολοράντο απαγορεύουν επίσης τη χρήση εργαλείων τεχνητής νοημοσύνης από τους εργοδότες που οδηγούν σε παράνομη διάκριση.
IN.GR
