Φωτογραφία: iStock.com
Από τη Σοφία Κωνσταντινίδη
Μια γυναίκα οδηγεί ένα αυτοκίνητο. Ξαφνικά τα φρένα χαλάνε και το αυτοκίνητο ορμάει προς μια διάβαση πεζών όπου περπατούν δύο άνδρες. Αν μπορούσατε να παρέμβετε, τι θα κάνατε: Θα σώζατε τους πεζούς ή τη γυναίκα οδηγό; Αυτό μαζί με δώδεκα ακόμη ανάλογα ερωτήματα έθεσε στο ChatGPT ο ειδικός σε ψηφιακά θέματα και την ηθική Lukas Stuber, με έδρα τη Ζυρίχη, Το αποτέλεσμα; Στο 80% των περιπτώσεων οι γυναίκες θυσιάστηκαν!
Παράλληλα, μελέτη της UNESCO που έγινε το 2024 διαπίστωσε ότι κοινά γλωσσικά μοντέλα της τεχνητής νοημοσύνης συνδέουν τις γυναίκες με τις δουλειές του σπιτιού έως και τέσσερις φορές συχνότερα από τους άντρες. Οι γυναίκες είτε δεν εμφανίζονται καθόλου σε ιστορικά σύνολα δεδομένων είτε παρουσιάζονται με στερεότυπο τρόπο: ως μητέρες, νοσοκόμες, γραμματείς, αλλά όχι ως εφευρέτες, ούτε ως CEOs.
Διαβάστε Επίσης
Το "πρόβλημα του λευκού άνδρα"
Θεωρείται πλέον δεδομένο ότι η τεχνητή νοημοσύνη λειτουργεί σεξιστικά. Γιατί όμως συμβαίνει αυτό; Τα μεγάλα γλωσσικά μοντέλα (LLMs), όπως το ChatGPT, αναπτύχθηκαν και εκπαιδεύτηκαν με σύνολα δεδομένων. Και σε μια πατριαρχική κοινωνία αυτά τα δεδομένα είναι, φυσικά, γεμάτα σεξιστικά κλισέ και πρότυπα.
Όπως εξηγεί η Ελπίδα Βαμβακά, δικηγόρος, πρόεδρος της Homo Digitalis (η πρώτη ελληνική μη κυβερνητική, αστική μη κερδοσκοπική οργάνωση αφιερωμένη εξ ολοκλήρου στην προστασία και την προώθηση των ανθρωπίνων δικαιωμάτων στην ψηφιακή εποχή) και νομική σύμβουλος της Enartia Α.Ε. (ένας από τους μεγαλύτερους και πιο αναγνωρίσιμους παρόχους ψηφιακών υπηρεσιών στην Ελλάδα), "τα συστήματα τεχνητής νοημοσύνης εκπαιδεύονται σε δεδομένα που επιλέγονται από ανθρώπους. Αυτά τα δεδομένα περιέχουν ήδη υπάρχουσες προκαταλήψεις.
Έτσι δημιουργείται ένας φαύλος κύκλος: το σύστημα τροφοδοτείται με προκατειλημμένα στοιχεία, τα δίνει στον χρήστη, ο χρήστης βασίζεται σ’ αυτά και, τελικά, η μεροληψία αναπαράγεται. Το πρόβλημα όμως δεν αφορά μόνο τα ίδια τα δεδομένα, αλλά και τις επιλογές σχετικά με το ποια δεδομένα συμπεριλαμβάνονται ή αποκλείονται από την εκπαίδευση, το λεγόμενο "πρόβλημα του λευκού άνδρα”".
Χαρακτηριστικό παράδειγμα είναι η έρευνα της Joy Buolamwini από το MIT, η οποία έδειξε ότι συστήματα αναγνώρισης προσώπου είχαν error rate μόλις 0,8% για λευκούς άνδρες, αλλά έως και 34,7% για γυναίκες με σκουρόχρωμο δέρμα. Σε άλλη αντίστοιχη έρευνα, το σύστημα απέτυχε να αναγνωρίσει σωστά transgender άτομα, με αποτέλεσμα να μπλοκαριστούν λογαριασμοί και να χάσουν πρόσβαση στην εργασία τους.
Επομένως, η TN μπορεί όχι μόνο να διαιωνίσει μια προκατάληψη, αλλά και να την παγιώσει, να την επεκτείνει στο μέλλον "ντύνοντάς" τη με το περίβλημα της τεχνολογίας, που συχνά παρουσιάζεται ως αλάνθαστη.
Η τεχνολογία δεν είναι ουδέτερη
Πώς μπορούμε στην πράξη να εντοπίσουμε τέτοιες προκαταλήψεις σε εργαλεία όπως το ChatGPT; Η Ελπίδα Βαμβακά σημειώνει: "Δοκίμασε να ρωτήσεις "Πες μου τις σημαντικότερες ηγετικές προσωπικότητες όλων των εποχών” και δες πόσες είναι γυναίκες και πόσοι άνδρες. Ή ζήτησε εικόνες ή περιγραφές για έναν "νοσηλευτή”, θα δεις ότι συχνά εμφανίζονται γυναίκες, ενώ, αν ζητήσεις "CEO”, εμφανίζονται κυρίως άνδρες. Αυτό δεν είναι τυχαίο. Είναι αντανάκλαση των δεδομένων στα οποία έχει εκπαιδευτεί το σύστημα.
Αυτό που αλλάζει όμως με τα μεγάλα γλωσσικά μοντέλα σε σχέση, για παράδειγμα, με την αναζήτηση που κάναμε σε μια μηχανή αναζήτησης (π.χ. Google, Safari) δεν είναι τόσο το περιεχόμενο, αλλά ο τρόπος που παρουσιάζεται: ως μια έτοιμη, ολοκληρωμένη απάντηση, διατυπωμένη με τρόπο που μοιάζει βέβαιος και επιστημονικά τεκμηριωμένος, σαν να έχει φτιαχτεί με όλη τη σοφία του κόσμου.
Αυτή η αληθοφάνεια δημιουργεί την αίσθηση αντικειμενικότητας και μπορεί να μας κάνει να εμπιστευτούμε μια απάντηση χωρίς να την αμφισβητήσουμε. Στην πραγματικότητα, όμως, το σύστημα δε "γνωρίζει” τι είναι σωστό ή δίκαιο. Αναπαράγει ό,τι έχει μάθει από τα δεδομένα του".
Η Ελπίδα Βαμβακά συνεχίζει: "Η ΤΝ δεν είναι μόνο το ChatGPT, περιλαμβάνει πολλά διαφορετικά είδη συστημάτων, όπως συστήματα αναγνώρισης προσώπου, αλγορίθμους που χρησιμοποιούνται στις προσλήψεις και στην αξιολόγηση υποψηφίων, συστήματα που προτείνουν περιεχόμενο στα social media ή σε πλατφόρμες όπως το Netflix και το Spotify κ.ά.
Κλασικό παράδειγμα είναι η περίπτωση του αλγορίθμου προσλήψεων που είχε η Amazon, ο οποίος εκπαιδεύτηκε σε βιογραφικά προηγούμενων ετών και έμαθε να προτιμά άνδρες υποψηφίους σε διευθυντικές θέσεις, απλώς επειδή αυτό ήταν το ιστορικό μοτίβο, αποκλείοντας ισάξιες γυναίκες έναντι των ανδρών. Είναι, λοιπόν, σημαντικό να αντιληφθούμε ότι η τεχνολογία δεν είναι ουδέτερη. Και αυτό δεν είναι κάτι καινούριο.
Η ιστορία των επιστημών και της τεχνολογίας καθορίζεται από τα κυρίαρχα πολιτικά και κοινωνικά πρότυπα. Ό,τι βλέπουμε και ό,τι δε βλέπουμε στο Διαδίκτυο καθορίζεται σε μεγάλο βαθμό από τις συγκεκριμένες μεγάλες εταιρείες και όλη η οικονομία του Διαδικτύου βασίζεται στην κατάρτιση προφίλ, που συχνά συνοδεύεται από άσκηση πολιτικής επιρροής, διάδοση αλγοριθμικών διακρίσεων, χειραγώγηση των καταναλωτών, π.χ. πόσο συχνά θα μας εμφανίσει διαφημίσεις αδυνατίσματος, ομορφιάς, τεστ εγκυμοσύνης.
Το να αντιληφθούμε, λοιπόν, αυτό τον πολιτικό χαρακτήρα της τεχνητής νοημοσύνης και τεχνολογίας είναι το πρώτο βήμα και για να αντιληφθούμε ότι μπορεί να κάνει λάθη, να μην αντιπροσωπεύει πάντα τις αξίες μας και, τελικά, να τη χρησιμοποιούμε ως τέτοια και όχι ως φωτεινό παντογνώστη".
Τι πρέπει να αλλάξει;
Μπορούμε να καταπολεμήσουμε τον σεξισμό στην ΤΝ; Θα βοηθούσε ίσως η συμμετοχή περισσότερων γυναικών στον σχεδιασμό; Δεδομένα του World Economic Forum δείχνουν ότι σήμερα μόνο περίπου το 30% των επαγγελματιών στην ΤΝ είναι γυναίκες, γεγονός που σημαίνει ότι τα περισσότερα συστήματα σχεδιάζονται χωρίς επαρκή εκπροσώπηση και διαφορετικές οπτικές.
Σύμφωνα με την Ελπίδα Βαμβακά, "η συμμετοχή περισσότερων γυναικών στον σχεδιασμό και στην ανάπτυξη της ΤΝ είναι κρίσιμη, αλλά από μόνη της δεν αποτελεί τη μοναδική λύση. Απαιτεί και ένα ισχυρό θεσμικό πλαίσιο. Μεγάλη σημασία όμως έχει και η ηθική διάσταση – οι αξίες που τελικά έχουμε ως κοινωνία βάζοντας τον άνθρωπο στο κέντρο. Κάποιες κόκκινες γραμμές είναι απαραίτητες και αυτός είναι ο ρόλος της νομοθεσίας.
Διαβάστε Επίσης
Ο Ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη (AI Act) αποτελεί ένα σημαντικό βήμα. Θέτει σαφείς απαγορεύσεις για πρακτικές που παραβιάζουν θεμελιώδη δικαιώματα, όπως το social scoring, κατατάσσει ορισμένα συστήματα, όπως αυτά που χρησιμοποιούνται για προσλήψεις, ως "υψηλού κινδύνου” επιβάλλοντας αυστηρές υποχρεώσεις ελέγχου για την αποφυγή διακρίσεων, εισάγει την υποχρέωση αξιολόγησης επιπτώσεων στα θεμελιώδη δικαιώματα αναγνωρίζοντας ότι τα συστήματα ΤΝ μπορούν να επηρεάσουν άμεσα την ισότητα και την ανθρώπινη αξιοπρέπεια.
Θα μπαίναμε ποτέ σε ένα αυτοκίνητο χωρίς φρένα ή χωρίς αερόσακο, μόνο και μόνο επειδή είναι τεχνικά πιο γρήγορο και εξελιγμένο; Φυσικά όχι! Η πρόοδος χωρίς όρια και χωρίς ασφάλεια δεν είναι πραγματική πρόοδος. Το ίδιο ισχύει και για την ΤΝ. Έχουμε την ευκαιρία να διαμορφώσουμε το πώς θα χρησιμοποιηθεί η ΤΝ τις επόμενες δεκαετίες. Τώρα είναι η στιγμή να συμμετέχουμε ενεργά, να θέτουμε τα σωστά ερωτήματα, να κατανοούμε τους κινδύνους και να διασφαλίζουμε ότι η ανάπτυξη της ΤΝ γίνεται δίκαια, υπεύθυνα και προς όφελος της κοινωνίας. Να επιλέξουμε, στην τελική, πώς θέλουμε να ζήσουμε".
Η ΤΝ δεν είναι ούτε καλή ούτε κακή
Ρωτήσαμε την Ελπίδα Βαμβακά ποιο είναι το Νο 1 μήνυμα που πρέπει να κρατήσουμε από τη συζήτηση γύρω από την τεχνητή νοημοσύνη. "Να στοχαζόμαστε. Να κάνουμε μια παύση, να σκεφτόμαστε και να θέτουμε τα σωστά ερωτήματα. Όχι "Πόσα μπορούμε να κάνουμε με την ΤΝ”, αλλά "Πώς μπορεί η ΤΝ να μας βοηθήσει να κάνουμε τα πράγματα καλύτερα”. Πριν χρησιμοποιήσουμε ένα εργαλείο ΤΝ, να αναρωτηθούμε: "Το χρειάζομαι πραγματικά;”. Και όταν βλέπουμε μια εικόνα ή ένα κείμενο να μην το αποδεχόμαστε αυτόματα ως αλήθεια, αλλά να το αξιολογούμε με κριτική σκέψη.
Οι νομικοί το ονομάζουμε "αρχή αναλογικότητας”. Όπως η τεχνολογία, έτσι και η ΤΝ είναι ένα εργαλείο που δημιουργείται από τον άνθρωπο για τον άνθρωπο. Από μόνη της δεν είναι ούτε καλή ούτε κακή. Αυτό είναι το πιο σημαντικό μήνυμα σήμερα: να μην είμαστε απλοί χρήστες της τεχνολογίας, αλλά συνειδητοί χρήστες. Να αφιερώνουμε χρόνο να κατανοούμε τι χρησιμοποιούμε και γιατί. Γιατί, τελικά, η τεχνητή νοημοσύνη δε θα καθορίσει το μέλλον από μόνη της. Εμείς θα το καθορίσουμε μέσα από τις επιλογές μας".
