Μανώλης Κολεζάκης: Είναι η τεχνητή νοημοσύνη (AI), φεμινίστρια;-Οι έμφυλες σχέσεις της ψηφιοποίησης

Rodiaki NewsRoom

Γράφει ο Μανώλης Κολεζάκης

Μαθηματικός, Δρ. στην Θεωρία Υπολογισιμότητας,

Ph. D. in Computational Theory,

manolisnkolezakis@hotmail.com

Η φεμινιστική τεχνητή νοημοσύνη είναι μια διεπιστημονική προσέγγιση της τεχνητής νοημοσύνης που ενσωματώνει φεμινιστικές θεωρίες —όπως η διατομεακότητα, η συναίνεση και η ενδυνάμωση— στον σχεδιασμό και την ανάπτυξη της τεχνολογίας. Προχωρά πέρα από τους παραδοσιακούς στόχους της τεχνητής νοημοσύνης της «ακρίβειας» και της «αποτελεσματικότητας» για να δώσει προτεραιότητα στην κοινωνική δικαιοσύνη και τη διόρθωση των συστημικών ανισοτήτων.

Βασικές Αρχές

Προκλητικές δομές εξουσίας: Η τεχνητή νοημοσύνη δεν είναι ουδέτερη, αλλά αντικατοπτρίζει τα δημογραφικά στοιχεία των «λευκών», των δημιουργών της, επιδεινώνοντας συχνά συστημικές ανισότητες όπως ο ρατσισμός, και η ικανότητα. Αναρωτιόμαστε γιατί μια μικρή ομάδα εύπορων, δυτικών, ατόμων ελέγχει το μεγαλύτερο μέρος της ανάπτυξης της τεχνητής νοημοσύνης.

Διατομεακότητα: Αναγνωρίζοντας ότι η προκατάληψη δεν αφορά μόνο το φύλο, αλλά και τη φυλή, την αναπηρία και την κοινωνικοοικονομική κατάσταση.

Συμπερίληψη βάσει σχεδιασμού: Συμμετοχή περιθωριοποιημένων ομάδων.

Συνεχής συγκατάθεση: Αντιμετώπιση της χρήσης δεδομένων ως μια συνεχής διαδικασία όπου τα άτομα μπορούν να αποσύρουν τα δεδομένα τους ανά πάσα στιγμή για να διατηρήσουν την αυτονομία τους.

Η Christine Darden στην αίθουσα ελέγχου της αεροδυναμικής σήραγγας Unitary Plan της NASA, Langley, το 1975. Πίστωση: NASA (Ήταν η πρώτη Αφροαμερικανίδα στο Ερευνητικό Κέντρο Langley της NASA που προήχθη στην Ανώτερη Εκτελεστική Υπηρεσία, την κορυφαία βαθμίδα στην ομοσπονδιακή δημόσια υπηρεσία).

Ο κώδικας που χρησιμοποιείται: Διερευνά πώς η τεχνητή νοημοσύνη δεν «αναγνωρίζει» απλώς το φύλο ή τη φυλή, αλλά το εκτελεί ενεργά κατηγοριοποιώντας τους ανθρώπους σύμφωνα με κυρίαρχους κοινωνικούς κανόνες, καθιστώντας αυτές τις κατηγορίες ευανάγνωστες στις μηχανές με τρόπο που μπορεί να είναι επιβλαβής.

Βασικοί Οργανισμοί & Πόροι

FemAI: Μια συμβουλευτική εταιρεία που βοηθά τις εταιρείες να εφαρμόσουν υπεύθυνη τεχνητή νοημοσύνη που συμμορφώνεται με τον νόμο της ΕΕ για την τεχνητή νοημοσύνη και αποτρέπει τις διακρίσεις.

Feminist Generative AI Lab: Ένας ερευνητικός κόμβος που επικεντρώνεται στον τρόπο με τον οποίο τα παραγωγικά μοντέλα μπορούν να αναπαράγουν ή να αμφισβητήσουν τις συστημικές ανισότητες.

Algorithmic Justice League: Αν και ευρύτερο σε εύρος, είναι βασικός σύμμαχος στην αποκάλυψη της φυλετικής και έμφυλης προκατάληψης στα συστήματα αναγνώρισης προσώπου.

ΒΙΒΛΙΑ

Ενώ πολλά βιβλία εξερευνούν αυτόν τον τομέα, το "Feminist AI: Critical Perspectives on Algorithms, Data, and Intelligent Machines" (που δημοσιεύτηκε στα τέλη του 2023/αρχές του 2024 από το Oxford University Press) είναι το πιο σημαντικό κείμενο με αυτόν ακριβώς τον τίτλο.

«Φεμινιστική τεχνητή νοημοσύνη: Κριτικές προοπτικές για αλγόριθμους, δεδομένα και ευφυείς μηχανές»

Με επιμέλεια των Jude Browne, Stephen Cave, Eleanor Drage και Kerry McInerney, αυτή η διεπιστημονική συλλογή είναι ένα θεμελιώδες κείμενο που γεφυρώνει το χάσμα μεταξύ της φεμινιστικής θεωρίας και της τεχνολογίας.

Το Data Feminism (2020) των Catherine D'Ignazio και Lauren F. Klein: Αυτό το βιβλίο εισάγει επτά αρχές (π.χ. Examine Power, Challenge Power, Make Labor Visible) για την εφαρμογή του διατομεακού φεμινισμού στην επιστήμη των δεδομένων.

Το μέλλον της Ψηφιοποίησης

Η ψηφιοποίηση παρουσιάζει τεράστιες δυνατότητες βελτίωσης των κοινωνικών και οικονομικών αποτελεσμάτων και ενίσχυσης της αύξησης της παραγωγικότητας και της ευημερίας του πληθυσμού παγκοσμίως. Ωστόσο, παρά τις σημαντικές ερευνητικές πρωτοβουλίες, παρεμβάσεις και πολιτικές που στοχεύουν στην προώθηση της ενδυνάμωσης των γυναικών και της ισότητας των φύλων στο πλαίσιο αυτής της «επανάστασης», εξακολουθεί να υπάρχει σημαντικό ψηφιακό χάσμα μεταξύ των φύλων, περιορίζοντας τη δίκαιη αξιοποίηση των πλεονεκτημάτων της ψηφιοποίησης.

Σε όλο τον κόσμο, περίπου 327 εκατομμύρια λιγότερες γυναίκες από τους άνδρες έχουν smartphone και μπορούν να έχουν πρόσβαση στο κινητό διαδίκτυο (ΟΟΣΑ 2018). Η ανάλυση από την ερευνητική ομάδα EQUALS δείχνει ότι «ένα γενικό ψηφιακό χάσμα εξακολουθεί να υφίσταται ανεξάρτητα από τα συνολικά επίπεδα πρόσβασης σε ΤΠΕ [τεχνολογία πληροφοριών και επικοινωνιών], τις οικονομικές επιδόσεις, το εισόδημα μιας χώρας επίπεδα ή γεωγραφική θέση» (Sey and Hafkin 2019: σελ.25). Ως εκ τούτου, οι γυναίκες υποεκπροσωπούνται σε αυτήν την ψηφιακή επανάσταση σε χώρες υψηλού, χαμηλού και μεσαίου εισοδήματος, παρά τις δυνατότητες για μεγαλύτερη ισότητα. Επιπλέον, ενώ το Διαδίκτυο θεωρήθηκε αρχικά ως μια πλατφόρμα εκδημοκρατισμού, οι πρώιμες υποσχέσεις χειραφέτησης υπολείπονται όλο και περισσότερο, καθώς μια μικρή ομάδα μεγάλων τεχνολογικών εταιρειών με έδρα τον Παγκόσμιο Βορρά έχει αναδειχθεί ως κυρίαρχη δύναμη στη νέα παγκόσμια οικονομία. Οι «τεχνολογικοί γίγαντες» μονοπωλούν τις αγορές και ασκούν εξουσία στα ψηφιακά δεδομένα, καθώς οι μεγάλες διαδικτυακές πλατφόρμες βρίσκονται συνένοχες στη διάδοση, ρητορικής παραπληροφόρησης. Ειδικότερα, υπάρχουν ανησυχίες για πρωτοφανή επίπεδα εξόρυξης δεδομένων ή «εξόρυξης δεδομένων», αλγορίθμων και μοντέλων πρόβλεψης κινδύνου. (Judy Wajcman and Erin Young 2023).

Κεντρική φώτο: Από το ομώνυμο βιβλίο “Nothing about us without us” του James Charlton