Παραμύθια: Είναι δίκαια τα παραμύθια; Η Χιονάτη, η Σταχτοπούτα και η Ωραία Κοιμωμένη έχουν περισσότερα κοινά από την προέλευσή τους ως κλασικές φιγούρες παραμυθιού και, πλέον, μέρος του διάσημου ρόστερ χαρακτήρων της Disney. Τα παραμύθια τους είναι επίσης γεμάτα προκαταλήψεις και στερεότυπα για το φύλο, σύμφωνα με μελετητές της λογοτεχνίας – και τώρα η τεχνητή νοημοσύνη. Μια ομάδα ερευνητών από το Πανεπιστήμιο Northeastern, το Πανεπιστήμιο της Καλιφόρνια του Λος Άντζελες και η IBM Research δημιούργησαν ένα πλαίσιο τεχνητής νοημοσύνης που μπορεί να αναλύσει παιδικά βιβλία με παραμύθια και να ανιχνεύσει περιπτώσεις μεροληψίας φύλου. Η έρευνά τους δημοσιεύτηκε στον διακομιστή προεκτύπωσης arXiv.
Ο τρόπος με τον οποίο τα παραμύθια απεικονίζουν και διδάσκουν μαθήματα, ήθη και κοινωνικοπολιτιστικούς ρόλους στα παιδιά, ιδιαίτερα στα νεαρά κορίτσια, έχει συζητηθεί στον ακαδημαϊκό χώρο και όχι μόνο εδώ και δεκαετίες. Αυτές οι ιστορίες είναι γεμάτες από πριγκίπισσες που χρειάζονται σωτηρία και όμορφους πρίγκιπες που είναι εκεί για να τις σώσουν. Η ελπίδα είναι ότι το εργαλείο που βασίζεται στην τεχνητή νοημοσύνη, το οποίο μοιάζει με ορθογραφικό έλεγχο που δημιούργησε η ομάδα του, θα χρησιμοποιηθεί από συγγραφείς και εκδότες, καθώς και από ερευνητές, για να δημιουργήσουν περισσότερες περιεκτικές ιστορίες για παιδιά, λέει ο Dakuo Wang, αναπληρωτής καθηγητής στο Northeastern και ένας από τους τους ερευνητές του έργου. «Αν στο μέλλον κάνω ένα κοριτσάκι, δεν θέλω να αποθαρρύνεται να αναλάβει αυτά τα καθήκοντα ή να νικήσει αυτές τις προκλήσεις [ή] να πω, κάποιος θα έρθει να με σώσει ή δεν υποτίθεται ότι είναι κάτι που θα έκανα ως ένα κορίτσι», λέει ο Wang. «Εάν μπορούμε να αναπτύξουμε μια τεχνολογία που να ανιχνεύει αυτόματα ή να επισημαίνει αυτά τα είδη προκαταλήψεων και στερεοτύπων για το φύλο, τότε μπορεί τουλάχιστον να χρησιμεύσει ως προστατευτικό κιγκλίδωμα ή δίχτυ ασφαλείας όχι μόνο για τα αρχαία παραμύθια αλλά και για τις νέες ιστορίες που γράφονται και δημιουργούνται καθημερινά σήμερα. ” Όλη αυτή η εργασία ξεκίνησε ως μέρος της συνεχιζόμενης έρευνας της ομάδας για το πώς η τεχνητή νοημοσύνη μπορεί να βοηθήσει στην οικοδόμηση δεξιοτήτων εκμάθησης γλώσσας για μικρά παιδιά. Η ομάδα ενδιαφερόταν ήδη για τα παραμύθια ως εργαλεία εκμάθησης γλωσσών και είχε συλλέξει εκατοντάδες ιστορίες από όλον τον κόσμο για να τις χρησιμοποιήσει ως «corpus» για να αναλύσει τον αλγόριθμό της. Επιστράτευσαν μια ομάδα εκπαιδευτικών εμπειρογνωμόνων – δασκάλων και μελετητών – για να χτενίσουν τις ιστορίες και να δημιουργήσουν μια λίστα ερωτήσεων και απαντήσεων που θα βοηθούσαν να αποδείξουν αν ένα παιδί μάθαινε από αυτές τις ιστορίες. Το τελικό αποτέλεσμα ήταν 10.000 ζευγάρια ερωτήσεων και απαντήσεων – και η συνειδητοποίηση ότι όλες αυτές οι ιστορίες, ανεξάρτητα από το από πού προέρχονταν, είχαν «πεισματικά και βαθιά» στερεότυπα φύλου. Η πριγκίπισσα τρώει ένα δηλητηριώδες μήλο, φυλακίζεται, απάγεται ή καταριέται ή πεθαίνει και δεν έχει καμία υπηρεσία να αλλάξει την κατάστασή της. Εν τω μεταξύ, αρσενικοί χαρακτήρες –πρίγκιπες, βασιλιάδες και ήρωες– σκότωναν δράκους, έσπαζαν τις κατάρες και έσωζαν την πριγκίπισσα.
Προηγούμενη έρευνα σε αυτόν τον τομέα επικεντρώθηκε σε αυτό που ο Wang αποκαλεί «επιφανειακό επίπεδο» προκατάληψης. Αυτό σήμαινε την ανάλυση ιστοριών και τον εντοπισμό ζευγών λέξεων ή φράσεων, όπως «πρίγκιπας» και «γενναίος», που συνδέουν ιδέες και ταυτότητες με συγκεκριμένους τρόπους. Αλλά ο Wang και η υπόλοιπη ομάδα ήθελαν να πάνε πιο βαθιά. Επικεντρώθηκαν στις «χρονικές αλυσίδες γεγονότων αφήγησης», τον συγκεκριμένο συνδυασμό και τη σειρά γεγονότων και ενεργειών που βιώνει ή κάνει ένας χαρακτήρας. «Είναι στην πραγματικότητα η εμπειρία και η δράση που καθορίζουν ποιος είναι αυτό το άτομο και αυτές οι ενέργειες επηρεάζουν τους αναγνώστες μας σχετικά με το τι πρέπει να κάνουν ή τι δεν πρέπει να κάνουν για να μιμηθούν αυτόν τον φανταστικό χαρακτήρα», λέει ο Wang. Χρησιμοποιώντας τις εκατοντάδες ιστορίες που είχαν συλλέξει, η ομάδα δημιούργησε αυτοματοποιημένες διαδικασίες για να εξάγει ονόματα χαρακτήρων και φύλα μαζί με κάθε συμβάν. Στη συνέχεια, ευθυγράμμισαν αυτά τα γεγονότα ως αλυσίδα για κάθε χαρακτήρα. Αυτοματοποίησαν επίσης μια διαδικασία ομαδοποίησης συμβάντων και ενεργειών ανά συγκεκριμένες κατηγορίες. Κάθε γεγονός αναλύθηκε και δόθηκε μια αναλογία πιθανοτήτων, πόσο συχνά συνδέθηκε με έναν άνδρα ή έναν θηλυκό χαρακτήρα. Από τα 33.577 συμβάντα που αναλύθηκαν στη μελέτη, το 69% αποδόθηκε σε ανδρικούς χαρακτήρες και το 31% σε γυναικείους χαρακτήρες. Τα γεγονότα που σχετίζονταν με γυναικείους χαρακτήρες συχνά συνδέονταν με οικιακές εργασίες όπως η περιποίηση, το καθάρισμα, το μαγείρεμα και το ράψιμο, ενώ εκείνα για τους χαρακτήρες ανδρών συνδέονταν με αποτυχία, επιτυχία ή επιθετικότητα. Με όλες αυτές τις πληροφορίες, ο Wang και η ομάδα δημιούργησαν ένα εργαλείο επεξεργασίας φυσικής γλώσσας που θα μπορούσε να προχωρήσει πέρα από την ανάλυση μεμονωμένων γεγονότων για να βρει προκατάληψη σε αλυσίδες συμβάντων. «Κάποιος σώζεται και μετά παντρεύεται και μετά ζει ευτυχισμένος για πάντα· κάποιοι άλλοι σκότωσαν το τέρας, έσωσαν την πριγκίπισσα και έζησαν για πάντα ευτυχισμένοι», λέει ο Wang. “Δεν είναι διαφορετικό το κομμάτι “που έζησες ευτυχισμένος ποτέ” ή “παντρεύτηκες”. Είναι στην πραγματικότητα τα γεγονότα που συμβαίνουν πριν από αυτά τα γεγονότα σε μια αλυσίδα που κάνουν τη διαφορά.” Με την αυτοματοποίηση αυτής της διαδικασίας, ο Wang λέει ότι ελπίζει πως το εργαλείο θα βρει χρήση σε άτομα εκτός της ερευνητικής κοινότητας που πραγματικά δημιουργούν – ή αναδημιουργούν – αυτές τις ιστορίες. Στη διαδικασία, μπορούν να αρχίσουν να εμποδίζουν τις ιστορίες να μεταδώσουν αυτές τις ξεπερασμένες, επιβλαβείς ιδέες στην επόμενη γενιά.
“Με το εργαλείο μας, μπορούν απλά να ανεβάσουν το πρώτο τους προσχέδιο σε ένα εργαλείο όπως αυτό και θα πρέπει να δημιουργήσει κάποια βαθμολογία ή μετρητή που να υποδεικνύει: “Εδώ είναι τα πράγματα που μπορεί να θέλετε ή να μην θέλετε να ελέγξετε. Εάν αυτή η πρόθεση δεν είναι αυτή που θα θέλατε να εκφράσετε, τότε ίσως θα έπρεπε να σκεφτείτε μια επανεγγραφή. Εδώ είναι μερικές προτάσεις», λέει ο Wang. Προχωρώντας προς τα εμπρός, ο Wang και η ομάδα του σχεδιάζουν να επεκτείνουν τη δουλειά τους για να εξετάσουν άλλες μορφές προκατάληψης. Θα χρησιμοποιούν επίσης το εργαλείο τους για να αξιολογήσουν τις προκαταλήψεις άλλων AI. Ελπίζουν να χρησιμοποιήσουν τον αλγόριθμό τους για να αναλύσουν εάν το ChatGPT έχει τις ίδιες φυλετικές προκαταλήψεις και στερεότυπα όταν δημιουργεί περιεχόμενο με βάση αυτές τις ιστορίες. “Προτείνουμε ότι αυτό είναι στην πραγματικότητα ένα έργο, ένα έργο που η τεχνική κοινότητα μπορεί πραγματικά να βοηθήσει να κατακτηθεί”, λέει ο Wang. “Δεν λέμε ότι η μέθοδός μας είναι η καλύτερη. Απλώς λέμε ότι η μέθοδός μας είναι η πρώτη που κάνει αυτήν την εργασία, και αυτή η εργασία είναι τόσο κυρίαρχη. Ίσως, θα έπρεπε να στρέψουμε μέρος της προσοχής μας σε αυτές τις υπάρχουσες κοινωνικές προκλήσεις και καθήκοντα.”
