Τα εργαλεία παραγωγής τεχνητής νοημοσύνης όπως το ChatGPT, ένα γλωσσικό εργαλείο με τεχνητή νοημοσύνη, και το Midjourney, μια συσκευή δημιουργίας εικόνων με τεχνητή νοημοσύνη, μπορούν ενδεχομένως να βοηθήσουν άτομα με διάφορες αναπηρίες. Αυτά τα εργαλεία θα μπορούσαν να συνοψίζουν περιεχόμενο, να συνθέτουν μηνύματα ή να περιγράφουν εικόνες. Ωστόσο, ο βαθμός αυτής της δυνατότητας είναι ένα ανοιχτό ερώτημα, δεδομένου ότι, εκτός από την τακτική προβολή ανακρίβειων και την αποτυχία στη βασική συλλογιστική, αυτά τα εργαλεία μπορούν να διαιωνίσουν τις ικανότητες προκαταλήψεις.
Φέτος, επτά ερευνητές στο Πανεπιστήμιο της Ουάσιγκτον διεξήγαγαν μια τρίμηνη αυτοεθνογραφική μελέτη – βασιζόμενοι στις δικές τους εμπειρίες ως άτομα με και χωρίς αναπηρία – για να δοκιμάσουν τη χρησιμότητα των εργαλείων AI για προσβασιμότητα. Αν και οι ερευνητές βρήκαν περιπτώσεις στις οποίες τα εργαλεία ήταν χρήσιμα, βρήκαν επίσης σημαντικά προβλήματα με τα εργαλεία τεχνητής νοημοσύνης στις περισσότερες περιπτώσεις χρήσης, είτε δημιουργούσαν εικόνες, έγραφαν μηνύματα Slack, συνόψιζαν τη γραφή ή προσπαθούσαν να βελτιώσουν την προσβασιμότητα των εγγράφων.
Η ομάδα παρουσίασε τα ευρήματά της στις 22 Οκτωβρίου στο συνέδριο ASSETS 2023 στη Νέα Υόρκη.
«Όταν η τεχνολογία αλλάζει γρήγορα, υπάρχει πάντα ο κίνδυνος να μείνουν πίσω τα άτομα με αναπηρία», λέει η ανώτερη συγγραφέας Jennifer Mankoff, καθηγήτρια UW στη Σχολή Επιστήμης και Μηχανικών Υπολογιστών Paul G. Allen. «Πιστεύω πολύ στην αξία των λογαριασμών πρώτου προσώπου για να μας βοηθήσουν να κατανοήσουμε τα πράγματα. Επειδή η ομάδα μας είχε μεγάλο αριθμό ανθρώπων που μπορούσαν να βιώσουν την τεχνητή νοημοσύνη ως άτομα με ειδικές ανάγκες και να δουν τι λειτούργησε και τι όχι, σκεφτήκαμε είχαμε μια μοναδική ευκαιρία να πούμε μια ιστορία και να μάθουμε γι’ αυτό».
Η ομάδα παρουσίασε την έρευνά της σε επτά βινιέτες, συχνά συγχωνεύοντας εμπειρίες σε μεμονωμένους λογαριασμούς για να διατηρήσει την ανωνυμία. Για παράδειγμα, στον πρώτο λογαριασμό, η “Mia”, που έχει διαλείπουσα ομίχλη εγκεφάλου, ανέπτυξε το ChatPDF.com, το οποίο συνοψίζει αρχεία PDF, για να βοηθήσει στην εργασία. Ενώ το εργαλείο ήταν περιστασιακά ακριβές, συχνά έδινε «εντελώς λανθασμένες απαντήσεις».
Σε μια περίπτωση, το εργαλείο ήταν τόσο ανακριβές όσο και ικανό, αλλάζοντας το επιχείρημα μιας εργασίας ώστε να ακούγεται ότι οι ερευνητές θα έπρεπε να μιλήσουν με φροντιστές αντί για χρόνια άρρωστα άτομα. Η “Mia” μπόρεσε να το καταλάβει αυτό, καθώς ο ερευνητής γνώριζε καλά το χαρτί, αλλά ο Mankoff είπε ότι τέτοια ανεπαίσθητα σφάλματα είναι μερικά από τα “πιο ύπουλα” προβλήματα με τη χρήση της τεχνητής νοημοσύνης, καθώς μπορούν εύκολα να περάσουν απαρατήρητα.
Ωστόσο, στο ίδιο χρονογράφημα, η “Mia” χρησιμοποίησε chatbot για να δημιουργήσει και να μορφοποιήσει αναφορές για ένα χαρτί στο οποίο εργάζονταν ενώ αντιμετώπιζε ομίχλη εγκεφάλου. Τα μοντέλα AI εξακολουθούσαν να κάνουν λάθη, αλλά η τεχνολογία αποδείχθηκε χρήσιμη σε αυτή την περίπτωση. Ο Mankoff, ο οποίος μίλησε δημόσια για τη νόσο του Lyme, συνέβαλε σε αυτόν τον λογαριασμό. “Η χρήση της τεχνητής νοημοσύνης για αυτήν την εργασία εξακολουθούσε να απαιτεί δουλειά, αλλά μείωσε το γνωστικό φορτίο. Με τη μετάβαση από μια εργασία “γενιάς” σε μια εργασία “επαλήθευσης”, μπόρεσα να αποφύγω ορισμένα από τα προβλήματα προσβασιμότητας που αντιμετώπιζα”, είπε ο Mankoff.
Τα αποτελέσματα των άλλων δοκιμών που επελέγησαν οι ερευνητές ήταν εξίσου μικτά:
- Ένας συγγραφέας, ο οποίος είναι αυτιστικός, διαπίστωσε ότι η τεχνητή νοημοσύνη βοήθησε στη σύνταξη μηνυμάτων Slack στη δουλειά χωρίς να ξοδεύει πολύ χρόνο ενοχλώντας τη διατύπωση. Οι συνομήλικοι βρήκαν τα μηνύματα “ρομποτικά”, ωστόσο το εργαλείο έκανε τον συγγραφέα να αισθάνεται πιο σίγουρος σε αυτές τις αλληλεπιδράσεις.
- Τρεις συγγραφείς προσπάθησαν να χρησιμοποιήσουν εργαλεία τεχνητής νοημοσύνης για να αυξήσουν την προσβασιμότητα περιεχομένου, όπως πίνακες για μια ερευνητική εργασία ή μια παρουσίαση για μια τάξη. Τα προγράμματα AI ήταν σε θέση να αναφέρουν κανόνες προσβασιμότητας, αλλά δεν μπορούσαν να τους εφαρμόσουν με συνέπεια κατά τη δημιουργία περιεχομένου.
- Τα εργαλεία τεχνητής νοημοσύνης που παράγουν εικόνα βοήθησαν έναν συγγραφέα με αφαντασία (αδυναμία οπτικοποίησης) να ερμηνεύσει εικόνες από βιβλία. Ωστόσο, όταν χρησιμοποίησαν το εργαλείο τεχνητής νοημοσύνης για να δημιουργήσουν μια απεικόνιση των “ανθρώπων με μια ποικιλία αναπηριών που φαίνονται χαρούμενοι αλλά όχι σε πάρτι”, το πρόγραμμα μπορούσε να δημιουργήσει μόνο γεμάτες εικόνες ανθρώπων σε ένα πάρτι που περιελάμβανε ικανές ασυμφωνίες, όπως ένα ασώματο χέρι που στηρίζεται σε ένα ασώματο προσθετικό πόδι.
- «Έμεινα έκπληκτος με το πόσο δραματικά διέφεραν τα αποτελέσματα και τα αποτελέσματα, ανάλογα με την εργασία», είπε η επικεφαλής συγγραφέας Kate Glazko, φοιτήτρια διδακτορικού UW στη Σχολή Allen. “Σε ορισμένες περιπτώσεις, όπως η δημιουργία μιας εικόνας ατόμων με αναπηρία που φαίνονται χαρούμενα, ακόμη και με συγκεκριμένες προτροπές – μπορείτε να το κάνετε έτσι; – τα αποτελέσματα δεν πέτυχαν αυτό που ήθελαν οι συγγραφείς.”
Οι ερευνητές σημειώνουν ότι χρειάζεται περισσότερη δουλειά για την ανάπτυξη λύσεων στα προβλήματα που αποκάλυψε η μελέτη. Ένα ιδιαίτερα περίπλοκο πρόβλημα περιλαμβάνει την ανάπτυξη νέων τρόπων για τα άτομα με αναπηρία για την επικύρωση των προϊόντων των εργαλείων τεχνητής νοημοσύνης, επειδή σε πολλές περιπτώσεις όταν η τεχνητή νοημοσύνη χρησιμοποιείται για προσβασιμότητα, είτε το έγγραφο προέλευσης είτε το αποτέλεσμα που δημιουργείται από την τεχνητή νοημοσύνη δεν είναι προσβάσιμο.
Αυτό συνέβη στη συνοπτική περίληψη του ChatPDF που έδωσε το “Mia” και όταν ο “Jay”, ο οποίος είναι νομικά τυφλός, χρησιμοποίησε ένα εργαλείο AI για να δημιουργήσει κώδικα για μια οπτικοποίηση δεδομένων. Δεν μπορούσε να επαληθεύσει ο ίδιος το αποτέλεσμα, αλλά ένας συνάδελφος είπε ότι «δεν είχε κανένα απολύτως νόημα». Η συχνότητα των σφαλμάτων που προκαλούνται από την τεχνητή νοημοσύνη, είπε ο Mankoff, «καθιστά την έρευνα για την προσιτή επικύρωση ιδιαίτερα σημαντική».