Η χρήση του GenAI για τη διενέργεια διαγνώσεων, τη σύνταξη κλινικών σημειώσεων και την ανάπτυξη σχεδίων θεραπείας είναι ένα «ασπρόμαυρο» ζήτημα.
Τα εργαλεία γενετικής τεχνητής νοημοσύνης (GenAI) εξελίσσονται με ταχείς ρυθμούς – σε εύρος, ποικιλομορφία και πολυπλοκότητα. Είναι μόνο θέμα χρόνου να γίνουν mainstream στην κλινική πράξη. Ωστόσο, όσον αφορά την ηθική και τους κινδύνους, ελάχιστη καθοδήγηση είναι διαθέσιμη στους ψυχολόγους.
Η Δρ Erika Penney, ακαδημαϊκός με επίκεντρο την εκπαίδευση στο Πανεπιστήμιο Τεχνολογίας του Σίδνεϊ, χωρίζει την ηθική και τους πιθανούς κινδύνους του GenAI σε τρεις κατηγορίες:
- Η πρώτη είναι η καταλληλότητα της γενετικής τεχνητής νοημοσύνης να κάνει διαγνώσεις, να γράφει κλινικές σημειώσεις και να αναπτύσσει σχέδια θεραπείας.
- Η δεύτερη είναι η χρήση του ως εργαλείου στη θεραπεία, από τη δημιουργία ιδεών για την εξήγηση σύνθετων εννοιών έως το παιχνίδι ρόλων.
- Τέλος, η τρίτη είναι η ισότητα, ιδίως τα οικονομικά και πολιτιστικά εμπόδια στην πρόσβαση.
“[Οι ψυχολόγοι] αφυπνίζονται κάθε μέρα για έναν νέο τύπο τεχνητής νοημοσύνης. Πολλοί είναι φοβισμένοι και υπάρχει ένας πυρήνας αλήθειας σε αυτόν τον φόβο. Μιλάει για το πόσο καλά είναι εκπαιδευμένοι οι ψυχολόγοι στην ηθική”, λέει ο Dr Penney. “Αλλά δημιουργεί επίσης αντίσταση. Και η ισχυρή αποχή και οι άκαμπτοι κανόνες γύρω από τις τεχνολογικές προόδους, ιστορικά, δεν τείνουν να είναι επιτυχείς. Αντίθετα, οι ψυχολόγοι θα πρέπει να φέρουν την κριτική σκέψη και τις δεξιότητες κλινικής λογικής που έχουν ήδη σε αυτό το νέο πεδίο .”
Διαγνώσεις, κλινικές σημειώσεις και σχέδια θεραπείας
Για τον Δρ Penney, η χρήση του GenAI για τη διενέργεια διαγνώσεων, τη σύνταξη κλινικών σημειώσεων και την ανάπτυξη σχεδίων θεραπείας είναι ένα «ασπρόμαυρο» ζήτημα. Δεν τη συνιστά – για τρεις λόγους.
- Πρώτον, απαιτεί την εισαγωγή εμπιστευτικών, ευαίσθητων ή/και ταυτοποιήσιμων προσωπικών πληροφοριών. Αυτό το γεγονός εγείρει μια σειρά από ηθικούς και νομικούς κινδύνους. «Μπορεί να παραβιάσετε τους νόμους περί απορρήτου. Επιπλέον, μπορεί να μην εκπληρώσετε τις νόμιμες υποχρεώσεις σας για τη διαφανή και ασφαλή χρήση των πληροφοριών», λέει. «Ακόμα κι αν ένα εργαλείο AI δεν αποθηκεύει δεδομένα, θα μπορούσαν να υπάρχουν υποκείμενες πλατφόρμες που το κάνουν».
- Δεύτερον, εγείρει την πρόκληση της συναίνεσης. «Αποτύχατε να ενημερώσετε έναν πελάτη ότι η GenAI μπλέκει στη λήψη σημαντικών κλινικών αποφάσεων για τη διάγνωση ή τη θεραπεία του; Αυτό αποτελεί παραβίαση της αρχής της συναίνεσης», λέει.
- Τρίτον, η εξάρτηση από το GenAI θα μπορούσε να οδηγήσει σε εσφαλμένες διαγνώσεις και ακατάλληλα σχέδια θεραπείας.
Αυτός είναι ένας «διαφοροποιημένος» τομέας, στον οποίο οι ψυχολόγοι μπορούν να φέρουν τον κλινικό συλλογισμό και την κριτική τους σκέψη. “Χωρίς να εισαγάγετε εμπιστευτικές πληροφορίες, θα μπορούσατε να χρησιμοποιήσετε το GenAI για τις ιδέες του soundboard. Για παράδειγμα, θα μπορούσατε να ζητήσετε αναλογίες σχετικά με το πώς να εξηγήσετε τη διαβαθμισμένη έκθεση σε ένα παιδί”, λέει ο Dr Penney. “Αλλά, προτού χρησιμοποιήσετε τις ιδέες αυτές, χρησιμοποιήστε τις προϋπάρχουσες δεξιότητές σας. Έτσι θα αποφασίσετε εάν έχουν αξία, εάν εξηγούν σωστά την έννοια και ούτω καθεξής.”
Το ίδιο ισχύει για τη χρήση του GenAI κατά τη διάρκεια της θεραπείας.
Ας υποθέσουμε ότι έχετε έναν πελάτη που τελειοποιεί την αυτοπεποίθηση. Επίσης, θα μπορούσατε να προτείνετε να ζητήσει από το ChatGPT να κάνει ότι είναι το αφεντικό του, ενώ εκείνος ζητά άδεια. Αλλά, θα εκπαιδεύατε τον πελάτη εκ των προτέρων. Για παράδειγμα, θα μπορούσατε να εξηγήσετε ότι η τεχνητή νοημοσύνη δεν κατανοεί πλήρως το συναίσθημα ή δεν είναι πάντα πολιτισμικά ευαίσθητη. Θα βάλετε ένα σχέδιο για το τι θα συνέβαινε μετά, εάν ο πελάτης ένιωθε αναστατωμένος.
Από αυτή την άποψη, η GenAI είναι παρόμοια με οποιαδήποτε άλλη στρατηγική. “Μπορείτε να δημιουργήσετε κάθε λογής δημιουργικές ιδέες. Αλλά θα πρέπει πάντα να συζητάτε με τον πελάτη τα πλεονεκτήματα και τα μειονεκτήματα, τους περιορισμούς, πράγματα που πρέπει να γνωρίζει'”.
Ισότητα και προκαταλήψεις
Με όποιον τρόπο κι αν χρησιμοποιούν οι ψυχολόγοι το GenAI, θα πρέπει να είναι ευαίσθητοι στα οικονομικά και πολιτιστικά εμπόδια πρόσβασης. Ενώ ορισμένες εκδόσεις του GenAI είναι δωρεάν, άλλες απαιτούν συνδρομές. Τα πολιτιστικά εμπόδια είναι πιο περίπλοκα. «Δεν μπορούμε να υποτιμήσουμε πιθανές πολιτιστικές προκαταλήψεις», λέει ο Δρ Penney.
“Η ομάδα πηγών του GenAI είναι το ένα τρίτο του Διαδικτύου, όπου η περισσότερη έρευνα είναι από Δυτικούς και στα αγγλικά. Ποια είναι η πιθανότητα να αντιπροσωπεύει επαρκώς διαφορετικές γλωσσικές και πολιτιστικές προοπτικές; Υπάρχει πιθανότητα μεροληψίας, ελλιπών δεδομένων και ενίσχυσης στερεοτύπων. Το GenAI μπορεί να μην είναι κατάλληλο για ορισμένες ομάδες. Πρέπει να έχουμε κατά νου αυτούς τους περιορισμούς.”
Διαβάστε όλες τις τελευταίες Ειδήσεις για την υγεία από την Ελλάδα και τον ΚόσμοΑκολουθήστε το healthweb.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις
Ακολουθήστε το healthweb.gr στο κανάλι μας στο YouTube
