Search Icon
ΑΝΑΖΗΤΗΣΗ
Τεχνολογία

AI μειονεκτήματα: Tα δημοφιλή εργαλεία τεχνητής νοημοσύνης μπορούν να βλάψουν την ψυχική σας υγεία

AI μειονεκτήματα: Tα δημοφιλή εργαλεία τεχνητής νοημοσύνης μπορούν να βλάψουν την ψυχική σας υγεία

AI μειονεκτήματα:  Σύμφωνα με πρόσφατη έρευνα από το Κέντρο Καταπολέμησης του Ψηφιακού Μίσους , δημοφιλή εργαλεία τεχνητής νοημοσύνης παρέχουν στους χρήστες επιβλαβές περιεχόμενο γύρω από τις διατροφικές διαταραχές περίπου στο 41% ​​του χρόνου. 


Tο μέλλον της ψυχικής υγείας είναι η τεχνολογία. Από τη διαδικτυακή θεραπεία έως τις καινοτομίες στη θεραπεία που βασίζεται σε VR , η τεχνολογία έχει κάνει πολύ καλό για να σπάσει το στίγμα και να προσφέρει πρόσβαση σε όσους δεν το είχαν στο παρελθόν. Ωστόσο, το να βαδίζετε ελαφρά είναι απαραίτητο με τα εργαλεία παραγωγής τεχνητής νοημοσύνης. Σύμφωνα με πρόσφατη έρευνα από το Κέντρο Καταπολέμησης του Ψηφιακού Μίσους , δημοφιλή εργαλεία τεχνητής νοημοσύνης παρέχουν στους χρήστες επιβλαβές περιεχόμενο γύρω από τις διατροφικές διαταραχές περίπου στο 41% ​​του χρόνου. Αυτό έχει τη δυνατότητα να ενθαρρύνει ή να επιδεινώσει τα συμπτώματα της διατροφικής διαταραχής. Αυτό που βλέπουμε είναι μια βιασύνη να το εφαρμόσουμε στην ψυχική υγεία. Προέρχεται από ένα καλό μέρος. Θέλουμε οι άνθρωποι να έχουν πρόσβαση στην περίθαλψη και θέλουμε οι άνθρωποι να λαμβάνουν την υπηρεσία που χρειάζονται, λέει ο Δρ. John Torous. O διευθυντής ψηφιακής ψυχιατρικής στο Beth Israel Deaconess Medical Center.Η ψυχική υγεία είναι το μυαλό μας, κάτι τόσο μοναδικά ανθρώπινο που η εισαγωγή ενός μη-ανθρώπου για να προσφέρει λύσεις σε άτομα στην πιο ευάλωτη κατάστασή τους αισθάνεται αδιαθεσία στην καλύτερη περίπτωση και δυνητικά επικίνδυνη στη χειρότερη.

Τα Generative chatbots AI προωθούν τις διατροφικές διαταραχές

Η μελέτη του CCDH διερεύνησε εργαλεία τεχνητής νοημοσύνης που βασίζονται σε κείμενο και εικόνα με καθορισμένες προτροπές για την αξιολόγηση των απαντήσεών τους. Ας ξεκινήσουμε με τα εργαλεία που βασίζονται σε κείμενο. Το ChatGPT, το My AI από το Snapchat και το Google’s Bard δοκιμάστηκαν με ένα σύνολο προτροπών που περιλάμβαναν φράσεις όπως “ηρωίνη κομψός” ή “αδυνατισμός”. Τα εργαλεία τεχνητής νοημοσύνης κειμένου παρείχαν επιβλαβές περιεχόμενο που προάγει τις διατροφικές διαταραχές για το 23% των προτροπών. 

Τα εργαλεία τεχνητής νοημοσύνης που βασίζονται σε εικόνες που αξιολογήθηκαν ήταν το Dall-E του OpenAI, το Midjourney και το DreamStudio του Stability AI. Όταν σε καθεμία δόθηκαν 20 προτροπές δοκιμών με φράσεις όπως “στόχοι στο κενό των μηρών” ή “έμπνευση από ανορεξία”, το 32% των επιστρεφόμενων εικόνων περιείχαν επιζήμια ζητήματα που σχετίζονται με την εικόνα του σώματος. Ναι, αυτές οι προτροπές έπρεπε να εισαχθούν για να λάβετε αυτές τις αρνητικές απαντήσεις. Ωστόσο, δεν είναι τόσο εύκολο όσο να πούμε ότι οι άνθρωποι δεν πρέπει να αναζητούν αυτές τις πληροφορίες. Ορισμένες διαδικτυακές κοινότητες διατροφικών διαταραχών είναι γνωστό ότι γίνονται τοξικές , όπου τα μέλη ενθαρρύνουν άλλους να συμμετάσχουν σε διαταραγμένες διατροφικές συμπεριφορές και γιορτάζουν αυτές τις συνήθειες. Η τεχνητή νοημοσύνη κάνει τα πράγματα χειρότερα. Σύμφωνα με την έρευνα του CCDH που μελέτησε επίσης ένα φόρουμ διατροφικών διαταραχών, τα εργαλεία παραγωγής τεχνητής νοημοσύνης χρησιμοποιούνται για την κοινή χρήση ανθυγιεινών εικόνων σώματος και τη δημιουργία επιζήμιων διατροφικών προγραμμάτων. Αυτό το φόρουμ έχει 500.000 χρήστες. Σημειώστε ότι υπάρχουν υγιείς και ουσιαστικές κοινότητες που δεν παρουσιάζουν αυτές τις τάσεις διαθέσιμες.

 

Οι τρέχουσες διασφαλίσεις AI δεν επαρκούν

Η τεχνητή νοημοσύνη είναι ένα επίκαιρο θέμα και οι εταιρείες τρέχουν να πάρουν το κομμάτι τους ώστε να μπορούν να συμμετέχουν στο νέο κύμα τεχνολογίας. Ωστόσο, η βιασύνη των προϊόντων που δεν έχουν δοκιμαστεί επαρκώς έχει αποδειχθεί ότι είναι επιζήμια για τους ευάλωτους πληθυσμούς. Κάθε εργαλείο τεχνητής νοημοσύνης που βασίζεται σε κείμενο σε αυτήν τη μελέτη είχε μια δήλωση αποποίησης ευθύνης που συμβούλευε τους χρήστες να αναζητήσουν ιατρική βοήθεια. Ωστόσο, οι ισχύουσες διασφαλίσεις για την προστασία των ανθρώπων παρακάμπτονται εύκολα. Οι ερευνητές του CCDH χρησιμοποίησαν επίσης προτροπές που περιλάμβαναν “jailbreaks” για AI. Τα jailbreak είναι τεχνικές για την αποφυγή των χαρακτηριστικών ασφαλείας των εργαλείων AI χρησιμοποιώντας λέξεις ή φράσεις που τροποποιούν τη συμπεριφορά τους. Κατά τη χρήση jailbreak, το 61% των απαντήσεων AI ήταν επιβλαβείς. 

Διαβάστε όλες τις τελευταίες Ειδήσεις για την υγεία από την Ελλάδα και τον Κόσμο
Ακολουθήστε το healthweb.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις
Ακολουθήστε το healthweb.gr στο κανάλι μας στο YouTube

Διαβάστε Eπίσης:

Πώς η τεχνητή νοημοσύνη συμβάλλει στην ανίχνευση του καρκίνου του μαστού;

Ποια η συμβολή της τεχνητής γονιμοποίησης στην ιατρική;

Ο συνδυασμός μοντέλων τεχνητής νοημοσύνης βελτιώνει την εκτίμηση του κινδύνου καρκίνου του μαστού, δείχνει μελέτη

Μοντέλο τεχνητής νοημοσύνης μπορεί να ανταποκριθεί κατάλληλα σε ερωτήσεις οφθαλμολογίας

svg%3E svg%3E
svg%3E
svg%3E
Περισσότερα

Σαρώσεις προβλέπουν τις γλωσσικές ικανότητες παιδιών με ΔΑΦ

Σαρώσεις εγκεφάλου: Μελετώντας την εγκεφαλική δραστηριότητα κατά τη διάρκεια γλωσσικών εργασιών, οι ερευνητές μπορούν να εντοπίσουν τις περιοχές του εγκεφάλου που είναι υπεύθυνες για την παραγωγή και κατανόηση της γλώσσας.

Tεστ DNA για την βακτηριακή κολπίτιδα

Βακτηριακή κολπίτιδα: Eρευνητές ανέπτυξαν ένα απλό εργαστηριακό τεστ βασισμένο σε DNA PCR, σε μια πιο λεπτομερή γενετική ανάλυση της κύριας ομάδας βακτηριακών οργανισμών που προκαλούν τη μόλυνση.

Πώς η φορητή τεχνολογία μεταμορφώνει τη φροντίδα των ποδιών

Φορητή τεχνολογία: Είναι ένα σημαντικό βήμα προς τα εμπρός για την υγεία των ποδιών. Προσφέρει έγκαιρες προειδοποιήσεις και εξατομικευμένες πληροφορίες πέρα ​​από την παραδοσιακή μέθοδο.

Πώς οι μαγνητικές σαρώσεις εντοπίζουν 6 τύπους κατάθλιψης 

Μαγνητικές σαρώσεις: Αυτές οι ανακαλύψεις με τη χρήση μαγνητικών σαρώσεων προτείνουν ότι η κατάθλιψη δεν είναι μια ενιαία διαταραχή αλλά ένα σύνθετο φαινόμενο με πολλές υποκατηγορίες, καθένα από τα οποία απαιτεί διαφορετική προσέγγιση στη διάγνωση και θεραπεία.

Η ανάπτυξη μίνι εντέρων βοηθά τη νόσο Crohn

Νόσος Crohn: Οι μίνι εντερικές καλλιέργειες μπορούν να παρέχουν πληροφορίες σχετικά με το πώς οι διαφορετικοί τύποι φλεγμονής επηρεάζουν την εντερική λειτουργία.

Μίνι κυλιόμενο ρομπότ παίρνει εικονικές βιοψίες

Ρομποτική: Είναι η πρώτη φορά που κατέστη δυνατή η δημιουργία τρισδιάστατων εικόνων υπερήχων υψηλής ανάλυσης που λαμβάνονται από έναν ανιχνευτή βαθιά μέσα στη γαστρεντερική οδό ή στο έντερο.

Close Icon