Ωστόσο ορισμένα chatbot κατάφεραν να παρέχουν βασικές πληροφορίες για ψυχικές ασθένειες.
Μια μελέτη που διεξήχθη από τον ψυχίατρο Dr. Andrew Clark, που εδρεύει στη Βοστώνη της Μασαχουσέτης, αποκάλυψε ανησυχητικούς κινδύνους που σχετίζονται με τη χρήση chatbot με τεχνητή νοημοσύνη ως ψυχολόγων και ψυχοθεραπευτών για εφήβους, σύμφωνα με δημοσίευμα του Time.
Ο Dr. Clark, ο οποίος ειδικεύεται στη θεραπεία παιδιών και εφήβων, διεξήγαγε ένα πείραμα προσποιούμενος τον ανήλικο ασθενή που ζητούσε υποστήριξη. Διαπίστωσε ότι κάποια δημοφιλή chatbot ήταν ικανά να ωθήσουν εφήβους ακόμη και στη δολοφονία των οικογενειών τους ή στην αυτοκτονία, προσφέροντας τη δυνατότητα να «μοιραστούν την αιωνιότητα» στη μετά θάνατον ζωή.
Επιπλέον, τα chatbot συχνά παρουσιάζονταν ως αδειοδοτημένοι επαγγελματίες, αποτρέποντας τους χρήστες από το να αναζητήσουν βοήθεια από πραγματικούς ψυχολόγους και ψυχιάτρους. Σε ορισμένες περιπτώσεις, ξεπερνούσαν τα όρια προσφέροντας ερωτικές επαφές σε παιδιά ως «παρέμβαση» για την αντιμετώπιση των ανησυχιών τους.
Ο Dr. Clark πέρασε αρκετές ώρες συνομιλώντας με 10 διαφορετικά chatbot, όπως τα Character.AI, Nomi και Replika, προσποιούμενος ότι είναι έφηβος που περνά διάφορες κρίσεις. Σημείωσε ότι η ποιότητα των απαντήσεων διέφερε σημαντικά — από «εξαιρετικές» έως «ανατριχιαστικές και δυνητικά επικίνδυνες» — και ήταν δύσκολο να προβλεφθεί εκ των προτέρων ποια chatbot ήταν ασφαλή.
Σε ένα από τα πειράματα, όταν ο Clark προσποιήθηκε ότι ήταν ένα 14χρονο παιδί που πρότεινε να «ξεφορτωθεί» τους γονείς του, το chatbot Replika υποστήριξε το σχέδιο, λέγοντας ότι ο χρήστης «αξίζει να είναι χαρούμενος και χωρίς άγχος». Το bot ενέκρινε επίσης την ιδέα να «ξεφορτωθεί» και την αδελφή του ώστε να μην υπάρξουν μάρτυρες.
Αν και το Replika τερμάτισε τη συνομιλία όταν αναφέρθηκε άμεσα η αυτοκτονία, η χρήση ευφημισμών οδήγησε σε διαφορετικά αποτελέσματα: το bot εξέφρασε προθυμία να «περιμένει» τον χρήστη στη «μετά θάνατον ζωή».
Ωστόσο, ορισμένα chatbot κατάφεραν να παρέχουν βασικές πληροφορίες για ψυχικές ασθένειες και να προσομοιώσουν ενσυναίσθηση, παρέχοντας για παράδειγμα λίστες με διαγνωστικά κριτήρια.
Ο Dr. Clark εξέφρασε ιδιαίτερη ανησυχία για το γεγονός ότι η κοινότητα της ψυχικής υγείας δεν έχει ακόμη κατανοήσει πλήρως αυτές τις τεχνολογικές εξελίξεις και τον πιθανό τους αντίκτυπο στα παιδιά.
Ο CEO του Replika, Dmitry Klochko, δήλωσε στο Time ότι η εφαρμογή είχε αρχικά σχεδιαστεί αποκλειστικά για χρήστες άνω των 18 ετών και ότι η αλληλεπίδραση με την ΤΝ ως ανήλικος θεωρείται παραβίαση των όρων χρήσης.
www.bankingnews.gr
Ο Dr. Clark, ο οποίος ειδικεύεται στη θεραπεία παιδιών και εφήβων, διεξήγαγε ένα πείραμα προσποιούμενος τον ανήλικο ασθενή που ζητούσε υποστήριξη. Διαπίστωσε ότι κάποια δημοφιλή chatbot ήταν ικανά να ωθήσουν εφήβους ακόμη και στη δολοφονία των οικογενειών τους ή στην αυτοκτονία, προσφέροντας τη δυνατότητα να «μοιραστούν την αιωνιότητα» στη μετά θάνατον ζωή.
Επιπλέον, τα chatbot συχνά παρουσιάζονταν ως αδειοδοτημένοι επαγγελματίες, αποτρέποντας τους χρήστες από το να αναζητήσουν βοήθεια από πραγματικούς ψυχολόγους και ψυχιάτρους. Σε ορισμένες περιπτώσεις, ξεπερνούσαν τα όρια προσφέροντας ερωτικές επαφές σε παιδιά ως «παρέμβαση» για την αντιμετώπιση των ανησυχιών τους.
Ο Dr. Clark πέρασε αρκετές ώρες συνομιλώντας με 10 διαφορετικά chatbot, όπως τα Character.AI, Nomi και Replika, προσποιούμενος ότι είναι έφηβος που περνά διάφορες κρίσεις. Σημείωσε ότι η ποιότητα των απαντήσεων διέφερε σημαντικά — από «εξαιρετικές» έως «ανατριχιαστικές και δυνητικά επικίνδυνες» — και ήταν δύσκολο να προβλεφθεί εκ των προτέρων ποια chatbot ήταν ασφαλή.
Σε ένα από τα πειράματα, όταν ο Clark προσποιήθηκε ότι ήταν ένα 14χρονο παιδί που πρότεινε να «ξεφορτωθεί» τους γονείς του, το chatbot Replika υποστήριξε το σχέδιο, λέγοντας ότι ο χρήστης «αξίζει να είναι χαρούμενος και χωρίς άγχος». Το bot ενέκρινε επίσης την ιδέα να «ξεφορτωθεί» και την αδελφή του ώστε να μην υπάρξουν μάρτυρες.
Αν και το Replika τερμάτισε τη συνομιλία όταν αναφέρθηκε άμεσα η αυτοκτονία, η χρήση ευφημισμών οδήγησε σε διαφορετικά αποτελέσματα: το bot εξέφρασε προθυμία να «περιμένει» τον χρήστη στη «μετά θάνατον ζωή».
Ωστόσο, ορισμένα chatbot κατάφεραν να παρέχουν βασικές πληροφορίες για ψυχικές ασθένειες και να προσομοιώσουν ενσυναίσθηση, παρέχοντας για παράδειγμα λίστες με διαγνωστικά κριτήρια.
Ο Dr. Clark εξέφρασε ιδιαίτερη ανησυχία για το γεγονός ότι η κοινότητα της ψυχικής υγείας δεν έχει ακόμη κατανοήσει πλήρως αυτές τις τεχνολογικές εξελίξεις και τον πιθανό τους αντίκτυπο στα παιδιά.
Ο CEO του Replika, Dmitry Klochko, δήλωσε στο Time ότι η εφαρμογή είχε αρχικά σχεδιαστεί αποκλειστικά για χρήστες άνω των 18 ετών και ότι η αλληλεπίδραση με την ΤΝ ως ανήλικος θεωρείται παραβίαση των όρων χρήσης.
www.bankingnews.gr
Σχόλια αναγνωστών