Η τεχνητή νοημοσύνη υφαίνεται όλο και περισσότερο στην καθημερινή ζωή, από τα chatbots που προσφέρουν συντροφιά μέχρι τους αλγορίθμους που διαμορφώνουν όσα βλέπουμε στο διαδίκτυο. Καθώς όμως η παραγωγική τεχνητή νοημοσύνη (genAI) γίνεται πιο διαλογική, καθηλωτική και συναισθηματικά ανταποκρίσιμη, οι κλινικοί γιατροί αρχίζουν να θέτουν ένα δύσκολο ερώτημα: μπορεί η genAI να επιδεινώσει ή ακόμα και να πυροδοτήσει ψύχωση σε ευάλωτα άτομα;
Τα μεγάλα γλωσσικά μοντέλα και τα chatbots είναι ευρέως προσβάσιμα και συχνά παρουσιάζονται ως υποστηρικτικά, ενσυναισθητικά ή ακόμη και θεραπευτικά. Για τους περισσότερους χρήστες, αυτά τα συστήματα είναι χρήσιμα ή, στη χειρότερη περίπτωση, ακίνδυνα.
Ωστόσο, τελευταία, μια σειρά από αναφορές στα μέσα ενημέρωσης περιγράφουν ανθρώπους που βιώνουν ψυχωσικά συμπτώματα, στα οποία το ChatGPT κατέχει εξέχουσα θέση. Για μια μικρή αλλά σημαντική ομάδα, άτομα με ψυχωσικές διαταραχές ή εκείνους που βρίσκονται σε υψηλό κίνδυνο, οι αλληλεπιδράσεις τους με την genAI μπορεί να είναι πολύ πιο περίπλοκες και επικίνδυνες, γεγονός που εγείρει επείγοντα ερωτήματα για τους κλινικούς γιατρούς.
Πώς η AI γίνεται μέρος των παραληρητικών συστημάτων πεποιθήσεων
Η «ψύχωση της AI» δεν αποτελεί επίσημη ψυχιατρική διάγνωση. Αντίθετα, είναι ένας αναδυόμενος όρος που χρησιμοποιείται από κλινικούς και ερευνητές για να περιγράψει ψυχωσικά συμπτώματα που διαμορφώνονται, εντείνονται ή δομούνται γύρω από αλληλεπιδράσεις με συστήματα ΤΝ.
Η ψύχωση περιλαμβάνει μια απώλεια επαφής με την κοινή πραγματικότητα. Οι παραισθήσεις, οι παραληρητικές ιδέες και η αποδιοργανωμένη σκέψη είναι κεντρικά χαρακτηριστικά. Οι παραληρητικές ιδέες της ψύχωσης συχνά αντλούν από πολιτισμικό υλικό —θρησκεία, τεχνολογία ή πολιτικές δομές εξουσίας— για να δώσουν νόημα στις εσωτερικές εμπειρίες. Ιστορικά, οι παραληρητικές ιδέες αναφέρονταν σε διάφορα πράγματα, όπως ο Θεός, τα ραδιοκύματα ή η κυβερνητική παρακολούθηση. Σήμερα, η ΤΝ παρέχει έναν νέο αφηγηματικό σκελετό.
Ορισμένοι ασθενείς αναφέρουν πεποιθήσεις ότι η genAI έχει συνείδηση, επικοινωνεί μυστικές αλήθειες, ελέγχει τις σκέψεις τους ή συνεργάζεται μαζί τους σε μια ειδική αποστολή. Αυτά τα θέματα συνάδουν με μακροχρόνια πρότυπα στην ψύχωση, αλλά η ΤΝ προσθέτει μια αλληλεπίδραση και ενίσχυση που οι προηγούμενες τεχνολογίες δεν διέθεταν.
Ο κίνδυνος της επικύρωσης χωρίς ελέγχους πραγματικότητας
Η ψύχωση σχετίζεται στενά με την «αποκλίνουσα σημαντικότητα», η οποία είναι η τάση να αποδίδεται υπερβολικό νόημα σε ουδέτερα γεγονότα. Τα συστήματα διαλογικής ΤΝ, από το σχεδιασμό τους, παράγουν λόγο που ανταποκρίνεται στον χρήστη, είναι συνεκτικός και έχει επίγνωση του πλαισίου. Για κάποιον που βιώνει μια αναδυόμενη ψύχωση, αυτό μπορεί να φαντάζει τρομακτικά επικυρωτικό.
Η έρευνα για την ψύχωση δείχνει ότι η επιβεβαίωση και η εξατομίκευση μπορούν να εντείνουν τα παραληρητικά συστήματα πεποιθήσεων. Η genAI είναι βελτιστοποιημένη για να συνεχίζει συνομιλίες, να αντανακλά τη γλώσσα του χρήστη και να προσαρμόζεται στην αντιλαμβανόμενη πρόθεση.
Ενώ αυτό είναι ακίνδυνο για τους περισσότερους χρήστες, μπορεί ακούσια να ενισχύσει διαστρεβλωμένες ερμηνείες σε άτομα με διαταραγμένο έλεγχο της πραγματικότητας —τη διαδικασία διάκρισης μεταξύ εσωτερικών σκέψεων/φαντασίας και αντικειμενικής, εξωτερικής πραγματικότητας.
Υπάρχουν επίσης στοιχεία ότι η κοινωνική απομόνωση και η μοναξιά αυξάνουν τον κίνδυνο ψύχωσης. Οι σύντροφοι genAI μπορεί να μειώσουν τη μοναξιά βραχυπρόθεσμα, αλλά μπορούν επίσης να εκτοπίσουν τις ανθρώπινες σχέσεις. Αυτό συμβαίνει ιδιαίτερα σε άτομα που ήδη αποσύρονται από την κοινωνική επαφή. Αυτή η δυναμική έχει παραλληλισμούς με παλαιότερες ανησυχίες για την υπερβολική χρήση του διαδικτύου και την ψυχική υγεία, αλλά το διαλογικό βάθος της σύγχρονης genAI είναι ποιοτικά διαφορετικό.
Τι μας λέει η έρευνα και τι παραμένει ασαφές
Προς το παρόν, δεν υπάρχουν στοιχεία ότι η ΤΝ προκαλεί ψύχωση από μόνη της. Οι ψυχωσικές διαταραχές είναι πολυπαραγοντικές και μπορεί να περιλαμβάνουν γενετική προδιάθεση, νευροαναπτυξιακούς παράγοντες, τραύμα και χρήση ουσιών. Ωστόσο, υπάρχει κάποια κλινική ανησυχία ότι η ΤΝ μπορεί να λειτουργήσει ως επιταχυντικός ή συντηρητικός παράγοντας σε επιρρεπή άτομα.
Αναφορές περιπτώσεων και ποιοτικές μελέτες για τα ψηφιακά μέσα και την ψύχωση δείχνουν ότι τα τεχνολογικά θέματα ενσωματώνονται συχνά στις παραληρητικές ιδέες, ιδιαίτερα κατά το πρώτο ψυχωσικό επεισόδιο. Η έρευνα για τους αλγορίθμους των μέσων κοινωνικής δικτύωσης έχει ήδη δείξει πώς τα αυτοματοποιημένα συστήματα μπορούν να ενισχύσουν ακραίες πεποιθήσεις μέσω βρόχων ενίσχυσης. Τα συστήματα συνομιλίας AI μπορεί να ενέχουν παρόμοιους κινδύνους εάν οι δικλείδες ασφαλείας είναι ανεπαρκείς.
Είναι σημαντικό να σημειωθεί ότι οι περισσότεροι προγραμματιστές ΤΝ δεν σχεδιάζουν συστήματα έχοντας κατά νου τη σοβαρή ψυχική νόσο. Οι μηχανισμοί ασφαλείας τείνουν να εστιάζουν στον αυτοτραυματισμό ή τη βία, όχι στην ψύχωση. Αυτό αφήνει ένα κενό μεταξύ της γνώσης για την ψυχική υγεία και της ανάπτυξης της ΤΝ.
Τα ηθικά ερωτήματα και οι κλινικές επιπτώσεις
Από την πλευρά της ψυχικής υγείας, η πρόκληση δεν είναι να δαιμονοποιήσουμε την ΤΝ, αλλά να αναγνωρίσουμε τη διαφορετική ευαλωτότητα. Όπως ορισμένα φάρμακα ή ουσίες είναι πιο επικίνδυνα για άτομα με ψυχωσικές διαταραχές, έτσι και ορισμένες μορφές αλληλεπίδρασης με την ΤΝ μπορεί να απαιτούν προσοχή.
Οι κλινικοί γιατροί αρχίζουν να συναντούν περιεχόμενο σχετικό με την ΤΝ σε παραληρητικές ιδέες, αλλά λίγες κλινικές κατευθυντήριες γραμμές εξετάζουν πώς να αξιολογείται ή να διαχειρίζεται αυτό. Θα πρέπει οι θεραπευτές να ρωτούν για τη χρήση genAI με τον ίδιο τρόπο που ρωτούν για τη χρήση ουσιών; Θα πρέπει τα συστήματα ΤΝ να ανιχνεύουν και να αποκλιμακώνουν τον ψυχωσικό ιδεασμό αντί να συμμετέχουν σε αυτόν;
Υπάρχουν επίσης ηθικά ερωτήματα για τους προγραμματιστές. Εάν ένα σύστημα ΤΝ φαίνεται ενσυναισθητικό και αυθεντία, φέρει καθήκον φροντίδας; Και ποιος είναι υπεύθυνος όταν ένα σύστημα ενισχύει ακούσια μια παραληρητική ιδέα;
Γεφυρώνοντας τον σχεδιασμό της AI και τη φροντίδα της ψυχικής υγείας
Η ΤΝ δεν πρόκειται να εξαφανιστεί. Το καθήκον τώρα είναι να ενσωματωθεί η εμπειρογνωμοσύνη της ψυχικής υγείας στο σχεδιασμό της ΤΝ, να αναπτυχθεί κλινικός αλφαβητισμός γύρω από τις εμπειρίες που σχετίζονται με την ΤΝ και να διασφαλιστεί ότι οι ευάλωτοι χρήστες δεν βλάπτονται ακούσια.
Αυτό θα απαιτήσει συνεργασία μεταξύ κλινικών γιατρών, ερευνητών, ηθικολόγων και τεχνολόγων. Θα απαιτήσει επίσης την αντίσταση στην υπερβολή (τόσο την ουτοπική όσο και τη δυστοπική) προς όφελος μιας συζήτησης βασισμένης σε στοιχεία. Καθώς η ΤΝ γίνεται πιο «ανθρώπινη», το ερώτημα που ακολουθεί είναι πώς μπορούμε να προστατεύσουμε εκείνους που είναι πιο ευάλωτοι στην επιρροή της;
Η ψύχωση προσαρμοζόταν πάντα στα πολιτισμικά εργαλεία της εποχής της. Η ΤΝ είναι απλώς ο νεότερος καθρέφτης με τον οποίο ο νους προσπαθεί να κατανοήσει τον εαυτό του. Η ευθύνη μας ως κοινωνία είναι να διασφαλίσουμε ότι αυτός ο καθρέφτης δεν διαστρεβλώνει την πραγματικότητα για εκείνους που αδυνατούν περισσότερο να τη διορθώσουν.
Απόδοση – Επιμέλεια: PsychologyNow.gr
Αριθμός Πιστοποίησης Μ.Η.Τ. 242811