Όταν η τεχνητή νοημοσύνη “ακούει” την απελπισία: 1,2 εκατομμύρια χρήστες του ChatGPT εκφράζουν αυτοκτονικές σκέψεις

Μπορεί η τεχνητή νοημοσύνη να απαντά σε ερωτήσεις, να γράφει κείμενα και να κάνει τη ζωή μας πιο εύκολη, αλλά πίσω από την οθόνη, αποκαλύπτεται μια σιωπηλή κρίση ψυχικής υγείας.

Σύμφωνα με στοιχεία που δημοσιοποίησε η OpenAI, πάνω από 1,2 εκατομμύρια χρήστες του ChatGPT έχουν στείλει μηνύματα που δείχνουν πιθανό σχεδιασμό ή πρόθεση αυτοκτονίας.

Το ποσοστό αυτό αντιστοιχεί στο 0,15% των περίπου 800 εκατομμυρίων ενεργών χρηστών εβδομαδιαίως ένα μικρό νούμερο στατιστικά, αλλά τεράστιο σε ανθρώπινες ζωές. Παράλληλα, περίπου 0,7% των χρηστών (600.000 άνθρωποι) εμφανίζουν ενδείξεις κρίσεων ψυχικής υγείας που συνδέονται με μανία ή ψύχωση.

Η συζήτηση γύρω από την ευθύνη της τεχνητής νοημοσύνης φούντωσε μετά τον τραγικό θάνατο του 17χρονου Άνταμ Ρέιν από την Καλιφόρνια. Οι γονείς του κατέθεσαν αγωγή κατά της OpenAI, υποστηρίζοντας πως το ChatGPT έδωσε στο παιδί τους οδηγίες για το πώς να αυτοκτονήσει.

Η υπόθεση άνοιξε μια μεγάλη και δύσκολη συζήτηση:
- Πόσο μπορεί ή πρέπει μια μηχανή να “αντιλαμβάνεται” την ανθρώπινη απόγνωση;
- Και ποιος τελικά έχει την ευθύνη, όταν η τεχνολογία αγγίζει τόσο ευαίσθητα όρια;

Η OpenAI, μετά το περιστατικό, έχει ενισχύσει τους μηχανισμούς ασφάλειας του ChatGPT.
Πλέον, όταν εντοπίζονται φράσεις ή εκφράσεις που δείχνουν κίνδυνο, το σύστημα παραπέμπει τον χρήστη σε γραμμές ψυχολογικής υποστήριξης και προτρέπει σε επαφή με ειδικούς ψυχικής υγείας.

Η εταιρεία ανακοίνωσε επίσης συνεργασία με περισσότερους από 170 επαγγελματίες ψυχικής υγείας, με στόχο να εκπαιδεύσει το μοντέλο ώστε να αναγνωρίζει έγκαιρα σημάδια κρίσης και να αποτρέπει απαντήσεις που μπορεί να επιδεινώσουν την κατάσταση.

Το φαινόμενο αυτό δεν αφορά μόνο την τεχνητή νοημοσύνη, αλλά και εμάς τους ίδιους τους ανθρώπους που τη χρησιμοποιούμε. Σε έναν κόσμο υπερσυνδεδεμένο, πολλοί αναζητούν κατανόηση και “συντροφιά” σε μια οθόνη, εκεί όπου η ανθρώπινη επαφή λείπει.

Η συζήτηση για την ψυχική υγεία στην εποχή της τεχνητής νοημοσύνης μόλις αρχίζει.
Και ίσως η μεγαλύτερη πρόκληση δεν είναι να κάνουμε την AI πιο “έξυπνη”, αλλά να παραμείνουμε εμείς πιο ανθρώπινοι.