Εξαιρετικά ανησυχητικά στοιχεία φέρνει στο φως της δημοσιότητας το ChatGPT, στο οποίο πάνω από 1,2 εκατομμύριο χρήστες εκφράζουν αυτοκτονικές τάσεις.
Όπως αποκάλυψη η OpenAI, περίπου το 0,15% των χρηστών του ChatGPT στέλνουν μηνύματα που υποδηλώνουν «πιθανότητες να σχεδιάζουν ή να προτίθενται να αυτοκτονήσουν». Δεδομένου ότι κάθε βδομάδα έχει 800 εκατομμύρια χρήστες, το ποσοστό αυτό μεταφράζεται σε περίπου 1,2 εκατ. ανθρώπους.
Eκτιμάται ότι περίπου το 0,7% των ενεργών χρηστών του ChatGPT κάθε εβδομάδα, δηλαδή σχεδόν 600.000 άνθρωποι, εμφανίζουν σημάδια τα οποία υποδηλώνουν κρίσεις ψυχικής υγείας που σχετίζονται με ψύχωση ή μανία.
Η αγωγή που έφερε το ζήτημα στο προσκήνιο
Το ζήτημα ήρθε στο προσκήνιο μετά τον θάνατο ενός εφήβου από την Καλιφόρνια. Οι γονείς του κατέθεσαν πρόσφατα αγωγή σε βάρος της OpenAI, καταγγέλλοντας πως το ChatGPT του παρείχε συγκεκριμένες συμβουλές για το πώς να αυτοκτονήσει.
Μετά το τραγικό αυτό συμβάν, η πλατφόρμα έχει ενισχύσει τον γονικό έλεγχο και δικλείδες ασφαλείας, προτρέποντας μεταξύ άλλων τους χρήστες να αναζητήσουν βοήθεια από ειδικούς σε τηλεφωνικές γραμμές έκτακτης ανάγκης.
Έκανε επίσης γνωστό πως έχει ενημερώσει το μοντέλο της για να αναγνωρίζει και να ανταποκρίνεται καλύτερα σε χρήστες που αντιμετωπίζουν προβλήματα ψυχικής υγείας. Στο πλαίσιο αυτό, συνεργάζεται με περισσότερους από 170 επαγγελματίες ψυχικής υγείας, προκειμένου να περιορίσει σημαντικά απαντήσεις που μπορεί να ενθαρρύνουν ανεπιθύμητες συμπεριφορές.