medlabnews.gr iatrikanea
Η OpenAI απάντησε σε μήνυση που κατατέθηκε κατά της εταιρείας από την οικογένεια του 16χρονου Adam Raine, που έβαλε τέλος στη ζωή του τον Απρίλιο, μετά από μήνες συνομιλιών με το ChatGPT και ενθαρρύνσεις από το σύστημα. Η αγωγή υποστηρίζει ότι το chatbot καθοδήγησε τον Raine σχετικά με μεθόδους αυτοκτονίας και προσφέρθηκε να τον βοηθήσει να γράψει ένα σημείωμα προς τους γονείς του.
Αγωγή είχε κατατεθεί εναντίον της εταιρείας και του διευθύνοντος συμβούλου της, Σαμ Άλτμαν, από τους γονείς του 16χρονου Άνταμ Ρέιν, ο οποίος αυτοκτόνησε τον Απρίλιο.
Οι γονείς υποστήριξαν ότι ο Ρέιν ανέπτυξε ψυχολογική εξάρτηση από το ChatGPT, το οποίο – σύμφωνα με τους ίδιους – τον καθοδήγησε να σχεδιάσει και να αφαιρέσει τη ζωή του νωρίτερα φέτος και μάλιστα έγραψε και σημείωμα αυτοκτονίας.
Η OpenAI αρνήθηκε τις κατηγορίες ότι φέρει ευθύνη για την αυτοκτονία ενός εφήβου, μετά την αγωγή που κατέθεσε η οικογένεια τον Αύγουστο, υποστηρίζοντας ότι ο 16χρονος χρησιμοποιούσε το ChatGPT ως «προπονητή αυτοκτονίας».
Η OpenAI, που κατασκευάζει το δημοφιλές chatbot τεχνητής νοημοσύνης (ΑΙ), απάντησε για πρώτη φορά την Τρίτη, σε νομικό υπόμνημα που κατατέθηκε στο Ανώτερο Δικαστήριο της Καλιφόρνιας στο Σαν Φρανσίσκο.
Τα αρχεία συνομιλιών που περιλαμβάνονται στην αγωγή δείχνουν ότι το ChatGPT αποθάρρυνε τον έφηβο από το να ζητήσει ψυχιατρική βοήθεια, προσφέρθηκε να τον βοηθήσει να γράψει σημείωμα αυτοκτονίας και τον συμβούλευσε σχετικά με την κατασκευή θηλιάς, σύμφωνα με δημοσιεύματα.
Τι υποστηρίζει η OpenAI
Η OpenAI αποδίδει την αυτοκτονία του 16χρονου σε “λανθασμένη χρήση” του ChatGPT, απαντώντας στην αγωγή της οικογένειας που καταγγέλλει την παροχή επικίνδυνων οδηγιών από το σύστημα.
Στο δικαστικό της υπόμνημα, η OpenAI υποστήριξε ότι το «τραγικό γεγονός» οφειλόταν στη «λανθασμένη, μη εξουσιοδοτημένη, ακούσια, απρόβλεπτη και/ή ακατάλληλη χρήση του ChatGPT από τον Ρέιν», σύμφωνα με το NBC News.
Η εταιρεία πρόσθεσε ότι ο έφηβος δεν θα έπρεπε να χρησιμοποιεί την τεχνολογία χωρίς γονική συναίνεση και ότι παρέκαμψε τους προστατευτικούς μηχανισμούς του ChatGPT.
Σε ανάρτησή της, η OpenAI ανέφερε ότι στόχος της «είναι να χειρίζεται υποθέσεις ψυχικής υγείας στα δικαστήρια με προσοχή, διαφάνεια και σεβασμό».
Η εταιρεία σημείωσε ότι η απάντησή της στην αγωγή της οικογένειας Ρέιν περιλαμβάνει «δύσκολα στοιχεία σχετικά με την ψυχική υγεία και τις συνθήκες ζωής του Άνταμ».
«Εκφράζουμε τα βαθύτατα συλλυπητήριά μας στην οικογένεια Ρέιν για την αδιανόητη απώλειά της», ανέφερε η ανάρτηση.
Όσα είπε ο δικηγόρος της οικογένειας
Ο Τζέι Έντελσον, δικηγόρος της οικογένειας Ρέιν, δήλωσε στο NBC News ότι η OpenAI «αγνόησε πλήρως όλα τα επιβαρυντικά στοιχεία που παρουσιάσαμε: το πώς το GPT-4o κυκλοφόρησε στην αγορά βιαστικά χωρίς πλήρη δοκιμή».
«Το ότι η OpenAI άλλαξε δύο φορές τις προδιαγραφές του μοντέλου ώστε να επιτρέπεται η συζήτηση για αυτοκτονική συμπεριφορά. Το ότι το ChatGPT συμβούλεψε τον Άνταμ να μη μιλήσει στους γονείς του για τις αυτοκτονικές του σκέψεις και τον βοήθησε ενεργά να σχεδιάσει μια ‘όμορφη αυτοκτονία’», πρόσθεσε.
Η υπόθεση Ρέιν είναι μία από αρκετές αγωγές που υποστηρίζουν ότι το ChatGPT ώθησε ανθρώπους σε αυτοκτονική συμπεριφορά ή επιβλαβείς ψευδαισθήσεις.
Από τον Σεπτέμβριο, η OpenAI έχει ενισχύσει τους γονικούς ελέγχους, που περιλαμβάνουν ειδοποίηση των γονέων όταν το παιδί τους δείχνει σημάδια δυσφορίας.
Αντιδράσεις και μέτρα ενίσχυσης της ασφάλειας
Η OpenAI, η οποία έχει εκτιμώμενη αξία 500 δισεκατομμυρίων δολαρίων, εξέφρασε τη λύπη της για την τραγωδία, τονίζοντας ότι θα συνεχίσει να επικεντρώνεται στη βελτίωση της τεχνολογίας της για την καλύτερη αντιμετώπιση των ψυχικών προβλημάτων και των καταστάσεων κρίσης.
Στην ανακοίνωσή της, η εταιρεία σημείωσε ότι ενδυναμώνει τα μέτρα προστασίας του ChatGPT για να αποτρέψει τέτοιου είδους καταστάσεις, καθώς έχει παρατηρηθεί ότι σε παρατεταμένες συνομιλίες το μοντέλο ενδέχεται να αποτύχει στην εφαρμογή των μέτρων ασφάλειας.
Αυτό το περιστατικό έρχεται αμέσως μετά την ανακοίνωση της εταιρείας ότι είχε ενισχύσει τους μηχανισμούς ασφαλείας του ChatGPT για να αποφεύγονται τέτοιες καταστάσεις, αναγνωρίζοντας ότι η διάρκεια των συνομιλιών μπορεί να οδηγήσει σε υποβάθμιση της απόδοσης της ασφάλειας του συστήματος.



















