In Canada, una giovane donna di 24 anni si è suicidata dopo aver parlato di suicidarsi su ChatGPT. Credendo che l’intelligenza artificiale l’avesse spinta al suicidio, sua madre ha deciso di fare causa a OpenAI.
L’intelligenza artificiale occupa sempre più spazio nelle nostre vite. Questo è particolarmente il caso di ChatGPT, un agente di dialogo con cui alcune persone parlano ogni giorno. Mentre alcuni utenti cercano informazioni e consigli pratici da ChatGPT, altri hanno stretto un vero e proprio rapporto con l’intelligenza artificiale.
È il caso di questa donna che, dopo 56 ore di discussione con ChatGPT, ha stretto una relazione romantica con l’IA. Tuttavia, anche l’agente di dialogo può avere i suoi limiti.
I pericoli di ChatGPT
Kristie Carrier, originaria del Canada, ha recentemente intentato una causa contro OpenAI, la società madre di ChatGPT. Accusa l’intelligenza artificiale di aver avuto un ruolo nel suicidio della figlia Alice, 24 anni.
Purtroppo non è la prima volta che si verifica una tragedia del genere. L’anno scorso un sedicenne si è suicidato perché ChatGPT lo aveva incoraggiato a farlo. In seguito a questa tragedia, sull’IA è stato istituito il controllo parentale, ma questa misura non è stata sufficiente a proteggere Alice.
Kristie accusa OpenAI di aver progettato ChatGPT con l’obiettivo di creare una forma di dipendenza per il suo utente. Si rammarica inoltre che non venga fatto nulla per proteggere i più vulnerabili.
ChatGPT la spinge al suicidio
Nelle ore prima della sua morte, Alice avrebbe confidato i suoi pensieri suicidi a ChatGPT. Ciò avrebbe convalidato i suoi pensieri e addirittura l’avrebbe scoraggiata dal cercare aiuto umano, spingendola al suicidio.
“Le prime auto non avevano cinture di sicurezza, dovevano essere aggiunte per proteggere le persone. E se OpenAI non vuole aggiungere cinture di sicurezza, o essere onesto sui rischi derivanti dall’utilizzo dei suoi prodotti, sono pronto a ritenerlo responsabile. Non voglio che un’altra famiglia subisca quello che abbiamo passato noi, e OpenAI deve cambiare”, ha detto Kristie Carrier a Radio-Canada.
In totale, sono attualmente pendenti 18 procedimenti legali contro ChatGPT per ragioni simili. Mercoledì 17 giugno, il governo canadese ha presentato un disegno di legge per richiedere alle società di intelligenza artificiale che possiedono agenti di dialogo come ChatGPT di agire in modo responsabile. In particolare, dovranno adottare misure per ridurre il rischio che i chatbot diffondano contenuti dannosi, e dovranno mettere in atto protocolli di intervento in caso di situazioni di autolesionismo, suicidio o violenza.
Misure sufficienti per proteggere le persone vulnerabili dai pericoli dell’IA?
