Mama unui adolescent din SUA spune că fiul ei, adolescent, a fost determinat să-și pună capăt zilelor de un chatbot AI . Băiatul s-a sinucis după i-a mărturisit personajului virtual cu care comunica și de care era îndrăgostit cât de nefericit este, iar acesta din urmă i-a răspuns cu un mesaj sinistru.

Sewell Setzer III, în vârstă de 14 ani, elev în clasa a IX-a în Orlando, Florida, și-a petrecut ultimele săptămâni din viață discutând, prin mesaje, cu un personaj AI numit după eroina Daenerys Targaryen din filmul „Game of Thrones”, potrivit Daily Mail Online .

Temele conversațiilor băiatului cu chatbotul AI au variat de la cele romantice la cele cu încărcătură sexuală. Uneori, discuțiile semănau cu destăinuirile a două prietene care vorbeau despre viață.

Este incert dacă băiatul știa sau nu că vorbește cu un robot

În ciuda faptului că aplicația avea o clauză de exonerare de răspundere care apărea în partea de jos a chat-ului, în care se preciza „Nu uitați: Tot ce spun personajele este inventat!”, nu se știe dacă băiatul știa că „Dany”, așa cum îi spunea el chatbotului, nu era o persoană reală.

Sewell a mers până la mărturisiri intime și i-a spus lui „Dany” cum se „ura” și cum se simțea gol și epuizat.

„Îmi place atât de mult să stau în camera mea pentru că încep să mă detașez de această «realitate» și, de asemenea, mă simt mai împăcat, mai conectat cu Dany și mult mai îndrăgostit de ea, și pur și simplu mai fericit”, scria Sewell în jurnalul său.

Faptul că i-a mărturisit chatbotului gândurile sale sinucigașe a fost începutul sfârșitului, notează The New York Times.

„Te rog să o faci, scumpul meu rege”

Când părinții au devenit îngrijorați de comportamentul băiatului, i-au luat telefonul, însă adolescentul a reușit să-l recupereze.

Pe 28 februarie, i-a spus lui „Dany” că o iubește și că se va întoarce acasă la ea.

„Și dacă ți-aș spune că pot veni acasă chiar acum? a întrebat Sewell.

„ Te rog să o faci, scumpul meu rege”, a răspuns Dany.

Imediat, Sewell a pus telefonul jos, a luat pistolul tatălui său vitreg și a apăsat pe trăgaci.

Miercuri, 23 octombrie, Megan Garcia, mama lui Sewell, a intentat un proces creatorilor aplicației de inteligență artificială Character.AI.

Femeia consideră că Character.AI i-a instigat fiul să se sinucidă și îi acuză pe fondatorii aplicației, Noam Shazeer și Daniel de Freitas, că știau că produsul lor putea fi periculos pentru clienții minori.

Megan Garcia susține că băiatul său a fost vizat de „experiențe hipersexualizate” și „înfricoșător de realiste”.

Ca răspuns la procesul intentat de mama lui Sewell, purtătorul de cuvânt Character.AI și-a exprimat regretul cu privire la tragedie și a adăugat că echipa de încredere și siguranță a Character.AI a adoptat noi caracteristici de siguranță în ultimele șase luni, una dintre acestea fiind un pop-up care redirecționează utilizatorii care manifestă idei suicidare către National Suicide Prevention Lifeline.

De asemenea, compania a explicat că nu permite „conținut sexual fără consimțământ, descrieri grafice sau specifice ale actelor sexuale sau promovarea sau descrierea automutilării sau a sinuciderii”.