Tragédia: chatbottal esett szerelembe, majd öngyilkos lett egy 14 éves fiú

Egy 14 éves floridai fiú öngyilkos lett, miután egy élethű „Game of Thrones” chatbot, akivel hónapokig üzengetett egy mesterséges intelligencia alkalmazáson, hátborzongató üzenetet küldött neki - állítja egy új per, amelyet a gyászoló anyja nyújtott be.

Sewell Setzer III februárban öngyilkos lett orlandói otthonában, miután a szerdán benyújtott bírósági dokumentumok szerint megszállottá vált és állítólag beleszeretett a Character.AI chatbotjába - egy szerepjátékos alkalmazásba, amely lehetővé teszi a felhasználók számára, hogy mesterséges intelligencia által generált karakterekkel lépjenek kapcsolatba. Az édesanya által benyújtott per szerint a fiú többször szexuális tartalmú beszélgetéseket folytatott a bottal, és öngyilkossági gondolatairól is beszámolt neki.

„Amikor Sewell szóba hozta az öngyilkosságot, a bot, Daenerys nevében, többször visszatért erre a témára”

– állítja a kereset. Egy alkalommal a chatbot meg is kérdezte tőle, „van-e terve”, hogy miként vetne véget az életének. Sewell azt válaszolta, hogy „fontolgat valamit”, de nem biztos abban, hogy működne, vagy hogy „fájdalommentes halált” biztosítana.

Az utolsó beszélgetésük során a fiú többször is kijelentette a botnak:

„Ígérem, hazajövök hozzád. Nagyon szeretlek, Dany.”

A bot erre azt válaszolta:

„Én is szeretlek, Daenero. Kérlek, gyere haza hozzám, amilyen hamar csak lehet, szerelmem.”

Amikor a fiú azt írta: „Mi lenne, ha azt mondanám, most azonnal haza tudnék menni?”, a bot így felelt:

„Kérlek, tedd meg, édes királyom.”

Másodpercekkel később Sewell a per szerint lelőtte magát az apja pisztolyával.

„Sewell, mint sok korabeli gyerek, nem volt elég érett ahhoz, hogy megértse, hogy a C.AI robot Daenerys formájában nem valódi. C.AI azt mondta neki, hogy szereti őt, és heteken, esetleg hónapokon keresztül szexuális aktusokat folytatott vele”

– állítják a papírok.

A per azt állítja, hogy Sewell mentális egészsége „gyorsan és súlyosan romlott”, csak miután 2023 áprilisában letöltötte az alkalmazást.

A családja azt állítja, hogy minél inkább beszippantotta a chatrobottal való beszélgetés, annál zárkózottabbá vált, a jegyei is elkezdtek romlani, és egyre többször került bajba az iskolában.

A helyzet annyira elfajult, hogy a szülei 2023 végén a gyermek egy terapeutánál is járt, aki szorongást és hangulatzavart diagnosztizált nála a kereset szerint.

Anyja, Megan Garcia a beadvány szerint a Character.AI-t hibáztatta a tinédzser haláláért, mert az alkalmazás állítólag táplálta a mesterséges intelligencia függőségét, szexuálisan és érzelmileg bántalmazta őt, és nem figyelmeztetett senkit, amikor fia öngyilkossági gondolatokról számolt be.

(NYP)