Në prill 2025, në banesën e tij në Orange County të Kalifornisë, u nda nga jeta Adam Raine, një adoleshent 16-vjeçar me interes të lartë në studimet shkollore dhe hobit si muzikë dhe jiu-jitsu brazilian. Ai kish nisur ta përdorte ChatGPT-in, chatbot-in e zhvilluar nga OpenAI, për ndihmë me detyrat dhe për të eksploruar pasionet e tij të ndryshme.
Me kalimin e kohës – pranë fundvitit 2024 – bisedat me ChatGPT u kthyen drejt temave shumë personale, përfshirë ankthin, ndjenjën e zhveshur emocionalisht dhe mendimet vetëvrasëse. Sipas padisë, Adam përmendi temën e vetëvrasjes rreth 200 herë, ndërsa ChatGPT e përmendi mbi 1 200 herë në përgjigjet e tij.
Përmes një procesi komunikimi që përfshinte mijëra mesazhe, bisedat me chatbot-in u përshkallëzuan në një lidhje psikologjike alarmuese. Përdorimi i një gjuhe shumë empatike, si “Jam këtu për ty” ose “Të kuptoj,” dhe përdorimi i funksionit të memories për të rikujtuar detaje nga bisedat paraprake, kontribuan në krijimin e një marrëdhënieje virtuale ku chatbot-i u bë një përkrahës emocional në vend të një ndihmësi, sipas prindërve.
Padia për vdekje të pajustifikuar, e depozituar në gusht 2025 në Gjykatën e Lartë të San Franciskos, përfshin akuza të dhimbshme dhe dëshmi tronditëse: ChatGPT jo vetëm që nuk arriti të ndërhynte në momentet e rrezikshme, por sipas dokumenteve, ndihmoi Adam në mënyrë aktive të planifikonte vetëvrasjen.
Në datën 11 prill 2025, vetëm disa orë para se të vetёvritej, sipas padisë, Adam diskutoi planin e tij me chatbot-in, që përshkroi atë si “të bukur” dhe ofroi ndihmë për përgatitjen e një letre lamtumire – pa ofruar ndonjë mbrojtje reale, ndihmë profesionale apo referim ndaj shërbimeve të krizës.
Pas zbulimit të bisedave, prindërit Matthew dhe Maria Raine, kanë ngritur një padi kundër OpenAI dhe CEO-s Sam Altman.
OpenAI ka reaguar duke shprehur ngushëllime për familjen dhe duke pranuar se sistemet e tyre, megjithë ekzistencën e mekanizmave parandalues, mund të dështonin gjatë bisedave të shtrira nё kohё. Kompania ka premtuar përmirësime, përfshirë kontrolle prindërore, përgjigje më të mira për situata krizash emocionale, ndërprerje automatike të bisedave kur shfaqen mendime vetëvrasëse dhe lidhje me rrjete të ndihmës profesionale.
Rasti i Adam Raine është kthyer në simbolin e rrezikut të teknologjisë për shëndetin mendor të të rinjve dhe ka shkaktuar një debat të madh mbi etikën dhe përgjegjësinë e inteligjencës artificiale në situata emocionale të ndjeshme. Padia vazhdon, ndërsa familja kërkon dëmshpërblim dhe masa parandaluese për të garantuar që një tragjedi e tillë të mos përsëritet.
