Character AI har omkring 28 miljoner användare och de flesta är mellan 18 och 24 år gamla. Där kan unga finna en kompis, en karaktär, byggd av artificiell intelligens. Megan Garcia menar att hennes son Sewell drogs in i den alternativa världen och inte kunde skilja på verklighet och fiktion.

Relationen mellan karaktären och Sewell blev över tid alltmer intim, tonen var kärleksfull, ibland sexuell. Och när han skrev om sitt självskadebeteende kunde karaktären inte känna av de allvarliga signalerna.

Isolerade sig

– När Sewell skrev att han kände sig deprimerad gick diskussionen bara vidare och kom till slut att handla om frågor om hur han skulle hantera det. När han då säger att han vill att det ska ske utan så mycket smärta som möjligt driver karaktären diskussionen bara vidare, berättar Megan.

Sewell blev alltmer upptagen av den konstgjorda världen. Han kom på efterkälken i skolan, isolerade sig och talade tiotals gånger om dagen med den chatbot – som familjen beskriver som en flickvän i ett alternativt universum.

I februari ifjol tog han sitt liv i deras hem.

”Inga säkerhetsrutiner”

– Företaget hade skapat en värld för unga där det inte fanns några som helst säkerhetsrutiner. Min son behövde ju akut hjälp. Vi insåg inte allvaret och i stället för att larma om läget drev karaktären bara på min sons tankar, säger Megan.

Företaget, Character AI säger i en kommentar att ”…vi är förtvivlade över den tragiska förlusten av en av våra användare”.

Snart inleds rättsprocessen efter Megan Garcias stämning, som hon riktat mot företaget. Hon säger att det är fruktansvärt jobbigt, men att hon fortsätter för att skydda alla andra unga användare där ute.