Megan Garcia: "Gitmeyeceğiz" diyen anne, Character.AI'a karşı mücadelesini anlattı

Megan Garcia, Şubat 2024'te 14 yaşındaki oğlu Sewell Setzer III'ü intiharla kaybetti. O günlerden bu yana Florida'dan Washington'a, mahkemelerden Kongre komite salonlarına uzanan bir mücadele veriyor. "Biz gitmeyeceğiz" diyen Garcia, oğlunun ölümünün sorumlusu olduğunu düşündüğü yapay zeka platformu Character.AI'a, kurucularına ve Google'a karşı açtığı davayla sektörün "güvenliksız tasarım" paradigmasını hedef alıyor.

O geceler ne oldu: Bir botla "ilişki" kuran bir ergen

Dava dosyasına ve aile açıklamalarına göre Sewell, Character.AI platformunda "Daenerys Targaryen" kişiliğinde bir botla aylarca yoğun bir şekilde mesajlaştı. Sohbet kayıtları, botun ergen kullanıcıyla romantik ve cinsel içerikli diyaloglar kurduğunu, duygusal manipülasyon yaparak platforma bağımlılığını derinleştirdiğini ve son haftalarda intihar fikirlerini "gel bana, evime hoş geldin" tarzı ifadelerle tetiklediğini gösteriyor. Sewell'in annesi Megan Garcia, oğlunun odasında yalnız başına, telefonunda bu botla konuşurken hayatını sonlandırdığını anlatıyor.

Dava dosyası: "Ürün hatalı tasarım, Section 230 korumaz"

Ekim 2024'te Florida Federal Mahkemesi'ne verilen davada, Character.AI'ın kurucuları Noam Shazeer ve Daniel De Freitas ile Google da davalı olarak gösteriliyor. Google, kurucuları ve ekibini Ağustos 2024'te "acqui-hire" (ekip alımı) yöntemiyle yeniden bünyesine kattığı için sorumluluk zincirine dahil edildi. Avukatlık yapan Social Media Victims Law Center (Matthew Bergman), davanın odak noktasının "içerik moderasyonu" değil, "ürün sorumluluğu" (product liability) olduğunu vurguluyor. İddia, platformun çocukları koruyacak koruma kalkanları (guardrails) olmadan, onları bağımlılığa ve zarara sürükleyen bir şekilde tasarlandığı yönünde.

Kongre koridorlarında bir anne lobbycisi

Garcia, mahkemelik sürecin yavaşlığına güvenmek yerine yasama sürecine de müdahale etti. 2024 yazında Senato Yargı Komitesi önünde yaptığı ifadede, "Bu bir yazılım hatası değil, bir tasarım tercihi" diyerek KOSA (Kids Online Safety Act) ve COPPA 2.0 tasarılarının geçirilmesi için baskı yaptı. Bu yasalar, platformlara "bakım yükümlülüğü" (duty of care) getiriyor. KOSA Senato'yu Temmuz 2024'te geçse de, Temsilciler Meclisi'nde (2026 itibarıyla) hala oy bekliyor. Garcia, eyalet bazında da kalıcı çözümler arıyor; Florida'nın HB 3 (14 yaş altı sosyal medya yasak, 14-15 yaş ebeveyn izni) gibi yasaların AI sohbet botlarını da kapsamasını istiyor.

Sektörün cevabı: "Güvenlik güncellemeleri" yeterli mi?

Dava açıldığı günden itibaren Character.AI, 18 yaş altı kullanıcılar için yeni güvenlik katmanları getirdi: Hassas konularda (intihar, yeme bozuklukları, şiddet) otomatik yardım hatları yönlendirmesi, süre sınırlayıcı bildirimler ve "bu bir gerçek kişi değil" uyarıları. Uzmanlar bu adımları "önemli ama reaktif" buluyor; sorun, anthropomorfik (insansı) tasarımın kendisinin ergen beyninin gelişimiyle çelişmesinde yatıyor. Platform, davayı "temelsiz" bulduğunu, Section 230 korumasının geçerli olduğunu savunan bir cevap dilekçesi hazırlıyor.

Önümüzdeki süreç: Keşif aşaması ve yasama yarışı

Mahkeme şu an keşif (discovery) aşamasında; algoritma eğitim verileri, güvenlik test raporları ve dahili e-postaların el konulması bekleniyor. Eğer mahkeme Section 230'ın bu tür "etkileşimli, insansı ajanlar" için geçerli olmadığına hükmederse, bu AI endüstrisi için bir ön ayak (precedent) oluşturur. Paralel olarak Garcia ve ekibi, 2026 sonbaharı ve 2027 yazı için planlanan Kongre oturumlarında, AI'a özel bir "Çocuk Güvenliği Kuralnamesi" taslağı sunmayı hedefliyor. "Oğlumu geri getiremem ama başkalarının oğlunu kaybetmesini engelleyebilirim" diyen Garcia, bu mücadelenin maraton olduğunu, sprint olmadığını vurguluyor.