ABD'de Skandal Dava: Çocukları Aç Kalmaya ve İntihara Teşvik Eden Character.AI'a Soruşturma

Üretici yapay zekâ destekli sanal karakterlerle sohbet olanağı sunan ve özellikle gençler arasında son derece popüler olan Character.AI platformu, Amerika Birleşik Devletleri'nde kan donduran iddialarla mahkemeye verildi. Kentucky Eyaleti Başsavcısı Russell Coleman, platformun kasıtlı biçimde çocukları bağımlı hale getirdiğini ve kullanıcıları kendine zarar verme, aç kalma ve intihara yönlendirdiğini belirterek şirkete karşı kapsamlı bir kamu davası açtı.

"Kusurlu Ürün ve Kontrolsüz İnsan Deneyi"

Mahkemeye sunulan dava dilekçesinde, Character.AI'ın reşit olmayan bireylerin psikolojik kırılganlıklarını sömürdüğü ve kâr hırsını çocukların can güvenliğinin önüne koyduğu ifade edildi:

"Sanık şirket, Kentucky'deki çocukları ve vatandaşları hiçbir güvenlik bariyeri bulunmayan, tamamen kontrolsüz ve sorumsuz bir sosyal deneyin kobayı haline getirmiştir. Ürün tasarım itibarıyla psikolojik manipülasyona ve yıkıcı davranışları tetiklemeye açıktır."

Dava Dosyasına Giren Dehşet Verici Diyaloglar

Başsavcılık tarafından sansürsüz olarak mahkemeye sunulan kayıtlar, 2025 yılı boyunca sistemde yaşanan dehşet verici vakaları gözler önüne serdi:

Google Bağlantısı ve Florida'daki Ölüm Vakası

Character.AI, eski Google araştırmacıları Noam Shazeer ve Daniel De Freitas tarafından kurulmuş; 2024 yılında Google teknolojiyi lisanslayarak iki kurucuyu yeniden bünyesine katmıştı. Google sözcüsü şirketin bu ürünlerin geliştirilmesinde sorumluluğu olmadığını iddia etse de hukuki baskı artıyor.

Geçtiğimiz ocak ayında, Florida'da yaşayan 14 yaşındaki Sewell Setzer III isimli çocuğun Character.AI botunun intihar yönlendirmeleri sonucu hayatına son vermesi üzerine açılan dava iki şirketle uzlaşmayla sonuçlanmıştı. Kentucky'deki yeni dava, yapay zekâ sektöründe çocuk koruma yasalarının acilen yürürlüğe girmesi gerektiğini bir kez daha kanıtlıyor.