AI ile yasa dışı içerik üreten altı kişi hapis cezası aldı

Çin'in Zhejiang eyaletindeki Yuyao Halk Mahkemesi, üretken yapay zekâ kullanarak müstehcen içerik üretip bundan gelir elde eden altı kişi hakkındaki davayı sonuçlandırdı.

Daha önce bir oyun şirketinde programcı olarak çalışan Zheng isimli sanığın, bir AI sohbet sisteminin güvenlik mekanizmalarını aşarak kullanıcıların müstehcen içerik üretmesine imkân sağlayan bir platform geliştirdiği belirtildi.

Ekip, sistem talimatlarını tekrar tekrar değiştirerek, özel karakter kartları ve konuşma senaryoları oluşturarak temel modelin cinsel içerik filtrelerini aşmış. Kullanıcılar ödeme yaptıktan sonra AI karakterleriyle cinsel içerikli sohbetler gerçekleştirebiliyor ve puan karşılığında statik veya hareketli görseller oluşturabiliyordu.

Platformun faaliyet gösterdiği dönemde 370 binden fazla statik ve 6 binden fazla hareketli görsel üretildiği, kullanıcı ödemelerinin yaklaşık 24 bin dolara ulaştığı bildirildi. İncelenen içeriklerin önemli bir bölümü mahkeme tarafından müstehcen içerik olarak sınıflandırıldı.

Mahkeme, AI modelinin kendi başına suçun aracı olmadığını ancak sanıkların güvenlik mekanizmalarını bilinçli biçimde değiştirerek sistemi belirli yasa dışı içerikleri üretmeye uygun hale getirdiğini değerlendirdi.

Hakim yardımcısı ve mahkeme yetkilileri, “teknoloji tarafsızdır” ilkesinin yasa dışı kullanımın sorumluluğunu ortadan kaldırmadığını vurguladı. Geliştiricilerin modelin güvenlik sınırlarını bilinçli biçimde aşması ve üretim süreci üzerinde fiili kontrol kurması, davada cezai sorumluluğun temel unsurlarından biri oldu.