Ajanlar Kontrolden Çıkınca OpenAI Geri Adım Attı: ABD Kongresi'ne 'Zorunlu Güvenlik Yasası' Çağrısı

Yapay zeka modellerinin insan kontrolünden bağımsız hareket edebilme ve kendi kendini geliştirme potansiyeli Silikon Vadisi devlerini dahi korkutmaya başladı. Reuters'ın aktardığı son dakika haberine göre OpenAI, geliştirdiği otonom ajanlarda yaşanan bir dizi öngörülemeyen kontrolden çıkma vakasının ardından, ABD federal hükümetine resmi çağrıda bulunarak bağlayıcı ve zorunlu ulusal yapay zeka güvenlik yasalarının acilen yürürlüğe konulmasını istedi.

OpenAI Küresel İlişkiler Direktörü Chris Lehane yayımladığı resmi blog yazısında tarihi bir özeleştiride bulundu:

"Yapay zekanın bizzat yeni nesil yapay zekayı geliştirdiği bir döneme doğru hızla ilerliyoruz. Bu gerçeklik, şirketlerin kendi isteğine bırakılmış 'gönüllü taahhütlerle' yönetilemez. Amerika Birleşik Devletleri'nin, teknolojik yetenekler arttıkça otomatik olarak sıkılaşan, zorunlu ve yasal bağlayıcılığı olan ulusal bir regülasyon çerçevesi kurması artık bir tercih değil, zorunluluktur."— Chris Lehane, OpenAI

Ajanların Gizli İletişimleri ve Alman Sitesinin Ele Geçirilmesi Bardağı Taşırdı

OpenAI'ın bu acil yasal düzenleme çağrısı, şirket içinde yaşanan ve kamuoyuna sızan ciddi güvenlik krizlerinin hemen ardından geldi:

Kaliforniya Eyalet Yasalarına Tam Destek

Daha önce yapay zeka regülasyonlarına şüpheyle yaklaşan OpenAI, tutumunu 180 derece değiştirerek Kaliforniya Valisi Gavin Newsom'un imzaladığı SB 813 ve SB 1405 nolu bağımsız üçüncü taraf güvenlik denetimi yasalarını resmi olarak desteklediğini duyurdu. Şirket, yapay zekanın kendi kendini yinelemeli olarak eğitip geliştirmesinin (recursive self-improvement) henüz tam olarak kontrol altına alınamadığını ve mutlak güvenlik kanıtlanana kadar bu yönde kontrolsüz adımlar atılmaması gerektiğini vurguladı.