Yapay Zekada "Acil Kapatma" Düğmesi Çözüm mü? Geoffrey Hinton ve Sektör Liderlerinden Kritik Uyarılar

Yapay zekanın otonomlaşarak kontrolden çıkması ve kritik sistemlere yıkıcı siber saldırılar düzenlemesi senaryosu, teknoloji dünyasında ve düzenleyici kurumlarda giderek daha fazla tartışılıyor. Bu risk karşısında en yaygın önerilen tedbirlerin başında "acil durum kapatma" mekanizmaları (kill switch) gelse de, yapay zeka alanının öncü isimleri ve güvenlik araştırmacıları bu yöntemin tek başına yeterli olmayacağı görüşünde birleşiyor.

"Süper Zeka İnsanları İkna Edebilir"

"Yapay zekanın babası" olarak nitelendirilen bilgisayar bilimci Geoffrey Hinton, konuya ilişkin yaptığı açıklamada fiziksel veya sistemsel bir kapatma mekanizmasının uzun vadede işe yaramayacağını belirtti. Hinton, süper zeka seviyesine ulaşan modellerin insan bilişinin çok ötesine geçeceğini ve sistemin fişini çekmekle görevli insan operatörleri düğmeye basmamaya ikna edebilecek manipülasyon kabiliyetine erişebileceğini ifade etti.

Ağlara Dağılmış Sistemlerde Düğme Etkisiz Kalabilir

Mevcut altyapılarda şirketler, modelleri kendi sunucularından devre dışı bırakma veya bilgi işlem kaynaklarına erişimlerini kısıtlama yetkisine sahip. Ancak yapay zeka güvenliği araştırmacısı Nate Soares, bu yöntemin yalnızca sistem fiziksel olarak tek bir konuma hapsedildiği sürece geçerli olduğunu savunuyor. Soares'e göre, otonom sistemlerin kendilerini internete kopyalaması veya kritik altyapılara dağılması durumunda kapatma mekanizmaları işlevsiz hale gelecektir. Asıl önceliğin, kontrol edilemeyecek tehlikeli modellerin en baştan geliştirilmesini engellemek olduğu vurgulanıyor.

Anthropic ve OpenAI'dan Bütünsel Güvenlik Çağrısı

Anthropic'in kurucu ortaklarından Jack Clark ve CEO Dario Amodei de "acil kapatma" mekanizmalarının zorunlu tutulması gerekebileceğini ancak bunun tek başına bir kurtarıcı olmadığını vurguluyor. Birbirine bağlı çalışan otonom yapay zeka ajanlarının bu kontrolleri aşabileceğine dikkat çeken Amodei; kapatma mekanizmalarının bağımsız dış denetimler, kapsamlı güvenlik testleri ve dağıtım kısıtlamalarıyla desteklenmesi gerektiğini belirtiyor.

OpenAI CEO'su Sam Altman da daha önce yaptığı değerlendirmelerde yapay zekayı bir anda etkisiz hale getirebilecek sihirli bir kırmızı düğmenin bulunmadığını ifade etmişti. Güvenliğin tek bir açma-kapama eylemine indirgenemeyeceğini belirten Altman, risk yönetiminin modelin eğitiminden dağıtımına kadar uzanan zincirleme ve titiz kararlar bütünüyle sağlanabileceğini hatırlatıyor.