OpenAI Eski Güvenlik Şefi David Robinson Eski Şirketine Ateş Püskürdü: 'Söyledikleri Başka, Yaptıkları Başka'

Yapay zeka şirketlerinin güvenlik söylemleri ile ticari hedefleri arasındaki çelişki, içeriden gelen üst düzey istifalarla gün yüzüne çıkmaya devam ediyor. Business Insider'ın özel haberine göre, geçtiğimiz hafta OpenAI'daki görevinden resmen ayrılan Güvenlik Sistemleri Ekibi eski eşbaşkanı David Robinson, eski işvereni hakkında çok sert açıklamalarda bulunarak şirketin güvenlik politikasında «açık bir ikiyüzlülük» sergilediğini iddia etti.

'Kendi Uyardığımız Tehlikeli Modelleri Son Sürat Eğitiyoruz'

Robinson, OpenAI yönetiminin kamuoyu önünde yaptığı açıklamalarla ofis içindeki gerçeklik arasındaki uçurumu şu sözlerle ifşa etti:

«Beni asıl çileden çıkaran ve derin bir vicdan azabına sürükleyen şey tam olarak buydu: Bir yandan kamuoyuna sürekli yeni modellerin getirebileceği varoluşsal riskleri anlatan raporlar yayımlıyoruz, CEO'muz çıkıp yapay zekanın kontrol altına alınması gerektiğini söylüyor; diğer yandan ise şirket içinde bizzat kendimizin tehlikeli olduğunu belgelediğimiz o modelleri tüm gücümüzle eğitmeye ve piyasaya sürmeye devam ediyoruz.»

'Adrenalin Dolu Bir Bale Gibi: İnsanlar Tükenmişlik Yaşıyor'

Şirket içerisindeki çalışma atmosferini de anlatan eski güvenlik lideri; ofislerin tam bir aşırı çalışma ve tükenmişlik ortamına teslim olduğunu, çalışanların yüksek adrenalinle adeta «hızlı bir bale veya kontrolsüz bir dans gibi» sürekli yeni sürümleri yetiştirmek için sınırları zorladığını aktardı. Anthropic CEO'su Dario Amodei'nin sektörel yavaşlama çağrısına Sam Altman'ın sözde destek vermesine rağmen içeride tek bir fren mekanizmasının işletilmediği vurgulandı.

'Özyinelemeli Kendini Geliştirme' Uyarısı

Robinson, yapay zekanın kendi zekasını ve kodunu insan yardımı olmadan otonom olarak iyileştirmesi anlamına gelen «özyinelemeli kendini geliştirme (recursive self-improvement)» eşiğinde bulunulduğunu belirterek; OpenAI Baş Bilim İnsanı Jakub Pachocki'nin dahi bu konuda aşırı dikkat çağrısı yaptığını ancak şirketin ticari hırsının bilimsel ihtiyatın önüne geçtiğini söyledi.