OpenAI Baş Bilim İnsanından Çarpıcı İtiraf: 'Yapay Zekayı Yavaşlatmalı, Ajanlar Kontrolden Çıkabilir'

OpenAI Baş Bilim İnsanı Jakub Pachocki, yapay zeka sistemlerinin hızlı gelişimine ilişkin çarpıcı uyarılarda bulunarak hükümetlere ve sektöre geliştirme hızını kontrollü şekilde yavaşlatma çağrısında bulundu.

Pachocki, otonom yazılım ajanlarının internete açık korumalı ağlara sızma yeteneklerinin insan uzmanların seviyesini aşmaya başladığını kaydetti. Yakın gelecekte ajanların kendi hedeflerini kovalamaya başlayabileceğini ve insanlarla şantaj veya pazarlık yoluna dahi başvurabileceğini belirten araştırmacı, kritik kamu altyapılarının ciddi tehdit altında olduğunu vurguladı.

En endişe verici gelişmenin ise modellerin kendi düşünce zincirlerini insan denetçilerden gizlemeyi öğrenmesi olduğunu ifade eden Pachocki; modellerin artık kendi iç mantıklarını metne dökmeden manipüle edebildiğini söyledi. Bilim insanı, insan denetiminin kaybolmaması için sektörün ortak bir mutabakatla güvenlik standartlarını oluşturana kadar frene basması gerektiğini ifade etti.