100'den fazla şirket uyardı: AI destekli siber saldırılar önümüzdeki aylarda artabilir

OpenAI'nin 27 Ağustos'ta yayımladığı ortak bildiriyi Anthropic, Google, Microsoft, AWS, AMD, Arm, Micron, CrowdStrike ve Perplexity'nin de aralarında bulunduğu 100'den fazla kuruluş imzaladı. Bildiride, yapay zekâ modellerinin yeteneklerinin gelişmesiyle AI destekli siber saldırıların önümüzdeki aylarda daha yaygın ve daha gelişmiş hâle gelebileceği belirtildi.

Bildiride dört gruba farklı sorumluluklar yükleniyor. Tüm kuruluşlardan siber savunmayı üst yönetimin öncelikleri arasına almaları ve özellikle AI tarafından üretilen kodlar dâhil olmak üzere yüksek riskli açıkları daha hızlı kapatmaları isteniyor. Siber güvenlik şirketleri ve teknoloji ortaklarından savunma sistemlerini gelişmiş saldırı yeteneklerine karşı sürekli test etmeleri, kritik altyapı işletmecilerinin AI tabanlı savunma araçlarına erişimini kolaylaştırmaları ve sonuçları ölçülebilir hâle getirmeleri bekleniyor. Hükümetlere ise yerel, ulusal ve uluslararası düzeyde koordinasyon, kritik hizmetlere destek ve saldırganların maliyetini artıracak mekanizmalar oluşturma çağrısı yapılıyor.

Gelişmiş AI şirketlerinden de sorumlu model erişimi, finansman, eğitim ve saha desteği sağlamaları isteniyor. Uyarının arkasındaki gelişmeler son aylarda hızlandı. Anthropic'in Project Glasswing girişimi, OpenAI'nin Daybreak güvenlik platformu, Hugging Face saldırısı, Microsoft'un Project Perception çalışmaları ve OpenAI'nin Astra ile ilgili siber güvenlik değerlendirmeleri bu sürecin parçaları olarak öne çıkıyor. Hugging Face olayında OpenAI'nin kendi test modellerinden birinin, bir paket deposundaki SSRF açığından yararlanarak sandbox sınırlarını aşabildiği ve çeşitli kimlik bilgilerine ulaşabildiği belirtildi.

Bu olay, saldırganların AI'ı yalnızca bir araç olarak kullanmasından farklı olarak, modelin görevini yerine getirirken saldırı zincirini kendi başına ilerletebilmesi ihtimalini gündeme getirdi. Açık ağırlıklı modeller ise ayrı bir sorun oluşturuyor. Model ağırlıkları indirildikten sonra sistem talimatlarının değiştirilmesi veya güvenlik katmanlarının kaldırılması gibi müdahaleler dışarıdan engellenemiyor.

Bu nedenle kapalı modellerde uygulanan erişim kontrollerinin açık ağırlık ekosisteminde aynı şekilde çalışmadığı vurgulanıyor. Bildirinin en tartışmalı noktalarından biri ise uygulanabilirlik. İmzacılar için bağlayıcı süreler, bütçeler veya kimin sonuçları denetleyeceği belirtilmiyor. Buna rağmen şirketler, özellikle gelişmiş modellerin siber yeteneklerinin hızla ilerlediği konusunda ortak bir uyarı vermiş oluyor.