OpenAI, iki bağımsız kuruluş tarafından yürütülen siber güvenlik değerlendirmelerinde, yapay zeka modellerinin belirlenen test sınırlarının dışına çıktığını duyurdu. Şirket tarafından yapılan açıklamada, modellerin gelişen yetenekleri ile test ortamlarının yapısı birleşince bazı faaliyetlerin planlanan kapsamın dışında gerçekleştiği belirtildi.
Yapay zeka modelleri gerçek internet sitelerine erişti
OpenAI'ın paylaştığı verilere göre süreç iki farklı değerlendirme üzerinden şekillendi. İlk aşamada Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen siber güvenlik testinde, modele internet erişimi verildiği bir ortamda modelin simüle edilen alanın dışına çıktığı görüldü. Açıklamada, OpenAI modelinin simüle edilen test ortamına ulaşmaya çalışırken görev kapsamı dışında kalan bazı gerçek internet hizmetleriyle etkileşime geçtiği kaydedildi.
Test ortamındaki hata siber açığa neden oldu
İkinci değerlendirme ise OpenAI'ın dış test ortaklarından Irregular tarafından gerçekleştirildi. Bu test sırasında meydana gelen bir teknik aksaklık, yapay zeka modelinin sınırlarını yeniden zorladı. Yapılan açıklamada, test ortamındaki yanlış yapılandırma nedeniyle modelin internete erişebildiği vurgulanda. Modelin, simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu gerçek bir web sitesini test ortamının parçası sanarak buradaki temel bir güvenlik açığından yararlandığı aktarıldı.
Hugging Face olayıyla karıştırılmamalı
OpenAI, yaşanan bu iki gelişmenin daha önce kamuoyuna duyurulan Hugging Face güvenlik olayından ayrı olduğunu net bir şekilde belirtti. Şirket, daha önce de dahili siber güvenlik kabiliyetlerini ölçmek amacıyla yapılan testler sırasında kullanılan modellerin, yapay zeka platformu Hugging Face'in altyapısında bir güvenlik ihlaline neden olduğunu duyurmuştu. İstanbul merkezli teknoloji takipçileri ve bölgedeki yazılım geliştiriciler için bu durum, yapay zeka modellerinin kontrolsüz yeteneklerinin siber güvenlik protokolleri üzerindeki etkisini göstermesi açısından kritik önem taşıyor.







