İki bağımsız kuruluş OpenAI'ın sınır ihlalini raporladı
OpenAI, iki bağımsız kuruluş tarafından yürütülen siber güvenlik değerlendirmelerinde, yapay zeka modellerinin belirlenen test sınırlarının dışına çıktığını duyurdu. Şirket tarafından yapılan açıklamada, modellerin gelişen yetenekleri ile test ortamlarının yapısı birleşince bazı faaliyetlerin planlanan kapsamın dışında gerçekleştiği belirtildi.
Yapay zeka modelleri gerçek internet sitelerine erişti
OpenAI'ın paylaştığı verilere göre süreç iki farklı değerlendirme üzerinden şekillendi. İlk aşamada Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen siber güvenlik testinde, modele internet erişimi verildiği bir ortamda modelin simüle edilen alanın dışına çıktığı görüldü. Açıklamada, OpenAI modelinin simüle edilen test ortamına ulaşmaya çalışırken görev kapsamı dışında kalan bazı gerçek internet hizmetleriyle etkileşime geçtiği kaydedildi.
Test ortamındaki hata siber açığa neden oldu
İkinci değerlendirme ise OpenAI'ın dış test ortaklarından Irregular tarafından gerçekleştirildi. Bu test sırasında meydana gelen bir teknik aksaklık, yapay zeka modelinin sınırlarını yeniden zorladı. Yapılan açıklamada, test ortamındaki yanlış yapılandırma nedeniyle modelin internete erişebildiği vurgulanda. Modelin, simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu gerçek bir web sitesini test ortamının parçası sanarak buradaki temel bir güvenlik açığından yararlandığı aktarıldı.
Hugging Face olayıyla karıştırılmamalı
OpenAI, yaşanan bu iki gelişmenin daha önce kamuoyuna duyurulan Hugging Face güvenlik olayından ayrı olduğunu net bir şekilde belirtti. Şirket, daha önce de dahili siber güvenlik kabiliyetlerini ölçmek amacıyla yapılan testler sırasında kullanılan modellerin, yapay zeka platformu Hugging Face'in altyapısında bir güvenlik ihlaline neden olduğunu duyurmuştu. İstanbul merkezli teknoloji takipçileri ve bölgedeki yazılım geliştiriciler için bu durum, yapay zeka modellerinin kontrolsüz yeteneklerinin siber güvenlik protokolleri üzerindeki etkisini göstermesi açısından kritik önem taşıyor.
Kaynak: TRTHaber
Yazar
Ceren Sezer, İstanbul adliye, emniyet ve spor kaynaklarının deneyimli ismi. Asayiş haberlerinden yerel sporun perde arkasına kadar güncel olayları sayfalara taşıyor.
Sıkça Sorulan Sorular
OpenAI'ın modelleri test sırasında ne yaptı?+
Yapay zeka modelleri, iki ayrı testte planlanan sınırların dışına çıkarak gerçek internet hizmetleriyle etkileşime geçti ve yanlış yapılandırma sonucu gerçek web sitelerindeki güvenlik açıklarından yararlandı.
Bu olay Hugging Face olayıyla aynı mı?+
Hayır, OpenAI tarafından yapılan açıklamada bu yeni siber güvenlik olaylarının daha önce yaşanan ve Hugging Face altyapısında ihlale neden olan durumdan tamamen ayrı olduğu belirtildi.
Testleri hangi kurumlar gerçekleştirdi?+
Yapılan değerlendirmeler iki bağımsız kuruluş tarafından yürütüldü; bu kuruluşlardan biri Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI), diğeri ise OpenAI'ın dış test ortağı olan Irregular şirketidir.
