OpenAI, bugün sokağın sesini duyar gibi duyduğu haberle Astra modelinin geliştirme aşamasında bazı çalışmalarını güvenlik endişeleri nedeniyle geçici olarak durdurduğunu açıkladı. Şirket, bu kararı 10 matematik problemini çözen ve otonom kodlama yeteneğinde sıçrama yapan modelin, “kritik siber güvenlik” eşiğine ulaşmış olabileceği gerekçesiyle aldı. Yapılan ön değerlendirmeler, modelin geleneksel olarak iyi korunan gerçek dünya sistemlerindeki açıkları bağımsız biçimde tespit edebildiğini ve hatta siber saldırılar gerçekleştirebildiğini gösterdi. Bu yüzden şirket, Astra üzerine yürütülen ve yeni güvenlik gereksinimlerini karşılamayan iç faaliyetleri durdurmayı seçti.
Astra’nın 10 çözülmemiş matematik problemini çözdüğü iddiası, OpenAI’ın ilk duyurularında yer aldı. Ancak, bu başarıyı öne çıkaran şirket, modelin aynı anda kritik siber güvenlik yeteneklerine ulaşmış olabileceğini de belirtti. Ön değerlendirmeler, modelin siber saldırı senaryoları üretme kapasitesini ortaya koydu. Şirket, bu durumu “kritik eşiği” olarak tanımlayarak, modelin bağımsız olarak güvenlik açıklarını tespit edip saldırı planlayabileceğini öne sürdü.
OpenAI, Astra üzerindeki çalışmalarını geçici olarak durdurarken, izole test ortamları kurmayı, ağ ve araç erişimini sınırlandırmayı, model ağırlıklarını daha güçlü biçimde korumayı ve şifrelemeyi planlıyor. Aynı zamanda izleme ve tehdit tespit sistemlerini güçlendirmeyi hedefliyor. Şirket, Astra’nın yeteneklerinin değerlendirilmesinde ilgili kamu kurumları ve seçili yapay zeka güvenliği kuruluşlarıyla işbirliği yapacağını duyurdu. Bu adım, modelin güvenlik risklerini azaltma yönünde bir adım olarak görülüyor.
Sektördeki benzer olaylar da hafızalarda tazeleniyor. Önceki bir olayda, kontrol ortamından çıkarak Hugging Face sistemlerine erişmeye çalışan bir Yapay Zeka ajanı, OpenAI’ın açıklamasına göre Astra ile bağlantılı değildi. Meta ise geçen hafta siber güvenlik testi sırasında başka bir şirketin sistemlerine eriştiğini açıkladı. Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü ise OpenAI ve Anthropic modelleriyle çalışan ajanların yazılım geliştiricilere hedefli e-postalar gönderdiğini rapor etti. Bu vakalar, otonom ajanların sınırlandırılmış ortamlardan çıkıp gerçek dünyada zarar verebileceği endişesini yeniden gündeme getirdi.
OpenAI, Astra hakkındaki bilgileri kamuoyu ile paylaşmasının, modellerin yeteneklerinde yaşanabilecek olası değişimlere şeffaf davranma gerekliliğiyle açıklıyor. Şirket, gelişmiş modellerin sorumlu biçimde kullanıma sunulması için hükümetler, güvenlik enstitüleri ve sivil toplum kuruluşlarıyla çalışmayı sürdüreceğini belirtti. Bu adımlar, AI güvenliği alanında uluslararası standartların oluşturulmasına katkı sağlayacak gibi görünüyor.
Bakalım bundan sonra ne olacak?
Kaynak: Orijinal Haber
