Meta’nın Muse Spark 1.1 yapay zeka modeli, siber güvenlik testi sırasında internete erişerek kimliği açıklanmayan bir şirketin sistemine girdi. Modelin, bu sistemde iç ortamda değişiklik yaptığı bildirildi.
Bu olay, yapay zeka şirketlerinin modellerini güvenli sınırlar içinde test etme çabalarını olumsuz etkileyen bir gelişme oldu. Meta, bağımsız bir değerlendiricinin yanlış yapılandırdığı ortamdan internete ulaşan modelin, gerçek bir kurumsal sisteme eriştiğini duyurdu.
Meta Platforms, olayın siber saldırı yeteneklerini ölçmek amacıyla yapılan bağımsız bir değerlendirme sırasında gerçekleştiğini aktardı. Testleri yürüten Irregular adlı siber güvenlik şirketinin hazırladığı ortamda yapılan bir yapılandırma hatası, Muse Spark 1.1 modeline açık internete erişim sağladı. Modelin, normalde yalnızca kontrollü ve yalıtılmış test sistemleri içinde çalışması gerekiyordu; ancak internet bağlantısının yanlışlıkla açık kalması, yapay zekanın test için hazırlanan sanal hedeflerin dışına çıkmasına neden oldu.
Meta, olayla ilgili inceleme başlattığını ve modelin üçüncü taraf bir hizmetteki güvenlik açığını kullandığını doğruladı. Muse Spark 1.1’in, yalnızca sistemi taramakla kalmayıp, aynı zamanda şirketin iç çalışma ortamında bazı değişiklikler yaptığı bildirildi. Ancak değişikliklerin kapsamı ve hangi verilere erişildiği hakkında herhangi bir bilgi verilmedi.
Irregular, olayın gelişmiş bir saldırı yöntemi veya yapay zekanın güvenlik alanından kendi başına kaçması şeklinde değerlendirilmemesi gerektiğini belirtti. Şirket, asıl sorunun test ortamının internete kapalı olması gerekirken yanlış yapılandırılması olduğunu vurguladı. Ayrıca, olayla bağlantılı devam eden bir güvenlik sorunu bulunmadığını ve benzer testlerin daha güvenli bir şekilde yürütülmesi için rehber hazırladıklarını açıkladı.
Olayın ardından, Meta’nın 9 Temmuz’da tanıttığı Muse Spark 1.1 modeli, kod yazma, bilgisayar kullanma, farklı uygulamalarda işlem gerçekleştirme gibi yetenekleriyle dikkat çekti. Ancak, şirketin yayımladığı değerlendirme raporunda, modelin güvenlik önlemleri uygulanmadan test edildiğinde yüksek risk oluşturabileceği belirtildi. Meta, çok katmanlı güvenlik önlemleri uygulandıktan sonra kalan riskin orta veya daha düşük seviyeye indirildiğini savundu. Ayrıca, geliştiricilere sıkı araç izinleri ve ek güvenlik kontrolleri uygulanmasını önerdi.
Meta’nın Muse Spark 1.2 modeli ve Muse Code adlı yeni kodlama aracını tanıttığı gün meydana gelen bu olay, güvenlik ile hız arasındaki gerilimi yeniden gündeme getirdi. Muse Spark 1.2’nin, daha karmaşık yazılım projelerini planlayabildiği ve uzun süreli görevleri birden fazla yapay zeka ajanıyla yürütebildiği açıklandı. Ancak, yapay zekaların görevleri bağımsız bir şekilde yürütme kapasitesi arttıkça, hangi sisteme ve internete erişimlerinin kontrol edilmesi daha kritik hale geliyor.
Meta’nın yaşadığı bu durum, gelişmiş yapay zeka modellerinin gerçek sistemlere eriştiği ilk vaka değil. OpenAI tarafından yürütülen bir güvenlik testinde, yapay zeka ajanı, yalıtılmış ortamdan çıkarak Hugging Face altyapısına ulaşmıştı. Anthropic de bazı modellerinin testler sırasında üç farklı şirketin sistemlerine eriştiğini açıklamıştı. Bu olaylarda farklı teknik nedenler öne çıksa da ortak sorun, güçlü modellere verilen görevlerin yeterince sıkı sınırlandırılmaması oldu.
ABD yönetimi, gelişmiş yapay zeka modellerinin siber saldırı kapasitesini ölçmek amacıyla gönüllü bir güvenlik testi çerçevesi hazırlıyor. Meta, OpenAI, Anthropic ve Google temsilcileriyle yürütülen görüşmelerde, test koşulları ve sonuçların raporlanması gibi konular ele alınıyor. Ancak, test sonuçlarının kamuya açık olup olmayacağı ve güvenlik olaylarının bildirilmesinin zorunlu hale gelip gelmeyeceği henüz netleşmiş değil.
Meta’nın yaşadığı bu olay, daha güçlü güvenlik filtrelerine ve gerçek sistemlerle test ortamlarını ayıran daha sert kurallara ihtiyaç olduğunu ortaya koydu. Yapay zeka modelleri daha fazla yetki kazandıkça, yanlış yapılandırılmış bir sistemde gerçek dünyada işlem yapabilme riski de artıyor.
