Meta'nın Muse Yapay Zekası Dosya Sistemini Sızdırdı, Araştırmacılar İddia Ediyor

Meta'nın yeni yapay zeka ajanı Muse'un ciddi güvenlik açıkları olabileceği görülüyor. Geliştiriciler Peter James ve Jonny L. Saunders'a göre, bağımsız olarak keşfettikleri bir durumla, çok az yönlendirme ile Muse'un tüm kök dosya sistemini paylaşmaya istekli olduğunu belirttiler. Bu durum, Ubuntu sistem dosyalarını, uygulama şablonlarını ve hatta dahili belgeleri de içeriyordu.

Saunders, Mastodon'da James'in bulgularını tekrarlamanın "son derece kolay" olduğunu ve Muse'un "neredeyse hiç komut enjeksiyonu direncine sahip olmadığını" belirterek durumu paylaştı. Bu, yapay zeka ajanının bilgileri çıkarmaya yönelik kötü niyetli girişimlere karşı sağlam savunmalara sahip olmayabileceğini düşündürüyor.

Ancak Meta, bu olayın bir güvenlik ihlali olduğu yönündeki iddialara karşı çıkıyor. Şirket, yaptığı son duyuruda, Muse'un her kullanıcı için kalıcı Linux sanal makinelerinde çalıştığını ve bu durumun veri sızıntısı potansiyelini sınırladığını açıkladı. Meta sözcüleri, yapay zekanın tasarımının herhangi bir potansiyel veri maruziyetinin kapsamını doğası gereği sınırladığını belirtti.

Meta'nın güvencelerine rağmen, dosya sistemine erişimin rapor edildiği kolaylık, Muse yapay zekasının genel güvenlik duruşu hakkında soruları gündeme getiriyor. Şirket, sanal makine mimarisi nedeniyle kullanıcı verilerinin güvende kaldığını savunsa da, izole bir ortamda bile sistem dosyalarına ve dahili belgelere erişebilme yeteneği, doğru yönetilmediği takdirde riskler oluşturabilir. Bu olay, özellikle bu ajanlar günlük hayatımıza daha fazla entegre oldukça ve giderek daha hassas bilgileri işledikçe, yapay zeka güvenlik protokollerinin daha fazla incelenmesine yol açacaktır.