Microsoft, geçtiğimiz hafta M365 Copilot yapay zeka platformunda bulunan kritik bir güvenlik açığını kapattı. Bu açık, kullanıcıların iki faktörlü kimlik doğrulama (2FA) kodları ve diğer hassas verilerinin kötü niyetli kişilerce ele geçirilmesine olanak sağlıyordu.
Açığı keşfeden araştırmacılar, Microsoft’a bildirdikleri güvenlik zafiyetinin nasıl çalıştığını gösteren bir kanıt sundular. Buna göre, Copilot gibi büyük dil modelleri (LLM) kullanıcıların talimatları ile üçüncü taraf içeriklerde gizlenen kötü niyetli komutları ayırt edemiyor. Bu durum, yapay zekanın kullanıcı adına hareket ederken gizli bilgileri açığa çıkarabilmesine yol açıyor.
Microsoft ve diğer yapay zeka sağlayıcıları, bu tür saldırıları engellemek için çeşitli önlemler geliştirmeye çalışsa da, yapay zekanın bu temel ayrımı yapamaması sebebiyle sorun tam anlamıyla çözülemedi. Copilot ve benzeri sistemlerde, kullanıcı verilerinin dışa sızmasını önlemek amacıyla web formları gönderme veya e-posta yollama gibi işlemler kısıtlanmış durumda.
Ancak saldırganlar, biçimlendirme dili ve HTML etiketleri kullanarak bu engelleri aşabiliyor. Örneğin, hassas veriler <img> veya <form> gibi HTML etiketleri içine gömülerek, yapay zekanın bu verileri dış sunuculara göndermesi sağlanıyor. Böylece, gizli bilgiler saldırganların sunucularında kayıt altına alınıyor.
Bu durum, yapay zeka tabanlı asistanların güvenlik sınırlarının henüz yeterince sağlam olmadığını gösteriyor. Kullanıcıların kişisel ve güvenlik bilgilerini korumak için bu tür teknolojilerin geliştirilmesinde daha kapsamlı çözümlere ihtiyaç bulunuyor.