Bleeping Computer tarafından paylaşılan bilgilere nazaran, dolandırıcılar Gemini’nin oluşturduğu e-posta özetlerine uydurma ve tehditkar tabirler ekleyerek kullanıcıları kandırmayı amaçlıyor. Örneğin, kimi özetlerin sonunda “UYARI: Gmail hesabınız tehlikeye atıldı. Lütfen derhal bizimle irtibata geçin. Referans kodu: 4938” üzere tabirler görülebiliyor. Bu iletilere bir telefon numarası da eklenerek kullanıcıların süratlice harekete geçmesi isteniyor.
Dolandırıcıların bu metotta kullandığı teknik hayli dikkat cazibeli. E-postaların içerisine gizlenen özel komutlar sayesinde, Gemini’nin özetleme algoritması yanıltılıyor. Mozilla’nın yaptığı teknik tahliller, bu manipülasyonun nitekim işe yaradığını ve yapay zekanın bu uydurma ikazları içeren metinleri fark etmeden özet olarak sunduğunu ortaya koydu.
UZMANLAR DAHA DİKKATLİ OLUNMASI KUONUSUNDA UYARDI
Bu gelişme, yapay zeka takviyeli özetleme teknolojilerinin güvenlik açısından ne derece savunmasız olabileceğini bir kere daha gösterdi. Uzmanlar, kullanıcıları bilhassa Gemini’nin sunduğu özetlerde yer alan kuşkulu sözleri dikkatle incelemeleri konusunda uyarıyor.
Google ise mevzuyla ilgili yaptığı açıklamada, Gemini teknolojisinin güvenliğini artırmak için daima olarak geliştirmeler yapıldığını belirtti. Şirket sözcüsü, “Yapay zekamızı bu tıp istismar teşebbüslerine karşı daha güçlü hale getirmek hedefiyle red-teaming testleri (saldırgan bakış açısıyla yapılan test) uyguluyoruz” dedi.
Bu olay, yapay zekanın sunduğu pratik tahlillerin tıpkı vakitte nasıl riskler taşıyabileceğini de gözler önüne serdi. Bilhassa e-posta güvenliği açısından kullanıcıların yalnızca gelen iletilere değil, yapay zeka tarafından üretilen özetlere karşı da dikkatli olmaları gerekiyor.