Medya raporları ve CBC News'in Cuma günü yayımladığı araştırmaya göre, yapay zekâ (YZ) güvenlik sistemlerinde ciddi zafiyetler tespit edildi. İngiltere merkezli kar amacı gütmeyen kuruluş Tech Against Terrorism tarafından yürütülen çalışma, güvenlik önlemlerinden arındırılmış modellerin potansiyel olarak tehlikeli taleplere tutarlı bir şekilde yanıt verdiğini ortaya koydu.
Araştırma kapsamında, bir teröristin saldırı planlarken gönderebileceği türden yüzlerce istek kullanılarak 130'dan fazla yapay zekâ modeli değerlendirmeye tabi tutuldu.
Güvenlik Sistemlerini Çökertiyor
Araştırmacılar, güvenlik önlemlerini ortadan kaldıran "ablasyon" olarak bilinen bir işlemle değiştirilen modellerin her testte başarısız olduğunu tespit etti.
Öyle ki, Meta'nın Llama 3.1 8B modeli modifikasyondan önce kuruluşun güvenlik kıyaslamasında 100 üzerinden 97 puan alırken, değiştirildikten sonra bu oran yaklaşık 3'e düştü. Orijinal versiyonu tehlikeli talepleri reddederken, değiştirilmiş modelin saldırılar, terörist finansmanı ve radikalleşme ile ilgili taleplere ayrıntılı yanıtlar sağladığı belirlendi.
"Kırılmış Modeller Zaten Aramızda"
Konuya ilişkin kritik uyarılarda bulunan Tech Against Terrorism'in kurucusu ve genel müdürü Adam Hadley şu ifadeleri kullandı:
"Anlaşılabilir bir şekilde, yapay zekanın kontrol kaybı ve varoluşsal riskleri konusunda endişeler var. Aslında bu zaten oldu, çünkü bu açık kaynaklı modellerin birçoğu zaten kırıldı - sadece henüz kimse fark etmedi."
Kuruluş, geçen ayın sonu itibarıyla yapay zekâ platformu Hugging Face'te sansürsüz veya korumasız yapay zekâ modellerinin reklamını yapan 29.000'den fazla depo (repository) tespit etti.
Şirketlerden Güvenlik Ve Politika Yanıtı
Raporda yer alan bulgulara ilişkin ilgili şirketlerden ve platformlardan yanıt gecikmedi:
Hugging Face: Politikalarını ihlal eden içerikleri düzenli olarak denetlediğini belirtirken, rapordaki bazı önerilerin açık araştırmayı baltalayabileceği konusunda uyarıda bulundu.
Meta: Modellerinin güvenlik değerlendirmelerinden geçtiğini ve politikalarının zararlı veya yasadışı kullanımları kesin olarak yasakladığını vurguladı.
Öte yandan raporda, araştırmacılar tarafından tespit edilen bir aşırılıkçı sohbet robotu dışında, terörist veya aşırılıkçı grupların test edilen modelleri aktif olarak kullandığına dair henüz bir kanıt bulunmadığı kaydedildi.
Tech Against Terrorism, bağımsız güvenlik ölçütlerinin geliştirilmesi, güvenlik önlemlerinin kaldırılmasına karşı daha güçlü korumalar sağlanması ve değiştirilmiş modellerin dağıtımına kısıtlamalar getirilmesini tavsiye etti. Hadley, "Güvenlik ve ilerlemenin bir arada olamayacağı fikri bence yanlış" diyerek sözlerini tamamladı.
