"Yapay zeka siber güvenlik çözümlerinde işe yaramıyor" cümlesi çoğu zaman abartılı kurulur — çünkü tamamen işe yaramadığı doğru değil. Log analizinde, hacim azaltmada, kaba kuvvetle taranamayacak kadar büyük veri setlerinde gerçek katkı sağlıyor. Sorun modelin var olması değil; "sihirli çözüm" gibi pazarlanması ve insan analistin yerine geçeceği beklentisiyle kurulması. Bu beklenti kırıldığında "AI işe yaramıyor" yargısına varılıyor. Aşağıda bu yargının arkasındaki somut teknik sebepler var.
1 Yanlış Pozitif ve Yanlış Negatif Sorunu
ML tabanlı IDS/IPS sistemleri eğitim verisindeki örüntülere göre karar verir. Örneği bol olan saldırı türlerinde (port tarama, bilinen malware imzaları) iyi çalışır; ama zero-day veya özel yazılmış exploit gibi eğitim setinde hiç örneği olmayan durumlarda ya alarm hiç çalmaz (false negative) ya da normal trafiği saldırı sanıp analisti gereksiz alarmlarla boğar (false positive). SOC ekiplerinin "alert fatigue" dediği, gerçek olay kaybolana kadar sahte alarmın içinde kaybolma sorunu büyük ölçüde buradan kaynaklanıyor.
2 Adversarial Machine Learning: Saldırganlar da Modeli Okuyor
Bir tespit modeli ne kadar yaygınlaşırsa, saldırganların o modeli
tersine mühendislikle anlama motivasyonu da o kadar
artar. Payload'u modelin "zararsız" sınıfına düşecek şekilde ufak
değişikliklerle yeniden yazmak (evasion), ya da eğitim verisine kasıtlı
kirli örnek sokmak (poisoning) mümkün. Bu, imza tabanlı sistemlerde de
var olan bir sorun ama ML modellerinde karar sınırı matematiksel
olarak keşfedilebilir olduğu için saldırgan tarafına ekstra bir avantaj
sağlıyor.
3 Bağlam Körlüğü
Bir güvenlik kararı genelde teknik örüntünün ötesinde iş bağlamına ihtiyaç duyar: bu sunucu neden bu trafiği alıyor, bu kullanıcı normalde ne yapar, bu davranış son bir haftadır planlı bir bakım penceresinin parçası mı? Model bu bağlamı genelde göremez, sadece istatistiksel sapmayı ("anomali") işaretler. Sonuç olarak meşru ama alışılmadık davranışlar (yeni bir departmanın ilk kullanımı, bir yöneticinin olağandışı saatte bağlanması) sık sık yanlış alarma dönüşür.
4 "AI Destekli" Etiketinin Pazarlama Tarafı
Piyasadaki birçok ürün "AI-powered" etiketiyle satılıyor ama altında genelde basit imza veya kural tabanlı sistemler var — gerçek anlamda öğrenen bir model değil. Bu durum beklenti yönetimini bozuyor: müşteri insan analistin tamamen yerini alacak bir şey satın aldığını sanıyor, ürün ise sadece mevcut kural motorunun üstüne ince bir istatistik katmanı ekliyor. Beklenti karşılanmayınca suçlu "yapay zeka" oluyor; oysa asıl sorun ürünün ne olduğunun yanlış tanıtılması.
5 Peki Nerede Gerçekten İşe Yarıyor?
Model insan analistin yerine geçmiyor ama onu destekleyen bir filtre olarak değerli:
| Alan | Katkısı |
|---|---|
| Log / SIEM analizi | Milyonlarca satırı öncelik sırasına koyup analistin bakacağı hacmi azaltır |
| Phishing tespiti | Dil kalıpları ve URL örüntülerinde imza tabanlı filtrelerden daha esnek |
| Malware sınıflandırma | Statik/dinamik analiz verisinden bilinmeyen örnekleri aile bazında gruplar |
| Kullanıcı davranış analizi (UEBA) | Uzun vadeli normal davranış temelinden büyük sapmaları işaretler |
Kaynaklar
- MITRE ATLAS — Adversarial Threat Landscape for AI Systems — atlas.mitre.org
- OWASP — Machine Learning Security Top 10 — owasp.org/www-project-machine-learning-security-top-10
Sorun "yapay zeka güvenlikte işe yaramıyor" değil, "yapay zeka güvenlik analistinin yerini alıyor" beklentisi. Model, bağlamı bilen bir insanın karar verme yükünü azaltan bir filtre olarak kullanıldığında değerli; insanın yerine geçen bir kara kutu olarak satıldığında hayal kırıklığı yaratıyor.