Derin sinir ağları ve öğrenme aktarımı ile kötü amaçlı yazılım tespiti - Özdemir, Şeyma Nur (My University, 2025)
Dijital teknolojilerin hızla ilerlemesi ve elektronik cihazlar ile dijital içeriklerin günlük yaşamda yaygın şekilde benimsenmesi, siber tehditlerin sayısında kayda değer bir artışa yol açmıştır. Özellikle bireylerin mahremiyetini ve veri güvenliğini hedef alan zararlı yazılım türleri, giderek daha karmaşık ve özel olarak tasarlanmış yöntemlerle geliştirilmektedir. Bu gelişmeler ışığında, geleneksel güvenlik çözümleri ve savunma mekanizmaları modern tehditlere karşı yetersiz kalmakta; çoğu saldırı, sistemlere zarar verdikten sonra fark edilebilmektedir. Son yıllarda, kötü amaçlı yazılım tespiti, klasik yöntemlerin ötesine geçerek daha yenilikçi, veriye dayalı ve öğrenme tabanlı yaklaşımlara yönelmiştir. Zararlı yazılımların doğrudan bellek üzerinden tespiti, geleneksel yöntemlerle giderek daha zor hale gelmekte ve bu durum, derin öğrenme ve yapay zeka tekniklerinin siber güvenlik alanına entegrasyonunu hızlandırmaktadır. Özellikle derin sinir ağı mimarileri, öğrenme kabiliyetleri ve karmaşık örüntüleri tanıma yetenekleri sayesinde zararlı yazılım tespitinde umut verici sonuçlar sunmaktadır. Bu tez çalışmasında, derin sinir ağları mimarilerinden Evrişimli Sinir Ağları (CNN) Uzun Kısa Süreli Bellek (LSTM) mimarileri ve öğrenme aktarımı mimarisini kullanarak kötü amaçlı yazılım tespiti için etkili bir yaklaşım sağladığını göstermektedir. CNN ve CNN-LSTM mimarileriyle eğitilmiş modelleri kaynak olarak kullanıp burada öğrenme aktarımı tekniklerinden ince ayar ve katman dondurma yöntemlerini kullanarak kötü amaçlı yazılım tespit performansını artırmak için güçlü modeller olduğu kanıtlanmıştır. Bu araştırmada CIC-MalMem-2022 veri kümesi kullanılmıştır. Bu veri seti, yalnızca kötü amaçlı yazılım tespitini kolaylaştırmakla kalmayıp, aynı zamanda farklı zararlı yazılım türlerinin sınıflandırılmasına da olanak tanıyan zengin bir içerik sunmaktadır. Gerçekleştirilen deneysel analizler sonucunda, CNN ve CNN-LSTM mimarilerinin öğrenme aktarımı teknikleriyle birlikte kullanılması durumunda, kötü amaçlı yazılım tespit performansında anlamlı bir artış gözlemlenmiştir. Bu bağlamda önerilen yöntem, hem yüksek doğruluk oranları hem de daha az hesaplama maliyeti ile etkili bir çözüm sunarak literatüre katkı sağlamaktadır.

The rapid advancement of digital technologies and the widespread adoption of electronic devices and digital content in daily life have led to a significant increase in the number of cyber threats. In particular, types of malware that target individuals’ privacy and data security are being developed using increasingly complex and specially designed techniques. In light of these developments, traditional security solutions and defense mechanisms have become inadequate against modern threats, with most attacks being detected only after they have already caused damage to systems. In recent years, malware detection has moved beyond classical methods toward more innovative, data-driven, and learning-based approaches. Detecting malware directly from memory has become increasingly difficult using conventional techniques, accelerating the integration of deep learning and artificial intelligence methods into the field of cybersecurity. In particular, deep neural network architectures offer promising results in malware detection due to their learning capabilities and ability to recognize complex patterns. This thesis demonstrates an effective approach to malware detection by utilizing deep neural network architectures, specifically Convolutional Neural Networks (CNN), Long Short-Term Memory (LSTM) networks, and transfer learning techniques. Pre-trained CNN and CNN-LSTM models were utilized as source models, and transfer learning strategies—such as fine-tuning and layer freezing —were applied to enhance malware detection performance. The study utilized the CIC-MalMem-2022 dataset, which not only facilitates malware detection but also provides a rich structure for classifying various types of malware. Experimental analyses showed that combining CNN and CNNLSTM architectures with transfer learning techniques resulted in a significant improvement in malware detection performance. In this context, the proposed method provides an effective solution with both high accuracy and reduced computational cost, contributing to the existing body of literature.
Malware detection with deep neural networks and transfer learning
Keywords: Bilgisayar ağları; Bilişim teknolojisi; CNN; Computer networks; Güvenlik önlemleri; Information technology; Kötü Amaçlı Yazılım; LSTM; LSTM Malware Detection; Machine learning; Makine ile öğrenme; Öğrenme Aktarımı; Security measures; Transfer Learning