An adaptive weak estimation method based on stochastic learning - Coşkun, Ahmet Kutalmış (My University, 2021)
Dinamik sistemler, konu ve zamana bağlı olarak değişen doğaları nedeniyle oldukça karmaşık ve zorlayıcı sistemlerdir. Günümüzde, dünyada karşılaşılan sistemlerin ve olayların büyük bir bölümünün dinamik karakterde olması, bahsedilen sistemlerin analizini ve modellemesini kaçınılmaz ve oldukça ilgi çekici kılmaktadır. Bu tip sistemler, öğrenen algoritmanın bilinmeyen zamanlarda oluşabilecek yeni durumlara uyum sağlayabiliyor olmasını gerektirmektedir.Olasılıksal Öğrenmeye dayalı Zayıf Tahmin yöntemi (SLWE), geçmiş bilgiyi unutabilme ve yeni durumlara uyum sağlayabilme özelliği sayesinde, durağan olmayan sistemlerin getirdiği zorluklarla başa çıkabilen önemli bir yöntemdir. Bu yöntem, hedef parametrenin her zaman güncel olan bir tahminini, çarpımsal bir güncelleme kuralı ile, her gözlemden sonra bir önceki tahmini düzelterek sürdürür. Bununla birlikte, sabit bir öğrenme oranı kullanılması nedeniyle, esneklik ve kararlılık arasında bir ödünleşim ile karşı karşıyadır.Bu çalışmada, ani değişimler içeren bir istatistiksel dağılımı nitelendiren parametrelerin, bu dağılımdan elde edilen örnekler ile tahmin edilmesi problemi çerçevesinde; SLWE bir seçkisiz yürüyüş olarak modellenmiş ve istatistiksel bir model elde etmek için tahminlerin asimptotik davranışının teorik analizi üzerinde çalışılmıştır. Elde edilen model kullanılarak, keşif ve istifade öğrenme modları arasında geçiş yapmak için durağanlıktaki değişiklikler tespit edilmektedir. Hem sentetik hem de gerçek dünya verileri kullanılarak yapılan deneysel değerlendirmeler, önerilen yöntemin hedef parametreyi %15 ila %50 daha az hata ile izlediğini göstermektedir.

Dynamic systems are highly complex and hard to deal with due to their subject- and time-varying nature. The fact that most of the real world systems/ events are of dynamic character makes modeling and analysis of such systems inevitable and charmingly useful. Working with such systems require the learning algorithm to be able to adapt to new conditions that might occur at unknown times.One promising estimation method that is capable of unlearning past information to deal with non-stationarity is SLWE by Oommen and Rueda (2006). This method maintains an always up-to-date estimate of the target parameter by employing a multiplicative update rule that adjusts previous estimate based on the current observation. However, due to using a constant learning rate, it faces a trade-off between plasticity and stability, which is also referred to as exploration versus exploitation dilemma in some contexts.In this study, considering the problem of estimating parameters that characterize a statistical distribution that involves abrupt changes, SLWE is modeled as a random walk and asymptotic behavior of estimates is theoretically analyzed to obtain a statistical model. Utilizing this model, changes in stationarity is detected to switch between exploratory and exploitative learning modes. Experimental evaluations on both synthetic and real world data show that the proposed method tracks the target parameter with 15% to 50% less error.
Keywords: Bilgisayar mühendisliği; change detection; Computer engineering; concept drift; değişiklik tespiti; dinamik öğrenme oranı stochastic learning; dynamic learning rate; konsept kayması; parameter estimation; parametre tahmini; stokastik öğrenme