Makine öğrenmesi algoritmalarında lipschitz sürekli fonksiyonlar ve genişlemeleri

Abstract

Lipschitz fonksiyonlar tanımları gereği, aldığı değerlerin değişiminin sınırlı olması sebebiyle optimizasyon alanında kullanılmaktadır. Bu özellik, makine öğrenmesi modellerinde de aranan bir matematiksel özellik olduğundan, Lipschitz fonksiyonlar makine öğrenmesi alanında da kullanılmaktadır. Makine öğrenmesi modelinin kararlılığını belirleyen bu özellik Lipschitz fonksiyonlar aracılığıyla kolaylıkla elde edilebilir. Bu çalışmada, Lipschitz fonksiyonların makine öğrenmesi ile ilişkisi incelenecek ve elde edilen bulgular kullanılarak bir makine öğrenmesi modeli algoritması geliştirilecektir. Geliştirilecek olan algoritma için, makine öğrenmesi alanında Destek Vektör Makineleri olarak adlandırılan sınıflandırma problemi ele alınacaktır. Bu problem için geliştirilen modelin matematiksel temelleri Lipschitz fonksiyonların metrik uzaylar üzerindeki özellikleri, Hölder fonksiyonların özellikleri, Lipschitz fonksiyonların genişlemeleri, Hausdorff ve küme uzaklık fonksiyonlarının özellikleri kullanılarak oluşturulacaktır. Makine öğrenmesi modellerinin belirli bir veri kümesi üzerindeki veriler arasındaki ilişkiyi daha büyük bir veri kümesi üzerine genelleştirmesi, Lipschitz fonksiyonların bir metrik uzayın alt uzayındaki özelliklerin uzayın tamamına genişletilmesi ile aynı prensibe sahiptir. Bu bağlamda Lipschitz fonksiyonların genişleme teoremleri, makine öğrenmesi problemlerinin çözümü olarak kullanılabileceği görülmektedir. Bu çalışmanın sonunda elde edilen algoritmalar kullanılarak sınıflandırma ve sıralama uygulamaları yapılacaktır. Elde edilen sonuçlar Destek Vektör Makineleri ve K-En Yakın Komşu algoritmalarının sonuçları ile karşılaştırılacaktır.

Lipschitz functions are used in the field of optimization because their definitions imply that the change in the values they take is limited. This property is also a desirable mathematical property in machine learning models, so Lipschitz functions are used in the field of machine learning. This property, which determines the stability of the machine learning model, can be easily obtained through Lipschitz functions. In this study, the relationship between Lipschitz functions and machine learning will be examined, and an algorithm for a machine learning model will be developed using the findings obtained. For the algorithm to be developed, the classification problem known as Support Vector Machines in the field of machine learning will be addressed. The mathematical foundations of the model developed for this problem will be created using the properties of Lipschitz functions on metric spaces, the properties of Hölder functions, the extensions of Lipschitz functions, and the properties of Hausdorff and set distance functions. The generalization of machine learning models of the relationship between data in a certain dataset to a larger dataset is based on the same principle as the extension of the properties of Lipschitz functions in a subspace of a metric space to the entire space. In this context, it is seen that the extension theorems of Lipschitz functions can be used as a solution to machine learning problems. At the end of this study, classification and ranking applications will be performed using the algorithms obtained. The results obtained will be compared with the results of SVM and K-Nearest Neighbor algorithms.