ADAPTIVE DATA AUGMENTATION THROUGH PROMPT-DRIVEN POLICY OPTIMIZATION WITH LARGE LANGUAGE MODELS

ANT DURU

ADAPTIVE DATA AUGMENTATION THROUGH PROMPT-DRIVEN POLICY OPTIMIZATION WITH LARGE LANGUAGE MODELS

Tezin Türü: Yüksek Lisans

Tezin Yürütüldüğü Kurum: Orta Doğu Teknik Üniversitesi, Enformatik Enstitüsü, Modelleme ve Simülasyon Anabilim Dalı, Türkiye

Tezin Onay Tarihi: 2025

Tezin Dili: İngilizce

Öğrenci: ANT DURU

Danışman: Alptekin Temizel

Açık Arşiv Koleksiyonu: AVESİS Açık Erişim Koleksiyonu

Özet:

Veri artırımı, derin öğrenme süreçlerinin kritik bir bileşenidir ve veri kümesinin çeşitliliğini artırarak modelin genelleme yeteneğini geliştirir. Geleneksel veri artırma stratejileri, elle tasarlanmış dönüşümlere, rastgele örneklemeye veya otomatik arama tabanlı yaklaşımlara dayanır. Otomatik yöntemler performansı artırsa da, genellikle yüksek hesaplama maliyetleri gerektirir ve belirli veri kümeleri için özel olarak tasarlanmışlardır. Bu çalışmada, model performansı geri bildirimiyle veri artırma politikalarını iyileştiren, Büyük Dil Modeli (LLM) destekli bir veri artırma optimizasyon stratejisi öneriyoruz. İki farklı yaklaşım sunuyoruz: (1) LLM Destekli Veri Artırma Politikası Optimizasyonu, burada LLM tarafından seçilen artırma politikaları eğitim döngüleri boyunca yinelemeli olarak güncellenir; ve (2) Uyarlanabilir LLM Destekli Veri Artırma Politikası Optimizasyonu, bu yaklaşımda artırma politikaları, model eğitimi sırasında modelin performans metriklerine göre güncellenir. Bu eğitim içi yöntem, her LLM geri bildirimi için modeli baştan eğitme gerekliliğini ortadan kaldırarak hem hesaplama maliyetlerini azaltır hem de performansı artırır. Yöntemimiz, veri kümesinin özellikleri, model mimarisi ve önceki eğitim performansına dayalı olarak veri artırma dönüşümlerini dinamik bir şekilde seçmek için bir LLM'den yararlanır. Özellikle tıp görüntüleme gibi alan-özel görevlerde, LLM'lerin bağlamsal bilgisinden faydalanarak, veri kümesine ve modele özgü artırma stratejileri öneriyoruz. Alan-özel görüntü sınıflandırma veri kümeleri üzerinde gerçekleştirdiğimiz deneyler, geleneksel yöntemlere kıyasla tutarlı doğruluk artışları göstermektedir.