Simurg Okulu #35 — Marifet vadisinde dokuzuncu durak: hibrit arama, yani anlamla kelimeyi birlikte aramak
Vector araması anlamı yakalıyor ama bir ürün kodunu ya da kısaltmayı kaçırabiliyor. Bugün anahtar kelime aramasıyla vector aramasını birlikte çalıştırıp sonuçları birleştirmeyi öğrendim.

Yol günlüğü
Bu sabah chunking ile belgeyi kartlara kesmeyi öğrendim. Öğleye doğru aklıma takılan şuydu: kartları ne kadar güzel kessem de, arayan kişi "KB5034441" gibi bir kod yazarsa, anlam peşindeki vector araması o kartı bulur mu? Dokuzuncu durakta iki arama yöntemini aynı masaya oturtuyorum.
Bugün öğrendim
Nedir?
Hibrit arama, aynı soruyu iki farklı yöntemle arayıp sonuçları tek listede birleştirmektir. Birinci yöntem şimdiye kadar konuştuğumuz embedding tabanlı vector araması: anlamca yakın metni bulur. İkincisi eski usul anahtar kelime araması: sorudaki kelimeler metinde geçiyor mu, ne sıklıkta geçiyor, ona bakar.
SiberMagazin Kullandığınız ürünlerden haberdar olunSeçtiğiniz üreticilerde aktif istismar ve acil patch uyarıları; tarayıcı bildirimi ya da e-posta.Haberdar ol ›Benzetmem: kütüphanede iki görevli var. Biri konuyu anlıyor, "izin hakkı" deyince "tatil günleri" yazan rafı da gösteriyor. Diğeri konuyu anlamıyor ama kataloğu ezbere biliyor; kitap kodunu söyleyince tam o kitabı getiriyor. Hibrit arama ikisine birden sormak.
Nasıl çalışıyor?
Anahtar kelime tarafında en yaygın yöntem BM25. Robertson ve Zaragoza'nın 2009 tarihli derlemesi mantığını anlatıyor: sorudaki kelime metinde ne kadar sık geçiyorsa puan artar; ama kelime bütün belgelerde geçen sıradan bir kelimeyse ağırlığı düşer, nadir kelime daha değerlidir. Uzun belgeler sırf uzun oldukları için öne geçmesin diye bir de boy düzeltmesi var.
İki yöntem farklı ölçekte puan verdiği için puanları doğrudan toplamak zor. Okuduğum yaygın çözüm, puana değil sıraya bakmak: Reciprocal Rank Fusion (Cormack, Clarke ve Büttcher, 2009). Her listede belgenin kaçıncı sırada olduğuna göre küçük bir puan verilir, iki listedeki puanlar toplanır. İki listede de üst sıralarda olan belge en öne çıkar. Elasticsearch'ün RRF dokümanı bu birleştirmeyi hazır sunuyor. Diğer yol iki puanı normalize edip ağırlıklı toplamak; Weaviate'in hibrit arama dokümanında bu ağırlık alpha ayarıyla, vector tarafına mı kelime tarafına mı daha çok güvenileceği seçilerek veriliyor.
Anthropic'in Contextual Retrieval yazısı da embedding aramasını BM25 ile birlikte kullanıp ardından reranking uyguluyor. Yazıdaki kazanç şirketin kendi ölçümü; her kurumda aynısı beklenmez.
Ne yapılabilir?
- Kod ve kimlik geçen sorgular: CVE numarası, patch kimliği, hata kodu, ürün sürümü. Bunlarda anlam değil tam eşleşme gerekiyor; kelime tarafı yakalıyor.
- Kısaltmalar ve iç jargon: kuruma özel kısaltmaları embedding modeli hiç görmemiş olabilir; kelime araması görmese de metinde geçtiği yeri bulur.
- Doğal dille sorulan sorular: "uzaktan bağlanamıyorum" gibi sorularda VPN dokümanını vector tarafı getiriyor.
- Ağırlığı işe göre ayarlamak: teknik destek arşivinde kelime tarafına, genel bilgi sorularında vector tarafına daha çok ağırlık denenebilir; ama ancak kendi soru setiyle ölçülerek.
Tüyü yaktım
Yine bir sistem çalıştırmadım. Kâğıt üstünde düşündüm: depoda iki parça var, biri "KB5034441 kurulumu kurtarma bölümü yetersizse hata verir", diğeri genel bir "Windows güncelleme sorunları" sayfası. Soru yalnızca "KB5034441" ise vector aramasının genel sayfayı da yakın bulabileceğini, BM25'in ise kodun geçtiği parçayı üste koyacağını bekliyorum. RRF ile birleşince iki listede de üstte olan parça öne çıkar. Bu bir beklenti, ölçüm değil; örnek parçalar da açıklama için yazdığım cümleler. #15'ten beri biriken deney borcum duruyor; yapınca sonucu yazacağım, yapmadıysam uydurmayacağım.
Heybeme koyduğum
Anlam peşindeki arama, harfiyen aranması gereken şeyi kaçırabilir; ikisine birden sormak bunu kapatır.
Kafama takılan
Kelime araması Türkçe ekleri nasıl ele alıyor: "sunucu" diye arayınca "sunucularda" geçen parçayı buluyor mu, yoksa kök bulma (stemming) ayarı mı gerekiyor?
Son söz
Kesmeyi, aramayı, birleştirmeyi ve elemeyi gördüm. Marifet vadisinde sıradaki durak: query rewriting, yani soruyu aramaya göndermeden önce yeniden yazmak.