Reranking
Yeniden sıralama, daha güçlü bir modelin ilk arama sonuçlarını yeniden değerlendirip daha yüksek hassasiyet için yeniden sıralamasını sağlayan ikinci geçiş puanlama adımıdır.
What Is Reranking?
Yeniden sıralama, hesaplama açısından daha pahalı bir modelin ilk arama adımı tarafından üretilen sonuçları hassasiyeti artırmak için yeniden değerlendirip sıraladığı bir getirme optimizasyon tekniğidir. RAG hattında ilk getirme bir aday kümesi üretir. Yeniden sıralayıcı daha sonra her adayı ve orijinal sorguyu çift olarak alıp çapraz kodlayıcı model kullanarak daha doğru bir alaka puanı hesaplar. Çapraz kodlayıcılar gömme için kullanılan çift kodlayıcılardan temelden farklıdır: sorgu ve belgeyi birlikte kodlayarak aralarında derin token düzeyinde etkileşime izin verirler. Ödün hızdır: çapraz kodlayıcılar 100-1000 kat daha yavaştır, bu yüzden tam bilgi tabanı yerine küçük bir aday kümesinde (tipik olarak 20-50 sonuç) ikinci geçiş olarak kullanılırlar.
How Reranking Works
Yeniden sıralama süreci üç aşamadan oluşur. İlk olarak ilk getirme adımı aday kümesi üretir. İkinci olarak yeniden sıralayıcı her (sorgu, parça) çiftini çapraz kodlayıcı modelden geçirir. Üçüncü olarak aday kümesi yeni çapraz kodlayıcı puanlarına göre yeniden sıralanır ve en iyi sonuçlar LLM'ye bağlam olarak aktarılır.
Why Reranking Matters
Yeniden sıralama genellikle getirme hassasiyetini standart kıyaslamalarda 5-15 yüzde puanı artırır ve bu doğrudan daha iyi chatbot yanıtlarına dönüşür. İyileşme, başlangıç getirmesinin birkaç mantıklı ancak eşit derecede alakalı olmayan sonuç döndürdüğü belirsiz sorgularda en belirgindir.
How Chatloom Uses Reranking
Chatloom, yeniden sıralamayı getirme hattının üçüncü aşaması olarak entegre eder — hibrit aramadan sonra ve LLM promptuna bağlam enjeksiyonundan önce. Sistem birincil yeniden sıralayıcı olarak Cohere Rerank API'sini, Cohere API'nin kullanılamadığı ortamlar için yerel anahtar kelime örtüşmeli geri dönüşü kullanır.
Related Terms
Explore related concepts to deepen your understanding.
Frequently Asked Questions
- Yeniden sıralama chatbot yanıtlarını yavaşlatır mı?
- Yeniden sıralama aday sayısına ve servise bağlı olarak 50-200 milisaniye ekler. Toplam 1-3 saniye süren chatbot yanıtı bağlamında bu genellikle kullanıcılar tarafından algılanamaz. Kalite iyileştirmesi küçük gecikme maliyetini tipik olarak haklı çıkarır.
- Çift kodlayıcı ile çapraz kodlayıcı arasındaki fark nedir?
- Çift kodlayıcı sorgu ve belgeyi bağımsız olarak ayrı vektörlere kodlar, sonra kosinüs benzerliğiyle karşılaştırır. Çapraz kodlayıcı sorgu ve belgeyi tek geçişte birlikte işleyerek her tokenin her iki girdiden de tüm diğer tokenlere dikkat etmesine izin verir. Bu çok daha yavaş ama önemli ölçüde daha doğrudur.
- Bulut API'si olmadan yeniden sıralama kullanabilir miyim?
- Evet. Hugging Face'den açık kaynaklı çapraz kodlayıcı modeller yerel olarak çalıştırılabilir ve anahtar kelime örtüşmesi ile varlık eşleştirmesine dayalı daha basit sezgisel yeniden sıralayıcılar herhangi bir harici bağımlılık olmadan kısmi fayda sağlar. Chatloom tam da bu amaçla yerel geri dönüş yeniden sıralayıcısı içerir.