Retrieval-Augmented Generation (RAG)
RAG è un'architettura IA che recupera documenti rilevanti da una base di conoscenza prima di generare una risposta, fondando l'output del LLM su fatti verificati.
Che cos’è Retrieval-Augmented Generation (RAG)?
La Generazione Aumentata dal Recupero, comunemente nota come RAG, è un pattern architetturale IA che migliora le risposte dei modelli linguistici di grandi dimensioni (LLM) recuperando prima informazioni rilevanti da una base di conoscenza esterna e poi utilizzando quel contesto per generare una risposta. Invece di affidarsi esclusivamente ai pattern appresi durante il pre-addestramento, il RAG inietta fatti reali e aggiornati nel processo di generazione, migliorando drasticamente la precisione e riducendo la tendenza degli LLM a inventare informazioni. Il concetto è stato introdotto dai ricercatori di Meta AI nel 2020 ed è diventato il paradigma dominante per la costruzione di chatbot IA di livello produttivo. In una pipeline RAG, la query dell'utente viene convertita in un vettore numerico tramite un modello di embedding, quindi confrontata con frammenti di documenti pre-indicizzati in un database vettoriale. I frammenti con la migliore corrispondenza vengono passati al prompt del LLM come contesto aggiuntivo.
Come funziona Retrieval-Augmented Generation (RAG)
Una pipeline RAG ha tre fasi: ingestione (frammentazione ed embedding dei documenti), recupero (ricerca ibrida densa + sparsa con fusione RRF), e generazione (iniezione del contesto nel prompt con punteggio di confidenza).
Perché Retrieval-Augmented Generation (RAG) è importante
Per le aziende che implementano chatbot IA, il RAG è la differenza tra un assistente utile e un rischio. Consente di rispondere utilizzando la documentazione reale, senza costosi cicli di fine-tuning.
Come Chatloom utilizza Retrieval-Augmented Generation (RAG)
Il RAG è l'architettura fondamentale del motore IA di Chatloom. Il sistema esegue ricerca ibrida, applica re-ranking via Cohere e utilizza un sistema di punteggio di confidenza a quattro livelli (alto, medio, basso, nessuno).
Termini correlati
Esplora i concetti correlati per approfondire l’argomento.
Domande frequenti
- Qual è la differenza tra RAG e fine-tuning?
- Il fine-tuning modifica i pesi interni del modello, ed è costoso e statico. Il RAG mantiene il modello base invariato e recupera informazioni in tempo di query, molto più flessibile.
- Il RAG elimina completamente le allucinazioni?
- Le riduce significativamente ma non le elimina del tutto. Le implementazioni di qualità aggiungono punteggio di confidenza per rilevare recuperi insufficienti.
- Quali tipi di documenti si possono usare?
- PDF, pagine web, testo semplice, documenti Word e dati strutturati. Chatloom supporta crawling URL, upload PDF e inserimento manuale di testo.
Risorse correlate
Costruisci il tuo primo agente
in meno di un'ora.
Scegli un template, collega i tuoi contenuti e distribuisci su ogni canale. Il tuo piano gratuito è pronto quando lo sei tu.