Implementa il chatbot di Retrieval Augmented Generation (RAG) utilizzando le Knowledge Base di Amazon Bedrock
Dai solutions architect di AWS
Metodo di implementazione
Guida per l'implementazione
Tempo di implementazione stimato
60 minuti
Servizi AWS
La Retrieval-Augmented Generation (RAG) è il processo di ottimizzazione dell'output di un modello linguistico di grandi dimensioni, quindi fa riferimento a una knowledge base autorevole al di fuori delle sue origini dati di addestramento prima di generare una risposta. I modelli linguistici di grandi dimensioni (LLM) sono addestrati su grandi volumi di dati e utilizzano miliardi di parametri per generare output originali per attività come rispondere a domande, tradurre lingue e completare frasi. RAG estende le già potenti funzionalità degli LLM a domini specifici o alla base di conoscenza interna di un'organizzazione, il tutto senza la necessità di riqualificare il modello. È un approccio conveniente per migliorare la produzione di LLM in modo che rimanga pertinente, accurato e utile in vari contesti.
Amazon Bedrock è un servizio completamente gestito che offre una scelta di modelli di fondazione (FM) ad alte prestazioni insieme a un'ampia gamma di funzionalità necessarie per creare applicazioni di IA generativa, semplificando lo sviluppo e mantenendo privacy e sicurezza.
La knowledge base per Amazon Bedrock ti aiuta a sfruttare la Retrieval Augmented Generation (RAG), una tecnica comune che prevede l'estrazione di informazioni da un archivio dati per aumentare le risposte generate dai modelli linguistici di grandi dimensioni (LLM). Quando configuri una knowledge base con le tue origini dati, l'applicazione può interrogare la knowledge base per restituire informazioni per rispondere alla domanda con citazioni dirette dalle origini o con risposte naturali generate dai risultati della query.
Con le knowledge base, è possibile creare applicazioni arricchite dal contesto ricevuto dall'interrogazione di una knowledge base. Consente di velocizzare il time-to-market semplificando il processo di costruzione delle pipeline e fornendo una soluzione RAG pronta all'uso per ridurre i tempi di creazione dell'applicazione. L'aggiunta di una knowledge base aumenta anche l'efficienza in termini di costi, eliminando la necessità di addestrare continuamente il modello per essere in grado di sfruttare i dati privati.
