Los grandes modelos de idiomas (LLM) son muy populares en el mundo del software en estos días. introducen nuevos artículos, publicaciones de blog, cursos y modelos de compañías líderes de nuestra industria, como Meta, Huggingface, Microsoft, etc., lo que nos requiere seguir las nuevas tecnologías de cerca. Hemos decidido escribir algunos artículos breves e informativos para introducir estos temas y mantenernos actualizados sobre la última tecnología. Crearemos una serie de artículos sobre el tema que hemos determinado, con tres artículos diferentes que son útiles y se complementan.En este artículo, comenzamos nuestra serie con la definición e información básica de modelos RAG. Los grandes modelos de idiomas han entrado en todos los aspectos de nuestras vidas. Podríamos decir que han revolucionado el campo. Sin embargo, no son una herramienta tan suave como nos gusta llamarlos. También tiene una desventaja importante: es fiel a su formación. Se mantiene fiel a los datos en los que se formó. No pueden desviarse de esto. Un modelo que completó la formación en noviembre de 2022 no podrá dominar las noticias, las leyes, los desarrollos tecnológicos, etc., que surgieron en enero de 2023. Por ejemplo, un modelo LLM que completó la formación y entró en servicio en 2021 no puede responder a una pregunta sobre la guerra ruso-ucraniana que comenzó el 24 de febrero de 2022. Esto se debe a que su desarrollo se completó antes de esa fecha. Por supuesto, este problema no quedó sin resolver, y se introdujo un nuevo producto, un nuevo sistema. El sistema RAG (Retrieval-Augmented Generation) surgió para proporcionarle información actualizada siempre que lo necesite. En el resto de nuestro artículo, echemos un vistazo más de cerca al sistema creado con el modelo LLM y el sistema RAG, uno por uno, para conocerlos. Acceso a la información en los modelos LLM El principio de funcionamiento de los modelos de idiomas grandes se basa en los datos enseñados durante el entrenamiento, es decir, el conocimiento estático. No tienen la capacidad de extraer datos externos a través de ningún medio. Para dar un ejemplo, considere a un niño. Si cortamos la comunicación externa de este niño y le enseñamos sólo el inglés, no podremos oír una sola palabra china de ellos. Esto se debe a que hemos criado a un niño que es fluido en inglés, no en chino. Al cortar su conexión con el mundo exterior, también hemos restringido su capacidad de aprender de fuentes externas. Al igual que este niño, los modelos de LLM también se infunden con conocimientos básicos pero están cerrados a datos externos. Otra característica de los modelos LLM es que son cajas negras. Estos modelos no son plenamente conscientes de por qué realizan las operaciones que realizan. Basan sus cálculos únicamente en las operaciones matemáticas. Preguntando a cualquier modelo LLM, "¿Por qué dichas esa respuesta?" Probablemente lo estás empujando demasiado duro. No responden a preguntas a través de razonamiento o investigación. La palabra clave aquí es "¿por qué?" También podemos considerar que es un error en los modelos LLM. Para comprender mejor esta estructura, consideremos un ejemplo del campo de la atención médica. Cuando un usuario pregunta, "Tengo dolor en mi cara y ojos, y gotas postnasales persistentes. ¿Qué debo hacer?", el modelo LLM podría responder, "El dolor en mi cara y ojos, y gotas postnasales podrían ser signos de sinusitis. Por favor, consulte a un médico. La sinusitis aguda se trata con antibióticos. Además de la medicación, puede utilizar sprays nasales como agua de mar o sal para calmar los senos." Todo parece normal hasta este punto. Pero si le preguntamos al modelo, "¿Por qué dio esa respuesta?" después de esta respuesta, las cosas se complican. La razón por la que el modelo proporcionó esta respuesta es porque las palabras "dolor facial" y "drip nasal" a menudo aparecieron junto con la palabra "sinusitis" en los datos de formación. Estos modelos prefieren almacenar información en su memoria como un patrón estadístico. Las expresiones matemáticas son importantes para los modelos LLM. Debido a que no prefiere almacenar información en su memoria basada en fuentes, responde a la pregunta y satisface a la mayoría de la gente de inmediato, pero cuando las personas con una naturaleza más investigativa preguntan al modelo, "¿Por qué dio esta respuesta?", el modelo no produce ninguna respuesta explicativa. RAG: Combinar LLMs con Sistemas de Retrieval Los sistemas RAG ofrecen innovaciones en comparación con los sistemas construidos sobre modelos LLM puros. Uno de estos es que trabajan con información dinámica, no con información estática como los modelos LLM. En otras palabras, también escanean fuentes externas sin limitarse a los datos en los que fueron capacitados. El primer "r" en RAG significa recuperación. El papel del componente de recuperación es realizar operaciones de búsqueda. El generador es el segundo componente principal, y su función es generar la respuesta correcta basada en las devoluciones de recuperación de datos. En este artículo, tocaremos brevemente el principio de funcionamiento de RAG: Retrieval escanea información de fuentes externas y recupera documentos relevantes para la pregunta del usuario rompiéndolos en pequeñas piezas llamadas "chunks". Vectoriza estos pedazos y la pregunta del usuario, y luego genera la respuesta más eficiente examinando la combinación entre ellos. Esta tarea de generar la respuesta es realizada por "Generación". Lo discutiremos en detalle en el próximo artículo de esta serie. Estos componentes básicos que componen los sistemas RAG lo hacen una estructura más fuerte. Los impiden quedarse atrapados en información estática como los modelos LLM puros. Los sistemas RAG ofrecen ventajas significativas, especialmente en muchos campos que requieren información actualizada. Por ejemplo, puede querer crear un modelo de médico en el campo médico. Debido a que su modelo servirá a un área vital, no tendrá información desactualizada o incompleta. El mundo médico, al igual que el sector de TI, se está desarrollando cada día, y se están presentando nuevos estudios. Por lo tanto, se espera que su modelo domine incluso los últimos estudios. De lo contrario, corre el riesgo de poner en peligro la vida humana con un modelo engañoso. En tales casos, los sistemas respaldados por RAG eliminan el problema de la información desactualizada al conectarse a bases de datos externas. La diferencia fundamental entre los sistemas RAG y los modelos LLM es la filosofía central de RAG: "No almacenes información, accédelo cuando lo necesites!"Mientras que los modelos de lenguaje grande puros almacenan información en sus memorias y producen respuestas después de ser capacitados, los sistemas RAG acceden a la información buscando y escaneando fuera cuando lo necesitan, de acuerdo con su filosofía. Al igual que una búsqueda humana en Internet, esto supera una de las desventajas más significativas de los modelos LLM puros: su dependencia de la memoria. 
 
 
 
 
 
 El escenario: Usuario: "¿Cuál es la tasa de inflación de diciembre de 2024 en Estados Unidos?" LLM: "De acuerdo con los datos de diciembre de 2022, fue del 6.5%." (No es una respuesta actualizada) El RAG: 
 
 
 Recibe datos de diciembre de 2018 de una fuente o base de datos confiable (Banco Mundial, Economía Comercial, etc.). LLM utiliza estos datos y responde: "De acuerdo con Trading Economics, la inflación en los Estados Unidos para diciembre de 2024 se anuncia como el 2,9%". Scenario: User: "What is the United States' December 2024 inflation rate?" LLM: "According to December 2022 data, it was 6.5%." (Not an up-to-date answer) RAG: 
 
 
 Recibe datos de diciembre de 2018 de una fuente o base de datos confiable (Banco Mundial, Economía Comercial, etc.). LLM utiliza estos datos y responde: "De acuerdo con Trading Economics, la inflación en los Estados Unidos para diciembre de 2024 se anuncia como el 2,9%". Comparemos brevemente lo que hemos discutido hasta ahora y lo presentamos en la tabla de abajo. 
 
 
 
 
 
 
 
 
 
 Features 
 LLM (static model) 
 RAG (retrieval-augmented generation) 
 
 
 
 
 Information 
 Limited to training data 
 Can pull real-time information from external sources 
 
 
 
 
 Current Level 
 Low 
 High 
 
 
 
 
 Transparency 
 The source of the decision cannot be disclosed (black box) 
 The source can be cited Información Limitado a datos de formación Puede extraer información en tiempo real de fuentes externas Nivel actual Bajo alta Transparencia La fuente de la decisión no puede ser revelada (caixa negra) La fuente puede ser citada En conclusión, para resumir brevemente, mientras que los modelos de LLM se limitan a los datos en los que se entrenan, los sistemas de RAG no solo están construidos sobre un modelo específico de LLM y tienen conocimientos básicos, sino que también tienen la capacidad de extraer información en tiempo real de fuentes externas. Esta ventaja asegura que siempre esté actualizado. Esto concluye el primer artículo de nuestra serie. En el siguiente artículo, profundizaremos en los aspectos más técnicos. Para amigos que quieran acceder o examinar la práctica de este trabajo, pueden encontrar los enlaces al reposo relevante que he creado con Python y bibliotecas relacionadas en mi cuenta GitHub al final del artículo. Esperamos verte en el próximo artículo de la serie. Encuentro con Yurduseven. Leer más “También querríamos reconocer la contribución fundamental del artículo RAG 2020 de Facebook AI, que informó significativamente la perspectiva de este artículo”. Conexión GitHub Proyecto RAG Chatbot PDF Proyecto RAG Chatbot

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

This story contains new, firsthand information uncovered by the writer.

Read My Stories

Este audio es producido en el idioma original de la historia!

Los sistemas RAG están rompiendo las barreras de los modelos de idiomas: aquí está cómo

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

La fuga rápida del sistema Claude Sonnet 3.5: un análisis forense

El modelo Bitcoin UTXO, impulsando un ecosistema único

Liberando el poder de la IA. Una revisión sistemática de técnicas de vanguardia: resumen e introducción

Las capas invisibles: por qué las entrevistas con los usuarios son un activo irremplazable

La fuga rápida del sistema Claude Sonnet 3.5: un análisis forense

El modelo Bitcoin UTXO, impulsando un ecosistema único

Liberando el poder de la IA. Una revisión sistemática de técnicas de vanguardia: resumen e introducción

Las capas invisibles: por qué las entrevistas con los usuarios son un activo irremplazable

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps