
 
 Nota: lo siguiente se refiere a los transformadores de vainilla, pero las conclusiones y metáforas se pueden ampliar para razonar de manera fructífera sobre los LLM más nuevos (que se cubrirán en un artículo posterior). Nota: lo siguiente se refiere a los transformadores de vainilla, pero las conclusiones y metáforas se pueden ampliar para razonar de manera fructífera sobre los LLM más nuevos (que se cubrirán en un artículo posterior). Muchas personas tienen la intuición de que un LLM (Large Language Model, por ejemplo, ChatGPT) no entiende realmente lo que está diciendo. no tiene realmente razón, no tiene intención de transmitir nada, y carece de una distinción innata entre verdad y mentira. Si usted tiene un poco de conocimiento técnico, puede señalar que un LLM es sólo una fantástica autocomplete, o un "predictor de token". Esto consolida la intuición un poco - predecir tokens (es decir, fragmentos de palabras, palabras cortas, símbolos...) parece como un grito lejos de la deliberación - pero sigue siendo una intuición, que puede ser razonablemente cuestionado: ¿podría terminar esta frase si no ha construido una comprensión de lo que el párrafo está llegando a? Ahora, aquellos con más caridad hacia nuestras máquinas de hablar argumentarán que los LLMs todavía son mal comprendidas "cajas negras", y acusan a los escépticos de reduccionismo: ¿no está la naturaleza llena de mecanismos "mundanos" que dan lugar a fenómenos emergentes, con cualidades que difieren de sus causas básicas? Probablemente no Lo clave para entender sobre la perspectiva del predictor de token es que no es realmente reduccionista - al menos no en la forma de llamar al cerebro "sólo un grupo de neuronas". Es una caracterización decente de la definición funcional de alto nivel del modelo. Sí, el modelo en sí es un enorme conjunto de piezas pequeñas, pero todas trabajan juntas para satisfacer exactamente una demanda: dado N tokens anteriores, predecir el siguiente. la propiedad emergente que se espera que esté a la derecha de los datos numéricos que fluyen a través de las capas del modelo. es Pero no podía algo extra todavía emerger de ¿Una predicción? Repetido En cierto sentido, cualquier texto es mayor que la suma de sus partes: el significado de cada palabra es modificado por todo el contexto que la rodea, por lo que el significado de todo el texto está más allá de una concatenacin de significados de palabras aisladas. Sin embargo, para un texto generado por predicción de token, cada paso es un proceso independiente en principio - sólo sigue una trayectoria implícita en los resultados intermedios. Como veremos, la predicción de token impone limitaciones cualitativas inherentes, que no pueden ser superadas por la magia de la aparición. Para llegar allí, examinaremos lo que emerge a un nivel más alto que el de los textos individuales: ¿y si organizamos todas las posibles salidas del modelo en una sola estructura? Ironicamente, el formalismo "reductivo" es la herramienta matemática perfecta para este trabajo. Pero primero, me dirijo a la Biblioteca de Babel de Borges por inspiración. 
 
 
 
 
 La historia describe una biblioteca compuesta de infinitas habitaciones hexagonais.Cada habitación alberga estantes de libros que contienen todo arreglo posible de letras, espacios y marcas de puntuación. En consecuencia, la biblioteca contiene no sólo todas las obras significativas - cada verdad, mentira, profecía, avance científico o obra maestra - sino también infinitos volúmenes de tonterías incomprensibles. Los habitantes de la biblioteca – sus bibliotecarios – vagaban incansablemente a través de los corredores infinitos, impulsados por una búsqueda insatiable de significado e iluminación.Pero la infinitud de la biblioteca hace que cada texto significativo sea efectivamente imposible de encontrar, enterrado en medio de infinitas tonterías. Diferentes sectas se forman entre ellos: algunos buscan desesperadamente un mítico "catálogo" de los contenidos de la biblioteca, otros destruyen libros considerados inútiles, y sin embargo otros se resignan a la desesperación nihilista -la fe religiosa, el fundamentalismo o el nihilismo, todo nacido de un anhelo por la certeza. La historia describe una biblioteca compuesta de infinitas habitaciones hexagonais.Cada habitación alberga estantes de libros que contienen todo arreglo posible de letras, espacios y marcas de puntuación. En consecuencia, la biblioteca contiene no sólo todas las obras significativas - cada verdad, mentira, profecía, avance científico o obra maestra - sino también infinitos volúmenes de tonterías incomprensibles. Los habitantes de la biblioteca – sus bibliotecarios – vagaban incansablemente a través de los corredores infinitos, impulsados por una búsqueda insatiable de significado e iluminación.Pero la infinitud de la biblioteca hace que cada texto significativo sea efectivamente imposible de encontrar, enterrado en medio de infinitas tonterías. Diferentes sectas se forman entre ellos: algunos buscan desesperadamente un mítico "catálogo" de los contenidos de la biblioteca, otros destruyen libros considerados inútiles, y sin embargo otros se resignan a la desesperación nihilista -la fe religiosa, el fundamentalismo o el nihilismo, todo nacido de un anhelo por la certeza. Gracias por ese resumen, o mejor aún, lea por ti mismo. Es una historia impactante, pero ¿qué tiene que ver con los modelos de idiomas? Para empezar, piense en la Biblioteca de Borges como el conjunto de resultados de un modelo de lenguaje primitivo: uno que predice caracteres en lugar de tokens, pero con cero respeto por la exactitud. Naturalmente, tal modelo no sugiere principios de organización para sus salidas - al menos ninguno que ayude a distinguir los datos del ruido.Borges toma libertad artística con el diseño hexagonal, pero toda la biblioteca representa un proceso generativo aleatorio uniforme. Ahora considere una biblioteca analógica basada en tokens en lugar de caracteres: contendría todos los textos posibles hasta algún número máximo de tokens, representando las salidas de un LLM "indiscriminado".Esta nueva biblioteca tendría esencialmente las mismas propiedades que el original. Sin embargo, también coincidiría con el conjunto de posibles salidas para un LLM normal, asumiendo que incluso las conclusiones insensatas están representadas por probabilidades pequeñas pero no cero. Claro - Perplexidad Formalmente, la perplexidad se define como la probabilidad media negativa exponencial de una secuencia: PP(X) = exp(-1/N ∑ log P(xᵢ|x₁,…,xᵢ₋₁)) Menos formalmente, tratamos un texto dado como una secuencia de resultados de un proceso aleatorio (no necesariamente uniforme). A cada token se le asigna una probabilidad, según el modelo, basada en los tokens anteriores: refleja lo bien que cada seguimiento se ajusta a los datos de entrenamiento. Las probabilidades se agregan de una manera que permita calcular una media útil para todo el texto. Finalmente, que se mapea en un valor intuitivo que refleja (aproximadamente) el número promedio de continuos viables en cada paso. esta métrica clave se deriva naturalmente de la definición de "predictor de token" y hace uso directo de sus términos. Los valores de perplejidad varían de 1 a infinito. 1 significa que el texto es tan previsible que cada paso lleva inevitablemente al siguiente - algo tan típico de los datos de entrenamiento que su finalización es como Los valores altos implican un laberinto de posibilidades: el modelo no está seguro de dónde va el texto, y el mayor número de continuos posibles significa una menor confianza en cada uno. Rojo recuerda Imagina una estructura de círculos concéntricos Los círculos son límites que dividen una extensión plana e infinita en anillos. a cada límite se le asigna un valor de perplejidad, comenzando por 1 para el centro circular y aumentando gradualmente a medida que se va hacia afuera. Las áreas entre los círculos adyacentes forman bandas de perplejidad: cada anillo alberga todos los textos cuyos valores de perplejidad caen en el rango definido por sus límites interiores y exteriores. La Biblioteca Moderna de Babilonia. Esta nueva biblioteca clasifica todas las posibles salidas del modelo de una manera que refleje fielmente lo que el modelo ha aprendido.Para encontrar una respuesta potencial para una solicitud dada, solo tienes que seleccionar una banda, encontrar en ella un texto que comience con esa solicitud y seguir leyendo. Suena fácil, pero ¿qué banda elegir? Como los diseñadores de LLM saben bien, la mayoría de los textos que los usuarios desean no están en el centro de la Biblioteca, aunque es donde es más probable que encuentre declaraciones verdaderas (o, al menos, declaraciones que se alinean perfectamente con el conocimiento convencional). Considere lo que sucede si un usuario quiere la solución a un problema difícil o abierto: el centro de la Biblioteca puede ofrecer señales generales, o simplemente afirmar que no hay solución conocida; contiene respuestas seguras que cumplen estrictamente con los datos de formación. En la práctica, cuando estás pidiendo a tu chatbot favorito, estás explorando algunas bandas alrededor del centro, donde puedes encontrar algunas salidas "creativas".Debido a que el diseño del predictor de token no proporciona una manera inherente de desconectar la corrección de la creatividad, la elección de bandas es un acto de equilibrio. Si podamos extrapolar un poco de las observaciones empíricas, y seguir las implicaciones de la métrica de la perplejidad, deberíamos concluir que los textos verdaderamente innovadores estarían lejos del centro: las teorías no escritas de Einstein o las pruebas válidas de la hipótesis de Riemann son inherentemente textos improbables. ¿Por qué no mirar más allá? Bueno, basado en la definición de perplejidad, el número de respuestas potenciales a una solicitud explota exponencialmente cuanto más se va. Mientras tanto, el número de respuestas correctas permanece constante, con tan sólo tantas maneras diferentes de declararlas. La proporción de textos útiles a sin sentido se desvanece rápidamente. En otras palabras, mientras que la probabilidad de que al menos algunos textos contengan obras nuevas y innovadoras aumenta, la probabilidad de chocarse con ellos desaparece. Si miras a una banda estrecha de perplejidad, estás mirando a textos que son (más o menos) igualmente "buenos" por el modelo - igualmente probable que se generen, independientemente de su sensibilidad - siempre que coincidan con el prompt. En resumen, el alcance exterior de nuestra Biblioteca modernizada de Babel en realidad se aproxima a la situación del clásico de Borges. Tal vez empieces a ver cómo esto se relaciona con la intuición original: puedes pensar en un texto como un camino trazado por el proceso generativo - un registro de opciones de token (ha-ha) realizadas en cada paso. pero a partir de un prefixo dado (como un prompt), el modelo no tiene preferencia inherente para ningún camino en particular fuera de la variedad que se ofrece en la banda de perplexidad relevante. Esto justifica lo que significa decir que el modelo no entiende de qué se trata: no sabe ni le importa cómo los diferentes caminos que podría tomar se comparan entre sí, con respecto a la verdad, la utilidad, o cualquier factor externo - no es un juez razonado. Sin embargo, esta Biblioteca Moderna de Babel tiene sus bibliotecarios: son los usuarios avidos. Algunos de ellos exploran las periferias para buscar gemas ocultas de la verdad. Otros buscan algo como el Catálogo de la historia de Borges: si sólo pudieran encontrar la guía correcta, obtendrían una respuesta fiable a cualquier pregunta. Como los bibliotecarios de Borges, vagaban por corredores interminables, con los narices atrapados en volúmenes interminables, sin captar el cuadro más grande de esta búsqueda: sus verdaderas propiedades emergentes. Pero ¿no puedes volver el mismo argumento contra los humanos? ¿Por qué no hipotetizar una Biblioteca Humana de Babel? simplemente organizar todas las puertas de salida potenciales de la mente humana basándose en una medida humana de perplejidad. No lo pienso así. Para empezar, la "perplexidad" humana funciona de manera diferente: si estoy leyendo un trabajo revolucionario, puede resultar confuso y dudoso al principio. Provisionalmente, podría asignarle un valor de perplexidad tan alto como la perplexidad -no sería tan novedoso si no comenzara desde premisas inusuales o se embarcara en un camino improbable. Pero al final, el trabajo se habrá justificado a sí mismo. Entendido en su conjunto, podría estar bien en línea con hechos conocidos y razonamiento válido. En el cálculo final, podría terminar asignándole un valor de perplexidad tan bajo como el de las teorías aceptadas. Tal reevaluación dramática de los tokens anteriores, con su brusco cambio en la perplejidad, no ocurre con los LLM normales basados en transformadores: un texto inusual puede eventualmente establecerse en la previsibilidad relativa, dado el contexto suficiente, pero la media permanecerá manchada. Más significativamente, con los predictores de token, hay una simetría entre generar y evaluar textos. Pero esto no es el caso con los humanos: A través de la comprensión profunda, la mente puede sentir conexiones entre ideas que parecen lejanas y no relacionadas. Para validar y comunicar tal comprensión, necesitarías mediar entre las ideas explícitamente - para construir un argumento con una progresión lineal que otras mentes puedan seguir. Este proceso puede ser lento y arduo, pero guiado por el flash inicial de comprensión que no puedes esperar que el lector tenga. Eso es un contraste significativo. Cuando un LLM genera un texto, sigue un camino que se desarrolla antes de él a un destino desconocido. Las piedras de paso - la sucesión de tokens generados - no son mediadores, sino guías. Es exactamente como "perdido" intentando construir un texto nuevo, como la evaluación de la perplejidad del resultado implica. es decir, la mayor parte del camino a través, está a la orilla de su asiento, adivinando como un lector sin pistas! Sin embargo, la imagen de un núcleo con círculos concéntricos puede ser útil incluso para los humanos Deja que el núcleo sea la Tierra: la verdad subterránea. A su alrededor están bandas de la atmósfera intelectual de la humanidad, gradualmente adelgazando a medida que llega a un espacio vasto e inexplorado. Algunas ideas se encuentran justo en el suelo, como conclusiones obvias, fáciles de entrar. Un montón están en el aire, sobre nuestras cabezas, esperando un salto intuitivo. La mayoría están en el cielo, o todo el camino en el espacio- teorías no probadas, fantasías sin fundamento, delirios puros... Pero también puedes imaginar una montaña: comienza desde el suelo y va hacia arriba. El aventurero intelectual ve su enfoque desde lejos y traza un curso duro para el pico. Cuando empieza a subir, la montaña plantea muchos desafíos que no predijo - tales que sólo pueden ser resueltos desde arriba cerca. Finalmente, llega al pico y ve el mundo desde un nuevo punto de ventaja. Se encuentra donde incluso el aire es delgado, pero está conectado al suelo a través de una montaña pura. Desde allí, puede traer nuevas ideas de vuelta al suelo, junto con la historia de cómo llegó a ellos: una historia demasiado fantástica al principio, pero indiscutiblemente verdadera al final.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Este audio es producido en el idioma original de la historia!

Cómo el razonamiento de la IA refleja la biblioteca de Babel de Borge

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Navegando por las aguas: desarrollo de aplicaciones RAG de nivel de producción con lagos de datos

Liberando el poder de la IA. Una revisión sistemática de técnicas de vanguardia: resumen e introducción

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

Crecimiento de las criptomonedas: creación de perfiles de usuarios eficaces

Navegando por las aguas: desarrollo de aplicaciones RAG de nivel de producción con lagos de datos

Liberando el poder de la IA. Una revisión sistemática de técnicas de vanguardia: resumen e introducción

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

Crecimiento de las criptomonedas: creación de perfiles de usuarios eficaces

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps