La incitación y la ingeniería rápida son fácilmente las habilidades más demandadas de 2023. El rápido crecimiento de los LLM   solo ha visto el surgimiento de esta nueva disciplina de IA llamada ingeniería rápida. En este artículo, echemos un breve vistazo a lo que son las indicaciones, lo que hacen los ingenieros de indicaciones y también los diferentes elementos de una indicación con los que trabaja un ingeniero de indicaciones. de modelos de lenguaje grande  ¿Qué es exactamente un aviso?  Prompt es simplemente la entrada que proporciona a un modelo "entrenado". Cuando digo modelo entrenado, los pesos del modelo son fijos o congelados y no van a cambiar durante el proceso de solicitud. Ahora puede preguntar en qué se diferencia de la inferencia porque hemos estado entrenando modelos, implementando y ejecutando la inferencia en modelos de aprendizaje automático. El punto es que con la inferencia, la entrada es fija. Nunca lo cambiamos y lo que sea que el modelo dé como resultado, lo aceptamos como resultado. Piense en la clasificación de imágenes como una tarea de ejemplo.  Sin embargo, con las indicaciones, no está restringido a una sola entrada. Puede ajustar la entrada según sus necesidades para mejorar el comportamiento del modelo. Usted es más de instruir al modelo con la intención de guiarlo hacia la respuesta correcta. Mientras acepta el modelo como dado cuando se trata de inferencia, con indicaciones, está estudiando las capacidades y limitaciones del modelo.  El arte de diseñar o diseñar estos insumos para que se adapten al problema que se tiene entre manos y sirvan mejor da nacimiento a una disciplina relativamente nueva llamada   .  ingeniería rápida  Ingeniería rápida  Antes de sumergirnos en la ingeniería de avisos, comprendamos la motivación o la necesidad de diseñar avisos con ejemplos. Digamos que quiero resumir un pasaje dado. Así que doy un gran pasaje de wikipedia como entrada y al final digo, "   ". Esta forma de proporcionar instrucciones simples en el indicador para obtener una respuesta del LLM se conoce como   . resuma el párrafo anterior solicitud de instrucción  Pasemos a un caso de matemáticas un poco más complicado y pidamos al LLM que multiplique dos números. Probemos el mensaje, "   La respuesta que obtenemos es “   ”, que obviamente no es la multiplicación de los dos números sino ambos juntos. qué es 2343*1232". 23431232  Ahora permítame modificar el mensaje y agregar una línea adicional en el mensaje para ser más específico, "     ". Ahora obtenemos, "   " la respuesta correcta del LLM. cuánto es 2343 multiplicado por 1232. Dame la respuesta exacta después de la multiplicación 2886576  Entonces, claramente la calidad de la salida del modelo está determinada por la calidad de la indicación. Aquí es donde entra en juego la ingeniería rápida. El objetivo de un ingeniero de avisos es   e identificar áreas de mejora en el aviso para obtener mejores resultados. Por lo tanto, la ingeniería rápida es una   por ensayo y error con la intención tanto de comprender el LLM como de diseñar buenas indicaciones. evaluar la calidad de la salida de un modelo disciplina altamente experimental que estudia las capacidades y limitaciones del LLM  Elementos rápidos  Para diseñar o diseñar las indicaciones, debemos comprender los diferentes elementos de una indicación. Un aviso puede contener uno o más de los siguientes elementos.  Las indicaciones pueden ser   en las que le pide al modelo que haga algo. En nuestro ejemplo, proporcionamos una gran cantidad de texto y le pedimos al modelo que lo resuma. instrucciones  Las solicitudes pueden incluir opcionalmente un   para que el modelo le sirva mejor. Por ejemplo, si tengo preguntas sobre, digamos, sitios del patrimonio inglés, primero puedo proporcionar un contexto como, "English Heritage se preocupa por más de 400 monumentos, edificios y lugares históricos, desde sitios prehistóricos de fama mundial hasta grandes castillos medievales, desde fortalezas romanas ... " y luego hago mi pregunta como, "¿   ” contexto cuál es el sitio patrimonial inglés más grande?  Como parte del mensaje, también puede indicar el formato en el que desea ver la salida. Y así, un indicador puede tener opcionalmente un   . Por ejemplo, puede preguntar “   .   .” indicador de salida Quiero una lista de todos los sitios del patrimonio inglés en Inglaterra, su ubicación y especialidad Quiero los resultados en formato tabular  O si desea una respuesta aún mejor, puede ingresar el formato deseado con esta sintaxis para indicar que desea ver columnas y filas en la salida:   Desired format:   Company names: <comma_separated_list_of_sites>   Sites: -||-Location: -||-Speciality: -||-  Un indicador puede incluir uno o más   donde proporcionamos entradas de ejemplo para lo que se espera del modelo. En el caso de la clasificación de sentimientos, eche un vistazo a este aviso donde comenzamos a proporcionar ejemplos para mostrar nuestras intenciones y también especificamos que no queremos ninguna explicación en la respuesta: datos de entrada   Text: Today I saw a movie. It was amazing.   sentiment: Positive   Text: I don't very good after seeing that incident.   sentiment:  Tipos de indicaciones: tomas  Esta forma de dar ejemplos en el aviso es similar a cómo explicamos a los humanos mostrando ejemplos. En el mundo de las indicaciones, se llama   . Proporcionamos ejemplos de alta calidad que tienen tanto la entrada como la salida de la tarea. De esta manera, el modelo entiende lo que buscas y responde mucho mejor. indicaciones de pocos disparos  Ampliando nuestro ejemplo, si quiero saber el sentimiento de un pasaje, en lugar de simplemente preguntar "cuál es el sentimiento del pasaje", puedo proporcionar algunos ejemplos que cubren las posibles clases en la salida. En este caso positivo y negativo:   Text: Today I saw a movie. It was amazing.   sentiment: Positive   Text: I don't very good after seeing that incident.   sentiment: Negative   Text: Lets party this weekend to celebrate your anniversary.   sentiment: Positive   Text: Walking in that neighbourhood is quite dangerous.sentiment: Negative   Text: I love watching tennis all day long   sentiment:  Y luego puedo dejar que el modelo responda al último texto que ingresé. Por lo general, de 5 a 8 ejemplos deberían ser lo suficientemente buenos para las indicaciones de pocas tomas. Como ya puede adivinar, el inconveniente de este enfoque es que habrá demasiados tokens en su aviso. Si desea comenzar de manera simple, no necesita proporcionar ningún ejemplo, pero salte directamente al problema como este mensaje:   Text: I love watching tennis all day long   sentimet:  Esta es   en la que no proporciona ningún ejemplo, pero aún espera que el modelo le responda correctamente. Por lo general, durante la ingeniería rápida, comienza con cero disparos, ya que es más simple y, en función de la respuesta, pasa a unos pocos disparos proporcionando ejemplos para obtener una mejor respuesta. una indicación de disparo cero  Tipos de indicaciones: funciones  Si desea saltar a un tema especializado con el LLM, puede dirigirlo directamente para que sea un experto en un campo asignándole un rol y esto se denomina   . indicación de rol  Por lo general, comenzaría el aviso con el rol de experto que debe desempeñar el LLM. Luego siga con las instrucciones de lo que debe hacer. Como un ejemplo simple, el rol podría ser pedirle al LLM que sea poeta y la instrucción podría ser simplemente escribir un poema sobre AI Bites.  O podría ser un poco más complicado pidiéndole al LLM que actúe como una terminal   . Y proporcionando instrucciones específicas para copiar las primeras 10 líneas de un archivo en un archivo diferente y guardarlo. Incluso puede evitar que incluya cualquier otro texto en la salida mencionando explícitamente que no debe dar ninguna explicación. de Linux   You are a poet.   Write a poem about AI Bites   Act as a linux terminalI want you to provide the shell command to read the contents of a file named "input.txt".Copy the first 10 lines to a different file with the name "new.txt" and save it.Do not give any explanations.  Una estructura Prompt formal   Diferentes elementos posibles de un aviso que podemos ingresar a un LLM  Con todo lo dicho, si quieres que formalice la estructura de un mensaje, lo haría así. Un aviso generalmente comienza con un papel que el modelo debe desempeñar si su aviso es sobre un tema especializado. Luego puede tener cualquier instrucción que le gustaría dar al LLM. Además de eso, si desea proporcionar información adicional al LLM, también puede ir después de la instrucción.  Poco después de eso, puede proporcionar ejemplos de alta calidad si está haciendo sugerencias de pocos intentos. Estos ejemplos pueden ser seguidos por cualquier contexto que desee proporcionar al modelo. Si desea hacer una pregunta y hacer una tarea q y A, puede incluir sus preguntas al final  Formato rápido  Ahora que hemos visto lo que constituye un aviso, es aún mejor si sabemos cómo formatear estos avisos. Por ejemplo, es mejor mencionar explícitamente el formato deseado y luego proporcionar el formato.   Extract locations from the below textDesired format:Cities: <comma_separated_list_of_cities>Countries: <comma_separated_list_of_countries>Input: Although the exact age of Aleppo in Syria is unknown,an ancient temple discovered in the city dates to around 3,000 BC Excavations in the1990s unearthed evidence of 5,000 years of civilization,dating Beirut, which is now Lebanon's capital, to around 3,000 BC  Del mismo modo, para la entrada o el contexto, es mejor decir entrada seguida de dos puntos y luego proporcionar su entrada.  Al proporcionar ejemplos, es mejor separarlos con un par de hashes como en este ejemplo.   Text: Today I saw a movie. It was amazing.sentiment: Positive   Text: I don't very good after seeing that incident.sentiment: Negative   Text: Lets party this weekend to celebrate your anniversary.sentiment: PositiveText: Walking in that neighbourhood is quite dangerous.sentiment: Negative  Si está proporcionando información, puede envolverla entre comillas como este ejemplo:   Text: """{text input here}"""  Luego hay algo llamado   que le indica al modelo que deje de producir texto en masa porque ha terminado con la salida. Puede elegir una secuencia de parada con cualquier símbolo de su elección. Pero la nueva línea parece ser la opción habitual aquí. secuencia de parada   Text: "Banana",   Output: "yellow \\n"   Text: "Tomato",   Output: "red \\n"   Text: "Apple",   Output: "red \\n"  Si está trabajando con la generación de código, es mejor proporcionar comentarios de acuerdo con el idioma en el que desea ver el código de salida que se generará.   /*   Get the name of the use as input and print it   */   # get the name of the user as input and print it  Ver el vídeo  Si has leído hasta aquí, supongo que te encantó el artículo o tienes curiosidad por la IA. De todos modos, ¿por qué no mira nuestro video sobre ingeniería rápida   ? Este es el primer video de la serie de videos sobre Prompting. Entonces, ¿por qué no suscribirse y estar atento? aquí   https://youtu.be/zS6JtmVRpo8?embedable=true  Conclusión  Con toda esa introducción sobre indicaciones, ingeniería de indicaciones y sus tipos, solo hemos arañado la superficie aquí. Por ejemplo,   Hay formas más avanzadas de generar sugerencias, como la cadena de pensamiento, la autoconsistencia, el conocimiento general, etc. Echemos un vistazo a estas en las próximas publicaciones y videos. ¡Por favor manténgase al tanto! ¿cómo podemos pedirle al LLM que razone sobre una situación dada?

The code in this story is for educational purposes. The readers are solely responsible for whatever they build with it.

Walkthroughs, tutorials, guides, and tips. This story will teach you how to do something new or how to do something better.

Una introducción a las indicaciones y la ingeniería de indicaciones

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

De los foros a los feeds: cómo los algoritmos de las redes sociales influyen en la interacción digital

El modelo Bitcoin UTXO, impulsando un ecosistema único

Aumente su productividad con estas 18 herramientas para desarrolladores 🚀🔥

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

De los foros a los feeds: cómo los algoritmos de las redes sociales influyen en la interacción digital

El modelo Bitcoin UTXO, impulsando un ecosistema único

Aumente su productividad con estas 18 herramientas para desarrolladores 🚀🔥

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps