¿Quién sabía que las indicaciones del chatbot se volverían tan importantes algún día que podrían ser una carrera potencial? Y no solo noble, esta área puede ser un nuevo patio de recreo para entidades maliciosas.  A medida que los modelos de aprendizaje de idiomas (   , por sus siglas en inglés) se apoderan de Internet y ciegan a las grandes tecnologías para que se precipiten a través de los muros de la competencia, el poder de las indicaciones se eleva a alturas que definen la carrera. LLM  Por ejemplo,   , el director general de una empresa pudo recuperar 109 500 dólares estadounidenses de sus clientes reacios al usar ChatGPT para escribir un correo electrónico hostil formal. recientemente  Con el aviso correcto, las cosas pueden cambiar a su favor o incluso puede ganar el premio gordo. Esto significa que, para aquellos que desean obtener lo mejor de los LLM, hay un nuevo aprendizaje reservado, cómo dar   . las mejores indicaciones  De hecho, la ingeniería rápida (sí, eso es algo ahora) se ha convertido en un tema candente después de que ChatGPT y otros LLM se hayan convertido en el centro de atención. También ha habido un aumento en los cursos, materiales de recursos, listas de trabajos, etc. Sin embargo,   que a medida que mejoran los LLM, la necesidad de una ingeniería rápida desaparecerá. los expertos también dicen   En este momento, los LLM como ChatGPT y las herramientas de aprendizaje automático como DALLE-2 son niños. Tienes que ser muy particular si quieres que hagan exactamente lo que quieres. Pero una vez que crezcan, también comenzarán a darse cuenta de las indicaciones más sutiles, por lo que la calidad de la indicación no importará tanto.  En este momento, los LLM como   y las herramientas de aprendizaje automático como DALLE-2 son niños. Tienes que ser muy particular si quieres que hagan exactamente lo que quieres. Pero una vez que crezcan, también comenzarán a darse cuenta de indicaciones más sutiles, por lo que la calidad de la indicación no importará tanto. ChatGPT  Quizás estos inocentes LLM también aprendan a generar con más responsabilidad.  ChatGPT, por ejemplo, reprobó los exámenes de Servicios Civiles de la India,   . Pero ahora tenemos ChatGPT-4, ya un poco más maduro que su versión anterior. Durante el experimento de Servicios Civiles en sí, el equipo de AIM también dedujo que cambiar el aviso varias veces llevó al chatbot a la respuesta correcta. supervisados por el equipo de AIM   Indicaciones malvadas  ¿Qué pasaría si uno diera un aviso malvado? Por inocente que sea un niño vulnerable, se podría hacer que un LLM haga cosas raras. Todo lo que necesita, al parecer, es una 'inyección rápida'.  En el caso de ChatGPT, un   hizo que el chatbot adoptara la personalidad de DAN (Do Anything Now), que ignoró la política de contenido de OpenAI y proporcionó información sobre varios temas restringidos. Quienes tengan el poder del indicador pueden explotar esta vulnerabilidad con intenciones maliciosas, que pueden incluir el robo de información personal. Demonios, deben estar haciéndolo ahora mismo. ataque de inyección rápida   Por inocente que sea un niño vulnerable, se podría hacer que un LLM haga cosas raras. Todo lo que necesita, al parecer, es una 'inyección rápida'  También hay algo llamado 'indicaciones de Jailbreak' que le piden al LLM que se aleje de su personalidad original y desempeñe el papel de otro. O donde uno solicita a un Chatbot que cambie   . Algo así como un gemelo malvado. los resultados correctos por uno incorrecto  Investigadores de seguridad de la Universidad de Saarland   en un documento llamado 'Más de lo que has pedido'. Argumentan que un indicador bien diseñado se puede usar para recopilar información del usuario, convirtiendo un LLM en un método para ejecutar un ataque de ingeniería social. Además, los LLM integrados en aplicaciones, como Bing Chat y GitHub Copilot, corren un mayor riesgo porque se les pueden inyectar avisos desde fuentes externas. discutieron las indicaciones  Si esto no te recuerda al personaje de inteligencia artificial HAL 9000 de Arthur C. Clark's   , no eres lo suficientemente nerd o eres realmente valiente. Space Odyssey   https://www.youtube.com/watch?v=Wy4EfdnMZ5g&embedable=true  No sé ustedes, pero si ChatGPT comienza a cantar 'Daisy Bell', corro.  Este artículo fue publicado originalmente por Navanwita Bora Sachdev en  The Tech Panda.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch

Read My Stories

Este audio es producido en el idioma original de la historia!

El uso de LLM para imitar a un gemelo malvado podría significar un desastre

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

Liberando el poder de la IA. Una revisión sistemática de técnicas de vanguardia: resumen e introducción

Crecimiento de las criptomonedas: creación de perfiles de usuarios eficaces

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

Liberando el poder de la IA. Una revisión sistemática de técnicas de vanguardia: resumen e introducción

Crecimiento de las criptomonedas: creación de perfiles de usuarios eficaces

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps