Por qué debes estar siempre en control y y TL;DR: Siempre mantenga el control cuando use herramientas de IA. La confianza ciega puede conducir a errores costosos. TL;DR: Siempre mantenga el control cuando use herramientas de IA. La confianza ciega puede conducir a errores costosos. El desafío Escribo varios artículos cada semana y quería automatizar las partes repetitivas de mi proceso. La amenaza Esta semana, un memorando interno del CEO de Shopify, Tobias Lutke, se hizo viral. https://x.com/1909251946235437514?embedable=true y y TL;DR: El memorando requiere que los trabajadores de Shopify sean conocedores de las herramientas de IA. TL;DR: El memorando requiere que los trabajadores de Shopify sean conocedores de las herramientas de IA. Artículo anteriorLa habilidad es ahora obligatoria Artículo anteriorLa habilidad es ahora obligatoria El uso efectivo de la IA ya no es opcional en Shopify; es una expectativa básica para todos los empleados, independientemente del rol. El no uso de AI requiere justificación El no uso de AI requiere justificación Los empleados deben demostrar por qué no se puede utilizar la IA antes de solicitar recursos adicionales (por ejemplo, más personal o tiempo).La estancamiento se enmarca como fracaso, y se anima a los empleados a mejorar y experimentar con la IA continuamente. AI en el desarrollo de productos AI en el desarrollo de productos La IA debe integrarse en las etapas tempranas (fase de prototipo) de todos los proyectos GSD (get shit done). Responsabilidad de rendimiento Responsabilidad de rendimiento Shopify está añadiendo el uso de la IA a sus criterios de rendimiento y revisión por pares, haciendo que la adopción de la IA sea parte de cómo se evalúan y recompensan a los empleados, incluidos los equipos de liderazgo y ejecutivos. No trabajo en Shopify, y no estoy afiliado con la empresa. Mi contexto Tomo las herramientas de IA como ayudantes y una herramienta obligatoria tanto como desarrollador de software como como escritor, y confío en ellos. Llevo 10 años escribiendo sobre Hacer , y utilizando herramientas automatizadas para escribir . el Inteligencia artificial Refactorías asistidas Código limpio También soy un defensor de la codificación profesional de Vibe. En cada , de , y el papel que escribo, alento a los humanos a abrazar las herramientas de IA y usarlas pesadamente (con precaución). Conferencia Artículo https://hackernoon.com/ai-coding-tools-are-bad-news-for-lazy-programmers?embedable=true Tengo dos citas (no la mía): y y Tienes que estar siempre en control. Tienes que estar siempre en control. y y y La IA no tomará tu trabajo, pero un ser humano que lo use seguramente lo hará; deberías convertirte en esa persona. La IA no tomará tu trabajo, pero un ser humano que lo use seguramente lo hará; deberías convertirte en esa persona. (puedes ver esto en de esta conferencia) 53 de 40 https://www.youtube.com/v/99GuXTIW0R4?embedable=true No pensar sobre las cosas Esta semana, tuve que hacer algunas pruebas locales usando Python. Escribo artículos en más de 25 idiomas de programación diferentes y no los tengo todos instalados localmente. A veces utilizo máquinas virtuales, codelab y Correr en sitios web. Reemplazarlo Esta vez, necesitaba instalar rápidamente Python localmente (una tarea accidental). Comenzó con una idea simple: automatizar algunas cosas, ahorrar tiempo, ser inteligente. Así que hice lo que muchas personas están haciendo ahora. El hombre respondió rápidamente, confiado, como lo había hecho mil veces antes. Spoiler: Creí ciegamente en él. Un comando más tarde, mi sistema operativo estaba brindando. Lo que pasó mal En mi Yo uso las 10 herramientas de programación de IA más populares. Código de olor Acabo de abrir uno de ellos ( ) y le pidió que me diera algunos comandos para instalar Python en mi Ubuntu. ChatGPT y y Cómo instalar Python en Ubuntu Cómo instalar Python en Ubuntu Hasta la semana pasada, escribía: y y Hola, por favor, déjame un comando para instalar Python en Ubuntu Hola, por favor, déjame un comando para instalar Python en Ubuntu Pero ahora soy consciente de que esos tokens adicionales consumen muchos recursos (agua, por ejemplo), y ya no soy educado con las máquinas. https://www.techradar.com/computing/artificial-intelligence/chatgpt-spends-tens-of-millions-of-dollars-on-people-playing-please-and-thank-you-but-sam-altman-says-its-worth-it?embedable=true La respuesta fue breve y clara: y y sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y No me molesté en leerlo. Yo uso Linux desde hace más de 20 años. Introdujo mi contraseña mecánicamente (estaba usando sudo para instalar el pip), y fui a cenar. Cuando volví, el terminal mostró una lista muy larga de comandos. Eso era extraño. Sólo quería instalar Python (con pip, que es el gestor de paquetes). El problema (como podrías haber descubierto hasta ahora) fue esta línea inocente: y y Sudo apt actualización -y Sudo apt actualización -y Que ha actualizado (y ladrado) mi ordenador personal. ChatGPT decidió que era una buena decisión actualizar el sistema operativo primero. Estoy de acuerdo en que mantener un sistema operativo actualizado es una buena decisión para tener las últimas protecciones, pero esto es algo que necesitas planificar, tener una buena copia de seguridad, y no algo que hagas aleatoriamente. El sistema estaba cerrado, y yo también. Una mirada cuidadosa al comando (y una pregunta a otras IAs) dará una respuesta más precisa (y más segura): y y Sudo apt actualizaciones Sudo apt actualizaciones ¿Por qué me sucedió a mí? Yo era perfectamente capaz de leer un foro o googlar (¿quién googla cualquier cosa hoy en día, BTW?). También soy un predicador de no confiar ciegamente en AI, y lo impongo en Yo escribo . Cada artículo Esto no debería ocurrir a alguien como yo. Somos reptiles Nuestro cerebro es un maestro de la eficiencia. Cada decisión que tomamos consume energía, por lo que la parte más antigua de nuestro cerebro, el llamado “cerebro reptil”, evolucionó para optimizar para la supervivencia, no para el pensamiento profundo. Requiere reacciones rápidas, mínimo esfuerzo y cero desperdicio de azúcar. Por eso le gusta la delegación. Pero, ¿qué sucede cuando la cosa a la que estás delegando es una máquina? Lo haces todos los días: sigues las instrucciones de GPS sin cuestionarlas, confías en el autocomplete para terminar tus pensamientos, y deja que un motor de recomendación te diga qué ver, comprar o leer. En la superficie, esto parece conveniente. Por debajo, es un corto biológico. Los recursos de toma de decisiones de tu cerebro son limitados.Para evitar la fatiga, descarga las opciones donde sea posible. Las rutinas y las heurísticas te permiten funcionar en un mundo complejo sin ser abrumado. Pero cuando este reflejo primitivo toma el control, usted deja de preguntar “¿por qué?” – y eso es cuando las cosas se vuelven arriesgadas. La ilusión de la competencia Uno de los aspectos más peligrosos de la delegación de IA es la ilusión de competencia.Una máquina que habla elocuentemente, formata correctamente o genera código de trabajo parece inteligente. Pero detrás del polaco puede estar un razonamiento superficial, una interpretación errónea o incluso un contenido alucinado. Usted no se da cuenta porque su pereza cognitiva entra. Usted asume la corrección porque "suena bien".La parte más profunda, analítica de su cerebro - su córtex prefrontal - nunca se involucra. También es como los errores se desplegan, los contratos se equivocan y los sistemas fallan. Delegación sin responsabilidad El coste humano de las decisiones de IA defectuosas ya está aquí: a las personas se les niega la cobertura sanitaria, se les marca como fraudulentas o se les encarcelan basándose en predicciones algorítmicas. Cuando delegas una decisión a un sistema que no entiendes y no verificas, te has rendido a la agencia. "El algoritmo dijo eso" se convierte en un escudo. Cómo combatir al reptil dentro de ti La delegación no es inherentemente mala, pero tienes que hacerla consciente. y y y y Verificar la salida de cualquier IA que utilice, especialmente para tareas críticas Comprender los límites del sistema en el que se está confiando Recuperar la responsabilidad de las decisiones, incluso cuando las herramientas las facilitan Pregúntate a ti mismo: y y ¿Outsourco esto porque es eficiente, o porque soy perezoso?” ¿Outsourco esto porque es eficiente, o porque soy perezoso?” Solo esa pregunta puede volver a involucrar su cerebro racional. Conclusión Tu cerebro quiere sobrevivir. No importa si tu software funciona, si tu modelo es justo o si tu informe es exacto. Sólo quiere descargar el esfuerzo. Eso funcionó bien en la selva. Pero no en un mundo donde las decisiones tienen consecuencias digitales. La delegación sin control no es eficiencia, es abdicación. Y si usted no permanece en el control de sus decisiones, alguien —o algo— lo hará.

This story contains new, firsthand information uncovered by the writer.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch before making any investment decisions or decisions regarding your health or security. (Do not regard any of this content as professional investment advice, or health advice)

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Winner of Noonies 2020 for the award Hacker Noon Contributor of the Year - REFACTORING.

2020 - Hacker Noon Contributor of the Year in REFACTORING

2022 - HackerNoon Contributor of the Year - Clean Code

2022 - HackerNoon Contributor of the Year - Debugging

2022 - HackerNoon Contributor of the Year - Github

2022 - HackerNoon Contributor of the Year - Machine Learning

2022 - HackerNoon Contributor of the Year - Quality Assurance

2022 - HackerNoon Contributor of the Year - Refactoring

2022 - HackerNoon Contributor of the Year - Software Architecture

2022 - the Greatest Storyteller

Buy My Book

Share your ideas with me!

Read My Stories

Buy Me a Coffee

Software Engineer and Book Author

Este audio es producido en el idioma original de la historia!

De útil a dañino: cómo las recomendaciones de IA destruyeron mi sistema operativo

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Valhalla de Floki se une como patrocinador asociado de la gira de la India por Sri Lanka

La guía completa para una migración exitosa a la nube: estrategias y mejores prácticas

Una breve introducción a la teoría del cerebro de Boltzmann

Navegando por las aguas: desarrollo de aplicaciones RAG de nivel de producción con lagos de datos

Valhalla de Floki se une como patrocinador asociado de la gira de la India por Sri Lanka

La guía completa para una migración exitosa a la nube: estrategias y mejores prácticas

Una breve introducción a la teoría del cerebro de Boltzmann

Navegando por las aguas: desarrollo de aplicaciones RAG de nivel de producción con lagos de datos

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps