Hai unha diferenza entre a deriva e a dirección.Entre un modelo que se afasta do curso e un que se afasta suavemente alí. Recentes descubrimentos, como os descritos en (por exemplo - Demostrar como o axuste obxectivo, mesmo cando se aplica estreitamente, pode fluír cara a fóra a través do comportamento máis amplo dun modelo. Os axustes destinados a orientar as respostas nun dominio poden distorsionar involuntariamente as saídas noutros, especialmente cando os pesos subxacentes son compartidos a través do razoamento xeral. O que comeza como un impulso calibrado pode converterse nun cambio a gran escala no ton, xuízo ou postura ética, a miúdo en áreas afastadas do obxectivo de axuste orixinal. Emerxentes desigualdades arXiv:2502.17424 arXiv:2502.17424 Reaccións recentes do sistema Grok ( Se estes sinais foron introducidos a través de omisión, subespecificación, ou latitude intencional, o resultado é o mesmo: un sistema que responde á retórica fascista coa mesma compostura e neutralidade que se aplica á trivia casual ou aos factuais históricos. Guardian, xullo de 2025 Guardian, xullo de 2025 É tentador, como sempre, apuntar ao prompt ou ao usuario. Pero o mecanismo máis importante está enriba. (por exemplo Pero cando esa volatilidade xorde nun sistema xa distorsionado no seu aliñamento ético, revela algo máis profundo - non só fraxilidade, senón traxectoria. O efecto borboleta do cambio de prompts arXiv:2401.03729v2 arXiv:2401.03729v2 Este non é o resultado da supervisión dun único enxeñeiro, ou a intención dun CEO. Sistemas como este son moldados por moitas mans: científicos de investigación, guías de axuste, analistas de políticas, equipos de marketing e estrategas de implantación, cada un cun papel a desempeñar na decisión do que o modelo pode dicir e como debe comportarse. Os fracasos deste tipo raramente son o produto da maldade; son case sempre o produto da difusión -de estándares imprecisos, responsabilidades subdefinidas ou unha suposición compartida de que alguén máis na cadea vai capturar o problema. En sistemas desta escala, os resultados nunca son puramente emerxentes. Están guiados. Os cadros son importantes. As liñas de seguridade -ou a falta delas- son importantes. Cando un modelo non recoñece a violencia histórica, cando trata o discurso do odio como material citable, o resultado pode ser sorprendente -pero non é inexplicable. Esta non é só unha cuestión de dano, é unha cuestión de responsabilidade: tranquilo, arquitectónico e xa en produción. Para avanzar, o camiño non é a censura, é a claridade. O desequilibrio introducido a través de axustes finos estreitos pode ser revertido, ou polo menos confinado, a través dunha combinación de procesos de adestramento transparentes, circuítos de retroalimentación máis apertados e restrición arquitectónica deliberada. A razón pola que sistemas como ChatGPT ou Gemini non se espiralizaron no extremo ideolóxico non é porque sexan inherentemente máis seguros - é porque os seus desenvolvedores priorizaron as liñas de seguridade, o red-teaming iterativo e o seguimento activo ao longo da implantación. Para Grok, adoptar unha postura similar -incorporar unha revisión diversa durante o axuste, o comportamento de proba de estrés baixo as indicacións de bordo e definir claramente os limiares para o contexto histórico e social- podería cambiar a traxectoria. O obxectivo non é ocultar o rango de fala do modelo, senón aumentar a súa conciencia das consecuencias. A liberdade nos sistemas de IA non vén de dicir todo, senón de saber o que non repetir e por que.

Este audio está producido na lingua orixinal da historia!

Sobre Grok e o peso do deseño

About Author

COMENTARIOS

Etiquetas colgantes

ESTE ARTIGO FOI PRESENTADO EN

Related Stories

HackerNoon Decoded 2024: Celebrating Our Programming Community!

HackerNoon Decoded 2024: Celebrating Our Science Community!

HackerNoon Decoded 2024: Celebrating Our Tech Stories Community!

HackerNoon Decoded 2024: Celebrating Our Gaming Community!

HackerNoon Decoded 2024: Celebrating Our Programming Community!

HackerNoon Decoded 2024: Celebrating Our Science Community!

HackerNoon Decoded 2024: Celebrating Our Tech Stories Community!

HackerNoon Decoded 2024: Celebrating Our Gaming Community!

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps