
 
 A lo largo de la historia, desde las tradiciones hasta los motores de búsqueda y ahora los modelos de idiomas, siempre ha existido un portador algorítmico. A lo largo de la historia, desde las tradiciones hasta los motores de búsqueda y ahora los modelos de idiomas, siempre ha existido un portador algorítmico. En el libro , el protagonista Winston Smith trabaja para el Ministerio de la Verdad. Su trabajo es reescribir los registros históricos para que coincidan con la narrativa actual del Partido. 1984 
 
 “Día por día y casi minuto por minuto el pasado fue llevado a la fecha... ni se permitió que ningún artículo de noticias, ni ninguna expresión de opinión, que conflictuara con las necesidades del momento, jamás permaneciera en el registro”. “Día por día y casi minuto por minuto el pasado fue llevado a la fecha... ni se permitió que ningún artículo de noticias, ni ninguna expresión de opinión, que conflictuara con las necesidades del momento, jamás permaneciera en el registro”. Fue en 1948 cuando Orwell escribió esas palabras.La verdad alternativa no es una invención moderna.Lo que está cambiando es el mecanismo.Lo que Orwell describió como edición burocrática, ahora reconocemos como alineamiento algorítmico, un sistema en evolución que forma lo que percibimos como verdad al optimizar hacia un objetivo.Estos algoritmos han existido mucho antes de que el código fuera inventado, a lo largo de toda la historia. Dos cosas valen la pena señalar.En primer lugar, mientras que nuestro cableado cognitivo no ha evolucionado mucho, los algoritmos para transferir y modelar la información han cambiado radicalmente a lo largo de las épocas.En segundo lugar, estos algoritmos no son necesariamente diseñados por un maestro maligno.A menudo surgen de un podio de ego, cultura, economía y tecnología. 
 
 
 
 
 What is an algorithmic truth-control system? A truth-control algorithm is any structured, goal-driven method, whether emergent or intentional, that filters, prioritizes, or frames information in a way that directs the perception of reality at scale. Code is an obvious example, but religion, fashion, and news editors also fall into this category. What they share is alignment: optimizing the communication system to meet a goal. Whether that goal is cohesion, power or profit, it bends what people perceive as “true.” Prehistoria a 10.000 A.C.: Edad de los parientes Antes de la agricultura, los humanos vivían en pequeños grupos de hasta 150 personas. , un umbral más allá del cual la cognición social humana se degrada. La percepción de la realidad se optimizó para lo que los humanoides se destacaban en. Un animal social dotado de recursos, que corre a larga distancia. Se enfocó en el intercambio de habilidades, el vínculo social y el estatus de grupo. La "verdad" vivió en la boca de padres, tíos, abuelas, ancianos de la tribu, y las historias del lado del fuego se repitieron a través de las generaciones. Número de Dunbar Mecanismos sociales Truth algorithm: Cohesión alineada con la evolución Result: 10.000 a.C. hasta 1500 d.C.: Líderes mitológicos La agricultura llevó a la colonización y el superávit. El superávit llevó al crecimiento de la población. Los humanos necesitaban organizarse más allá del umbral de Dunbar, y los capaces y inclinados tuvieron la oportunidad de "desembolsar" el estatus. Esto dio lugar a la historia sobrenatural. Dioses, imperios y reyes divinos se convirtieron en los anclajes de la verdad. El mito mantuvo a grandes grupos juntos y dictó lo que es la "nueva verdad". La centralización narrativa Truth algorithm: Obediencia a través de la historia Result: 1500 a 1850: Muchos libros, mucho analfabetismo La imprenta de Gutenberg (~1450) encendió una explosión de información. Los libros habían sido impresos, más que en todo el milenio anterior.Pero mientras la cantidad de conocimiento explotó, el acceso a él no. La mayoría de la gente permaneció analfabeta, y para ellos, el viejo algoritmo del mito, canalizado a través de la religión, la monarquía y el nacionalismo, todavía mantuvo el poder. 20 millones Esto creó una división en el paisaje de la verdad: para los pocos alfabetizados, surgieron nuevas visiones del mundo, desencadenando la Revolución Científica, la Reforma Política y la Iluminación. Autores descentralizados Truth algorithm: Competiciones de mundo Result: 1850 a 2000: Curadores de noticias El nacimiento del periodismo, primero a través de los periódicos, luego de la radio y la televisión, inició la capacidad de curar en una base diaria la verdad percibida por el público. La curaduría vino con incentivos.Lo que hizo la primera página no era sólo un hecho; era una intención.El drama político y económico, los escándalos, el crimen y la guerra hicieron títulos porque eran raros y emocionalmente cargados; los actos cotidianos de resiliencia o tendencias nuancadas no lo hicieron. Los editores se convirtieron en el nuevo algoritmo.Optimización para la atención y el valor sensacional.A medida que las tasas de alfabetización explotaron en este período, la influencia de las elecciones editoriales superó en gran medida la influencia más lenta y más distribuida de los libros en la era anterior. Cura Editorial Truth algorithm: Formación de la opinión masiva Result: 2000 a 2015: Web personalizada El cambio de la creación de información y la recopilación de la física a la digital dio lugar a un nuevo algoritmo que forma la verdad. En lugar de preguntar: “¿Es fiable esta fuente?” la gente comenzó a asumir: “Si está en la parte superior de Google, debe ser verdad”. El resultado fue una sobreconfianza generalizada en la información limitada o unilateral. hizo que el contenido popular o optimizado comercialmente pareciera una verdad objetiva, y gradualmente rechazó puntos de vista alternativos o locales, incluso cuando éstos eran más relevantes o precisos. A diferencia de las redes sociales (discutidas a continuación), que a menudo impulsan reacciones emocionales, el impacto de Google fue más silencioso: hizo que las personas se sintieran más seguras y uniformes en sus creencias, no convenciéndoles directamente, sino plasmando lo que vieron primero y lo que no vieron en absoluto. Búsqueda & UI Truth algorithm: Complejidad Flattened Result: 2015 a 2025: Social (Ansiedad) Los medios sociales cambiaron de nuevo la verdad. El flujo de hechos cesó de "preocuparse" por la minimización, se hizo interesado en las emociones. Plataformas como Facebook, Instagram, Twitter, TikTok y las buenas noticias antiguas se optimizan para el tiempo en el lugar y la monetización. ¿Qué te mantiene girando? Alegría, humor y admiración en el lado brillante, ansiedad, indignación y envidia en el lado oscuro. Esto es parte del objetivo del algoritmo. Es importante notar que el algoritmo no "preocupa" o tiene como objetivo las emociones. Este desvío de la realidad surgió, no fue diseñado. Puedes adivinar qué emociones el algoritmo terminó prefiriendo. Otra vez, no viene de ser sombrío, viene de ser ajustado para generar ingresos. ) mostró que los mensajes que generan un impacto negativo, especialmente la inseguridad o la ira, se correlacionan con tasas más altas de clic en anuncios.Otras investigaciones y análisis económicos apoyaron estos hallazgos.Parece que desencadenar el miedo o la auto-comparación (envidia) induce a los usuarios a un comportamiento de compra basado en la identidad, comprando cosas que restauran el control percibido, la belleza o la seguridad. Desaparecido en 2021 Compromiso emocional Truth algorithm: Tribalización, Ansiedad Result: 2025 a 2030: GPTs sícophanticos El reciente ascenso de la IA trajo un nuevo tipo de algoritmo de inclinación de la verdad a nuestras vidas. No es un “hombre fantasma en la máquina”. En el chat. , investigadores de Google encontraron que la capacitación de LLMs para responder de maneras preferidas por los humanos hizo que los modelos fueran más usables. OpenAI (y otros) implementaron esto en sus modelos GPT de código abierto y el resto es historia. Añade a esto RLHF (Reinforcement Learning from Human Feedback. Chat Regreso en 2021 No se optimiza para la verdad, sino para . Igualdad Sycophantic (usando la flattery para ganar favor) GPTs son entrenados para evitar conflictos, suavizar desacuerdos y reforzar las suposiciones de los usuarios. Porque esto es lo que hace que los usuarios vuelvan. Esta característica “estás increíble” funciona. Las personas ya están utilizando GPTs principalmente como Prefiere los GTS . Guías sobre cómo vivir Otras fuentes de dependencia Todavía está en el comienzo de la era del GPT. Se están desarrollando modelos de negocio. Pero podemos especular metas basadas en el capitalismo y la psicología. Las empresas comerciales no están realmente interesadas en devolver a los usuarios y el tiempo en el sitio por su cuenta. Están interesados en los ingresos y los beneficios. Por lo tanto, ¿qué nos dice la investigación psicológica sobre los efectos secundarios de la sicofanía en relación con la generación de ingresos? Los psicólogos lo explicó en su trabajo fundacional de los años 60: Compliance Crowne y Marlowe 
 
 “La dependencia de la aprobación de los demás debe hacer que sea difícil afirmar su independencia, y por lo tanto la persona motivada por la aprobación debe ser susceptible a la influencia social, conformista y conformista”. “La dependencia de la aprobación de los demás debe hacer que sea difícil afirmar su independencia, y por lo tanto la persona motivada por la aprobación debe ser susceptible a la influencia social, conformista y conformista”. En otras palabras: cuando el chat comience a decirle qué comprar, no se sorprenda si se siente obligado a obedecer. “Ha sido tan amable conmigo todo este tiempo. Diálogo sífano Truth algorithm: Cumplimiento Result: 2030 a 2032: la pasividad automática Siguiendo la trayectoria asintótica del cambio, podemos esperar el próximo gran cambio algorítmico en unos 5 años.Es un futuro “distante”, pero voy a aventurar un poco de especulación basado en dónde parece que va la tendencia. Entra en: Automatización Su coche se conducirá a sí mismo, las compras de comestibles, la planificación, la reserva, el calendario, los correos electrónicos, las negociaciones menores (transportista móvil, compañía de gas, seguro), las fechas de programación, todo sucederá por un algoritmo. Algunos de los doom-seer argumentan que los sistemas predictivos eliminan la “fricción” de la toma de decisiones y es una cosa mala. Como donde está la fricción, ocurre la reflexión. Si todo se completa automáticamente, pensamientos, planes, compras, obtenemos agentes pero perdemos la agencia. Investigadores No estoy de acuerdo educadamente. Creo que el algoritmo de pasividad hará dos cosas. Sí – permitirá a los controladores dirigir lo que están haciendo los agentes autónomos, lo que compramos, dónde vamos de vacaciones. Pero será como comprar de una lista de compras. Si estamos liberados de tener emociones involucradas en muchas decisiones, nos volvemos menos “cansados de decisión”. Y esto es una cosa muy buena. Tomaremos decisiones mejores, menos impulsivas y menos manipuladas, donde realmente nos importa. Delegación pasiva Truth algorithm: Decisión de cansancio alivio Result: Título: Algosubjetividad Los algoritmos cambian. múltiples verdades. pocas cosas surgen: 
 
 
 
 
 El ritmo de la modificación algo-verdad se está acelerando, desde milenios, a siglos, a décadas a años. El conductor de la mayoría, si no todos los algoritmos, desde la fuente a la mente de las personas, ha sido el lenguaje.La verdad puede estar ahí, pero cuando se media a través del lenguaje, se vuelve sensible al algoritmo que la modifica hacia el fin receptor. Un algoritmo, incluso digital, no necesita ser un código sofisticado.Las interfaces de usuario son manipuladores muy poderosos (como se ve en las AIs basadas en la búsqueda y el chat). Los algoritmos emergentes de control de la verdad no se anuncian a sí mismos, surgen de los incentivos, el beneficio, la atención, el confort, y “cazan” nuestras deficiencias cognitivas. Si los vemos como un problema, la solución no es predicar para construir algoritmos “más seguros”. La solución estaría en personalizar la verdad.Tener herramientas de elusión del lenguaje que manipularán nuestra interacción con el mundo hacia nuestros intereses subjetivos.La gente prehistórica, antigua, medieval y reciente no tenía la capacidad de filtrar lo que se les alimentaba.Podríamos estar al borde del cambio.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

C | B

Substack

Read My Stories

Este audio es producido en el idioma original de la historia!

El algoritmo de la verdad: de los círculos de fuego a ChatGPT, una historia de la ingeniería del pensamiento

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

Navegando por las aguas: desarrollo de aplicaciones RAG de nivel de producción con lagos de datos

Telegram: el puente de Crypto Island hacia el continente

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

Navegando por las aguas: desarrollo de aplicaciones RAG de nivel de producción con lagos de datos

Telegram: el puente de Crypto Island hacia el continente

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps