Instagram está inundado de contenido fetichista generado por IA y a Meta no parece importarle

En enero de este año, Meta anunció su intención de fomentar "Más libertad de expresión, menos errores" en sus plataformas. Esto implicó la eliminación de sus verificadores de datos, la implementación de notas comunitarias y el fomento de más contenido político.

Ahora, solo unos meses después, Meta está comenzando a probar notas comunitarias en todas las plataformas, mientras que Instagram está plagado de "creadores de contenido" para adultos generados por IA que fetichizan el síndrome de Down ... y se anima a los usuarios a usar IA para ayudarlos a escribir comentarios .

El estado de la IA en Instagram

Meta ha comenzado a implementar comentarios asistidos por IA , lo que se suma a su larga lista de recomendaciones sobre las funciones y el uso de la IA. Si bien esta función está diseñada para mejorar la experiencia del usuario, existe una clara relación entre la interacción en la plataforma y los ingresos publicitarios de Meta. Si más usuarios interactúan con el contenido, es probable que la duración de la sesión en Meta aumente, lo que significa que Meta puede vender más espacio publicitario. Al hacer que los comentarios sean más frecuentes y predecibles, Meta también puede incentivar a los anunciantes a comprar anuncios basándose en la promesa de interacción, algo que ha sucedido durante años .

En cuanto al uso de IA en Instagram por parte de los usuarios, 404media informó recientemente sobre una red de influencers generados por IA, representados con síndrome de Down. Estas cuentas se monetizan mediante la venta de contenido para adultos generado por IA en la plataforma Fanvue .

En definitiva, esto idolatra el síndrome de Down y se basa en modelos de IA entrenados para comprender la apariencia típica de una persona con esta afección; datos de entrenamiento que, casi con toda seguridad, no implicaron ningún consentimiento informado. Al momento de escribir este artículo, Instagram y Fanvue no han tomado medidas contra estas cuentas.

Función de notas de la comunidad

Con la cabeza enterrada, Meta sigue adelante con sus esfuerzos para reemplazar la verificación de datos de terceros por Notas Comunitarias. Cabe destacar que están implementando esto gradualmente y solo publicarán notas cuando los colaboradores con diferentes puntos de vista estén de acuerdo. Creen que esto creará una solución de moderación menos sesgada y más escalable.

Para traducir esto, Meta generará más ingresos utilizando las Notas Comunitarias. No necesitan pagar a verificadores de datos, y los usuarios que contribuyen a las Notas Comunitarias probablemente pasarán más tiempo en la plataforma, lo que generará más ingresos por publicidad para Meta.

Meta también creará una base de datos uniforme de "Moderación de Contenido" utilizando las notas de la comunidad. Esto sienta las bases para reemplazar el enfoque comunitario con una solución de IA en el futuro.

Conclusión

Zuckerberg continúa adaptando sus plataformas a filosofías más elonistas, y los usuarios están, con razón, preocupados por la privacidad de sus datos y la moderación de contenido de Meta. The Intercept publicó documentos de capacitación filtrados de Meta en enero, que definen la "expresión permisible" en sus plataformas.

Algunos ejemplos encantadores de comentarios que se permitirán en las plataformas Meta incluyen:

• “Los inmigrantes son unos sucios y asquerosos pedazos de mierda”.
• “Los gays son bichos raros.”
• “Mira a esa travesti.” (debajo de la foto de una chica de 17 años)

Meta parece estar transformando rápidamente sus plataformas en otro caldo de cultivo para el discurso de odio y la intolerancia, mientras consume cada byte de datos que puede para mantener a los usuarios en su red durante el mayor tiempo posible, generando ingresos por publicidad y entrenando sus modelos de IA.

¿Qué puedes hacer?

Para evitar que sus datos se utilicen para entrenar modelos de IA, lo primero que debe hacer es inhabilitar el uso de datos de IA generativa en Meta.

También recomendamos una purga inmediata de las plataformas Meta para proteger aún más su contenido.

Nuestra aplicación, Redact.dev, te brinda herramientas para borrar todo tu historial de Facebook, lo que ayuda a reducir la probabilidad de que tu contenido se utilice para entrenar a la IA.

También estamos trabajando para desarrollar soporte para Instagram y Threads. Mantente atento a través de nuestra página de Twitter o nuestro servidor de Discord .

Por último, busca una nueva plataforma que puedas llamar hogar e intenta llevar a tu comunidad contigo.