TikTok aurait dû être interdit il y a des années, et voici pourquoi

Au cours des derniers jours, j’ai vu nombre de mes collègues spécialistes du marketing et chercheurs en IA débattre de l’éventuelle interdiction de TikTok et défendre aveuglément la plateforme.

En tant que personne qui mène non seulement des campagnes publicitaires sur les réseaux sociaux et qui a suivi pendant des années des cours de conception informatique centrée sur l'humain, mais qui a également passé du temps dans des organisations libertaires défendant le libre marché et l'individualisme sur le contrôle de l'État, j'ai quelques idées.

Permettez-moi d'être clair sans équivoque : mon plaidoyer en faveur d'une IA open source , libre de tout contrôle gouvernemental, se reflète dans ma position sur les plateformes de médias sociaux. Cependant, le nœud du débat actuel se concentre sur l’exploitation avérée de TikTok par la Chine pour surveiller les peuples occidentaux, leurs dirigeants ainsi que les journalistes et façonner la trajectoire idéologique de notre jeunesse.

Sans approfondir la politique, permettez-moi d’expliquer, à l’aide de données et de documents de recherche, pourquoi je soutiens fermement le projet de loi bipartisan visant à interdire TikTok, et pourquoi vous devriez supprimer l’application maintenant !

Avant TikTok, les réseaux sociaux étaient sociaux

Instagram, Twitter et Snapchat ; ces applications se concentraient sur les interactions entre amis, groupes ou communautés jusqu'à ce que TikTok apporte le coup de dopamine et absorbe la capacité d'attention des utilisateurs.

La recherche « Likes and Fragments : Examining Perceptions of Time Spent on TikTok » est un exemple prouvé de la façon dont les utilisateurs de TikTok évaluent souvent mal leur temps d'utilisation .

Les résultats soulignent que les utilisateurs qui interagissaient plus intensément avec la plateforme en aimant plus de vidéos et en ouvrant l'application plus fréquemment présentaient un écart plus élevé entre leurs temps d'utilisation perçus et réels.

Cela suggère que la nature engageante et immersive de TikTok, combinée à son flux « Pour vous » organisé de manière algorithmique, crée un environnement dans lequel les utilisateurs sont susceptibles de mal évaluer le temps qu'ils passent sur l'application.

Ceci est important car cela nous amène à l’algorithme de TikTok, qui s’appuie fortement sur des tactiques de type casino. Il faut avoir plus de 18 ou 21 ans pour jouer, mais cette application rend les prochaines générations accros dès le plus jeune âge.

Alors, quelles sont exactement ces tactiques ?

Les tactiques sournoises de l'algorithme de TikTok

Une recherche importante de la Brown University School of Public Health met en évidence la nature addictive de TikTok. La conception de TikTok utilise des processus classiques de conditionnement et d’apprentissage basés sur les récompenses pour encourager une utilisation continue. Des fonctionnalités telles que le flux « Pour vous » personnalisent les flux de contenu en fonction des interactions des utilisateurs.

De plus, TikTok utilise un modèle de récompense variable similaire à celui des machines à sous , avec la fonction « glisser vers le bas » pour actualiser le flux reflétant l'action de tirer le levier d'une machine à sous. Ce renforcement intermittent maintient les utilisateurs engagés, anticipant toujours la prochaine vidéo « enrichissante ».

J'ai exploré davantage l'algorithme ci-dessous. Cette manipulation stratégique exploite des processus classiques de conditionnement et d’apprentissage basés sur les récompenses, rendant la plateforme très addictive et difficile à résister.

L'année dernière, le procureur général de l'Utah, Sean Reyes, a intenté une action en justice contre TikTok, montrant comment l'algorithme de recommandation « For You » accroche les jeunes utilisateurs. Vous pouvez lire le procès montrant les tactiques de casino de TikTok ici pour une exploration plus approfondie.

"TikTok induit cet effet en s'appuyant sur la même stratégie que celle utilisée par les casinos pour attirer les joueurs sur les machines à sous : les garder devant la machine, dépenser un quart à la fois, en espérant que le prochain tirage sera" celui-là ".

Ces libérations aléatoires de dopamine et autres tactiques de manipulation accrochent les cerveaux pas encore complètement développés de nos jeunes à cette chaîne médiatique appartenant à l’État.

Voyons maintenant pourquoi nous ne devrions pas laisser le contrôle du développement cérébral de notre prochaine génération à la Chine communiste.

La dichotomie culturelle

Une comparaison entre Douyin (version chinoise de TikTok) et le nôtre après que les services de renseignement chinois ont pris le contrôle de ByteDance montre une énorme différence.

En 2021, les renseignements nationaux chinois ont pris le contrôle de ByteDance . Ils ont nommé un fonctionnaire du gouvernement avec une voix d'or (cette personne a le dernier mot dans l'entreprise), et après ce changement, les algorithmes de Douyin ont complètement changé.

Tandis que vos enfants sont bombardés de « contenus poubelles », les générations chinoises sont exposées à des contenus éducatifs . Alors que votre seul et unique enfant passe des heures à faire défiler le destin, ses enfants ont des limites de temps obligatoires.

La sommité du marketing Scott Galloway donne une bonne raison d'éviter TikTok :

"Si j'étais membre du PCC et reconnaissais un intérêt direct à saper la position stratégique de l'Amérique à l'échelle mondiale, je ferais subtilement et astucieusement pencher la balance du contenu pour présenter l'Amérique sous un jour défavorable. Je crois que c'est exactement ce qui se passe en ce moment : Il serait insensé de leur part de ne pas s'engager dans de telles tactiques. »

La dépendance et ses impacts

Un utilisateur moyen de TikTok passe environ 60 minutes par jour sur l’application et cela devrait dépasser les 100 minutes cette année. L’algorithme d’hyper-personnalisation conduit à des comportements de type dépendance.

Il a été prouvé à plusieurs reprises que l'algorithme d'hyper-personnalisation de TikTok conduit à des schémas d'utilisation problématiques similaires à des comportements de type dépendance .

TikTok encourage l'isolement et la solitude chez les jeunes, et les statistiques sur la dépression d'une année sur l'autre montrent que la dépression chez les jeunes a considérablement augmenté suite à l'adoption généralisée de cette arme de soft power.

"Les individus, en particulier les jeunes souffrant d'anxiété sociale ou de dépression, pourraient être enclins à passer trop de temps en ligne, diminuant ainsi les interactions dans la vie réelle", explique Anne Marie Albano, PhD, directrice de la clinique universitaire de Columbia pour l'anxiété et les troubles associés.

"Éviter de s'engager activement dans le monde - par le biais d'échanges sociaux, de défis, de participation à des discussions ou de conflits entre pairs - peut intensifier les sentiments d'isolement, de désespoir et de détresse émotionnelle."

Les résultats révèlent que l’utilisation de TikTok suscite des émotions négatives chez les utilisateurs, affectant leur intention de continuer à utiliser ces plateformes. Cela entraîne des sentiments de perte de temps, de dépendance et a même un impact sur la santé mentale lorsque l'utilisation devient excessive ou perturbe la vie quotidienne.

La recherche « Comprendre les émotions négatives des utilisateurs et l'intention d'utilisation continue sur les plates-formes vidéo courtes » prouve que l'algorithme de flux d'émotions négatives de Tiktok conduit à une consommation accrue et, finalement, à une dépendance.

Armer TikTok

TikTok sert d’arme au service du programme parrainé par l’État. La recherche menée par le Network Contagion Research Institute en collaboration avec le Miller Center de l'Université Rutgers étudie les écarts dans les ratios de hashtag sur des sujets sensibles pour le gouvernement chinois.

Pour les sujets non sensibles, tels que la politique générale et la culture pop, les ratios de hashtag entre Instagram et TikTok suivaient approximativement les ratios d'utilisateurs (~ 2 : 1).

Ce schéma d'anomalies était cohérent dans toutes les questions nationales/régionales et internationales sensibles à la Chine, suggérant une approche systématique de TikTok pour influencer la visibilité du contenu en fonction de son alignement avec les intérêts du gouvernement chinois.

Les recherches du CNRI s'étendent à des sujets géopolitiquement sensibles, démontrant la sous-représentation des hashtags favorisant les discours opposés aux intérêts du gouvernement chinois et la surreprésentation de ceux qui s'y alignent, en particulier en ce qui concerne les conflits internationaux dans lesquels la Chine a des intérêts stratégiques.

Les résultats soulèvent des inquiétudes quant à l'impartialité de TikTok et à l'utilisation potentielle de la plateforme pour promouvoir les objectifs nationaux/régionaux ou internationaux du gouvernement chinois. Les divergences dans la représentation des hashtags soulignent la nécessité d'une analyse plus complète pour comprendre l'influence de TikTok sur les récits publics et son alignement sur les objectifs géostratégiques du gouvernement chinois.

Les travaux du CNRI soulignent l'importance de la transparence et du contrôle dans les opérations des plateformes numériques, en particulier lorsqu'elles ont un impact significatif sur le discours public et possèdent un potentiel d'influence gouvernementale.

En effet, il s’agit d’un outil utilisé pour faire avancer les programmes parrainés par l’État, la récente tendance des « Lettres à l’Amérique » attribuée à Ben Laden n’en étant qu’un des exemples les plus notoires.

Il existe deux utilisations principales de cet instrument : la manipulation politique à grande échelle et les préoccupations concernant la sécurité des données .

Il a été établi que TikTok amplifie le contenu lié à l’automutilation, aux problèmes de santé mentale et à l’extrémisme auprès de son public plus jeune. Une enquête du Wall Street Journal révèle que l'algorithme de TikTok a montré des images d'explosions, de roquettes et de familles en détresse provenant de zones de guerre à un utilisateur de 13 ans qui vient de s'inscrire, soulignant l'exposition des jeunes utilisateurs de la plateforme à de tels contenus graphiques.

En outre, une étude de Newsguard indique que passer aussi peu que 40 minutes sur TikTok conduit à une exposition à de faux contenus concernant des événements politiques , tels que l'invasion de l'Ukraine par la Russie.

L'étude « An Empirical Investigation of Personality Factors on TikTok » examine comment les comportements et les paramètres des utilisateurs affectent les recommandations faites par l'algorithme de TikTok.

Les chercheurs ont utilisé des comptes « sock-puppet » contrôlés pour se concentrer sur l’impact des facteurs de personnalisation, notamment la préférence linguistique, la situation géographique, les interactions des utilisateurs telles que les likes et les abonnements, et les durées de visionnage des vidéos, sur le contenu suggéré par TikTok à ses utilisateurs.

La nature de « boîte noire » de l'algorithme de recommandation de TikTok, avec un contrôle limité sur le contenu qui leur est présenté, conduit à des chambres d'écho et à des bulles de filtrage, où les utilisateurs sont de plus en plus exposés à du contenu qui renforce leurs croyances et leurs intérêts existants, limitant ainsi l'exposition à des points de vue divers.

Ces recherches montrent que cette application non seulement vous rend accro tout en diminuant votre capacité d'attention, mais qu'elle change aussi délibérément l'avenir de notre propre civilisation.

L'autre préoccupation concerne la sécurité des données. Avec plus de 112 millions d’installations de TikTok sur des iPhones et des appareils Android aux États-Unis, il existe près de 112 millions de sources de données distinctes, englobant non seulement du contenu mais aussi des flux vocaux en temps réel.

Sécurité des données

Le « Monolith : système de recommandation en temps réel avec table d'intégration sans collision » de Zhuoran Liu et al. à ByteDance Inc. présente la position de ByteDance dans l'exploitation d'algorithmes complexes .

Il s'agit d'un système conçu pour la recommandation en temps réel.

Monolith relève les défis critiques inhérents aux systèmes de recommandation, tels que la gestion de données catégorielles et éparses et l'adaptation au comportement des utilisateurs non stationnaires, grâce à des solutions telles qu'une table d'intégration sans collision et des mécanismes d'expulsion de fonctionnalités dynamiques.

Clarifions cela ;

Les systèmes de recommandation traditionnels s'appuient souvent sur une formation par lots, où les données sont collectées sur une période donnée, traitées, puis utilisées pour mettre à jour les recommandations du modèle. Cela peut entraîner des retards dans le modèle reflétant les dernières interactions des utilisateurs.

Le système de Monolith, en revanche, utilise une formation en ligne. Cela signifie qu'il apprend des interactions des utilisateurs en temps réel, permettant une expérience utilisateur beaucoup plus réactive et personnalisée. L'interaction de l'utilisateur avec le contenu est immédiatement réinjectée dans le système, lui permettant d'ajuster ses recommandations à la volée.

Dans le contexte de l'apprentissage automatique, une table d'intégration transforme des données catégorielles clairsemées en vecteurs denses de taille fixe, avec lesquels le modèle peut travailler plus facilement. Une « collision » dans ce contexte signifierait que différents points de données d'entrée seraient mappés sur la même représentation vectorielle, ce qui pourrait conduire à des prédictions inexactes du modèle. Une table d'intégration sans collision suggère une méthode permettant de minimiser ou d'éliminer ces collisions, améliorant ainsi la précision et l'efficacité du modèle dans le traitement de grandes quantités de données catégorielles.

L'architecture du système utilise une formation en ligne, permettant une adaptation immédiate en fonction des interactions des utilisateurs, affinant ainsi considérablement la personnalisation du contenu.

Cependant, cette personnalisation de pointe de l'IA soulève d'importantes discussions sur la confidentialité des données, car le traitement continu et en temps réel des données des utilisateurs pour la diffusion de contenu personnalisé implique une collecte et une analyse approfondies de données en temps réel , souvent sans mécanismes de consentement transparents ou des politiques claires d’utilisation des données.

.

TikTok fait l'objet d'un examen minutieux en raison de l'étendue des données qu'il collecte pour personnaliser le contenu et affiner son algorithme. Nous craignons que ces données puissent être consultées par le gouvernement autoritaire et utilisées contre nous.

On pourrait rétorquer que ByteDance a récemment proposé de transférer ses centres de données aux États-Unis en utilisant des serveurs Oracle . Cependant, accepter cela au pied de la lettre est non seulement naïf, mais montre également qu’assurer la sécurité des données est une tâche presque impossible.

L’urgence d’agir

La Chine expose depuis 2017 ses projets de gouverner le monde grâce à l’intelligence artificielle générale .

Supprimer TikTok de nos téléphones, créer un discours public contre son utilisation et partager ces découvertes et recherches pour éclairer nos amis sont des étapes cruciales.

Je crois que je fais ma part en écrivant cet article pour montrer pourquoi nous avons besoin d’une action immédiate contre cette application contrôlée par l’État.

"Le contrôle de l'utilisation de son esprit fait partie intégrante de l'autonomie humaine, et le refus d'un tel contrôle porte atteinte à la liberté de pensée et à la liberté de volonté."

Pour mieux comprendre la concurrence numérique et ses implications critiques pour l'avenir, je vous recommande vivement de vous connecter à la session All-In Summit : Bill Gurley 2 851 Miles , si vous ne l'avez pas encore regardé.

Ici, Gurley se plonge dans les discussions sur la réglementation, l’avenir de l’IA et le prochain crash historique intense entre la Chine et les États-Unis.

Je vous invite à partager ce contenu avec vos amis qui utilisent TikTok et à les encourager à prendre des mesures immédiates en supprimant cette application de logiciel espion.

Votre participation à cette conversation est cruciale.

N'hésitez pas à partager vos réflexions et commentaires ci-dessous, alors que nous continuons à explorer et à aborder ensemble ce sujet important.