Il y a quelques mois, le PDG de Scale AI Alexandr Wang, âgé de 28 ans, a fait des titres après son entreprise, après une ronde de financement très réussie impliquant Meta, Amazon et Microsoft. Bien que l’histoire de succès de Wang soit dramatique – d’un retrait du MIT de 19 ans au plus jeune milliardaire au monde – et bien rapportée, beaucoup moins a été dit sur la façon dont sa société, une entreprise de marquage de données massive, est devenue.Grâce à des heures de recherche dans les études institutionnelles et à des rapports relativement obscurs, je suis devenu de plus en plus conscient d’une série de virages tout aussi dramatiques dans l’histoire récente de l’entreprise, celle qui entrelace les histoires de centaines de milliers de personnes et le destin ultime de notre monde à la suite de la révolution de l’IA. Cet article explique, en profondeur, mes découvertes et mes connaissances concernant les intrigues de l’ingéniosité humaine omniprésentes dans l’ Plus de 1 milliard de dollars en capital-risque Plus de 1 milliard de dollars en capital-risque The World of AI Data Pour expliquer cette exigence, utilisons l’analogie d’un stylo et d’encre : un stylo sans encre ne serait pas en mesure de s’exprimer sur papier, comme c’est le cas avec une bouteille d’encre en l’absence d’un stylo. De même, un produit d’IA comme ChatGPT, Claude et Gemini est la combinaison minutieuse de données de formation et d’une architecture – généralement un modèle de style Transformer – permettant l’expression des données dans une forme utilisable. Une grande quantité de données est nécessaire pour former les grands modèles de langues modernes (ChatGPT 4o, un LLM de premier plan, est estimé à avoir environ__ __), et ainsi les sociétés d'IA à usage général se sont tournées vers le plus grand dépôt open-source de données linguistiques de l'histoire humaine - Internet.En plus d'être formés sur des échantillons de texte et d'images extraits de chaque site web imaginable, les LLM de pointe sont constamment alimentés avec plus de données de  and from  Le besoin inébranlable de meilleures données conduit à un marché entier pour des informations fiables utilisées pour former l’IA, un dilemme éthique amère que nous allons décomposer dans de futurs articles. 1,8 milliard de paramètres Propriétaires de données Les conversations avec ses utilisateurs Propriétaires de données Les conversations avec ses utilisateurs Why Humans? Pas étonnant, dans de grands ensembles de données, une variété de contenus nuisibles parcourant la gamme du matériel sexuellement explicite au discours de haine est juxtaposée avec des données de formation saines et éducatives, comme c'était le cas avec le sous-ensemble de données Internet utilisé pour former la plupart des chatbots LLM modernes. Pour atteindre un compromis entre l’utilisation de l’examen humain et la préservation de l’évolutivité du modèle, les sociétés d’IA ont adopté le modèle Reinforcement Learning from Human Feedback (RLHF): essentiellement, les travailleurs humains étiqueteraient et classifieraient les données potentiellement nocives, qui sont ensuite alimentées par une séquence d’apprentissage de renforcement pour ajuster le modèle en fonction du contenu des données de formation. Terabytes de données de formation Terabytes de données de formation En termes techniques, RLHF n’est pas différent des algorithmes standard de renforcement de l’apprentissage automatique : un réseau profond est employé pour attribuer un score à une réponse générée par l’IA basée sur des données réelles et étiquetées par l’homme, tandis que l’IA est fait à plusieurs reprises pour générer des réponses qui sont ensuite alimentées dans ce réseau profond, le classant efficacement en fonction de la nocivité de la réponse. Une sortie considérée comme similaire aux données « nocives » étiquetées par l’homme aura un impact négatif sur la tendance du modèle à générer quelque chose de similaire à l’avenir, tandis qu’une sortie considérée comme différente des données susmentionnées donnera au modèle une propension à génér en expliquant les détails pseudo-techniques concernant l’utilisation du RLHF dans les LLM modernes).En d’autres termes, ce processus « enseigne » au modèle de l’IA de produire des réponses aussi différentes que possible des données nuisibles étiquetées par l’homme, en l’adaptant efficacement sans avoir besoin de recréer. Ce blog post Ce blog post The Issue? Au lieu de cela, le modèle RLHF qui prétend rendre l’IA sûre et bénigne est fortement dépendant de centaines de milliers de travailleurs sous-remboursés, dont la plupart contribuent à des services d’étiquetage de données inestimables via des plates-formes en ligne « cloudwork ». La plupart de ces plates-formes suivent un format « requérant et entrepreneur », dans lequel une multitude de travailleurs en ligne sont affectés à une tâche, recevant une rémunération à l’achèvement de ce que la tâche stipule, allant de l’étiquetage du contenu d’une image ou d’une vidéo à la balayage des murs de texte pour des mots clés ou des contextes possibles. Ces travailleurs sont des contributeurs inestimables souligne les mauvaises pratiques commerciales commises sur les travailleurs par de grandes plateformes d’étiquetage de données d’IA en nuage telles que Amazon Mechanical Turk, Appen et Remotasks. The 2024 Fairwork report by the Oxford Internet Institute Le rapport Fairwork 2024 de l’Oxford Internet Institute 
 
 
 
 
 
 Aucune des plateformes mentionnées ne dispose de mécanismes ou de politiques garantissant que les entrepreneurs reçoivent des paiements de la part des demandeurs pour les tâches terminées. Seule une des plates-formes mentionnées (Appen) a des politiques qui assurent le QoL des travailleurs en atténuant le travail excessif. Aucune des plateformes mentionnées n’a de contrats clairs et facilement interprétés qui stipulent des conditions de paiement et de travail. None of the mentioned platforms have shown that they take in contractor feedback in making executive decisions. Seule l’une des plateformes mentionnées (Appen) a des politiques qui reconnaissent le droit d’association des travailleurs (unionisation). Real People, Real Impact Le manque sombre de droits de ces travailleurs de données a pour conséquence la création d’une « sous-classe » non reconnue et sous-estimée de travailleurs de l’IA. Ces personnes, souvent désespérées de gagner un peu de revenu supplémentaire pour soutenir leur famille, passent des heures devant leur ordinateur chaque jour, traversant des tâches mineures et répétitives d’étiquetage de données, rencontrant souvent les pires manières de la dépravation humaine. par des descriptions graphiques et détaillées ou des représentations de viol, de gorge, d'auto-harcèlement et d'abus sur les animaux, dont le témoignage fait partie de leur devoir attendu, sans suivi ni conseil par la suite. Souvent signalé traumatisé Souvent signalé traumatisé As contractors, workers are not protected by wage laws, and, in many cases, are not paid for overtime work. Remotasks places a limit on the maximum number of hours of work a participant is paid for, and the platform assigns tasks after a lengthy “qualification” process for which a prospective tasker is not paid for. Contracts are poorly and often ambiguously written, allowing for many mistreatments of workers to slip by unnoticed. Apart from the trauma that many content-moderation data labelers experience, they are paid  – même les travailleurs expérimentés capables de remplir efficacement des tâches ont parfois du mal à gagner au taux annoncé de 10 à 15 $ par heure, et les participants moins capables ont été payés encore moins, à moins de 2 $ dans certains cas. Même s’ils sont capables de gagner de l’argent, les travailleurs sont également harcelés par la malhonnêteté des demandeurs et les retards de paiement. des centaines de données-labelers de l’IA pour leur travail – plus de 70 000 tâches – au motif qu’ils étaient insatisfaisants. Malheureusement peu Refus de payer Malheureusement peu Refus de payer Des centaines de milliers de personnes travaillent quotidiennement dans le domaine de l’étiquetage des données d’IA, mais leur frustration est occasionnellement écrasée par un mauvais support client et un manque de plate-forme. ; certains employés ont même rapporté au MIT Tech Review que le support client est parfois . Ils étaient généralement mauvais refusent de traiter leurs réclamations sur le salaire anticipé Ils étaient généralement mauvais refusent de traiter leurs réclamations sur le salaire anticipé Coïncidence, Remotasks, l'une des plus grandes entreprises de marquage de données de l'IA, est une subvention clé dans Scale AI fournissant des données de formation étiquetées dans le cadre des services de construction d'IA de l'entreprise. Officiellement établi pour « préserver la confidentialité des utilisateurs », cette séparation tente de masquer certaines des pratiques commerciales moins goûteuses de la grande entreprise de l'œil public; en effet, quand on considère que Remotasks n'a marqué que 1/10 sur l'échelle de travail équitable de Fairwork, avec un 10/10 étant la « exigence minimale pour un environnement de travail équitable », il y a certainement beaucoup à discuter du mauvais traitement de Scale des travailleurs eux-mêmes qui soutiennent les produits d' 
 
 Cet article vous est apporté par Notre AI, une organisation d'éthique de l'IA fondée par les étudiants et dirigée par les étudiants qui cherche à diversifier les perspectives en matière d'IA au-delà de ce qui est généralement discuté dans les médias modernes. Cet article vous est apporté par Notre AI, une organisation d'éthique de l'IA fondée par des étudiants et dirigée par des étudiants qui cherche à diversifier les perspectives en matière d'IA au-delà de ce qui est généralement discuté dans les médias modernes. ! https://www.our-ai.org/ai-nexus/read Raise Awareness RLHF est une bonne chose faite de toutes les façons erronées.En tant que fort partisan du développement de l'IA axé sur l'homme, je soutiens que les normes et les politiques actuelles sont insuffisantes pour s'assurer que nos technologies n'affectent pas négativement et surnaturellement notre humanité.Si vous vous souciez suffisamment du développement responsable et sûr de l'IA, non seulement pour la Silicon Valley mais pour l'humanité dans son ensemble, je vous encourage fortement à sensibiliser aux violations des droits des travailleurs dans l'industrie de l'IA - que ce soit en partageant cet article ou en faisant votre propre recherche - et en soutenant les décisions politiques protégeant le droit des travailleurs à un salaire équitable et à une représentation sur le lieu de travail Le monde mérite de savoir – et vous devriez jouer votre part. Écrit par Thomas Yin

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Cet audio est produit dans la langue originale de l'histoire !

Trop long; Pour lire

Make resilience your competitive advantage

L’exploitation des travailleurs inexpliquée derrière les grands modèles linguistiques

About Author

COMMENTAIRES

ÉTIQUETTES

CET ARTICLE A ÉTÉ PARU DANS

Related Stories

Boostez votre productivité avec ces 18 outils de développement 🚀🔥

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

Des forums aux flux : comment les algorithmes des réseaux sociaux façonnent l'interaction numérique

Guide de l'architecte pour créer une architecture de référence pour un datalake IA/ML

Boostez votre productivité avec ces 18 outils de développement 🚀🔥

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

Des forums aux flux : comment les algorithmes des réseaux sociaux façonnent l'interaction numérique

Guide de l'architecte pour créer une architecture de référence pour un datalake IA/ML

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps