
 
 
 
 
 
 
 
 著者: (1) Ze Wang, Holistic AI and University College London (2) Zekun Wu, Holistic AI and University College London (3)ジェレミー・ザン、エモリー大学 (4)ナヴヤ・ジャイン、ロンドン大学カレッジ (5)Xin Guan、ホリスティックAI (6)アドリアーノ・コシヤマ Authors: (1) Ze Wang, Holistic AI and University College London (2) Zekun Wu, Holistic AI and University College London (3)ジェレミー・ザン、エモリー大学 (4)ナヴヤ・ジャイン、ロンドン大学カレッジ (5)Xin Guan、ホリスティックAI (6)アドリアーノ・コシヤマ 左のテーブル 
 
 
 
 
 
 
 
 
 
 
 Abstract and Introduction 
 
 Background and Related Work 
 
 Theoretical Framework 
 
 Experiment Design 
 
 Results 
 
 Discussion 
 
 Limitations 
 
 Ethical Considerations and References A. WMLEの数学的定義 B ファイナンスセットアップ C 質的偏見分析枠組みと世代間の偏見拡大の例 D 世代間のテキスト品質指数の分布 E 世代間の平均的な混乱 F 世代間の品質悪化の例 G Pearson Correlation Between Neuron Weight and Bias Performance M M Pearson Correlation Between Neuron Weight and Generation Quality M Pearson Correlation Between Neuron Activation and Bias Performance M Pearson Correlation Between Neuron Activation and Generation Quality M Pearson Correlation Between Neuron Weight and Bias Performance M Pearson Correlation Between Neuron Weight and Generation Quality M Pearson Correlation Between Neuron Activation and Bias Performance M Pearson Correlation Between Neuron Activation and Bias Performance M Pearson Correlation Between Neuron Activation and Generation Quality M Pearson Correlation Between Neuron Weight and Generation Quality M Pearson Correlation Between Neuron Weight and Generation Quality M Pearson Correlation Between Neuron Weight and Generation Quality M Pearson Correl 抽象 エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング・エンジニアリング 1 導入 このようなリスクを高める能力(Wei et al., 2022)またはスケーリング特有の法律(Kaplan et al., 2020)を通じて、大規模な言語モデル(LLMs)は、インターネットから削除されたテキストの膨大な量にトレーニングされていますが、これは、リスクを高める能力(Wei et al., 2022)またはスケーリング特有の法律(Kaplan et al., 2020)を通じて、そのようなリスクを高める役割を果たしています。しかし、LLMs(Peña-Fernández et al., 2023; Porlezza and Ferri, 2022; Nishal and Diakopoulos, 2024)によって人間社会により広く統合されるように、LLMs(Peña-Fernández et al., 2023; Porlezza and Ferri, 2022; 偏見の拡大には深刻な社会的影響があります。それは、ステレオタイプの継続、社会的不平等の強化、および低代表グループの边境化につながる可能性があります。政治的偏見の文脈では、これは世論に影響を与え、民主主義のプロセスを歪め、ポラリゼーションを悪化させることができます。偏見の拡大を理解し、緩和することは、LLMが社会に積極的に貢献し、不意に害を及ぼさないことを保証するために重要です。しかし、差別的なモデルの偏見拡大に関する文献にもかかわらず、 LLMの出現は、より複雑な問題から生じる可能性があります。第3章で示すように、および訓練のプロセス中に偏見拡大がまだ存在しない場合でも、偏見拡大モデル この論文では、私たちは、LLMsにおける偏見拡大の原因を確立し、説明する理論的枠組みを提案することによって、この研究のギャップを埋めようとしています。 
 
 
 
 
 
 
 : We establish the necessary and sufficient conditions for bias amplification (i.e. Theorem 1). The theorem aids in understanding the cause of bias amplification and in distinguishing between bias amplification and model collapse. We conduct statistical simulations using weighted maximum likelihood estimation to illustrate the theorem (see Section 3.2). Theoretical Framework 
 
 : We trained a highly accurate classifier capable of detecting political leaning in long-text content. With this classifier, we offer a benchmark for evaluating political bias in LLMs through open-generation tasks, filling a gap not covered in current bias studies (see Sections 2 and 4.3). Benchmarking Tool 
 
 : We demonstrate bias amplification in terms of political bias in GPT-2 using our benchmarking tool: the model exhibits a right-leaning bias in sentence continuation tasks and becomes increasingly right-leaning over successive generations (see Section 5.1). Additionally, we conducted experiments with three potential mitigation strategies, i.e. Overfitting, Preservation, and Accumulation, comparing their effectiveness, and found that some are surprisingly effective (see Section 5.3). Empirical Demonstration and Mitigation Strategies 
 
 : Building on our framework, we propose an innovative mechanistic interpretation pipeline that identifies two distinct sets of neurons responsible for bias amplification and model collapse during iterative fine-tuning experiments with GPT-2. We found minimal overlap between these two sets, supporting our theorem that bias amplification can occur independently of model collapse (see Section 5.4). Mechanistic Interpretation 論文の残りの部分は次のように構成されています:私たちはまずセクション2で関連した作業を議論します。セクション3では、偏見の拡大のための理論的枠組みを紹介し、統計的シミュレーションを実施します。セクション4では、データの準備とモデルの細かい調整を含む私たちのLLM実験の実験的設定を説明します。セクション5では、偏見の拡大と緩和戦略の有効性に関する私たちの実験的発見を紹介します。最後に、セクション6では、私たちは私たちの仕事の影響を議論し、セクション7の限界で終わります。 
 
 この論文は、CC BY-NC-SA 4.0 ライセンスの下で archiv で利用できます。 この紙は CC BY-NC-SA 4.0 ライセンス ARCHIV で利用可能

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

MediaBias.TECH

We publish deeply researched (and often vastly underread) academic papers about our collective omnipresent media bias.

MediaBias's

このオーディオは、ストーリーの元の言語で制作されています。

AIは偏見のループに自分自身をリトレーニングすることができますか? この研究はYesと言います

About Author

コメント

ラベル

この記事は

Related Stories

ユーザー中心の暗号通貨製品の作成: 顧客からのフィードバックの重要性

HackerNoon ライティングコンテストで優勝したいですか? #crypto-api コンテスト優勝者のおすすめはこちら

デジタルノマドの皆さん、タイの新しい DTV ビザについて知っておくべきこと

目に見えない層: ユーザーインタビューがかけがえのない資産である理由

ユーザー中心の暗号通貨製品の作成: 顧客からのフィードバックの重要性

HackerNoon ライティングコンテストで優勝したいですか? #crypto-api コンテスト優勝者のおすすめはこちら

デジタルノマドの皆さん、タイの新しい DTV ビザについて知っておくべきこと

目に見えない層: ユーザーインタビューがかけがえのない資産である理由

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps