1,327 測定値

効率的かつコスト効率の高いトレーニング、テスト、導入のために 1000 倍の LLM 速度を達成する方法

に Thomas Cherickal11m2023/11/14

長すぎる; 読むには

現在の数分の 1 のコスト、時間、人員要件で LLM を作成するにはどうすればよいでしょうか?ここでは、そのシンプルさと有効性の点で驚くような実行可能な方法を 1 つ紹介します。

featured image - 効率的かつコスト効率の高いトレーニング、テスト、導入のために 1000 倍の LLM 速度を達成する方法

‘mdjrny-v4 style Incredible Awesome Beautiful Unbelievable Future’ Image created by HackerNoon AI Image Generator

すべての画像は The Bing Image Creator によって作成されました。

LLM での 2 進数表現

独創的な研究アイデア

バイナリ表現は、特定の場合 (おそらく一般的な場合) において、浮動小数点ベクトルと比較して、より効率的な格納と計算を可能にします。

バイナリベクトルは 0 と 1 を格納するだけでよいため、必要なメモリが少なくなり、ハミング距離計算などの特定の演算をより高速に処理できます。

これは、トレーニング、テスト、デプロイ、運用における非常に大規模なベクトルデータセットにとって有利となる可能性があります。

現在、 LLMに関する最大の問題は、LLM を作成するのに莫大な費用がかかることです。このアプローチが成功すれば、それは過去のものになる可能性があります。

ただし、バイナリへの変換には潜在的な欠点もいくつかあります。

密な高精度浮動小数点ベクトルを疎なバイナリ表現に変換すると、情報損失が発生する可能性があります。

バイナリエンコーディングスキームは、意味論的な意味をできるだけ保持するように慎重に設計する必要があります。

大規模な変圧器モデルからのベクトルのようなより複雑なベクトルは、劣化せずに 2 値化することが難しい場合があります。

類似性の検索および取得タスクでは、高品質のバイナリコードを生成するようにモデルがトレーニングされている場合、バイナリ表現が適切に機能します。

重要なのは、意味的に類似したアイテムが類似したバイナリベクトルにマッピングされるように、情報損失を最小限に抑えるためにモデルを最適化することです。

これは活発な研究分野です。

このようなシステムはどのように機能するのでしょうか?

1 つの方法は、できればハードウェアで、LLM からの密な浮動小数点ベクトルをよりコンパクトなバイナリコードに圧縮するようにオートエンコーダをトレーニングすることです。

オートエンコーダのエンコーダ部分は高次元ベクトルを低次元バイナリコードにマッピングすることを学習し、デコーダは元のベクトルを再構築します。

モデルは再構成エラーを最小限に抑えるように最適化されているため、バイナリコードは可能な限り多くの情報を保持します。

トレーニングが完了すると、エンコーダーを使用して新しいベクトルのバイナリコードを生成できます。

オートエンコーダーをトレーニングするときの主要なハイパーパラメーターには、コードサイズ (バイナリコードのビット数) と損失関数が含まれます。

コードが小さいほど効率は高くなりますが、情報損失のリスクが高くなります。

平均二乗誤差やコサイン類似度などの損失関数により、ベクトルのどの側面が保存されるかが決まります。

コサイン類似性の損失は、意味論的な意味を改善する傾向があります。

もう 1 つのアプローチは、局所性依存ハッシュ(LSH) などのハッシュ技術を使用してベクトルを 2 値化することです。

LSH は、ランダム化された投影を使用して、同様のベクトルを同じ「バケット」に高い確率でマッピングします。

ハッシュ関数は、バイナリコード間のハミング距離が元のベクトルのコサイン類似性を反映するように選択できます。

クエリ時に、クエリのバイナリコードとデータベースベクトルを、コサイン類似度の代わりにハミング距離計算によって比較して、検索を高速化できます。

その後、正確なコサインスコアを使用して候補を再ランク付けできます。

LLM のベクトルで直接 2 値化モデルをトレーニングすると、そのベクトル空間に合わせてエンコードを調整するのに役立ちます。

ただし、特にオートエンコーダーを直接トレーニングするのにコストがかかる GPT-3 のような大規模モデルの場合、転移学習もうまく機能する可能性があります。

特定のベクトルコンポーネントが 2 値化され、他のベクトルコンポーネントが浮動小数点のままになるハイブリッドアプローチも可能です。

たとえば、一部の意味情報はバイナリでエンコードできますが、語順などの位置情報の精度は浮動小数点数で保持されます。

最適なエンコードスキームは、特定の LLM、ユースケース、およびデータセットのサイズに依存する可能性があります。

バイナリ表現は、大規模なベクトルの検索と取得を改善する可能性を示していますが、複雑な言語モデルの埋め込みのための非可逆ベクトル圧縮技術については、さらなる研究がまだ必要です。

適切なバランスをとるためには、情報損失と効率性の向上について慎重な調整と評価が必要です。

バイナリエンコードされた LLM の最適化

私が考えているのは次のようなことです。

バイナリトランスフォーマ- バイナリセルフアテンションなどのバイナリ計算に特化したトランスフォーマアーキテクチャのバリアントを設計します。 10 ～ 100 倍のスピードアップを実現できます。
バイナリニューラルアーキテクチャ検索- 効率を高めるバイナリビルディングブロックに重点を置いた NAS を使用してモデル設計を自動化します。
バイナリ生成モデリング- VAE などのバイナリ潜在変数モデルをトレーニングして、テキストを圧縮して生成します。
バイナリ強化学習- RL を適用して、テキストの要約などのタスクのバイナリポリシーを学習します。
バイナリ微分可能プログラミング- カスタマイズされたハードウェアアクセラレーションのために、モデルをバイナリ回路にコンパイルします。
バイナリグラフアルゴリズム- PageRank やバイナリグラフ埋め込みのグラフ畳み込みなどの主要なアルゴリズムを最適化します。
バイナリ敵対的正則化- バイナリベクトルの堅牢性を向上させるために敵対的トレーニングを使用します。
バイナリプルーニング- 冗長なバイナリの重みを削除して、モデルのスパース性を活用します。
バイナリ量子化蒸留- より大きなモデルからの知識を量子化されたバイナリモデルに蒸留します。
バイナリコーディング理論- ハフマンコーディングなどの情報理論の概念を活性化圧縮に適用します。
バイナリ埋め込み-浮動小数点ではなくコンパクトなバイナリベクトルで単語とトークンの埋め込みを表現すると、メモリフットプリントが大幅に削減され、類似度の計算が高速化されます。（これはとても明らかです！）
バイナリアクティベーション- ニューラルネットワークのアクティベーションに低ビットバイナリ値を使用すると、モデルサイズを圧縮し、より高速な整数計算が可能になります。
バイナリ行列の乗算- バイナリ行列を乗算するための特殊なアルゴリズムにより、主要な計算ボトルネックを最適化できます。
バイナリハッシュ- 局所性を考慮したハッシュでは、バイナリコードに同様のアイテムが埋め込まれ、高速な近似最近傍検索が可能になります。
低ビット量子化- 4 倍圧縮の精度損失を最小限に抑えながら、浮動小数点を 8 ビットなどの低ビット整数に量子化できます。
スパース性の活用- スパースバイナリベクトルのゼロ値をスキップすると、無駄な計算を回避できます。
演算の並列化- 行列乗算などのバイナリ計算を複数のデバイス間で効率的に並列化できます。
コンパクトなパラメーター- パラメーターをバイナリ形式で保存すると、モデルのサイズが削減されます。
カスタムバイナリハードウェア- バイナリ演算用に最適化された専用ハードウェアにより、10,000 倍 (特に特殊なハードウェアと専用のベクトル処理、さらには行列処理を使用した場合、浮動小数点演算とビット操作を比較した概算値) まで高速化できます。

パフォーマンスの高速化

理論上は 1000 倍以上のピーク速度向上が可能であるように見えますが、実際のエンジニアリング上の課題がいくつかあるため、実現できる効果は限られています。

トレーニングの場合、分散並列トレーニング中の勾配同期の通信ボトルネックが高速化を制限する可能性があります。

バイナリ表現では通信帯域幅の必要性が軽減されますが、コアの計算スループットは複数のデバイスにわたる並列処理に依存します。

データの並列処理は役立ちますが、数千台のデバイスを並列で最大限に活用するには、モデルの並列アプローチが必要になる場合があります。

これにより、ソフトウェアがさらに複雑になります。

可能な 2 値化の程度は、精度の考慮事項によっても制限されます。

アテンションメカニズムなどの特定のコンポーネントは、モデルの品質に影響を与えずに完全に 2 値化するのがより困難です。

バイナリ演算と浮動小数点演算を組み合わせたハイブリッドアプローチの方が効果的である可能性があります。各モデルの適切なバランスを見つけることが重要です

。

ASIC などのカスタムハードウェアは、バイナリ行列の乗算やその他の基本的な演算を大幅に高速化できます。しかし、それらはプログラマビリティを犠牲にし、改良されたモデルアーキテクチャの展開を困難にします。

FPGA は柔軟性が高くなりますが、ピークスループットは低くなります。

大規模な運用展開では、低遅延の並列推論に関するシステムエンジニアリングのさらなる課題が生じます。

レイテンシのスパイクを発生させずにスループットを最大化するには、データパイプライン、バッチ戦略、ハードウェアプロビジョニングを慎重に最適化することが不可欠です。

したがって、バイナリ最適化によって桁違いの改善が可能になりますが、実際の限界は、モデルアーキテクチャ、ハードウェアの組み合わせ、レイテンシとスループットの間のユースケースのトレードオフ、およびエンジニアリングの労力によって異なります。

特定の大規模言語モデルのワークフローの現実的な高速化の可能性を判断するには、微妙な評価が必要です。

しかし、これは引き続き研究が続けられる刺激的で有望な分野です。

トランスフォーモーフィックコンピューティング

はい、その用語は存在しません。

今作ったばかりです。

インスピレーションはニューロモーフィックコンピューティングから来ています。

ニューロモーフィックコンピューティングは、生物学的ニューラルネットワークを模倣することを目的としており、ニューラルネットワークスタイルの計算に大規模な並列処理、低消費電力、最適化されたパフォーマンスなどの利点を提供する可能性があります。

このため、ディープニューラルネットワークに基づく大規模な言語モデルを高速化するための興味深いアプローチとなります。

ニューロモーフィックハードウェアが大規模な言語モデルの最適化に役立つ可能性のあるいくつかの方法:

カスタムスパイクニューラルネットワークアーキテクチャ。ニューロモーフィック並列処理とイベント駆動型処理を利用しながら、トランスフォーマーベースのモデルを効率的に実行できます。
スパースな非同期ニューロモーフィックハードウェアに合わせた新しいトレーニング方法とアルゴリズム。これにより、より迅速かつ効率的なトレーニングが可能になります。
行列の乗算、注意メカニズム、および大規模な言語モデルで使用されるその他のコア操作を高速化するように設計された、特殊なニューロモーフィックチップ。
パラメータを更新し、展開されたニューロモーフィックシステムでの継続的な適応を可能にするオンチップ学習技術。
大規模な言語モデルを効率的に推論するための低電力ニューロモーフィックアクセラレータ。

ニューロモーフィックコンピューティングは、依然として次世代 AI 高速化のための興味深い研究分野です。

並列処理:
ニューロモーフィックシステムは、脳と同様に本質的に並列です。
これは、大部分が順次処理される従来の CPU とは異なり、多くの操作を同時に処理できることを意味します。
これにより、言語モデルのさまざまな部分の処理や複数のリクエストの同時処理など、並列化可能なタスクの大幅な高速化につながる可能性があります。

エネルギー効率:
ニューロモーフィックチップは、アクティブ化されたときにのみ発火するニューロンと同様に、必要なときにのみ電力を消費するため、従来のハードウェアよりもはるかにエネルギー効率が高くなります。
この効率により、より大きなモデルをより少ない電力で実行できるようになり、コストが削減され、より持続可能な運用が可能になる可能性があります。

低遅延処理:
ニューロモーフィックシステムの設計により、レイテンシが非常に低くなり、リアルタイムの言語処理タスクに有利になります。
これにより、翻訳、音声アシスタント、対話型チャットボットなどのアプリケーションにおける言語モデルの応答性が向上する可能性があります。

スパーシティの悪用:
言語モデルは多くの場合、ほとんどの要素がゼロである疎データを扱います。
ニューロモーフィックハードウェアは、このスパース性を利用して不必要な計算をスキップし、高速化につながります。

これは、特定のしきい値に達した場合にのみニューロンが起動するのと同じように、ゼロ以外のデータのみを処理および送信するように設計できるためです。

オンチップ学習:
ニューロモーフィックシステムは、オンチップ学習をサポートする可能性があります。これは、プロセッサとメモリ間の大規模なデータ転送を必要とせずに、リアルタイムで適応および最適化できることを意味します。
これにより、言語モデルの更新に必要な時間とリソースが削減される可能性があります。

アナログ演算：
ニューロモーフィックハードウェアが特定のタスクにアナログ計算を使用する場合、特に本質的にバイナリではない操作の場合、デジタル計算よりも高速かつ少ないエネルギーで操作を実行できます。

特定のハードウェアとモデルの詳細がなければ、高速化を見積もるのは困難ですが、並列処理能力だけを考慮すると、特定のタスクでは桁違いのパフォーマンス向上が期待できます。

たとえば、従来の CPU では何時間もかかっていたタスクを数千のニューロモーフィックコアで並列処理できれば、数分、あるいは数秒で完了する可能性があります。

その影響は驚くべきものです！

GPU と TPU の使用率

浮動小数点データの代わりにバイナリデータを処理するために GPU と TPU を使用することは、特定の状況では実際に大きな変化をもたらす可能性があります。

GPU と TPU は高度な並列プロセッサであり、大きなデータブロックを処理し、複数のデータポイントで同じ操作を同時に実行するのに適しています。

バイナリデータで GPU/TPU を使用することがどのように特に有利であるかを次に示します。

スループットの向上: バイナリ演算は浮動小数点演算よりも簡単で高速です。 GPU は数千のコアを備えているため、はるかに高いスループットでバイナリ演算を実行でき、処理時間の大幅な高速化につながる可能性があります。
精度要件の軽減: バイナリデータは浮動小数点データに比べて必要な精度が低くなります。これは、バイナリデータが占有するスペースが少なくなるため、GPU のメモリ帯域幅とストレージをより効率的に使用できることを意味します。この効率により、より大きなデータセットを並列処理したり、より多くのデータをより高速なレベルのメモリ階層 (キャッシュなど) に保存したりできるようになり、パフォーマンスの向上につながる可能性があります。
エネルギー効率: バイナリ演算は浮動小数点演算よりも消費電力が少なくなります。 GPU で実行すると、よりエネルギー効率の高い処理が可能になる可能性があり、これは大規模な計算や電力消費が懸念される環境にとって非常に重要です。
計算の簡略化: バイナリデータを扱う場合、アルゴリズムの複雑さを軽減できます。この簡素化により、GPU でのアルゴリズムの最適化と実装が容易になり、開発時間とエラーが削減される可能性があります。
特殊なハードウェアの可能性: すべてのデータがバイナリであれば、GPU またはその他のプロセッサがバイナリ計算専用に最適化されるようになる可能性があります。これにより、現在の GPU よりもさらに効率的にバイナリデータを処理できる特殊なハードウェアが登場する可能性があります。
並列処理の向上: バイナリデータにより、計算時間がより均一で予測可能になり、GPU/TPU の高度な並列アーキテクチャには理想的です。これにより、GPU の使用効率が向上し、一部のコアが動作している間に一部のコアがアイドル状態になるという事態を減らすことができます。