Meta の新しいモデル OPT はオープンソースの GPT-3 です

長すぎる; 読むには

私たちは皆、GPT-3 について聞いたことがあり、その機能についてある程度明確な考えを持っています。このモデルに厳密に基づいて生まれたいくつかのアプリケーションを見たことがあるでしょう。そのいくつかは、モデルに関する 以前のビデオ で取り上げました。 GPT-3 は OpenAI によって開発されたモデルであり、有料 API を介してアクセスできますが、モデル自体にはアクセスできません。 GPT-3 が非常に強力な理由は、そのアーキテクチャとサイズの両方にあります。 1750 億のパラメーターがあります。これは、私たちの脳にあるニューロンの数の 2 倍です。 この巨大なネットワークは、私たちがどのようにテキストを書き、交換し、理解するかを理解するために、インターネット全体でほぼ訓練されています。今週、Meta はコミュニティにとって大きな一歩を踏み出しました。彼らはちょうど同じくらい強力なモデルをリリースしたばかりで、それを完全にオープンソース化しました.それはどれほどクールですか？動画で詳しく...

---