2,445 測定値

EU、規制されていないAIを禁止

に Magdalena Konkiewicz4m2024/04/10

長すぎる; 読むには

欧州 AI 法は 2024 年末に施行されます。この法律では、AI システムをリスクレベル別に分類しています。リスクの高いシステムは透明性要件に従う必要があります。企業はトレーニングデータの記録を保持する責任があります。これにより、企業はデータのプライバシーを尊重し、追跡可能性を向上させることが求められます。

世界的な影響と備え方

導入

過去 1 年間、ヨーロッパの AI スタートアップは海外の競合他社に追いつき、人気の ChatGPT に匹敵する製品を導入してきました。急速な進歩と開発に重点が置かれるため、透明性、倫理、ユーザーへの影響に関する問題は後回しにされることがあります。ただし、2024 年後半に開始される予定の EU AI 法の施行により、この状況は変化する可能性があります。

のEU AI法2024年3月に欧州議会で承認されたこの法案は、EU内で開発されるAIに厳しい規制を導入するものです。しかし、その影響は欧州の国境を越えて広がり、欧州のAI企業だけでなく、EU市場に製品を提供する米国を含む国際企業にも直接影響を及ぼします。

誰が影響を受けるのでしょうか?

EU AI法は、AIシステムをリスクレベル別に分類しています。高リスクと分類されたシステムは、透明性要件に従う必要があり、公衆衛生、安全、人権、社会福祉への潜在的な影響の義務的評価が行われます。偏見がないかチェックされ、差別がなく、基本的人権を尊重していることが保証されます。

さらに、高リスクシステムの開発者は、コンプライアンスを証明するために、トレーニング方法やデータセットなどの詳細なドキュメントを維持する義務があります。

GPT-3.5 に匹敵する基礎モデルは、トレーニングに少なくとも 10²⁵ フロップスの計算能力が必要な場合は規制されます。逆に、オープンソースモデルに関しては大幅な譲歩が行われ、この種の製品を開発するインセンティブが提供されます。

さらに、EU AI 法では禁止されている AI システムがリストされています。これには、繊細な特性 (人種、宗教など) を使用した生体認証分類、顔画像のスクレイピング、職場や教育現場での感情認識、ソーシャルスコアリング、人間の行動の操作、人間の脆弱性を悪用するように設計されたシステムなどが含まれます。

この法律では、違反に対する制裁も規定されており、罰金は違反と企業規模に応じて、750万ユーロまたは企業の世界売上高の1.5％から3,500万ユーロまたは売上高の7％までの範囲となっている。

どのように準備すればいいでしょうか?

欧州AI法は2024年末に施行される見込みであるため、特にシステムが以下の分類に該当する場合は、今から準備を始めることが重要です。リスクが高いまたは、汎用 AI モデルを開発している場合、システムが厳格な規制の対象とならなくても、ユーザーへの悪影響を避けるために、責任ある AI 開発に投資する価値があるかもしれません。

データの準備から始まり、徹底的なシステム評価で終わるシステム構築のあらゆる側面に重点を置くことをお勧めします。

トレーニングデータへの細心の注意

EU AI法に概説されているように、企業はデータセットの詳細な記録を保持する責任を負います。これにより、企業はデータのプライバシーを尊重し、追跡可能性を向上させることが求められます。たとえば、システムが有害なコンテンツを生成した場合、そのシステムがトレーニングされたデータセット内の不適切なデータや偏ったテキストにまでさかのぼることができます。

つまり、新しいルールを準備する際には、トレーニングデータセットを慎重に検討する必要があります。これには、トレーニングに使用されるデータの一部をフィルタリングおよびクリーニングすることや、スクレイピングされたデータに存在する一般的なバイアスを回避するためにドメイン別にキュレートされ、意図的に構築されたカスタムデータセットを構築することが含まれる場合があります。