AIシステムを構築し、展開するために企業が競い合っているように、共通のトレードが浮上しています。 その後、法務部門の誰かが尋ねます、「どうやってこれがその決定につながったのか、本当に説明できますか?」または規制当局から手紙が届きますか、あるいは顧客が苦情を申し出ます。 問題は、AIの採用は、ほとんどの企業が責任ある方法で処理できるよりも速く起こったことだ。我々が飛行していた間に飛行機を作った。そして今、我々は、すでに使用されているAIシステムにコンプライアンスを追加することは高価でリスクがあり、しばしばミスに巻き込まれていることを知っている。 AtScaleは、企業が統制されたアナリティクスを確立するのを助けるものであり、AIアーキテクチャに直接管理を構築する傾向を後でコントロールを追加するのではなくサポートしています。 「Retrofitted AI Governance」の限界 ほとんどの団体が扱う 彼らがセキュリティ(最初に構築し、後で保護する)をするように、そのアプローチは、時間の経過とともに管理することがますます困難になる問題を生み出すことができます。 AI 統治 AI 統治 管理コントロールを逆行的に実施すると、各チームが「収益」や「顧客」などの用語の独自の定義に基づいてモデルを構築する場合、逆風が生じることがあります。 政府が実施した展開後の管理は、AIシステムが実際にどのように機能するかを追跡する必要はありません。コンプライアンスチームがモデルをレビューする時点で、すでに何千もの決定が下されている。 さらに、これらのツールは通常、AIシステムをサポートするデータインフラストラクチャとは別に構成されているため、この層を追加することで、元の問題は解決したかもしれないが、さらに複雑さを生み出す傾向がある。 実際には、これらの制限は、組織が移動しようとすると最も顕著になります。 自動、確率主義システムよりも静的BI環境向けに設計されたガバナンスモデルを暴露。 パイロットから生産までのAIイニシアチブ パイロットから生産までのAIイニシアチブ 「デザインによる信頼」が実際に意味するもの デザインによる信頼は、政府が最初から組み込まれたシステムを統合することであり、事実の後に追加されないことであり、実装されたときには、「AIがリリースされた後、このAIをどのように監査するか」と自分自身に問う必要はありません。 設計による信頼への移行は、あらゆる単一の予測が行われる前に、建築レベルで起こります。これは、データを透明性、追跡性、責任を問う方法で構造化することを意味します。 タイミングは、デザインによる信頼を定義する最も重要な要因です。伝統的なガバナンスは、使用後に物事をチェックして修正しようとします。デザインによる信頼は、ガバナンスを容易にします。あなたのビジネス論理がデータ層に組み込まれている場合、そのデータで動作するすべてのツールとモデルは、同じルール、定義、制限を組み込んでいます。 AIの透明性におけるセマンティック・モデルの役割 Semantic models are a valuable way to put trust into practice through design. 彼らは、それを必要とするすべてのシステムが同じ文脈を共有し、ビジネス定義を標準化し、メトリックがどのように相互に関連しているかを示すことを確実にします。 A リクエストがダッシュボード、Python スクリプト、または生成型 AI ツールから来ているかどうかに関係なく、AI モデルが常に「顧客のライフタイム 価値」を要求するときに同じ答えを返すことを保証します。あなたは論理を一度だけ定義する必要があるし、どこにでも使用できます。 セマンティックモデル セマンティックモデル Semantic models clarify what metrics mean and how they are used. They clarify ambiguous knowledge. For example, AtScale uses semantic modeling as the foundation for governance-ready analytics. According to Dave Mariani, AtScale’s CTO and Co-Founder, “It ensures that ‘active customers,’ ‘qualified leads,’ or ‘net revenue’ all mean the same thing regardless of whether you’re asking the question in an AI agent in Slack, querying through natural language, or pulling up a dashboard.” セマンティックなモデルは、メトリックが何を意味し、どのように使われているかを明らかにします。 建築に組み込まれたガバナンス: Lineage, Accountability, Explanability ガバナンスがアーキテクチャ自体に存在するとき、AIを責任ある方法で管理しながら、具体的で測定可能で有意義な結果が得られます。 
 
 
 
 データ系への可視性:セマンティクスのモデルは、データ系へのさらなる可視性(すなわち、データの起源はどこで、どのように変換され、どのシステムがそれを消費したか)、また、AI出力に疑問を投げかける誰かのための各計算とその源を追跡することもできます。 責任ある意思決定論理:ビジネス論理を中央層に組み込むことは、各ルールを誰が作成したのか、いつ作成したのか、そしてなぜ作成したのかを明確にすることによって、責任を認めることを可能にします。 説明可能な出力: AI システムが支配されたセマンティック モデルを活用すると、論理はより理解可能になります(したがって説明可能になります)。モデルが予測したことを説明することに加えて、ベースのデータが特定の方法で構造された理由も説明できます。 なぜこれが倫理、規制、リスクにとって重要なのか AIをめぐる議論は、「これを構築できるか?」から「これを構築すべきか?」、「どのようにして責任ある方法で構築した証拠を生み出すか」に移り、規制当局、顧客、従業員から責任、公平性、監査能力に関する多くの困難な質問を予測すべきです。 設計による信頼は、危機に陥る前にこれらの懸念に対処する機会を提供します。透明で監査可能なガバナンス構造は、意思決定プロセスの可視性と追跡を可能にします。 AtScale は、統治に関連する課題は、複数のシステムでデータの意味を定義し、共有することにますます関連していると信じています. あなたのセマンティック レイヤーが偏見や不明確な定義を定義している場合、そのレイヤーで訓練されたすべての AI モデルは、そのような問題を継承します. However, if the layer is transparent, governed, and auditable, then it can be used as part of your defensive strategy against potential non-compliance. AIがより自律的になるように信頼を設計する AIシステムは、より少ない人間の監督をもってより多くの決定を下しています。その軌道は逆転する可能性がありません。 組織は、信頼が後で追加できるものではなく、最初からアーキテクチャに設計されなければならないと考えるかもしれません。セマンティック・モデルはそのツールキットの一部です。 問題は、AIを支配するかどうかではなく、まず、政府を可能にするためのアーキテクチャを構築したかどうかです。 
 
 このストーリーは、HackerNoonのBusiness Blogging Programの下でJon Stojanによってリリースされたものです。 このストーリーは、HackerNoonのBusiness Blogging Programの下でJon Stojanによってリリースされたものです。

This story contains new, firsthand information uncovered by the writer.

このオーディオは、ストーリーの元の言語で制作されています。

デザインによる信頼:AIアーキテクチャに直接ガバナンスを組み込む

About Author

コメント

ラベル

この記事は

Related Stories

デジタルノマドの皆さん、タイの新しい DTV ビザについて知っておくべきこと

ユーザー中心の暗号通貨製品の作成: 顧客からのフィードバックの重要性

フォーラムからフィードへ: ソーシャルメディアアルゴリズムがデジタルインタラクションを形作る仕組み

AI/ML データレイクのリファレンスアーキテクチャを構築するためのアーキテクトガイド

デジタルノマドの皆さん、タイの新しい DTV ビザについて知っておくべきこと

ユーザー中心の暗号通貨製品の作成: 顧客からのフィードバックの重要性

フォーラムからフィードへ: ソーシャルメディアアルゴリズムがデジタルインタラクションを形作る仕組み

AI/ML データレイクのリファレンスアーキテクチャを構築するためのアーキテクトガイド

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps