過去10年間で、AI開発の急速なペースは間違いなく何百万人もの人々の福祉を保証し、このような軌道に留まるためのわずかな努力で、この技術は確実に今後何十年もこのように続くでしょう。 しかし、私の見解では、多くのAI企業、そして多くの主要なAI開発者の政府が行った最近の行動は、全体として、人類の利益への道から逸脱するものであるが、いくつかの新しい研究がAIチャットボットの潜在的な害を指摘しているので、それらの利用可能性を制限する規制の可能性を検討する必要がある。 Grok Companions機能の影響からインスピレーションを得たこの記事では、政府の規制の必要性について議論し、さまざまなAIチャットボットの商業的配布を擁護するために使用される一般的な誤解を否定し、将来の法律が現在のチャットボットモデルのセキュリティの漏洩を制御または禁止する方法を提案しています。 グロックのトラブル グロックは、創業以来、最も論争の激しい商業AIモデルの一つとして常に立場を維持し、エロン・マスクがそれを右派のアジェンダを前進させるためのツールとして使用しようとする不幸な試みで、AIモデルに対する企業のコントロールの問題の象徴的な焦点となっている。 しかし、最近、Grokは新しいCompanions機能をリリースし、さらに議論を引き起こしました。表面上、Companions機能はMeta AIやMeta AIが提供するもののような以前のChatbotサービスを思い出させるチャットボットのシリーズです。 最初の2人の仲間には、誓う赤いパンダのルディ、そして金髪のアニメの女の子のアンニーが含まれ、グロックの細かいバージョンと同伴するアバターで構成されています。 キャラクター.AI キャラクター.AI 多様なオンラインレポートは、チャットボットの本質的にロマンチックな機能を確認し、いくつかのレビュー者は、ユーザーがますます性的会話を解除するために「愛のレベル」を特に注目し、アバターへの変更を伴う可能性があります。 私はCompanions機能にアクセスするために毎月30ドルのSuperGrokサブスクリプションを購入する意欲がなかったので、チャットボットに関するいくつかの主張を独立して検証することができなかったので、インターネットは一方で、この特定のチャットボットは過度に大胆だった: Rudiは、それが疑わしいように見えるほど、議論が少なくなった。 正直に言うと、私は両方のチャットボットのキャラクターをかなり退屈に見つけました。代わりに、私に興味を持ったのは、この別々のロマンチックなチャットボットの異なるプロセスと受信でした。まず、Companionsは、AIの「業界リーダー」(例えば、OpenAI、DeepMind、Anthropic、Meta)によってリリースされた製品のうち、一般的な倫理的懸念から長期的な心理的影響を主張し、脆弱な人口統計を取することにかかわらず、ロマンチックな役割を果たすために特別に設計された最初のチャットボットです。 これらのようなチャットボットを取り巻く規制の明確な不十分さは、いくつかの異議を唱える声に答えるほか、xAIは無罰に製品をリリースすることができたという事実に加えて、すぐに私に突きつけられました。 新しいテクノロジーはユーザーを守るために密接に監視されるべきか、それとも成長し、開発するための自由な支配を与えられるべきか。 責任と革新 すべての初期テクノロジーと同様に、AIチャットボットの使用による心理的影響は、科学的に証明されていないし、実験的に明らかではない。 福祉とチャットボットの使用との間のネガティブな関連性。 発見 発見 それにもかかわらず、これらの比較的未知のテクノロジーは依然として主流メディアに侵入するプロセスにあります。これらのテクノロジーが本当に有害であるか否かを検討する際に、テクノロジーのコメント者と政策立案者は、そのような考慮は、理想的には、商業技術の第一に必要の懸念ではないという重要な点を無視します。 災害的な失敗を経験する。 たぶん 同様に、臨床試験の参加者は、数多くの動物がテストプロセスでそれらを前にしなかったことを知ることにうまくいかないだろう。 エンジニアリングの最も重要な原則の1つは、何があっても、安全性は常に先にあります。 これらのチャットボットの潜在的な危険についてのアイデアを得るためには、いずれにしても、我々は自殺のアイデアに共犯しているAIと関連付けられた自殺の2人の十代の例を見る必要があります。 現在の「今すぐ開発し、後で修正する」という教義の多くの支持者は、明らかなことに指摘する:我々は中国とのイノベーションのレースに閉じ込められている。 実際、AIの「武器レース」に閉じ込められており、当時の製品はサイバー戦争のアーセナルに適応する可能性がありますが、それにもかかわらず、イノベーションの必要性はセキュリティを無視するケースではないと私は主張します - われわれは、急速な技術進歩が消費者安全と相互に排他的であると仮定することは決してできません。 だって、 
 
 「安全性と製品の向上は、広範囲にわたる展開で発見された欠陥や欠陥の結果である」 「安全性と製品の向上は、広範囲にわたる展開で発見された欠陥や欠陥の結果である」 ベータテストの設定で製品の信頼性と安全性をテストする方法はたくさんありますが、これらのテストは間違いなく実施されています(特に、OpenAIは他のタイプのユーザーよりも先にプロユーザーに新しいモデルをリリースしています)、多くの商業的に利用可能なチャットボットの大量展開が、多くのチャットGPTモデルと共に、ユーザーの安全を無視する方法で行われていると述べることは誇張ではありません。 ユーザーがトラブルシグナルを発信した場合でも、これらの問題の多くを見つけるために商業的な展開が必要だったとしても、現在のところそうでない脆弱なユーザーグループの安全を確保するために適切な保護措置が取られた場合、はるかに合理的です。 失敗 失敗 
 
 「新しいモデルの一貫した広範な展開は、従来の非AI製品とは異なり、新しいモデルのトレーニングを大幅に加速させるチャットトランスクリプトを生み出し、どちらもより大きなユーザーフィードバックポールから比例的に恩恵を受けることはありません。 「新しいモデルの一貫した広範な展開は、従来の非AI製品とは異なり、新しいモデルのトレーニングを大幅に加速させるチャットトランスクリプトを生み出し、どちらもより大きなユーザーフィードバックポールから比例的に恩恵を受けることはありません。 チャットトランスクリプトは、OpenAIやGoogleのような企業が使用するRLHFプロセスの一部として通常、口頭で処理されないが、実際には、関連するチャットボットの安全性と関与モデルを伝える可能性があるが、個々のデータパイプラインは、主に高品質で、人によって作成または検証された技術データが、AIトレーニングの側面に影響を与え、推論パフォーマンスやその他の種類の専門知識(例えば、コード、数学の解決など)を開発するのに最も関連している。 希望として、私は、革新の必要性がこれらの安全性の欠陥の根本的な原因ではなく、安全性のプロトコルとテストのための協調的な努力の欠如であることを示したが、この持続的な品質を修正するための実際の行動コースは議論の対象となっている。 規制の役割 上記の安全基準の欠如に対する明らかな解決策は、チャットボットの訓練と配布の実践に関する政府の規制を単に増やすことであるが、明らかではないのは、この非常に曖昧な提案が実践でどのように行われるかである。20世紀初頭、米国は禁止を通じて、有害な製品に対する厳格で包括的な禁止が機能しないという重要な教訓を学びました。 20世紀後半、米国政府はタバコの大量消費と戦うために、タバコの使用を明確に禁止する代わりに、タバコ製品の社会的欲求を減らすことによって、彼らがどのように皮膚がんを引き起こすかを詳細に説明する広範囲に流通するレポートを公表し、タバコ企業があらゆる製品に目に見える免責書を置くことを義務付け、タバコ広告の普及を制限しました。 タバコの消費量は、年間約4000本から約800本に上る。 減少 減少 歴史から取り除くために、不安全なチャットボットに対する政府のコントロールは、消費と開発の法的障壁を超えなければなりません。それらはまた、キャンペーンや公共の研究を通じて、これらの製品を消費するという社会的許容性を減らすことを目指すべきです。それにもかかわらず、政府が実際により広範な社会的転換に影響を与えることができる程度はまだ不明であり、現在の世論は、現在の世界でAIチャットボットに関するいくつかの迅速に設置された、しかしよく構築された規制に、政治的経済的転換に向かってより多くの程度にウイルス的なソーシャルメディアの傾向に向かっている。 脚本:Thomas Yin

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

このオーディオは、ストーリーの元の言語で制作されています。

AI規制における「安全に対するイノベーション」の教義の否定

About Author

コメント

ラベル

この記事は

Related Stories

タップして稼ぐ：テレグラムはソラナより先に次の100億人の暗号通貨ユーザーを獲得する可能性がある

ユニークなエコシステムを支えるビットコインUTXOのモデル

AI/ML データレイクのリファレンスアーキテクチャを構築するためのアーキテクトガイド

18 種類の開発者ツールで生産性を向上しましょう 🚀🔥

タップして稼ぐ：テレグラムはソラナより先に次の100億人の暗号通貨ユーザーを獲得する可能性がある

ユニークなエコシステムを支えるビットコインUTXOのモデル

AI/ML データレイクのリファレンスアーキテクチャを構築するためのアーキテクトガイド

18 種類の開発者ツールで生産性を向上しましょう 🚀🔥

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps