Big Tech のモデレーターは、今日の私たちのソーシャル メディアとインターネット体験における縁の下の力持ちです。もしそうなら、interwebzのクリーナー。彼らの仕事の証拠は私たちから隠されています。意図しないミスが発生して初めて、その結果がインターネットに波及し、混乱が生じます。
2019 年にクライストチャーチのモスクに対する悲劇的なテロ攻撃があったとき、攻撃者は連続殺人を犯している様子をライブ ストリーミングしていました。虐殺が進行している間、そしてその後何時間もの間、これらの凶悪なビデオは、Facebook、Twitter、 Reddit 、YouTube、およびその他のソーシャルメディアに現れ続けました.これらのプラットフォームのモデレーターは、追いつくのに苦労しました。モデレーターがそれらをすばやく確認して削除できるように、表示された投稿を報告するために通常のユーザーが急いでいるいたちごっこのゲームになりました。
適切な節度がないと、あなたやあなたの子供の YouTube フィードは次のようになります (出典: 参照 #1)
言うまでもなく、モデレーターはこのような不穏な経験を日々経験しているため、私たちがそうする必要はありません.彼らの仕事は、下品なコンテンツがインターネットから離れていることを保証します。暴力的な過激主義から、殺人、動物の拷問、児童虐待、レイプ、自傷行為、ヘイトスピーチ、テロリストのプロパガンダなど、言葉では言い表せない人間の残酷さを伴うことが多いもの.場合によっては、 Elsagateやグラフィック ポルノなどの意図的なショック マテリアルを使用することもあります。それ以外の場合は、禁制品の勧誘など、まっすぐな違法行為です。昨年 VICE がインタビューしたモデレーターは、作業中に目にするものの 5 ～ 10% (出典: 参照 #2 ) がトラウマになる可能性があると推定しています。
モデレーターは正確には何をしますか?
メディアおよびテクノロジー企業、特に Facebook、Twitter、YouTube、Instagram、Reddit、Telegram などのユーザー生成メディアを許可する企業は、通常、常識の原則と法定法に基づくコミュニティ基準を持っています。プラットフォームに投稿されたコンテンツがガイドラインに従っていることを確認するために、これらの企業は AI/ML (人工知能/機械学習) アルゴリズムを採用して、好ましくない内容を自動的に除外しています。亀裂をすり抜けたものは、手動レビューのためにモデレーター (または mod) キューに送られます。
ユーザーが何かを報告すると、自動または手動のレビュープロセスが行われます
mod の指定は、コミュニティ mod から、 プロセス エグゼクティブ、コンテンツ マネージャー、法的な削除担当者 (出典: 参照 #3 ) などに至るまでさまざまです。疑わしいコンテンツを検出した場合は積極的に活動することも、ユーザーからの報告に応じて事後的に活動することもできます。評価に基づいて、フラグが立てられた資料を保持するか、削除するか、または上層部にエスカレーションするかを選択できます。エスカレーションは、政治問題などのグレー エリアで発生します。ユーザーは、その行動に基づいてプラットフォームから一時的に停止または永久に禁止されることもあります。一部の企業は、改造者がユーザーを警察に通報できる手順を追加しています。
サードパーティの契約労働者は 1 時間あたり 1ドルから 15 ドル (出典: 参照番号 4 ) の範囲で報酬を受け取りますが、直接雇用されたモデレーターはこの仕事に対してより良い賃金を得ています。しかし、1 時間あたり 2000 枚のフラグ付き写真 (出典: 参照番号 5 ) または 1 日あたり 400 件の報告された投稿を確認することによる心理的トラウマと、高い精度スコアを維持することによるストレスは、すべての人にとって同じです。これらのモデレーターの多くは、最悪のコンテンツに長時間さらされた結果として、PTSD (心的外傷後ストレス障害) や慢性不安症などの長期的なメンタルヘルス障害を発症します。
このようなスマットにさらされると、パニック発作や職場での気分の悪さは珍しくありません (出典)
いくつかの個人的な経験を共有するために、さまざまな暗号通貨プロジェクトのコミュニティ マネージャーとして、私はテレグラム チャネル、Discord サーバー、チャット フォーラムで、人種差別的なジャイブから麻薬の行商、CSAM (児童の性的虐待に関する資料) の勧誘まで、さまざまな不快な資料に出くわしました。行動は、恒久的な禁止からFBIへの問題の報告にまで及びました。これらの事件のそれぞれは、控えめに言っても悲惨です。
ゲームはこのすべてのどこに来るのでしょうか?
ゲームとソーシャル メディアは、World of Warcraft、RuneScape、League of Legends、Clash of Clans、Eve Online、または Fortnite、PUBG、Call などの Battle Royale ゲームなどの MMORPG (多人数参加型オンライン ロールプレイング ゲーム) の形で常に交差してきました。 of Duty、Apex Legends、または Among Us、Minecraft、Pokemon Go、FarmVille などの他のオンライン マルチプレイヤー ゲームです。プレイヤーは、ゲーム内チャネル、Discord サーバー、チャット ルーム、Twitch などを通じて、テキスト、オーディオ、ビデオを介して相互にやり取りします。およびファイル転送。
MMROPG の Old School RuneScape (OSRS) のようなものでは、何万人ものプレイヤーが常に対話しています (Source )
そのため、ゲームのモデレーター (またはゲームマスター) は、これらのフォーラムを処理する際に上記と同様の課題に直面します。ただし、ソーシャル メディアと比較すると、ゲーム フォーラムでの凶悪なコンテンツの事例は少なくなっています。代わりに、ここのモデレーターは、嫌がらせ、スパム、トローリング、不正行為、いじめ、ゲームのルールが破られないようにすることなどの問題にもっと集中する必要があります.ゲームの競争的な性質のため、これらのコミュニケーション チャネルは過熱し、モッズは手一杯でつま先立ちになる可能性があります。モデレーターは、パブリッシャー/開発者、または信頼スコアの高いコミュニティのボランティアによって採用される場合があります。
モデレーションの法的意味は何ですか?
インターネットの黎明期である 90 年代には、ウェブがポルノの拡散につながり、その結果生じる乱交が社会構造を破壊するのではないかという広範な大規模な恐怖がありました。メディアの報道では、インターネットを「グローバル コンピュータ フックアップ」と呼ぶなど、あらゆる種類の名前が使用されます (出典: 参考資料 #5 )。恐怖を煽る行為は、合理主義者がインターネットを検閲するという繰り返しの呼びかけに反論しなければならない段階に達しました。
このような怖い話は、インターネットが初期の頃に、インターネットに対する世間の否定的な認識を生み出しました (ソース)
その後、通信品位法第 230 条が批准されました。これにより、プラットフォームはパブリッシャーの責任から保護され、「善きサマリア人条項」の下で悪いコンテンツを削除できる免責が与えられました。この画期的な法律により、インターネットは現在のサイズと形に成長することができました。これはまた、モデレーターが影響を受ける当事者からの報復を恐れずに仕事を続けるための保護を提供するものでもあります.
ゲームやソーシャル インタラクションがメタバースに移行するにつれて (これについては後で説明します)、同じ法律が、これらの領域を「取り締まる」モッズを保護して、悪い行動を除外します。ただし、これらの設定では相互作用がより複雑になり、MOD を操作するための新しい一連のガイドラインが必要になります。ほんの一例として、モデレーターが介入して是正措置を講じる必要があるメタバースでの 手探りやストーキングのインスタンスが存在する可能性があります。明確な SOP (標準業務手順書) がなければ、モデレーターは決定的な措置を取ることについて二の足を踏んだままになる可能性があります。
待ってください、メタバースとは何ですか?
メタバースは大まかに保持されている用語であり、通常、一部の人がインターネットの未来として思い描いている、没入型の共有仮想領域を表すことを意図しています。これは、暗号通貨や NFT (Non-Fungible Tokens) の形で証明可能で所有可能なデジタル資産が出現するまで、主に SF の話題でした。真のメタバース体験の最も近い前兆は、さまざまなゲームの世界です。しかし、これまでのところ、従来のゲーム コミュニティやスタジオは、仮想通貨とそれに関連するテクノロジーに慎重でした。その結果、Decentraland や The Sandbox などのクリプト ネイティブ企業は、ユーザーが資産 (ポータブルおよび非ポータブルの両方) を所有できるメタバースのような世界を生み出しました。メタバースでの経験は、美術展の訪問 (出典: 参照 #6 )、音楽祭への参加、ゲームのプレイなど、さまざまです。
VICE の Michael Moynihan と Outlier Venture の Jamie Burke が Decentraland を探索 (出典: 参照 #7)
さまざまな従来のゲーム開発者がゲームプレイの観点から移植性に関する懸念を表明している一方で (出典: 参考文献 #8 および #9 )、Web3 開発者は資産所有の観点から移植性を検討していることに注意してください。これは、2 つの異なる視点の間の根本的な断絶です。昨年のインタビューで、メタバースのクリプト ネイティブの展望を探りました。双方が同意する可能性があることの 1 つは、メタバースの「土地」は無限であるべきだということです。真のパーミッションレスで分散型の領域の約束には、無限のスケーラビリティも含まれる必要があります。クリプト ソート リーダー 6529 によるOpen Metaverse (出典: リファレンス #10 ) は、所有権と資産の使用を維持しながら、メタバース内の領域から領域へとジャンプできる無限のメタバースを作成する試みです。ウェブサイトが言及しているように、「メタバースにはスペースが豊富にある」.
Facebook の Meta への最近の移行は、独自のメタバースの構築にも焦点を当てていることが広く公表されています。 Center for Countering Digital Hate の CEO である Imran Ahmed 氏は、Facebook の動きは「ソーシャル メディアの進化における必然的な次のステップでした。あなたが世界中からあなたにつながっている人々の仮想の物理的な存在を可能にします」（出典：リファレンス＃11 ）.メタが仮想通貨の精神 (分散型、無許可、自己管理) を取り入れるのか、代わりに独自のデジタル資産とウォレットアーキテクチャを備えたウォールド ガーデンを構築するのかは不明です。
ハードウェアとソフトウェアの組み合わせにより没入感の高い体験を生み出すメタ計画 (出典)
しかし、 Twitter 、 Instagram 、 YouTube 、 Reddit 、 Shopify 、 Stripe 、 eBay 、およびその他多くの企業での最近の開発が兆候である場合、NFT、暗号通貨、ブロックチェーン、Web3、およびそれらに付随するすべてのものは避けられません。ゲーム スタジオが既存のデジタル コンテキスト (アセット、スコア、進行状況など) をニクシング (出典: 参照 #12 ) した例は、引き続き Web3 開発を主張しています。ただし、一部の批評家が指摘しているように、ブロックチェーンが大きな役割を果たすことができる世界では、悪い行動のベクトルを心に留めておくことが重要です。
これがモデレーターの出番です。メタバース mod は、テキスト、画像、ビデオ、サウンド、ファイルなどの既存のメディアとはまったく異なるエクスペリエンスを提供します。メタバースでは、上記のメディアに加えて、人間の行動を模倣するアバターが存在します。デジタル資産を使用して、同様にモデレーションが必要な行動を拡張します。それは、礼儀正しさを維持し、悪いリンゴを抑制しようとするミートスペース警察に到達するのと同じくらい現実的です.モデレーターは、新しいパラダイムで自分の仕事を切り取ります。
雇用主は、この仕事が適切に報われるだけでなく、関係者の精神的健康にも配慮する必要があります。ソーシャル メディアは、モッズにかかる代償についてすでに考えを示しています。彼らが私たちの残りの部分のためにメタバースの神聖さを維持しようと努力しているので、この社会的経験の新しい反復は彼らを失望させるべきではありません.
開示:著者は、この記事で言及されているプロジェクトのいずれにも既得権を持っていません。この記事の情報は、財務上のアドバイスとして解釈されるべきではありません。
その他の参考資料:
YouTube #ElsaGate (The Outer Light) で奇妙なことが起こっています。
Facebookのモデレーターであることの恐怖 |インフォーマー (VICE):
Google と YouTube のモデレーターが発言 (The Verge):
Facebook モデレーター (The Verge) のトラウマ的な生活の中で:
コンテンツのモデレーションと言論の自由 |ハサン・ミンハジによるパトリオット・アクト | Netflix (Netflix は冗談です):
The Sandbox からのツイート: https://twitter.com/TheSandboxGame/status/1536408399730057216
暗号のすべてが詐欺ですか? (VICE ニュース):
Xavier Coelho-Kostolny からのツイート: https://twitter.com/xavierck3d/status/1480259615174455298
Rami Ismail からのツイート: https://twitter.com/tha_rami/status/1480404367459168258
6529 からのツイート: https://twitter.com/punk6529/status/1514718020849000461
Facebook のメタバースについて心配する必要がある理由 |システム エラー (VICE ニュース):
Eurogamer からのツイート: https://twitter.com/eurogamer/status/1534590449012310017
