Facebook、WhatsApp、およびプライバシー: 知っておくべきこと

この記事は、もともとピーター エルキンド、ジャック ギラム、クレイグ シルバーマンによってProPublicaに掲載されました。 Alex MierjeskiとDoris Burkeがレポートに貢献しました。

明確化、2021 年 9 月 8 日:この記事の以前のバージョンでは、WhatsApp がユーザーのメッセージをどの程度調べているか、および交換の秘密を保持する暗号化が破られているかどうかについて、意図しない混乱を引き起こしました。

ストーリーの文言を変更して、ユーザーから虐待の可能性があると報告されたスレッドからのメッセージのみを会社が調査することを明確にしました.エンドツーエンドの暗号化を破ることはありません。

2019 年 3 月にマーク ザッカーバーグが Facebook の新しい「プライバシー重視のビジョン」を発表したとき、彼は同社のグローバル メッセージング サービスである WhatsApp をモデルとして挙げました。

Facebook の CEOは、「私たちは現在、プライバシー保護サービスを構築することについて強い評判を得ていない」ことを認め、次のように書いています。安全性が保たれ、メッセージやコンテンツが永久に残ることはありません。これが私たちが実現するのに役立つことを願っている未来です。 WhatsAppを開発した方法でこれを構築する予定です。」

ザッカーバーグ氏のビジョンは、WhatsApp の特徴的な機能に集中しており、同社はこの機能をInstagram と Facebook Messengerに適用することを計画していると述べました。これは、すべてのメッセージを読み取り不可能な形式に変換し、目的の宛先に到達したときにのみロックが解除されるエンドツーエンドの暗号化です。

ワッツアップのメッセージは非常に安全で、他の誰も — 会社でさえ — 一言も読めない、と彼は言いました。 Zuckerberg が 2018 年の米国上院での証言で以前に述べたように、「WhatsApp のコンテンツはまったく見られません。」

WhatsApp はこの点を一貫して強調しているため、ユーザーがメッセージを送信する前に、同様の保証を伴うフラグが自動的に画面に表示されます。

これらの広範な保証を考えると、WhatsAppがオースティン、テキサス、ダブリン、シンガポールのオフィスビルのフロアを埋める1,000人以上の契約労働者を抱えていることを知って驚くかもしれません.

これらの時間給労働者は、仕事の割り当てごとに編成されたポッド内のコンピューターの前に座り、特別な Facebook ソフトウェアを使用して、何百万ものプライベート メッセージ、画像、およびビデオをふるいにかけます。

詐欺やスパムから児童ポルノ、潜在的なテロリストの陰謀に至るまで、あらゆる主張が画面に表示されたとしても、彼らは通常 1 分以内に判断を下します。

従業員は WhatsApp メッセージのサブセットのみにアクセスできます — ユーザーによってフラグが付けられ、虐待の可能性があるとして会社に自動的に転送されるメッセージです。

レビューは、送信者とそのアカウントに関するデータなど、暗号化されていない資料もレビューする広範な監視操作の 1 つの要素です。

ユーザーのプライバシーが神聖なものであることを保証しながらユーザーを監視することは、WhatsApp での厄介な使命になります。 ProPublica が入手した 12 月の 49 スライドの社内マーケティング プレゼンテーションでは、WhatsApp の「プライバシー ナラティブ」の「激しい」宣伝が強調されています。

その「ブランド キャラクター」を「移民の母」と比較し、「ブランド トーン パラメーター」というタイトルのスライドに、タリバンによる銃撃を生き延びてノーベル平和賞を受賞したマララ ユスフザイの写真を表示しています。

プレゼンテーションでは、同社のコンテンツ モデレーションの取り組みについては言及されていません。

WhatsApp のコミュニケーション ディレクターである Carl Woog 氏は、オースティンなどの請負業者のチームが WhatsApp メッセージを見直して、「最悪の」悪用者を特定して排除していることを認めました。

しかし Woog 氏は ProPublica に対し、同社はこの作業をコンテンツ モデレーションとは見なしていないと述べ、「実際には、この用語を WhatsApp に使用することはあまりありません」と語った。

同社は、この記事のインタビューに幹部を利用できるようにすることを拒否しましたが、書面によるコメントで質問に答えました. 「WhatsAppは、世界中の何百万人もの人々にとって生命線です」と同社は述べています。

「アプリの構築方法に関する決定は、ユーザーのプライバシーに重点を置いており、高度な信頼性を維持し、悪用を防止しています。」

WhatsApp がコンテンツをモデレートしていることを否定していることは、Facebook Inc. が WhatsApp の兄弟姉妹である Instagram と Facebook について述べていることとは著しく異なる。同社によると、約 15,000 人のモデレーターが Facebook と Instagram のコンテンツを調査しており、どちらも暗号化されていません。

Facebook と Instagram がさまざまなカテゴリの虐待的なコンテンツに対して「対応」したアカウントの数を詳述する四半期ごとの透明性レポートをリリースします。 WhatsApp にはそのようなレポートはありません。

大勢のコンテンツ レビュー担当者を配置することは、Facebook Inc. が WhatsApp ユーザーのプライバシーを侵害した方法の 1 つにすぎません。

20 億人のユーザーを抱える世界最大のメッセージング アプリである WhatsApp は、同社の行動により、ユーザーが理解または期待しているよりもはるかに非公開になっています。

ProPublica の調査は、データ、ドキュメント、および現在および元の従業員と請負業者への数十件のインタビューを利用して、2014 年に WhatsApp を購入して以来、Facebook がその包括的なセキュリティ保証をさまざまな方法で静かに弱体化させてきたことを明らかにしています。 （この夏の2 つの記事で、WhatsApp のモデレーターの存在が指摘されましたが、ユーザーのプライバシーへの影響よりも、彼らの労働条件と報酬に焦点が当てられていました。この記事は、メッセージとユーザー データを精査する会社の能力の詳細と範囲を明らかにした最初の記事です。そして、その情報を使って会社が何をするかを調べます。)

WhatsAppで働くコンテンツモデレーターによる主張の多くは、昨年米国証券取引委員会に提出された内部告発者の苦情にも反映されています.

ProPublica が入手した訴状には、WhatsApp が外部の請負業者、人工知能システム、アカウント情報を広範囲に使用して、ユーザーのメッセージ、画像、動画を調べていることが詳述されています。ユーザーのプライバシーを保護するという会社の主張は誤りであると主張しています。

同社の広報担当者は、「このような苦情は聞いていません。 SEC はそれに対して公的な措置を講じていません。エージェンシーの広報担当者はコメントを控えた。

フェイスブックはまた、ワッツアップのユーザーから収集するデータの量、それをどうするか、法執行機関と共有する量についても軽視している。

たとえば、WhatsApp はメタデータ (ユーザーのアクティビティに関する多くの情報を明らかにする可能性のある暗号化されていない記録) を司法省などの法執行機関と共有しています。

Signal などの一部のライバルは、ユーザーのプライバシーへの侵害を避けるために意図的に収集するメタデータを大幅に減らし、法執行機関との共有を大幅に減らしています。 (「WhatsAppは有効な法的要求に対応します」と同社の広報担当者は述べた。「特定の人物がメッセージを送信している相手をリアルタイムで提供することを要求する命令を含む」)

ProPublica の調査によると、WhatsApp のユーザー データは、BuzzFeed News に機密文書を漏らした財務省の従業員に対して、検察官が注目を集める訴訟を起こすのに役立ちました。

他のソーシャル メディアやコミュニケーション プラットフォームと同様に、WhatsApp は、プライバシーを期待するユーザーと、事実上反対のことを要求する法執行機関の間で板挟みになっています。

WhatsApp は、このジレンマはまったくないと主張して、このジレンマに対応しました。

「エンドツーエンドの暗号化を通じて人々のセキュリティと安全を確実に確保し、法執行機関と協力して犯罪を解決できると思います」と、WhatsAppの責任者であるWill Cathcart氏は、オーストラリアのシンクタンクとのYouTubeインタビューで述べました。 7月。

プライバシーと法執行機関への情報の拡散との間の緊張は、Facebook が WhatsApp からお金を稼ぐ必要があるという 2 つ目の圧力によって悪化しています。

2014 年に 220 億ドルを支払って WhatsApp を買収して以来、Facebook はユーザーに 1 セントも請求しないサービスから利益を生み出す方法を模索してきました。

この難問は、ユーザー、規制当局、またはその両方を怒らせる動きを定期的に引き起こしています。アプリを収益化するという目標は、2016 年に WhatsApp のユーザー データを Facebook と共有するという同社の決定の一部でした。これは、同社が欧州連合の規制当局に技術的に不可能であると伝えていたものです。

同じ衝動が物議を醸す計画に拍車をかけ、2019年後半に放棄され、WhatsAppで広告を販売しました.そして、利益を追求する義務は、1月の別の失敗したイニシアチブの背後にありました.WhatsAppでの企業とのユーザーのやり取りに関する新しいプライバシーポリシーの導入で、企業は顧客データを新しい方法で使用できるようになりました.

この発表により、競合アプリへのユーザー流出が発生しました。

WhatsAppのますます積極的な事業計画は、ユーザーがWhatsApp経由で支払いをしたり、カスタマーサービスのチャットを管理したりといった一連のサービスに対して企業に課金することに焦点を当てています。

その結果、同じアプリ内で 2 層のプライバシー システムが複雑になり、WhatsApp ユーザーがこのサービスを使用して企業と通信する際に、エンドツーエンドの暗号化による保護がさらに損なわれます。

同社の 12 月のマーケティング プレゼンテーションは、WhatsApp のさまざまな責務を捉えています。 「プライバシーは引き続き重要である」と述べています。しかしそれは、より差し迫った使命と思われることも伝えています。それは、「将来のビジネス目標を網羅するためにブランドの開口部を開く」必要性です。

I. 「コンテンツ モデレーション アソシエイツ」

29 人の現職および元モデレーターへのインタビューによると、オースティンで WhatsApp のコンテンツ モデレーターになる経験は、Facebook や Instagram のモデレーターになるのと多くの点で同じです。

ほとんどが 20 代と 30 代で、その多くは過去に店員、食料品のレジ係、バリスタとしての経験を持っています。モデレーターは、Facebook やその他のフォーチュン 500 の巨人のために働く巨大な企業請負業者であるアクセンチュアに雇われ、雇用されています。

求人情報は「コンテンツ レビュー」のポジションを宣伝しており、Facebook や WhatsApp については言及していません。雇用文書には、従業員の最初の役職が「コンテンツ モデレーション アソシエイト」と記載されています。給料は時給約16.50ドルから。

モデレーターは、アクセンチュアで働くことを希望する人には誰にでも話すように指示されており、包括的な機密保持契約に署名する必要があります。 NDA を引用して、ProPublica がインタビューした現職および元モデレーターのほぼ全員が匿名を主張しました。 (アクセンチュアの広報担当者はコメントを拒否し、コンテンツのモデレーションに関する質問はすべて WhatsApp に問い合わせました。)

WhatsApp チームが 2019 年にオースティンに集まったとき、Facebook のモデレーターは、街の有名なバーと音楽シーンに隣接するシックス ストリートのオフィス タワーの 4 階をすでに占有していました。

WhatsApp チームは上の階に設置され、新しいガラス張りの作業用ポッドとより良いバスルームがあり、Facebook チームの数人のメンバーに羨望の的を引き起こしました。 WhatsApp チームのほとんどは、パンデミックの間、自宅で仕事をするために散らばっていました。

オフィスであろうと自宅であろうと、彼らはスクリーンの前で一日を過ごし、Facebook ソフトウェア ツールを使用して一連の「チケット」を調べ、件名ごとに「反応的」キューと「積極的」キューに整理します。

集団として、従業員は毎週何百万もの WhatsApp コンテンツを精査しています。各レビュアーは 1 日に 600 枚以上のチケットを処理するため、1 チケットにつき 1 分もかかりません。

WhatsAppは、コンテンツレビューのために何人の契約労働者が雇用されているかを明らかにすることを拒否しました.

WhatsApp のモデレーターは、Facebook や Instagram のカウンターパートと同様に、アクセンチュアによって監査されている速度と精度のパフォーマンス メトリックを満たすことが期待されています。

彼らの仕事は他の点でも異なります。 WhatsApp のコンテンツは暗号化されているため、Facebook や Instagram のように、人工知能システムがすべてのチャット、画像、動画を自動的にスキャンすることはできません。

代わりに、ユーザーがアプリの「報告」ボタンを押すと、WhatsApp のレビュアーがプライベート コンテンツにアクセスし、プラットフォームの利用規約に違反しているとされるメッセージを特定します。

WhatsAppの元エンジニアとモデレーターによると、これにより5つのメッセージが転送されます。このメッセージは、問題を引き起こしたとされるメッセージと、以前の4つのメッセージと一緒に、画像や動画を含めて、暗号化されていない形式でWhatsAppに転送されます.

次に、自動化されたシステムがこれらのチケットを「リアクティブ」キューに送り、契約社員が評価できるようにします。

人工知能は、WhatsApp がユーザーについて収集した暗号化されていないデータをスキャンし、それを疑わしいアカウント情報やメッセージ パターンと比較することによって、2 番目のキュー セット (いわゆるプロアクティブ キュー) を開始します (大量のチャットを急速に送信する新しいアカウントは、スパム)、および以前に不適切と見なされた用語や画像。

精査に使用できる暗号化されていないデータは広範囲に及びます。これには、ユーザーの WhatsApp グループの名前とプロフィール画像、電話番号、プロフィール写真、ステータス メッセージ、電話のバッテリー レベル、言語とタイム ゾーン、固有の携帯電話 ID と IP アドレス、無線信号強度、電話のオペレーティング システムが含まれます。電子デバイス、関連する Facebook および Instagram アカウント、アプリを最後に使用した時間、以前の違反履歴のリストとして。

いずれかのタイプのキューのチケットが提示された場合、WhatsApp のレビュアーには 3 つの選択肢があります。 (Facebook と Instagram のコンテンツ モデレーターには、個々の投稿を削除するなど、より多くのオプションがあります。WhatsApp のレビュアーが「コンテンツ モデレーター」ではないと主張する根拠として、WhatsApp のレビュアーが個々のアイテムを削除できないという事実を挙げているのは、その違いです。 )

WhatsAppのモデレーターは、主観的で繊細で微妙な判断を下さなければならないことが、ProPublicaによって調査されたインタビューや文書によって示されています。

彼らは、「スパム レポート」、「Civic Bad Actor」（政治的なヘイト スピーチと偽情報）、「テロリズムの世界的な信頼できる脅威」、「CEI」（児童を搾取する画像）、「CP」（児童ポルノ）など、幅広いカテゴリを調査します。 .

別の一連のカテゴリは、WhatsApp を使用して顧客とチャットしたり商品を販売したりする何百万もの中小企業のメッセージと行動に対応しています。

これらのキューには、「ビジネスのなりすましの蔓延」、「商取引ポリシー違反の可能性」、「ビジネスの検証」などのタイトルが付けられています。

モデレーターは、WhatsApp と Accenture から得られるガイダンスは、難解であると同時に不快なほど生々しい標準に依存していると述べています。

たとえば、虐待的な性的画像に関する決定は、画像内の裸の子供が青年期または思春期前に見えるかどうかの評価に基づいています。この評価は、腰の骨と陰毛を医療指標チャートと比較することに基づいています。

あるレビュアーは、切断された頭のように見えるものをマチェーテを振るう男が持ち上げている様子を描いた、政治演説のキューでのざらざらしたビデオを思い出しました。 」

2020 年後半、モデレーターは、「セクストーション」の疑いのある新しいキューについて知らされました。説明メモでは、それは「インターネット上で自分自身または他の誰かによって共有された自分自身のヌード画像で脅迫される性的搾取の一形態」と定義されていました。

メモには、「セクストーション/恐喝メッセージで通常使用される事前定義されたキーワードを含む」ユーザーから報告されたメッセージを従業員が確認すると述べられています。

WhatsApp のレビュー システムは、バグのある言語翻訳などの障害によって妨げられています。このサービスには 180 か国にユーザーがおり、その大多数は米国外にいます

アクセンチュアはさまざまな言語を話す従業員を雇っていますが、言語によっては、虐待の苦情を評価するネイティブ スピーカーが現場にいないことがよくあります。

つまり、Facebook の言語翻訳ツールを使用することを意味しますが、このツールは非常に不正確である可能性があるため、アラビア語のメッセージがスペイン語であるとラベル付けされることがあるとのことです。また、このツールは、地元のスラング、政治的文脈、または性的なほのめかしに関するガイダンスもほとんど提供しませんでした。

「私がそこにいた 3 年間、」ある司会者は言いました。

このプロセスには、エラーや誤解がはびこる可能性があります。企業は、ストレート シェービング カミソリを販売しているときに武器を販売しているとしてフラグが立てられています。

ブラジャーを販売することはできますが、マーケティング用語が「アダルト」として登録されている場合、販売者は禁止されている「性的指向のビジネス」と見なされる可能性があります.

また、欠陥のある翻訳ツールは、売られたり屠殺されたりしている子供を検出すると警告を発しました。

このシステムは、報告を扇動する人々の人間的な失敗によっても弱体化しています。モデレーターによると、誰かを罰したり、嫌がらせをしたり、いたずらしたりするために、苦情が頻繁に提出されます。

ブラジルとメキシコからのメッセージの中で、あるモデレーターは、「人々がグループ名を変更して友達をいじっていたので、AI が左右のグループを禁止していた 2 か月がありました」と説明し、その後、それらを報告しました。

「最悪の場合、私たちはおそらく数万のそれらを取得していました。彼らは、アルゴリズムが好まないいくつかの単語を見つけ出しました。」

他のレポートは、アカウントの禁止に関する WhatsApp の基準を満たしていません。 「そのほとんどは違反していません」と、モデレーターの 1 人は言いました。 「それはすでにインターネット上にあるコンテンツであり、ユーザーをいじろうとしている人々です。」

それでも、各ケースで最大 5 つの暗号化されていないメッセージが明らかになる可能性があり、モデレーターによって調査されます。

モデレーターは、WhatsApp の AI の判断は完璧とは言えないと述べています。 「そこには、掲載が許可されていない多くの罪のない写真がありました」と、昨年アクセンチュアを 9 か月後に退社したカルロス・サウセダは言いました。

「お風呂に入っている子供の写真だったかもしれませんが、何も問題はありませんでした。」別の WhatsApp モデレーターが言うように、「多くの場合、人工知能はそれほど知的ではありません。」

FacebookのWhatsAppモデレーターへの書面によるガイダンスは、多くの問題を認めており、「私たちは過ちを犯しており、私たちのポリシーは悪意のある人物によって兵器化され、善良な人物を禁止させてきました.

ユーザーがこのような虐待的な問題に関する問い合わせを書いた場合、(必要に応じて) タイムリーで快適な方法で対応し、適切に行動するのは WhatsApp 次第です。」

もちろん、あるモデレーターによると、ユーザーの報告によって促された禁止に対してユーザーが異議を申し立てた場合、2 番目のモデレーターがユーザーのコンテンツを調査する必要があります。

Ⅱ．不正行為の検出における「業界のリーダー」

公式声明や同社のウェブサイトで、Facebook Inc. は WhatsApp の監視プロセスについて明らかにあいまいです。同社は、WhatsAppがプラットフォームをどのように管理しているかについて定期的な説明を提供していません.

WhatsApp の FAQ ページとオンラインの苦情フォームには、フラグが立てられたユーザーから「最新のメッセージ」を受け取ることが記載されています。

ただし、レポートが提出されたときに暗号化されていないメッセージがいくつ明らかになったか、またはそれらのメッセージが外部の請負業者によって検査されていることは明らかにしていません。 （WhatsAppはProPublicaに、違反者がシステムを「ゲーム」するのを防ぐためにその開示を制限していると語った. ）

対照的に、 Facebookと Instagram はどちらも、モデレーターがコンテンツを監視するために使用する基準を詳述する長い「コミュニティ基準」文書を投稿し、「Facebook を安全に保つ認識されていないヒーロー」に関する記事やビデオ、および新しいコンテンツレビューサイトでの発表を投稿しています。

Facebook の透明性レポートには、違反の種類ごとに「対処」されたコンテンツの数が詳述されています。 WhatsApp はこのレポートに含まれていません。

立法者と取引する際、Facebook Inc. の関係者も詳細をほとんど提供していませんが、子供の性的虐待や搾取の画像からユーザーを保護するために暗号化が邪魔にならないように熱心に保証しています.

たとえば、上院司法委員会のメンバーがプラットフォームの暗号化の影響について Facebook を厳しく批判したとき、同社は 2020 年 1 月の書面によるフォローアップの質問で、法執行機関への対応を続けると誇らしげに WhatsApp を引用しました。

「暗号化されたシステム内であっても」、ある回答は次のように述べています。他の暗号化されたサービス — 人々が虐待や安全上の懸念を報告する簡単な方法を提供します。」

案の定、WhatsApp は 2020 年に、行方不明および搾取された子供たちのための国立センターに、児童搾取の可能性のある画像の 400,000 件のインスタンスを報告しました。

これは 2019 年の 10 倍でした。

Cathcart 氏は、オーストラリアのシンクタンクとの YouTube インタビューで、WhatsApp がユーザー レポートに依存していることと、暗号化されていないアカウント情報を調べる AI システムの能力についても説明しました。

WhatsAppが20億人以上のユーザーを抱えるアプリからの虐待の苦情を調査するために何人のスタッフを雇ったかを尋ねたところ、Cathcartはコンテンツモデレーターや暗号化されたコンテンツへのアクセスについて言及しませんでした.

「フェイスブックには、WhatsApp を手伝ってくれる人がたくさんいます」と彼は説明します。 「WhatsAppでフルタイムで働いている人を見ると、その数は1,000人を超えています。カスタマー サービス、ユーザー レポート、エンジニアリングなどの完全な内訳には触れませんが、それはたくさんあります。」

この記事に対する書面による回答で、同社の広報担当者は次のように述べています。 .この作業には、セキュリティの専門家と、世界にプライベートなコミュニケーションを提供するためにたゆまぬ努力をしている貴重な信頼と安全のチームによる多大な努力が必要です。」

広報担当者は、WhatsApp が新しいプライバシー機能をリリースしたことを指摘しました。これには、「人々のメッセージがどのように消えるか、または 1 回だけ表示される方法についてのより多くの制御」が含まれます。

「ユーザーから受け取ったフィードバックに基づいて、WhatsAppに報告すると、送信されたコンテンツを受け取っていることを人々が理解していると確信しています。」

III.個人のプライバシーについて「ユーザーをだます」

Facebook が 2014 年に WhatsApp の買収計画を発表した瞬間から、オブザーバーは、プライバシーへの熱心な取り組みで知られるこのサービスが、反対で知られる企業内でどのように機能するのか疑問に思っていました。

ザッカーバーグは、「監視資本主義」アプローチを採用することで、地球上で最も裕福な人々の 1 人になりました。ユーザー データを大量に収集して活用し、ターゲットを絞ったデジタル広告を販売しました。

Facebook の成長と利益の絶え間ない追求は、顧客や規制当局をだましていると非難された一連のプライバシー スキャンダルを引き起こしました。

対照的に、WhatsApp はユーザーの電話番号以外はほとんど知らず、その情報を第三者と共有することはありませんでした。 WhatsApp は広告を掲載せず、共同設立者の Jan Koum と Brian Acton は元 Yahoo のエンジニアであり、彼らに対して敵対的でした。

彼らは2012 年に、「広告を販売するすべての企業で、エンジニアリング チームのかなりの部分が、データ マイニングの調整、すべての個人データを収集するためのより優れたコードの作成、すべてのデータを保持するサーバーのアップグレード、およびすべてがログに記録され、照合され、スライスされ、梱包され、出荷されます」と付け加え、「広告が関係する場合、ユーザーが製品であることを忘れないでください。」

WhatsApp で、彼らは次のように述べています。私たちはそのどれにも興味がありません。」

ザッカーバーグは 2014 年の基調講演で、WhatsApp を「まったく同じ」に保つと公に誓った。

彼は次のように宣言しました。 WhatsAppは完全に自律的に動作します。」

2016 年 4 月、WhatsApp は、長い間計画されていたエンド ツー エンドの暗号化の採用を完了しました。これにより、テキスト メッセージや電話の通話が非常に高額な国を含む 180 か国で、このアプリが貴重なコミュニケーション プラットフォームとして確立されました。

国際的な反体制派、内部告発者、ジャーナリストも、政府の盗聴を逃れるために WhatsApp を利用しました。

しかし 4 か月後、WhatsApp は Facebook とのユーザー データの共有を開始することを明らかにしました。これはまさにザッカーバーグがそうはならないと言っていたことです。

WhatsAppの新しい利用規約では、アプリはユーザーの電話番号、プロフィール写真、ステータスメッセージ、IPアドレスなどの情報を、広告のターゲティング、スパムや悪用との戦い、指標の収集を目的として共有すると述べています。

「あなたの電話番号を Facebook のシステムに接続することで、Facebook はより良い友達候補を提供し、Facebook のアカウントを持っていれば、より関連性の高い広告を表示することができます。」と WhatsApp は説明しました。

このような行動により、フェイスブックはますます規制当局の標的にされていました。 2017 年 5 月、欧州連合の反トラスト規制当局は、WhatsApp と Facebook ファミリーのアプリの間でユーザー情報をリンクすることは不可能であると 3 年前に虚偽の主張をしたとして、同社に 1 億 1000 万ユーロ (約 1 億 2200 万ドル) の罰金を科しました。

EU は、Facebook が「意図的または過失によって」規制当局を欺いたと結論付けました。 Facebookは、2014年の虚偽の声明は意図的ではないと主張したが、罰金には異議を唱えなかった.

2018 年の春までに、WhatsApp の共同設立者であり、現在は両方とも億万長者でした。

Acton は、後に WhatsApp を Facebook に売却した「犯罪」に対する「償い」の行為であると説明し、Signal を支援する財団に 5,000 万ドルを寄付しました。 (Acton の寄付者助言基金も ProPublica に資金を提供しています。)

一方、Facebook は、かつてないほどセキュリティとプライバシーの不備で攻撃を受けていました。この圧力は、ユーザーのプライバシーを保護するための以前の合意に違反したとして、2019 年 7 月に連邦取引委員会によって50 億ドルの画期的な罰金が科されたことで最高潮に達しました。

FTC によると、罰金は以前のプライバシー関連の罰金のほぼ 20 倍であり、Facebook の違反には、「個人情報のプライバシーを制御する能力についてユーザーを欺く」ことが含まれていました。

FTC は、Facebook に対し、WhatsApp ユーザーを含め、今後プライバシーを保護するための措置を講じるよう命じていることを発表しました。製品、サービス、または慣行を実装する前に、ユーザーのプライバシーに関する決定を文書化します。」

コンプライアンス担当者は、「四半期ごとのプライバシー レビュー レポート」を作成し、それを会社と共有し、要求に応じて FTC と共有する必要があります。

FacebookはFTCの罰金と命令に同意した.実際、この合意に向けた交渉は、そのわずか 4 か月前に、ザッカーバーグがプライバシーへの新たな取り組みを発表する背景となりました。

その時点で、WhatsApp はアクセンチュアや他の外部の請負業者を利用して、何百人ものコンテンツ レビュー担当者を雇い始めていました。しかし同社は、より大きなプライバシー メッセージを踏みにじったり、世界中のユーザー ベースを脅かしたりしたくありませんでした。

コンテンツをレビューするための請負業者の雇用については、公には何も述べていません。

IV. 「メタデータに基づいて人を殺す」

ザッカーバーグは、2019年にFacebook Inc.のプライバシーに対する新たな取り組みを宣伝していたが、彼の会社がこれまで以上に多くのWhatsAppユーザーのメタデータを親会社と、そして法執行機関と共有していることには言及しなかった.

一般の耳には、「メタデータ」という用語は抽象的に聞こえる可能性があり、文芸評論と統計の交差点を連想させる言葉です。

デジタル化以前の古いアナロジーを使用すると、メタデータは封筒の外側に書かれているものに相当します。送信者と受信者の名前と住所、およびいつどこに郵送されたかを示す消印です。封筒の中に封印された手紙に書かれていること。

WhatsApp メッセージも同様です。内容は保護されていますが、封筒には多くの詳細が含まれています (前述のとおり、タイム スタンプ、電話番号など)。

情報とインテリジェンスの分野に携わる人々は、この情報がいかに重要であるかを理解しています。結局のところ、国家安全保障局が犯罪の疑いのない約数百万人のアメリカ人を集めていたのはメタデータであり、2013 年に元 NSA の契約者であるエドワード・スノーデンによって暴露されたとき、世界的な抗議を引き起こしました。

「メタデータは、誰かの人生に関するすべてを完全に教えてくれます」と、元 NSA 法務顧問の Stewart Baker はかつて言いました。 「十分なメタデータがあれば、コンテンツは本当に必要ありません。」

2014 年にジョンズ・ホプキンス大学で開催されたシンポジウムで、CIA と NSA の両方の元長官であるマイケル・ヘイデン将軍は、さらに「メタデータに基づいて人を殺している」と述べました。

米国の法執行機関は、WhatsApp のメタデータを使用して人々を刑務所に入れています。 ProPublica は、2017 年以降、司法省がプラットフォームのメタデータについて裁判所命令を求めた事例を 12 件以上発見しました。

これらは、ペン登録命令 (固定電話でダイヤルされた番号を追跡するために使用される技術から借用されたフレーズ) として知られる全体的な要求の一部を表しており、さらに多くの要求が裁判所命令によって公開されないようになっています。

Facebook Inc. の統計(プラットフォーム別の数字ではない) によると、米国政府によるすべての Facebook プラットフォームからの送受信メッセージに関するデータの要求は、2017 年の前半から 2020 年の後半にかけて 276% 増加しました。

そのような要求に応じて少なくとも一部のデータを引き渡す会社の率は、その期間中に84％から95％に上昇しました.

政府の捜査官が WhatsApp から何を収集できたのかは正確には明らかではありません。これらの命令の結果も、多くの場合、公開されていないためです。内部的には、WhatsApp はユーザーに関する情報を求めるこのような要求を「見込みメッセージ ペア」または PMP と呼んでいます。

この情報を共有したこの問題に詳しい人物によると、これらは、米国の法執行機関、および英国、ブラジル、インドの少なくとも3カ国の法執行機関からの要求に応じて、ユーザーのメッセージングパターンに関するデータを提供します。匿名の条件。

他の国からの法執行機関の要求は、基本的な加入者プロファイル情報のみを受け取る場合があります。

WhatsAppのメタデータは、BuzzFeed Newsに疑わしい取引に関する機密の銀行レポートを漏らしたとして、金融犯罪取締ネットワークの元財務省職員であるNatalie “May” Edwardsの逮捕と有罪判決において極めて重要でした。

FBI の刑事訴状では、Edwards と BuzzFeed の記者との間で「暗号化されたアプリケーション」を使用した数百件のメッセージが詳述されていました。

「2018 年 8 月 1 日頃、エドワーズ ペンが作動してから約 6 時間以内に、そして2018 年 7 月の Buzzfeed 記事が公開された翌日、エドワーズの携帯電話は暗号化されたアプリケーションを介してレポーター 1 の携帯電話との間で約 70 件のメッセージを交換しました。午前 0 時 33 分から午前 12 時 54 分までの約 20 分の時間帯です」と、FBI 特別捜査官のエミリー・エクスタットは 2018 年 10 月の訴状に書いています。事情に詳しい関係者によると、エドワーズ氏とレポーターがワッツアップを利用したのは、エドワーズ氏がこのプラットフォームを安全だと信じていたからだ。

エドワーズは、共謀罪で有罪を認め、 先週刑務所に報告された後、6月3日に懲役6か月の判決を受けました.エドワーズの弁護士は、FBI と司法省の代表者と同様にコメントを拒否しました。

WhatsAppは何年もの間、法執行機関と共有する暗号化されていない情報の量を軽視してきました.

ユーザーが誰とどのくらいの頻度で通信しているかについての永続的なログを定期的に保持しているわけではありませんが、会社の関係者は、Facebook の内部リーク調査のために、または法執行機関の要求に応じて、独自の裁量でそのような追跡をオンにしていることを確認しました.

同社は、ProPublica に対してその頻度を明らかにすることを拒否しました。

WhatsApp のプライバシー ページは、ユーザーが自分のメタデータを完全に制御できることを保証します。ユーザーは、「連絡先のみ、全員、または誰もあなたのプロフィール写真を表示できないようにする」か、ステータスの更新を最後に開いたのはいつか、またはアプリを最後に開いたのはいつかを決定できると書かれています。

ユーザーが選択した設定に関係なく、WhatsApp はそのすべてのデータを収集して分析します。この事実はページのどこにも記載されていません。

V. 「ビジネス目標を包括するための開口部を開く」

暗号化されたプラットフォームでのプライバシーとセキュリティの間の対立は激しさを増しているようです.法執行機関と子供の安全の擁護者は、ザッカーバーグ氏に、Facebook のすべてのメッセージング プラットフォームを暗号化するという彼の計画を放棄するよう求めました。

2020 年 6 月、3 人の共和党上院議員が「暗号化されたデータへの合法的アクセス法」を導入しました。これにより、テクノロジー企業は、法執行機関の令状に応じて、暗号化されたコンテンツへのアクセスの提供を支援することが義務付けられます。

WhatsApp は最近、暗号化されたアプリに「トレーサビリティ」を提供するという要件を阻止するようインド政府を訴えました。 WhatsAppは、他の国でも同様の要求に取り組んできました。

他の暗号化プラットフォームは、WhatsApp とは大きく異なる方法でユーザーを監視しています。 Signal はコンテンツ モデレーターを採用せず、収集するユーザー データとグループ データがはるかに少なく、クラウド バックアップを許可せず、ユーザー アクティビティを取り締まる必要があるという考えを一般的に拒否します。

NCMEC に子供の搾取に関する報告を提出することはありません。

Apple は、プライバシーへの取り組みをセールス ポイントとして売り込んでいます。同社の iMessage システムは、疑わしいスパムを会社に警告するためだけに「レポート」ボタンを表示し、同社は NCMEC に対して数百の年次レポートを作成しました。

しかし、Apple は最近、新たな方向に進み、途中でつまずいたように見えた。議会からの圧力が強まる中、同社は 8 月に、ユーザーの iCloud バックアップにある子供を搾取する画像を特定するための複雑な新しいシステムを発表しました。

Apple は、新しいシステムがプライベート コンテンツに脅威を与えることはないと主張しましたが、プライバシー擁護者は、権威主義的な政府がより広範なコンテンツ検索を要求することを可能にするバックドアを作成し、反体制派、ジャーナリスト、または国家の他の批評家を標的にする可能性があると同社を非難しました。

9 月 3 日、 Apple は新しいシステムの実装を延期すると発表しました。

それでも、主要なテクノロジー プラットフォームの中で最も絶え間ない懐疑論に直面しているように見えるのは Facebook です。カナダ児童保護センターの IT ディレクターであるロイド・リチャードソン氏によると、暗号化を使用してプライバシーに配慮しているという売り込みを行っていますが、データを収集する他の方法についてはほとんど言及していません。

「彼らが人々の個人的な保護のためにそれをしているというこの全体的な考えは、完全にばかげています」とリチャードソンは言いました.

「あなたは、Facebook が所有および作成したアプリが、彼らの言っていることを正確に実行することを信頼しています。あのエンティティがそうするのを信頼しますか？」 (9 月 2 日、アイルランド当局は、WhatsApp が他の Facebook プラットフォームとユーザー情報を共有する方法を適切に開示しなかったとして、WhatsApp に 2 億 2500 万ユーロ、約 2 億 6700 万ドルの罰金を科すと発表しました。WhatsApp はこの調査結果に異議を唱えています。)

Facebook が WhatsApp をプライバシーの模範として宣伝することに重点を置いていることは、ProPublica が入手した 12 月のマーケティング文書から明らかです。

「ブランド基盤」のプレゼンテーションは、Facebook 全体の 21 人のメンバーからなるグローバル チームの成果であり、半ダースのワークショップ、定量的調査、「利害関係者へのインタビュー」、「終わりのないブレインストーミング」が含まれていると述べています。

その目的は、WhatsApp のメリットを「感情的に表現」し、「私たちのストーリーを伝えるのに役立つインスピレーションを与えるツールキット」を提供し、「進歩につながる深い人間関係を擁護するというブランドの目的」を提供することです。

マーケティング デッキは、WhatsApp の「所有可能な感情の領域」として「親密さ」の感覚を識別し、このアプリは「対面での会話に最も近いもの」を提供すると述べています。

別のスライドによると、WhatsApp は自らを「勇敢」であると表現する必要があります。なぜなら、暗号化を擁護したり、誤った情報と戦ったりするなど、「私たちが関心を持っていることについて、経済的な動機に基づいていない、強力な公的立場を取っている」からです。

しかし、このプレゼンテーションでは、「将来のビジネス目標を網羅するためにブランドの開口部を開く必要がある」とも述べています。プライバシーは引き続き重要ですが、将来のイノベーションに対応する必要があります。」

WhatsAppは現在、お金を稼ぐための主要なドライブの真っ只中にあります. WhatsApp がプライバシーと利益のバランスを取る方法について幅広い疑惑があったこともあり、同社は困難なスタートを切りました。

アプリ内で広告の実行を開始するという発表された計画は役に立ちませんでした。 2019年後半、ローンチ予定の数日前に放棄されました。

今年の 1 月初め、WhatsApp はプライバシー ポリシーの変更を発表しました。これには、ポリシーを受け入れるか、アプリから切り離すかの 1 か月の期限が伴います。この動きは反乱を引き起こし、 何千万人ものユーザーが Signal や Telegram などのライバルに逃げることを余儀なくされました。

ポリシーの変更は、拡大を続ける WhatsApp ビジネス サービスの中で、ユーザーが企業と通信する際のメッセージとデータの処理方法に焦点を当てています。

企業はユーザーとのチャットを保存し、ユーザーに関する情報をマーケティング目的で使用できるようになりました。これには、Facebook や Instagram の広告でユーザーをターゲティングすることも含まれます。

イーロン・マスクが「シグナルを使おう」とツイートしたところ、WhatsAppユーザーが反乱を起こしました。 Facebook は、ユーザーがポリシーの更新を承認するための要件を 3 か月延期しました。

その間、この変更が個人通信のプライバシー保護に影響を与えないことをユーザーに納得させるのに苦労しました。 」

同社が何年も前に WhatsApp を初めて買収したときと同じように、メッセージは同じでした。

修正

2021 年 9 月 10 日:この記事は当初、Apple の iMessage システムには「報告」ボタンがないという誤った記述をしていました。 iMessage システムにはレポート ボタンがありますが、スパムの疑いがある場合のみです (不正なコンテンツの疑いがある場合は対象外です)。

UnsplashのEyestetix Studioによる写真